朋友还是敌人？——智能机器人发展前景令人担忧

    机器人是朋友还是敌人？这个问题似乎问得有些奇怪。

　　作为人类智慧的结晶、新科技革命的产物，机器人的任务是协助或取代人类的工作，例如从事生产业、建筑业、服务业，或者一些危险工种。联合国标准化组织采纳了美国机器人协会给机器人下的定义：“一种可编程和多功能的，用来搬运材料、零件、工具的操作机；或是为了执行不同的任务而可进行改变和编程的专门系统。”自从问世以来，机器人就被认为是人类值得信赖的好帮手。可是，随着人工智能技术的不断发展，一个严峻的问题摆在了科学家面前：如果我们人类对机器人的绝对控制力突然消失了，将会发生什么？近日，法国《费加罗报》对此做了专门报道。

　　今年7月初，人工智能发展协会公布了他们去年2月在美国加州艾斯洛玛市举行的一次秘密会议中的部分讨论内容。不少参会的信息论专家、机器人技术以及人工智能方面的研究者，都对机器人发展的未来忧心忡忡。他们担心，随着人工智能技术的不断进步，机器人自我感知的能力不断提高，人类对机器人的绝对控制可能会逐步丧失，最终机器人将与人类分庭抗礼，甚至兵戎相见。

　　在科幻世界里，恶魔般拥有高超智能的机器人总妄图摆脱人类的控制，进而消灭人类，统治宇宙。这一情节最早出现于20世纪50年代美国科幻小说家艾萨·阿西莫夫的小说中，后来多次被搬上银幕。从英国导演斯坦利·库布里克拍摄的《2001太空漫游》，到加拿大导演詹姆斯·卡梅隆拍摄的《终结者》系列，无不表现了人类对其亲手制造的残酷无情而又智力超群的机器人的恐惧。

　　专家们担忧的不只是电脑机器人的可怕阴谋，或新一代超级智能机器人网络的悄悄蔓延。对现有的特殊机器人，如武装无人驾驶飞机的操纵可能失控，也令专家们感到紧张。无人机有能力自动发射导弹和投掷炸弹，如果它们违背命令，擅自更换袭击目标，后果将不堪设想。

　　同时，一些人工智能机器人可能会利用声音合成器模仿人声进行犯罪。其他的威胁，如无人驾驶汽车的失控，家居机器人和秘书机器人的恶意失灵，已离我们的生活越来越近。正如一位英国数学家所预言的一样，机器人智能的急速增长，必将会使其有能力改变自身设计对行为的控制，最终出现一种人类所不愿看到的局面。