霍金：军事科技过度依赖人工智能 将导致人类灭亡

剑桥大学著名理论物理学家斯蒂芬•霍金

在三连胜之后，“阿尔法围棋”（AlphaGo）软件终于在13日的第四局比赛中，被拥有18项国际赛桂冠的韩国棋手李世石打败。新加坡《联合早报》14日社论表示，专家原本估计，人工智能超越人类的这种能力，应当在10年内还不会发生。李世石的三连败完全颠覆了这个假设。这个结果最直接的意涵是人工智能的学习和进化速度，已经远超人类的想象。这对于人类的未来究竟是祸是福，知识界莫衷一是。

文章摘编如下：

“阿尔法围棋”创始人德米什•哈萨比斯说，“阿尔法围棋”在第79手犯错，直到第87手才意识到问题。这是“阿尔法围棋”去年10月五连胜欧洲冠军樊麾后的第一场败局——人机对决的积分榜是1比8。在昨天之前，“阿尔法围棋”非但证明具备自我纠正能力的人工智能，可以在变化“比宇宙中的原子数量还多”的围棋中，打败代表人类顶尖实力的棋手，更因为此前始终没有犯错，而引发了诸多联想。

当“阿尔法围棋”在3月9日的第一场比赛中获胜后，大感意外的围棋界多以李世石轻敌来自我安慰，并自信在后续的比赛将胜出。李世石在第二局不再采取试验性策略，改用稳扎稳打的手法，期待利用对手的错误取胜，但是“阿尔法围棋”却始终没有露出破绽，最后还险胜李世石。诸多围棋手在第三局前集思广益，制定了抢攻并用“劫争”法逼迫“阿尔法围棋”被动防守的战略。但是在第三局中盘后，“阿尔法围棋”非但稳住阵脚，还反守为攻，甚至表现出料敌先机的能力，终在第176手胜出。

3月12日，在刚刚结束的“AlphaGo”与韩国14冠高手李世石之间的人机大战第三局中，李世石没能挽回赛点，执黑中盘再次失利，在五番棋的较量中总比分0-3落败。双方第四局比赛将于北京时间明天进行，李世石将为荣誉而战。

国际围棋界多以“惊骇”“生畏”形容第三局的比赛结果。与IBM研制的计算机“深蓝”在1997年击败国际象棋世界冠军相比，被谷歌收购为子公司的“深度思维”所研发的“阿尔法围棋”软件，依靠的并非“深蓝”那种庞大直接的运算能力，而是类似人类思考模式的自我学习与评估能力，以子之矛克子之盾。

专家原本估计，人工智能超越人类的这种能力，应当在10年内还不会发生。李世石的三连败完全颠覆了这个假设。这个结果最直接的意涵是人工智能的学习和进化速度，已经远超人类的想象。

这对于人类的未来究竟是祸是福，知识界莫衷一是。剑桥大学著名理论物理学家斯蒂芬•霍金在2014年就发出警告，人类的进化速度远不如人工智能，他担心军事科技如果过度依赖人工智能，可能导致人类的灭亡。

霍金在去年连同科技发明及企业家伊隆•马斯克、苹果计算机共同创办人史蒂夫•沃兹尼克等数百名顶尖精英发表联署公开信，表示人工智能对人类生存的威胁更甚于核子武器。微软创办人盖茨也表达了同样的担忧。高科技军事装备的普及，如美军在战场上大量使用无人机远程杀敌，多少印证了这种忧虑。

另一派则没有那么悲观。曾任谷歌大中华区总裁的李开复说，基于深度学习的人工智能，未来将创造更多价值，包括更准确地计算投资回报率、个性化的精准医疗、搜索引擎更贴近的推荐结果等等。

“阿尔法围棋”软件之父哈撒比斯也认为，人工智能将对公共医疗、智慧手机和机器人等有所贡献。哈撒比斯正同英国*合作，利用人工智能提高英国全国医疗服务体系的效率。人工智能也会让手机软件更个性化，成为使用者的贴心助手。他预计市场会在四五年内看到这类产品。

如同工业革命时出现的机器导致大量失业的问题，自动化加上演进快速的人工智能，未来也会造成众多中产阶级所从事的白领职位消失。这个经济和社会冲击势必激化为政治问题。同样的，工业革命所产生的巨大财富，也一度令一些思想家以为，不愁基本温饱的乌托邦即将到来。

但事实证明，新增的大量财富并不能解决分配不均的老问题，而后者仍然是世界冲突和矛盾的根源。人工智能一样是创造新财富的强大工具，可是如何公平分配，依赖的恐怕还得是人类的传统智慧。