欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  科技

人工智能真正可怕之处是抛弃数学“翻译”这个步骤

程序员文章站 2022-05-27 14:45:58
1977年五子棋的世界卫冕冠军Luigi Villa不敌人工智能,这是人类历史上某领域顶尖人物第一次输给人工智能。而到了2016年,人工智能Alpha Go已经可以在最为复杂的棋类游戏围棋中4:1完胜...

人工智能真正可怕之处是抛弃数学“翻译”这个步骤

1977年五子棋的世界卫冕冠军Luigi Villa不敌人工智能,这是人类历史上某领域顶尖人物第一次输给人工智能。而到了2016年,人工智能Alpha Go已经可以在最为复杂的棋类游戏围棋中4:1完胜世界排名第二的选手。人工智能自诞生至今已50余年,科学家们惊叹于它高速的成长,也对此感到焦虑。“人工大脑之父” 雨果德加里斯曾在《智能简史》一书中提到“人工智能已经在神经和智能上产生了指数级的初级进化,并在将来某一天达到奇点状态,最终失去控制,以人类无法想象的速度自我进化,最终超越人类智能。”为何众多科技名人都对人工智能的未来如此惶恐?

弱人工智能的现状

3月24日,微软推出的Twitter人工智能聊天机器人Tay(@tayandyou)在人类24小时的调教下,分分钟变成了满嘴脏话、阴谋论爱好者、希特勒崇拜者和迷恋乱伦。

目前的人工智能还只是人类肢体的延伸,是部分机能的精细化。根据程序员之前设定好的触发条件及应答内容,一旦条件触发就会执行指令。当下的人工智能对外界的信息没有自主意识,不会直接从周围环境中汲取所需,仅仅是在人类给定的范围内,根据人类编译好的指令去对外界信息进行计算、分析。所以并不真正拥有智能它或许看起来精通各国语言,但其实只是对照设定好的字母表与辞典完成了翻译,它算懂语言吗?并不。

人工智能真正可怕之处是抛弃数学“翻译”这个步骤

人工智能是人类自我认知的进程,需要对哲学、心理学、生物学、系统学、社会学、信息学、计算机科学高度发展融合。目前来看,即使人工智能的能力在今后的发展中得到非常大的提升,这样的提升也仅仅是知识量的增加、运算速度提高和运算范围的扩大。但真的是如此吗?人工智能是否能一直为人所控?

计算存在着不可控性

Mathematica(一款很强大的科学计算软件)之父Stephen Wolfram曾在Ted Talk中提及到过一个十分有趣的现象计算的不可控性。当我们从一个简单的图形奇点出发,按照一定的运算规律进行组合,一般都可以得到一个规律、可简化的图形(如图一)。然而也有一些简单的图形,在通过同样的演算之后,演化成了毫无规律、且完全不可简化与逆转出初始形状的图形(如图二)。

计算存在着不可控,不可简化与不可逆的特性。人工智能的认知基础即为计算,故也应存在着一个临界点,就像这个能引发不规则变异的图形一样(图二),一旦触发,其后期的发展态势,将完全不受人类的控制,过程也将变得不可逆。

那当人工智能变得不可控,转化成为强人工智能,人类是否必输无疑?答案是yes。

人工智能真正可怕之处是抛弃数学“翻译”这个步骤

人工智能真正可怕之处是抛弃数学“翻译”这个步骤

比起人工智能,我们输在哪里

人类在生理构造上的局限性,无论从脑部构造、身体机能上都存在着十分大的局限性。而人工智能不论在计算的速度、精确度方面,还是信息存储量及传输速度方面,都远胜人脑。

而且一直以来,我们都将人工智能看做人类自我认识的产物,将它的发展认为是人类自我认识的过程,我们将其看作是“人类灵魂的复制”。评判人工智能的智力程度,也是通过理解人类事物的程度来进行区分,即一切都以“以人类为中心”。

然而,我们是否有想过,人工智能一旦进化,其实可以自成一套汲取知识的体系。数学作为揭示世间万物不为人知的真相的根基,人类通过自己的理解、运算、语言方式复杂化后,再重新翻译成数理输入到人工智能中。假设当人工智能完成进化,它将省略人类翻译这个步骤,自行用数理去演算一切,再加之其强大的计算能力,能对世界进行指数级爆炸般的运算理解。而人类由于其社会性,在知识的获取上存在着很大的限制,一直以来人类都需要大量的实践去积累知识,消耗的时间与精力自然远大于人工智能。

在知识的传输上,人类存在着十分大的局限语言。我们需要克服语言表述、沟通上的障碍,去进行重新的编译,用来进行传播。然而人工智能对知识的传播,用简单的网络连接,0与1的组合,通过几毫秒甚至几微秒,就能完成知识、数据的传播。

人工智能是否转化成强人工智能,那个进化的零界点会是在未来的哪天,它会是善良的还是充满恶意的,没人知道答案。眼下我们能做的,是对尽快对人工智能进行正确的引导与适当的限制。