第一章 技术元素 造就我们的机器

计算机科学家约瑟夫·魏泽鲍姆(Joseph Weizenbaum)最近以85岁高龄辞世。魏泽鲍姆在40年前发明了著名的伊莱扎(Eliza)聊天机器人。令人惊讶的是,这个伪人工智能仍然具备取悦和糊弄我们的能力。但在这之后的生涯里,魏泽鲍姆成为人工智能的批评者。他主要关注计算隐喻——认为所有有趣的事情都可计算——对我们文化的全面征服,担心在我们试图制造具备思维能力的机器时,我们自己就会变成机器。魏泽鲍姆的离世引起人们对其著作《计算机力量和人类理性》中相关论点的重审。

在Edge.org上,尼克·卡尔称该书“仍然是有关计算机及其对人类影响最好的书之一。书中一些细节已经过时,但其所传递的信息仍像以前一样重要,而且现在看来,依然令人困扰。基本上,魏泽鲍姆坚持认为,计算机向其用户——也就是我们——强加了一种机械化视角,而这一视角能轻易取代其他——也许更人性化的——视角的位置”。尼克强调了书中一个值得注意的段落。

一旦计算机与结构完全整合,与众多关键子结构相杂合,计算机就会成为该结构不可缺少的一部分。想要去除计算机,必然会对整个结构造成致命的损害。这基本上是旧话重提。其作用在于,它能重新唤醒我们,使我们认识到这样一种可能性:一些人类活动——如将计算机引入一些复杂的人类活动——可能会没有回头路可走……计算机并不是战后时期及其后现代社会存在的前提;最具“进步性”的美国政府部门及工商界热情地、不加批判地欢迎计算机,这使计算机很快成为社会存在的必要资源,而计算机本身也成为塑造社会形态的工具。

这段文字极为精彩地总结了一种普遍担忧:我们正让机器接管一切,包括我们自己。

读到这一担忧,我想起BBC的一个新节目《造就我们的机器》。这一系列视频纪念的不仅仅是计算机,还有其他造就我们的机器——印刷机。BBC从四个方面研究了印刷在我们文化中扮演的角色。这让我感觉,魏泽鲍姆所说的关于人工智能的一切也许也适用于印刷术。

于是我搜索了魏泽鲍姆的文字,用另一种更古老的技术“印刷术”替换了“计算机”,并得到如下文字:

一旦印刷与结构完全整合,与众多关键子结构相杂合,印刷就会成为该结构不可缺少的一部分。想要去除印刷,必然会对整个结构造成致命的损害。这基本上是旧话重提。其作用在于,它能重新唤醒我们,使我们认识到这样一种可能性:一些人类活动——如将印刷引入一些复杂的人类活动——可能会没有回头路可走……最具“进步性”的美国政府部门及工商界热情地、不加批判地欢迎印刷,这使印刷很快成为社会存在的必要资源,而印刷本身也成为塑造社会形态的工具。

这段话清楚地说明了印刷的重要性及其基础作用,也的确如此。我可以用“书写”或“字母表”等技术做相同的替换——这两种技术都变革了我们的社会,也都必不可少。

事实上,印刷、书写和字母表的确让文化偏向了它们。它们还让自己变得如此必不可少,我们不能想象如果没有它们,文化和社会会变成什么样。如果没有书写,我们的文化会让人分辨不清,谁能够否认这一点呢?而且,正如魏泽鲍姆所表示的,新的嵌入式技术意图取代先前的理念体系。口述已经消失,而我们的书面文化迥异于口头文化。

魏泽鲍姆的主要担忧似乎是,我们会依赖新技术,而由于技术有自己的资讯处理程序和自我强化功能,它会让我们变得不像我们自己(不管在哪方面)。

所有这些转变都是真的。但正如上面的替换所表明的,我们之前曾多次经历这种自我增强的转变,而我相信转变之后会变得更好。文字和印刷提升了我们,尽管我们丢下了一些东西。

魏泽鲍姆(卡尔可能也是)就像古代睿智、好心的长者一样,鼓吹由印刷术和书籍带来的恐怖。他们会着重说明口语化的损失,以及这些新流行的辅助技术(印刷术和书籍)对人性的贬低。他们会大声疾呼:人们啊,我们有自己的记忆,善用它们吧!记忆一直与我们同在,即便柏拉图也曾这样感叹过。

但事实上,人工智能和计算机的普遍性、不可或缺性、基本性、自我强化性和不可逆性倾向并不单是人们忧虑的理由。相反,如果过去历史中印刷和书写有过任何不良迹象,这些都是值得庆祝的理由。随着计算机无所不在时代的到来,我们将经历另一次身份大检修。

2008年4月18日