AI的25种可能

人工智能是今天的神话，也是其他一切故事背后的故事。它既是新的开始，也是末世毁灭，两种结局分别对应了好的人工智能和恶的人工智能。本书集结了诸多来自人工智能领域内外的重要思想家的对话，探讨了人工智能的定义及含义。该对话是基于一个叫作“可能的心智”的项目，正式开始于2016年9月在康涅狄格州华盛顿的五月花格瑞斯酒店召开的一次会议，本书的一些撰稿人也参与了这次会议。

在第一次会议上，人们很快对人工智能进入更广泛的文化环境感到兴奋与恐惧，这与诺伯特·维纳（Norbert Wiener）的“控制论”思想进入当时文化领域的情况非常类似，特别是在20世纪60年代，许多艺术家把这种新科技思想融入他们的作品中。我对控制论思想的影响力有切身体会。实际上，若说正是控制论思想使我走上如今的人生道路也不为过。随着20世纪70年代初数字时代的到来，人们不再谈论维纳，但如今，他的控制论思想被广泛采用，已经内化到了不再需要名字的地步。它无处不在，飘荡在空气中的每个角落，这正是适合本书开始的地方。

新技术=新感知

在人工智能出现之前，控制论大行其道。它是诺伯特·维纳在1948年的奠基性著作中阐述的一种理念，意指自动的、自我调节的一种控制。我记得我接触到这一理念是在1966年，当时作曲家约翰·凯奇（John Cage）邀请我和其他四五位年轻的艺术家参加了一些晚宴，也就是一系列的研讨会，探讨媒体、传播学、艺术、音乐及哲学上的一些问题。这些问题主要围绕让凯奇感兴趣的维纳、克劳德·香农（Claude Shannon）及马歇尔·麦克卢汉（Marshall McLuhan）的观点。这些人在纽约的艺术圈颇有影响力，而我当时正努力跻身于这个圈子。凯奇对麦克卢汉的观点尤其熟悉。麦克卢汉认为，通过发明电子技术，我们的中枢神经系统即大脑拥有了一个外形，我们现在不得不假设“只有一个大脑，一个我们所有人共享的大脑”。

当时我在纽约的电影制片人实验电影院做项目经理，在先锋电影制片人兼导演乔纳斯·梅卡斯（Jonas Mekas）的主持下，负责一系列的多媒体制作，即“新电影1号”项目（也叫作“扩延电影节”）。我与之共事的那些艺术家对这些理念非常感兴趣，他们是：视觉艺术家克莱斯·奥登伯格（Claes Oldenburg）、罗伯特·劳森伯格（Robert Rauschenberg）、安迪·沃霍尔（Andy Warhol）和罗伯特·怀特曼（Robert Whitman）；动态艺术家夏洛特·穆尔曼（Charlotte Moorman）和白南准（Nam June Paik）；偶发艺术家阿伦·卡普罗（Allan Kaprow）和卡若琳·史尼曼（Carolee Schneemann）；舞蹈家特里莎·布朗（Tricia Brown）；电影制片人杰克·史密斯（Jack Smith）、斯坦·范德比克（Stan Vanderbeek）、艾德·艾姆许维勒（Ed Emshwiller）和库查兄弟（Kuchar brothers）；先锋剧作家肯·杜威（Ken Dewey）；诗人格尔德·斯特恩（Gerd Stern）和USCO组合；极简音乐家拉蒙特·扬（La Monte Young）和特里·赖利（Terry Riley）；以及通过沃霍尔结识的地下丝绒乐队（The Velvet Underground）。他们中许多人当时正在阅读维纳的作品，广播里也正在播放介绍控制论学说的节目。正是在这样的一次晚宴中，凯奇从他的手提箱里拿出一本《控制论》（Cybernetics）交给我，说：“这是给你的。”

在此期间，我意外地接到维纳的同事阿瑟·K.所罗门（Arthur K. Solomon）给我打来的电话，他是哈佛大学生物物理学研究生学院的院长。当时，维纳已于一年前去世，但所罗门与维纳在麻省理工学院和哈佛大学的一些关系密切的同事，一直在关注《纽约时报》上关于“扩延电影节”的报道，对其与维纳作品扯上关系颇感好奇。所罗门邀请我带着一些艺术家去剑桥与他和其他一些专家会面，包括麻省理工学院研究感官通信的沃尔特·罗森勃利斯（Walter Rosenblith），哈佛大学应用数学家安东尼·欧廷格（Anthony Oettinger），麻省理工学院工程师、频闪光的发明人哈罗德·埃杰顿（Harold“Doc”Edgerton）等。

就像我以前遇到过的许多次“艺术遭遇科学”一样，由于我对科学所知不多，这次为期两天的会面不算很成功，就像轮船行驶在暗夜里。但我尽可能地吸收了一切营养，而且从很多有趣的方面看，这次会面非常重要，其中一点就是他们带我们去看了“那台”计算机。在当时，计算机可是个稀罕物，至少我们这些访客还没有谁拥有一台计算机。我们被带到麻省理工学院里的一间非常大的屋子，在屋子中间有一个“冷室”，它高于地面，四周是玻璃墙。在“冷室”里，技术人员穿着白色实验室服、戴着白色围巾和手套，正忙碌着核对整理从一个巨型机器里出来的穿孔卡片。我走到近前，从我口中呼出的热气在“冷室”的玻璃上结成一层薄雾。我伸手抹开玻璃上的雾气，看到了“那台”计算机。一下子我便深深爱上了它。

后来在1967年秋，我来到门洛帕克市和斯图尔特·布兰德一起待了一段时间。1965年我在纽约见过他，当时他是USCO艺术家组合的一名外围成员。当时，他正与身为数学家的妻子洛伊丝（Lois）着手准备《全球概览》杂志（The Whole Earth Catalog）第一期的出版发行。当洛伊丝和团队其他人正干着苦力时，斯图尔特和我坐在一个角落里待了两天，阅读、标记和注解前一年凯奇给我的那本《控制论》，讨论维纳的思想。

这些思想给了我灵感，我开始提出一个主题，也像一个魔咒，让我以后的所有努力有了方向，那就是“新技术=新感知”。在媒介理论家马歇尔·麦克卢汉、建筑设计师巴克敏斯特·富勒（Buckminster Fuller）、未来主义者约翰·麦克黑尔（John McHale），还有文化人类学家爱德华·T.霍尔（Edward T. Hall）和埃德蒙·卡彭特（Edmund Carpenter）的启发下，我开始大量阅读信息论、控制论和系统论等领域的书籍。麦克卢汉推荐我阅读生物学家J. Z.扬（J. Z. Young）的《科学中的怀疑与确定性》（Doubt and Certainty in Science），在书中作者认为我们创造了工具，并通过使用这些工具来塑造自我。他还推荐我阅读沃伦·韦弗（Warren Weaver）和克劳德·香农在1949年所写的文章《通信数学理论的新贡献》（Recent Contributions to the Mathematical Theory of Communication）。在这篇文章开头，作者写道：“‘通信’一词将被广泛使用，其意义包括一个心灵影响另一个心灵的所有过程。这当然不仅仅指写作和演讲，还指音乐、绘画、戏剧、芭蕾，甚至人类的所有行为。”

谁能想到，从那往后的20年里，我们会开始把大脑比作计算机？谁又能想到，在接下来的另一个20年里，当我们把计算机连成互联网时，大家才意识到大脑不是一台计算机，而是一个计算机网络？当然，维纳没有想到——虽然他是设计用于控制机器的模拟反馈电路的专家，艺术家们也没有想到，我自己更没有想到。

“我们必须停止亲吻鞭笞我们的鞭子”

《控制论》出版两年后，即1950年，诺伯特·维纳又出版了《人有人的用处》（The Human Use of Human Beings）一书。这本书寓意更深，在书中他表达了对失控的商业开发和其他无法预见的新技术的后果的担忧。我一直没有读这本书，直到2016年春，我才拿起《人有人的用处》第一版，当时这本书就躺在我的图书室，紧挨着《控制论》。维纳在1950年就能对现今发生的一切做出精准预测，这让我非常震惊。虽然第一版很畅销，而且还促成了一次重要谈话，但迫于当时其他科学家的压力，维纳1954年又出版了一本修订版，这个版本更温和些，但明显缺少了原版本中的“刚性声音”。

科学史学家乔治·戴森指出，在这个久被遗忘的第一版中，维纳预言了出现“依赖机器统治的新法西斯威胁”的可能性：

所有的精英分子，无论是耶稣会士（“天主教从本质上来说就是极权主义宗教”），抑或是FBI（“我们伟大的商人已经看过苏联人的宣传技巧，认为这非常好”），都不能逃脱他的批评。另外，他还批评金融家们提供资助“以使美国变成资本主义国家，并在全球范围内支持商业至上的第五自由”。科学家们也像教会一样受到维纳的评判：“实际上，大型实验室的负责人和大主教非常相像，他们都与各行业的有权人士关系密切，也都有可能陷入骄傲和权力欲中。”

这种论调可对维纳不利。正如戴森所说：

在当时这些警告没有得到充分重视，并不是因为维纳对数字计算机的预言是错的，而是因为在1949年秋天当他刚刚完成这本书的手稿时，更大的威胁已迫在眉睫。维纳并不反对数字计算机，但他强烈反对核武器，坚持不肯与那些使用数字计算机来推动比原子弹威力增强千百倍的氢弹的人为伍。

因为《人有人的用处》一书的原版已不再出版，我们再也无法听到维纳的痛声疾呼，与近70年前他创作这本书时相比，这声呼喊在如今更有现实意义：“我们必须停止亲吻鞭笞我们的鞭子。”

大脑、思考、智能

今天我们很少听到“控制论”一词，原因有很多，其中有两点比较重要：第一点是，尽管《人有人的用处》一书在当时非常重要，但它却有悖于维纳许多同事的抱负，包括约翰·冯·诺伊曼（John von Neumann）和克劳德·香农，他们对把新科技转化成商业更有兴趣。第二点就是，计算机先驱约翰·麦卡锡（John McCarthy）不喜欢维纳，拒绝使用维纳的“控制论”一词。麦卡锡创造了“人工智能”一词，并成为该领域的奠基人。

朱迪亚·珀尔（Judea Pearl）在20世纪80年代提出了研究人工智能的新方法——贝叶斯网络，他对我说：

维纳所营造的是一种兴奋，让我们激动地相信有一天我们将能制造出一台智能机器。他并不是计算机科学家。他讲的只是反馈、通信，还有模拟。他的比喻用词是反馈电路，在这方面他是专家。到了20世纪60年代早期数字化时代开始出现时，人们谈论的是编程、代码、计算函数、短时记忆、长期记忆——这些都是意义丰富的计算机比喻。维纳落伍了，虽说新的一代是受他的思想启发成长起来的，但他却无法让这一代人接受他。他的比喻太陈旧过时。这一代已经有了新的办法来捕捉人类的想象力。到了1970年，人们不再谈论维纳了。

维纳的视角遗漏了非常重要的一点，那就是认知因素：大脑、思考、智能。早在1942年，在最初的一系列关于复杂系统控制的基础性跨学科会议上，顶尖的研究人员就主张将认知因素纳入进来。这些会议后来被称为梅西会议。尽管冯·诺伊曼、香农和维纳关注被观测系统的控制和通信系统，但沃伦·麦卡洛（Warren McCullough）却力主应该考虑大脑这一因素。他求助于文化人类学家格雷戈里·贝特森（Gregory Bateson）和玛格丽特·米德（Margaret Mead），希望他的理论能与社会科学搭上边。他们之中，尤其是贝特森越来越多地谈论模式和过程，或者“连接模式”。他呼吁建立一种全新的系统生态学，在这门学科看来，生物与它们所生活的环境是一体的，应该被视作单一回路。到了20世纪70年代早期，被观测系统的控制论，即一阶控制论，升级为观测系统的控制论，即二阶控制论或“控制论的控制论”，这个词是海因茨·冯·弗尔斯特（Heinz von Foerster）杜撰出来的，他于20世纪50年代中期加入梅西会议，成为新运动的先锋。

控制论并没有消失，而是融入了万物，我们不再把它看成一个独立、独特的新学科。虽然它隐匿不见，但它就在那里。

“斯坦”妙语

我当时自己写的有关控制论的东西被二阶控制论的那些人注意到了，包括海因茨·冯·弗尔斯特、约翰·里利（John Lilly）和艾伦·沃茨（Alan Watts），他们是“AUM会议”（AUM即“美国大师学院”）的组织者。这次会议1973年在大苏尔（Big Sur）召开，聚集了许多哲学家、心理学家和科学家，每人都要就自己的研究工作发言，讲讲自己的研究与英国数学家G.斯潘塞-布朗（G. Spencer-Brown）的著作《形式法则》（Laws of Form）里的观点之间有怎样的关联。

我收到邀请时感到有些震惊，实际上这个邀请来得确实有些晚。他们说之所以邀请我是因为对我在《随后》（Afterwards）这本书中表达的观点非常感兴趣，这些观点与他们很合拍。我接受了邀请，一个重要的原因是主讲人不是别人，正是理查德·费曼（Richard Feynman）。我喜欢和物理学家待在一起，因为他们考虑的是宇宙，也就是万物。没有哪个物理学家像费曼一样巧言善辩。我实在等不及要见他了。不过，我不是科学家，也不喜欢站在讲台上发表任何形式的演讲，更不想在一群全世界最聪明的人面前就某个生涩的数学理论发表自己的拙见。不过等我到了大苏尔，才明白为什么我会这么晚才收到邀请。“费曼的演讲是什么时候？”我问前台接待。“噢，艾伦·沃茨没有和你说吗？理查德生病了，已经住进了医院。你是他的替补。噢，对了，你的演讲题目是什么？”

在接下来的几天里，我试图把自己隐身。艾伦·沃茨意识到我不想站到讲台上，有一天凌晨三点敲我的房门，把我弄醒。我打开门，看到他穿着僧侣长袍，袍子的帽子盖住了大半张脸。他双臂张开，一手提着灯笼，另一只手拿着一瓶苏格兰威士忌。

“约翰，”他低沉的嗓音带着浓厚的英国贵族腔，“你是个骗子。”“不过，约翰，”他继续说，“我也是个骗子。但约翰，我是个真正的骗子。”

第二天，我做了演讲，题目是“爱因斯坦、格特鲁德·斯坦、维特根斯坦和弗兰肯斯坦”。爱因斯坦开启了20世纪物理学的革命。格特鲁德·斯坦是第一位描写模糊的不连续的宇宙概念的作家。他认为文字既不代表人物也不代表行为：是玫瑰的玫瑰就是玫瑰，是宇宙的宇宙就是宇宙。维特根斯坦认为世界和语言一样都有其局限性。“我语言的局限就意味着我世界的局限。”这是观测者与被观测者之间差别的最终结果。弗兰肯斯坦是控制论、人工智能、机器人，以及这个领域你能想到的所有词汇的代言人。

演讲收到了意想不到的效果。与会者中有些是《纽约时报》畅销书作家，但他们谁都没有出版经纪人。我发现这些作家都在进行一种文体的创作，纽约的出版商们不知道这是什么文体。因为我有哥伦比亚商学院的MBA文凭，也有过一些相关的成功商业案例，他们非让我做他们的经纪人，最初是给格雷戈里·贝特森和约翰·里利做出版经纪人。我把他们的书卖得很好，收获颇丰，于是我便开始了作为出版经纪人的事业。

我一直没有见到理查德·费曼。

人工智能的漫长冬季

这项新事业使我得以与多数人工智能的先驱们保持密切的联系，几十年来，我和他们一起在得意的浪尖上舞蹈，也一起跌入到失意的谷底。

20世纪80年代早期，日本政府曾举全国之力发展人工智能。他们将之称为“第五代”，目标是通过打破“冯·诺伊曼瓶颈”创建大规模并行计算机，来改变计算机体系架构。他们希望能借此举推动经济发展，成为这个领域的世界强国。1983年，日本“第五代”联盟的领军人来到纽约，参加纽约科学院院长海因茨·帕格尔斯（Heinz Pagels）主办的一次会议。我也参加了这次会议，同桌的有第一代领军人马文·明斯基（Marvin Minsky）和约翰·麦卡锡，第二代领军人爱德华·费根鲍姆（Edward Feignbaum）和罗杰·尚克（Roger Schank），以及美国国家超级计算机联盟的负责人约瑟夫·特劳布（Joseph Traub）。

1981年，在海因茨的帮助下，我成立了“现实俱乐部”，俱乐部的第一次跨学科会议在纽约科学院的董事会会议室举行。当时海因茨在创作《大师说科学与哲学：计算机与复杂性科学的兴起》（Dreams of Reason: The Computer and the Rise of the Science of Complexity）一书，该书被看作20世纪90年代科学界的研究指南。

通过现实俱乐部的几次会议，我结识了两位年轻的研究人员，他们即将在计算机科学变革中扮演重要角色。20世纪70年代后期在麻省理工学院，丹尼尔·希利斯（Daniel Hillis）开发了一种算法，使大规模并行计算机成为可能。1983年，他的公司“思考机器”使用并行结构组建了世界最快的超级计算机。他的这台“连接机器”非常接近地反映了人类大脑的运作。塞思·劳埃德（Seth Lloyd）在洛克菲勒大学量子计算和量子通信领域进行了开创性研究，为量子计算机提出了第一个在技术上可行的设计方案。

至于日本，他们对人工智能的探索以失败告终，接下来是长达20年的经济萧条。但顶尖的美国科学家们非常看重这个项目。当时计算机领域最前沿的科学家费根鲍姆与帕梅拉·麦考克（Pamela McCorduck）合作编写了一本关于这个领域发展的书。1983年，《第五代计算机：人工智能和日本计算机对世界的挑战》（The Fifth Generation: Artificial Intelligence and Japan’s Computer Challenge to the World）一书出版。我们给这个项目起了个代号：“它来了！它来了！”但它并没有来。它走了。

从那时起，我便开始与人工智能及复杂性科学各个领域的研究人员合作，这些人包括罗德尼·布鲁克斯（Rodney Brooks）、汉斯·莫拉维克（Hans Moravec）、约翰·阿奇博尔德·惠勒（John Archibald Wheeler）、贝努瓦·曼德尔布罗特（Benoit Mandelbrot）、约翰·亨利·霍兰德（John Henry Holland）、丹尼尔·希利斯、弗里曼·戴森（Freeman Dyson）、克里斯·兰顿（Chris Langton）、多因·法默（Doyne Farmer）、杰弗里·韦斯特（Geoffrey West）、斯图尔特·罗素（Stuart Russell）和朱迪亚·珀尔。

不断发展的动态涌现系统

从康涅狄格州华盛顿的第一次会议到现在，我在伦敦、马萨诸塞州剑桥安排了许多晚宴及研讨会，还在伦敦市政厅安排了一次公众活动。参加者中有杰出的科学家、科学史家、通信理论学家，他们毕生都在认真思索人工智能这一话题。

我向更多人约稿，无论他们是否与维纳的研究有关（这取决于每个撰稿人）。最终共收到25篇文章，每位作者都很关心现今的人工智能时代发生的一切。《AI的25种可能》（Possible Minds）并不是我的书，而是我们的书：塞思·劳埃德、朱迪亚·珀尔、斯图尔特·罗素、乔治·戴森、丹尼尔·丹尼特（Daniel C. Dennett）、罗德尼·布鲁克斯、弗兰克·维尔切克（Frank Wilczek）、迈克斯·泰格马克（Max Tegmark）、扬·塔里安（Jaan Tallinn）、史蒂芬·平克（Steven Pinker）、戴维·多伊奇（David Deutsch）、汤姆·格里菲思（Tom Griffiths）、安卡·德拉甘（Anca Dragan）、克里斯·安德森（Chris Anderson）、戴维·凯泽（David Kaiser）、尼尔·格申斐尔德（Neil Gershenfeld）、丹尼尔·希利斯、文卡·拉马克里希南（Venki Ramakrishnan）、阿莱克斯·彭特兰（Alex“Sandy" Pentland）、汉斯·乌尔里希·奥布里斯特（Hans Ulrich Obrist）、艾莉森·高普尼克（Alison Gopnik）、彼得·加里森（Peter Galison）、乔治·丘奇（George M. Church）、卡罗琳·琼斯（Caroline A. Jones）、斯蒂芬·沃尔弗拉姆（Stephen Wolfram）。

在我看来，“可能的心智”项目是一个不断发展的动态涌现系统，是许多经验丰富、深思熟虑的思想者们的思想展示，他们交流思想，产生火花，以自己的经验和学识挑战主流的人工智能学说。项目旨在提出一些观点，这将有助于理解这个迅速发展的新兴领域。

我要求每位撰稿人考虑以下两点：

华莱士·史蒂文斯（Wallace Stevens）的禅诗《观察一只黑鹂的十三种方式》（Thirteen Ways of Looking at a Blackbird）。华莱士·史蒂文斯认为这首诗“不是警句或思想的集合，而是表达了一些感觉”。这是一种“透视主义”的方法，整首诗由短小、独立的部分组成，每一部分都以某种方式提到黑鹂。这首诗描写他自己的想象，涉及他所关注的事物。

盲人摸象的寓言故事。就像故事中的大象一样，人工智能这个话题无论从哪个角度看都太过宏大，这就一定会出现每个人的看法皆与他人不同的现象。

我们对这本书的希冀是什么？斯图尔特·布兰德曾说过：“重新审视先驱的思想永远都有用。它给我们一种长远的视角，能在几十年甚至几个世纪的时间里吸引人们思考这一主题。当代的所有讨论，如果不能从长远视角出发，都注定不能长久。”

丹尼尔·希利斯希望在人工智能领域工作的人们不要忘了维纳的书对他们的深层影响。“你在执行他的路线图，”他说，“你只是没有意识到。”

丹尼尔·丹尼特希望“维纳的灵魂能来到这场思想盛宴。这是一种杂交优势的根源，是摇摆不定思想的根源，可以撼动既定的思想”。

尼尔·格申斐尔德认为“为运营苹果、亚马逊、谷歌、微软、脸书的人提供隐形矫正教育将是本书的一大成果”。

弗里曼·戴森是仍健在的少数几位认识维纳的学者之一。他说：“《人有人的用处》是迄今为止最好的书之一。维纳几乎所有的论断都是对的。我很想看看你们这群奇才如何使用这本书。”

人工智能历史的演变

万物在变，又恒久不变。现在人工智能无处不在。我们拥有互联网，拥有智能手机。那些手持“鞭笞我们的鞭子”的主要公司的创始人坐拥上百亿甚至上千亿美元的净值。一些行事高调的人，像埃隆·马斯克（Elon Musk）、尼克·波斯特洛姆（Nick Bostrom）、马丁·里斯（Martin Rees）、埃利泽·尤德考斯基（Eliezer Yudkowsky），以及已故的史蒂芬·霍金（Stephen Hawking），都对人工智能的发展提出过严厉警示，结果导致那些资金力量雄厚、主要研究发展“善良的人工智能”的研究所拥有了突出优势。但我们人类作为一个物种，真的有能力控制具有完全意识、不受监管、能自我完善的人工智能吗？维纳在《人有人的用处》中的告诫现在已变成现实，那些工作在人工智能革命最前沿领域的研究者应该重新审视维纳的这些告诫。戴森说：

维纳对那些“崇拜电子小装置的人”不再抱有幻想。这些人的自私“带动自动化发展，而这种发展已不再是出于合法的好奇，其本身充满罪恶”。他认为危险不在于机器变得像人类，而是人类变得像机器。“未来世界将是一场越来越激烈的斗争，挑战着我们的智力极限。”维纳在《上帝与傀儡公司》（God & Golem，Inc.）一书中写道。该书出版于1964年，维纳同年去世。“未来世界不是一张舒适的吊床，任我们躺在那里等待机器人奴隶的服务。”

现在我们应该找出人工智能领域里的主流者与持不同意见者，让这些人都能发表自己的观点，以此来审视人工智能历史的演变。

故而以下文章亟须业内人士不断更新。

约翰·布罗克曼

2019年于纽约