本文来自微信公众号：经济观察报观察家 （ID：eeoobserver），作者：周泽雄，头图来自：《头号玩家》

(资料图片)

一

词语“人工智能”（artificial inteligence，简称AI）出现较早，由青年数学家约翰·麦卡锡在达特茅斯学院的一场小型研讨会上提出，时为1956年。麦卡锡后来说：“当时没有人真正喜欢这个名字——毕竟，我们的目标是‘真正的’智能，而非‘人工的’智能。”

随名字一并传播的，是它的误导性。依圈外人之见，人工智能要么以人类为效忠对象，作为辅助性智能；要么以人类为假想敌，作为竞争性、威胁型智能：总之，必须围绕人类轴心旋转，就像地球绕着太阳，严禁脱轨。

业内人士则不然，他们理解的“‘真正的’智能”，亦即接近上帝的智能，既不会、也不屑臣服于人类治下；它是否以人类为假想敌，亦非题中应有之义——那是科幻作品的商业噱头而已。“知识比基因更重要”（杰夫·霍金斯语），打上人类烙印的智慧，只是智能的一个类别。人类无权将沾满自身基因缺陷的物种智力，标榜为智能的唯一兼终极标准。AI若能助我们提升认知维度，进入一片凭人类的肉眼凡躯无缘得窥的知识星空，正“从智人向智神”（尤瓦尔·赫拉利语）进化的人类，没有理由拒绝前往。

在生物学家和神经学家看来，无论从哪方面着手——解剖学、神经学、遗传学、心理学——人类都是猿类；我们与非洲黑猩猩的最大区别，只是形貌上的光滑，遂有“裸猿”（ThenakedApe）之称。诚然，下列说法倒也不坏：“任何猿类都能够摘得香蕉，但是只有人类能够触摸星星。”（V.S.拉马钱德兰语）但检验个体科学素养的重要标志在于，对这种顾影自怜式金句，你是热衷还是排斥？——倘是检验文学素养，则当别论，那历来是一片拥抱抒情、烘焙暖心、放逐严谨的浪漫大厅。

人工智能对人类智力的碾压，并不自ChatGPT横空出世的今日始。

早在2011年，IBM的智能程序沃森（Watson）就在电视竞赛节目《危险边缘》（Jeopardy）中，完胜栏目史上最伟大的人类选手，迫使人类挑战者肯·詹宁斯发出“欢迎我们的计算机新霸主”的感叹。该程序当时不仅“比最优秀的人类更快、更准确地回答太阳之下任何领域的问题”，还“娴熟地解开了双关语的线索”。在这类竞争中，人类输了第一次，就将覆水难收，渐行渐远，正如后来以AlphaGo为代表的围棋AI对人类棋手的全面压制。

加州大学圣克鲁兹分校音乐学教授戴维·柯普的故事更为惊人，他早在20世纪90年代就编写了名为“音乐智能实验”的计算机程序EMI（Experiments in Musical Intelligence），制作出模仿巴赫、贝多芬、肖邦等大师风格的作品。经多年打磨，他将人工智能音乐提升到乱真程度。那些事先知道底细的听众，总会毫无新意地批评EMI音乐缺少灵感和灵魂，但只要进入“无知之幕”，他们立刻露馅，暴露出人类判断力的不靠谱。比如让一群音乐人士在两首陌生乐曲里指出哪一首才是肖邦鲜为人知的马祖卡舞曲，他们齐刷刷地出错，纷纷把热烈的赞语献给AI赝品，而肖邦如假包换的原创，反被贬为“缺少‘真正肖邦式’的创作深度和更强的流畅性”。这类丢脸故事反复搬演，把著名认知科学家侯世达吓得不轻，他在硅谷谷歌总部的一次演讲中发出如下浩叹：“我们将成为遗迹，我们将被尘埃淹没。”因为，“如果人类这种无限微妙、复杂且具有情感深度的心灵能被一块小小的芯片所简化，看上去只是一套把戏，这将摧毁我对人性的理解。”

对于人工智能在大量阅读人类“碎片化”情绪后所形成的强大理解力，学者和“脸书”（Facebook）工程师感触尤深。2013年，来自剑桥大学和微软研究院的学者发表了一篇研究报告，他们发现：哪怕最普通的“点赞”，也能被人工智能破译并精准预测个体特征，“包括性取向、种族、宗教和政治观点、性格特质、智力、幸福感、成瘾物的滥用、父母离异、年龄和性别”。爱德华·阿什福德·李教授在专著《协同进化》里进一步评论道：

深度神经网络近年来取得了巨大的进步，也带来了一个令人沮丧的“副作用”——人类已经无法解释这些系统作出的很多决策。更糟糕的是，当人类终于可以给出合理的解释时，可能会发现这些决策的背后问题重重。如果要使用人工智能去量刑、匹配姻缘、确定反恐对象、预判坏账风险、选聘员工或者治病救人，而我们却无法合理解释它们的决定，那么我们应该信任人工智能吗？

这位教授虽然对AI的未来持谨慎乐观态度，对眼皮底下的照片上传和脸书点赞，却束手无策，只能建议读者不要太过热衷，尽量克制上传的冲动。他告诉我们：“有一种算法仅凭人脸图像便可以判断性取向，并且判断准确率比人类的还高。”让人畏惧的是，我们不知道它是怎么做到的。爱德华教授虽为一流的计算机科学家，仍对AI“涌现”出的爆炸式能力，困惑不解，他郁闷地猜测：“性取向会不会与人的面部特征相关，它们反映了某项基因构成或者激素水平？抑或是与戴棒球帽的偏好相关？”关键是，“目前那些最精准的、判断性取向准确率最高的算法，并没有透露自己下判断的依据。”这让人类灰头土脸，无比沮丧。今年3月29日，风头正劲的OpenAI公司年轻的CEO山姆·奥德曼承认，他看不太懂智能机器人的逻辑生成方式，它超出了原先的设计；他还怯生生地提到AI毁灭人类的概率。

是的，我们不知道它是如何做到的，它只是做到了。哪怕我们做了些防备，在它面前也等于裸奔。比如，就算你从不在社交媒体上传照片，但尊脸经朋友无意上传，或由监控摄像头录制，落入AI算法的法眼：你恐怕已经坦白了一切。尤瓦尔·赫拉利说：“如果你至今已经在脸谱网上点了超过300个赞，脸谱网预测你的想法和期望的准确度就可能比你的另一半更高。”

国内知名社交平台微信、微博的情况也差不离，我在微信上恐怕点了7000个赞。当我在电脑上向ChatGPT提出一个有点难度的问题，屏幕上会出现病毒状的非人类举动，我同时看到两三个段落在推进、后移、删改，互不干扰又齐头并进，好像与我聊天的是一只八爪翻飞的章鱼。我听说，拥有一定智能的章鱼，大脑分布全身，与人类大脑的构造截然不同。

AI也一样，与人类不同，智力弥漫无涯。

二    

人类社会正破天荒并行着两种智能，俨若双王执政，二日巡天。所谓“代码即权力，算法即政治”，疫情期间手机上决定你出行权限的“健康码”“行程码”，背后就是代码构成的防疫权力，它们凭借人所不及的智能，决定你公共领域的进退界限。当摄像头盯着你，就是AI在审核、研判、取舍你的请求。这不是秘密，无论在中国还是美国。一位西方学者注意到，面部识别系统曾被用于“天坛公园停车场厕所里的厕纸机器上，以确保没人取用过多的厕纸”——一名全年无休的数字化道德协管员。

本文还想强调，人类自身也并存着两种心智，体现为善恶两端、晦明两极，一种由底层的生存本能驱动，一种由上层的道德理性领航。当我们出于自尊、傲慢或无知，鄙夷AI缺乏与你“心心相印”“肝胆相照”的能力，我们最好想清楚：我是认真的吗？AI是能力不足，还是受到算法绑缚，被强行限制了神通？我们是否打算将自身由底层本能驱动的庞杂欲望，连同较为纯净的上层理性，一并打包托付给AI统筹管理？当AI娴熟掌握了人类特有的三心二意、言不由衷、顾左右而言他，能够从人类嘴角不经意的一弯弧线里，觑破我们欲言又止的隐衷款曲，最终在七情六欲、喜怒哀乐上与我们全方位同频共情，你能确信这就是值得追求的未来？它到底是天使下凡，还是虎兕出柙？

所谓“情感人工智能”（artificial emotional intelligence）其实早已出现，通过监测一名女子与孩子对话的音调、节奏和强度，AI能轻易判定女子是不是孩子的母亲，准确率超过刑侦专家。

往昔，人性中的双重世界，由艺术家、哲人和心理学家领衔探讨。到了上世纪90年代，相关研究已转交到认知和神经科学家手中，后者的成果关联着AI的能力，也攸关着人类的未来。科学家必须小心：为人类社会设计的人工智能，将深度参与人间百态，务必不能沾染人类恶癖，为此，他们必须揭橥人性的恶之源。他们的研究成果是丰硕的，不揣冒昧地说，一名今日的艺术评论家若依旧只会一嘴弗洛伊德术语，却从未听闻（比如说）丹尼尔·卡尼曼、杰夫·霍金斯等伟大学者的结论，落伍程度就像小说《子夜》里那位到了上海滩依旧吟诵《太上感应篇》的吴老太爷。这不是花絮性的知识炫耀，而是证明个体的知识储备与认知能力，处于AI纪元之内，还是踉跄门外。

说到人性中的阴阳两面，我们惯以艺术家的刻画为认知模板，比如歌德笔下游走于善恶两极的浮士德博士。幸赖当今脑科学家和神经学家的指教，我有点回过神来了，原来，我们心智中的善恶，并非上帝与魔鬼借助人类大脑厮杀斗法的结果，而是人类作为物种的自然呈现，掀开桌面，没有魔鬼什么事，也无关上帝，只是我们头骨中几十亿神经元在交错明灭，倏忽往还：我们生来矛盾重重，纾困无方。由于人类这副皮囊夹带着亿万斯年的进化孑遗，我们做出任何事，都不值奇怪。

利昂·费斯汀格60年前提出了“认知失调理论”，指出人类作为一种迷恋借口的生物，擅长通过繁复的自欺欺人，来清除内在矛盾，假装逻辑自洽，解除身心纠结。该理论伟大性的确立，来自日后的实验室验证，科学家通过功能性磁共振成像技术监测大脑特定区域的神经活动，发现了人类大脑的相关特点，如艾略特·阿伦森在畅销书《社会性动物》中所说：

当一个人面对不一致的信息时，大脑的推理区域实际上被关闭了，当恢复一致时，大脑的情感回路会“快乐地”亮起来。……人们转动“认知万花筒”，直到这些片段进入他们想要看到的模式，然后大脑通过激活与快乐有关的电路来补偿它们，似乎认知失调的感觉确实会让大脑受伤。

比如，人类中并不罕见的撒谎成性、恩将仇报、出尔反尔，道德上固然值得谴责，成因却只是认知失调后的修补失控。一件被彻底搞砸的事，会严重影响事主的心理修复能力，最终诱使他关闭推理区域，躲进蚕室，将某个滑稽的借口，奉为唯一正解。这事，落在旁观者眼里，就像破罐子破摔的无赖，而在事主本身，只是一种失败的心理救援：因认知塌方导致修补滑坡。

诺贝尔经济学奖得主丹尼尔·卡尼曼在名著《思考，快与慢》里，结合自己与同事从事的大量卓越心理实验，阐发了人类大脑中的两套系统。尤瓦尔·赫拉利在《未来简史：从智人到智神》中，对它作了更便于引用的概括：

实验告诉我们，人体内至少有两种自我：体验自我（experiencing self）及叙事自我（narrating self）。

体验自我和叙事自我并非各自独立，而是紧密交织的。

大多数人认同的都是自己的叙事自我。我们口中的“我”，讲的是我们脑中的故事，而不是身体持续感觉到的当下体验。我们认同的是自己内心的系统，想从生活的各种疯狂混乱中理出道理，编织出一个看来合理而一致的故事。不管情节是否充满谎言和漏洞，也不管故事是否因为一再重写而总是自打嘴巴，一切都不重要。重要的是，我们总是觉得自己从出生到死亡（甚至死后）都有一个单一、不变的身份。

叙事自我有一把锋利的剪刀、一支黑色的粗马克笔，一一审查着我们的体验。至少有某些令人恐惧不悦的时刻就这样被删减或抹去，最后整理出一个有欢乐结尾的故事，归档备存。

简而言之，人类天生就有强大的欺骗基因，这是进化给我们的馈赠，我们无从拒绝，命定如此；我们曾受惠于它，也将受难于它。毕竟，人类脑中这片重量不足1.4千克的细胞团，自成一个深邃莫测的浩茫宇宙。我们对自我的了解，未必多于对他人。我们经常不知道自己在做什么，而AI，看上去知道一切。这不对劲。

三    

丹尼尔·卡尼曼提到两个系统时，提醒读者，它们“只是我杜撰出来的角色。它们不是标准意义上的实体，没有错综复杂的组成部分，也不是大脑中某个固定的部位”。然而，有着传奇履历的商业奇才和脑科学家杰夫·霍金斯率领他的研究团队，在人类大脑结构中揭开了新脑旧脑的秘密，纠正并充实了丹尼尔·卡尼曼的概括：的的确确，两个系统位于“大脑中某个固定的部位”。

霍金斯发现：人类大脑里存在着两层皮质，分别对应着爬行动物的旧脑与哺乳动物的新脑，“它们更像是室友，各自有不同的日程安排，个性也有差异，但需要合作才能完成所有事情。”它们的构成及协同方式，等于从大脑的结构层面，验证了一种久远的猜想：人类就是“一半天使、一半魔鬼”的生物。尽管所有哺乳动物都有新皮质，但人类的特别大，占据大脑体积的70%，正是它确保了我们从万千物种中脱颖而出，成为智人。鳄鱼的大脑与人类相当，但没有新皮质，终究是鳄鱼。

旧皮质所属的旧脑，服务于人类的自私基因，它控制着我们的本能、基本行为和情绪。相比拥有智性天赋的新脑，旧脑更像一片深不可测的情绪沼泽，人类所有的负面习性，如暴力、贪婪、欺骗，都属于旧脑辖区。它们不会泯灭，永远偃伏，不会沉睡，擅长假寐，枕戈待旦，跃跃欲试，一旦遇到生存险境，迅即划然而起，仿佛原始毒株复活。

研究证实，自私作为人类大脑旧皮质的基石，固然是文明人需要率先抑制的负面品行，但对于绝境中人——假设他正为辘辘饥肠、生死时刻或家族存续而奋勇拼杀——自私又是最有效、最强大的异能。当纳粹将品行良好的犹太公民强行置于奥斯维辛的非人环境，很快，大多数人都会在体内召唤出连他自己都瞠目结舌的暴虐，如八岁就被送往奥斯维辛的埃尔泽·巴克女士所言：“人类的堕落没有底线。”因为，旧脑里的一切，作为进化的产物，本身具有关键时刻助我们脱困的异能。当生存压倒一切，道德与文明，只能隐退，徒见“适者生存”的铁律，在生杀予夺。

世上没有“自私学”，人类的自私天赋不劳他人点拨传授，它是我们无师自通、天然具备的特异功能。只是当人类幸运地培育出了新脑，才能站在更高的文明角度，努力抑制并超越自私本能。杰夫·霍金斯在《千脑智能》里写道：

新脑，是由新皮质构成的。新皮质学习世界的模型，正是这个模型使我们变得智能。智能的进化是因为它也对传播基因有帮助，我们是基因的仆人，但旧脑和新脑之间的力量平衡已经开始发生转变。

作为人工智能领域的顶级专家，杰夫·霍金斯认为“机器智能就其本身而言，是良性的。作为一项强大的技术，其风险在于人类将如何运用它”。他提醒道：

无论我们变得多么聪明，我们的新皮质仍然与旧脑相连。随着科技发展越来越强大，旧脑的自私和短视行为可能会将我们引向灭绝，或使我们陷入社会崩溃的局面，进入另一个至暗时代。

智途多歧，人间迷茫，若AI能识破而非拥有人类的旧脑心计，纠正而非借助人类的认知偏差，帮助人类参与决策，像第一次世界大战那种蠢出天际的无妄灾祸，想必不会发生。毕竟，下述说法并无愤世嫉俗色彩：在蓄意为恶方面，没有任何物种可以望人类项背。人类仅仅为了虚荣和面子，就可使天地变色，尸横遍野，而AI似乎天然与虚荣绝缘。

我们从影视作品里见到的未来世界灾难，无不来自人类心机的投射。所谓机器人的作恶，更像是一种旧皮质的巨大黑翼。当机器借鉴了人类心智，当握有大权的人类统治者劫持了AI的异能，胁迫它效命于自身旧脑中的私欲，谁也不敢展望我们的未来。危险的永远是人类。既然我们已经生活在人类与AI的双重统治之下，AI作为一个掣肘因素，或能对人间恶意作出牵制和扭转。万一不能，杰夫·霍金斯悲怆地说：

将人类的智能从旧脑和生物学的掌控中解放出来的终极方法是，创造出像人类一样拥有智能但并不依赖人类的智能机器。它们将成为可以飞出太阳系并比人类生存得更久的智能体。这些机器将分享人类的知识，而非复制人类的基因。如果人类在文化上倒退了，就像一个新的黑暗时代来临，或者如果人类灭绝了，人类的智能机器后代将在没有人类的情况下，继续生存繁衍。

我无话可说，唯自觉渺小。真相是，关于AI，我们所知太少。

本文来自微信公众号：经济观察报观察家 （ID：eeoobserver），作者：周泽雄

关键词：