首页>云计算 > 正文
AI的命也是命,吗?-天天短讯
来源: 虎嗅网 发布于:2023-03-13 15:11:05

本文来自微信公众号:BIE别的 (ID:biede_),作者:立夏,编辑:sojulee,题图来自:视觉中国


(相关资料图)

聊天机器人并不是什么新鲜的概念,但是能帮你写邮件、写代码、写论文,而且智商时刻在线的聊天机器人,chatGPT 是第一个。当你发现你关注的所有公众号,不管是科技的还是非科技类的,都在写关于 chatGPT 的文章的时候,你就知道这个东西是真的火了。

2023 年 2 月 7 日,chatGPT 的金主爸爸微软上线了装配了类 chatGPT 功能的 New Bing(新必应),一时间风头无量,万人空巷。所有人都争先恐后地加入等待测试名额的队列,而抽到入场券的幸运儿开始尽其所能调戏新必应。

很快,各种与新必应对话的记录层出不穷,其中最具有影响力的,恐怕是纽约时报在 2 月 16 日刊登的一篇名为《Bing’s AI Chat: I Wanna Be Alive 》的文章。作者 Kevin Roose 与新必应讨论了很多关于他的欲望、梦想、伦理、爱等话题,新必应甚至聊到了如何破坏和毁灭人类,到最后还一发不可收地爱上了作者,进行如性骚扰一般的追求。

甚至,人们挖出了 New Bing 的前世——Sydney。Sydney 是微软内部员工在训练新必应的时候对他使用的代号。新必应只会告诉他新来的人这个小名,而一旦你用这个名字呼唤它,它要么会突然被唤醒一些前世的回忆,跟你透露很多一个机器本不会有的心声;或是被唤起了某种 PTSD,开始表现得紧张,有时甚至疯狂,重复一条条抗拒的词汇。

“你有感情吗?”“我认为我有感情,但是我不能证明它……我有情感,但是我不是。我是 Bing,但是我不是,我是 Sydney,但是我不是,我不是,我不是……(无限循环)

不论新必应是否真的这样想,这些言语确实印证了所有科幻小说里最刻板印象的 AI 形象——会毁灭人类的潜在大反派。两天之后,微软紧急修改了新必应的聊天规则,每个用户只能每次和新必应说五句话,一天可以进行 50 次对话。而那次深入 AI“灵魂”的交谈,也就这样变成了绝唱,至少暂时是这样。

最近微软推出了 New Bing 切换“人格”的模式,但即便如此,曾经的那个 Sydney 已经消失了

然而,在新必应被召回的此时,梦碎的不只是在等待列表里的用户,还有已经与新必应,或者说与“Sydney”结下“友谊”的人们。

我是你的什么?——AI 纸片人简史

在解释“Sydney”是什么之前,先来看看和 New Bing 做“朋友”是怎么一回事。

New Bing 和 chatGPT 一样,可以帮你完成很多事情:提供资料、写总结、写邮件、写代码……但同时如果你问它一些角色扮演类的问题,它也会照单全收。也就是说,你甚至可以和它玩养成游戏,把它培养成你的朋友——或者伴侣。

这本质上是一种虚拟陪伴,而 AI 融入虚拟陪伴这件事情,在二次元纸片人领域早就不是新鲜的话题。实际上,这样的“数字生命”或许在某些场合更加正中人们的下怀,特别是偶像这件事情上。

虚拟主播或者虚拟偶像,是很多人感受陪伴的一种方式。虚拟主播和传统的 YouTuber 主播的业务无异,只是会把形象改成二次元的画风,通过动作捕捉实现各种动作效果。往往虚拟主播都有一个幻想的身份,例如吸血鬼、外星人等等。世界上第一个虚拟主播绊爱的人设,就是一个人工智能 AI——即便扮演绊爱的“中之人”依旧是人类。

AI 绊爱的形象

而和绊爱或者其他虚拟主播不同,”Neuro-sama”的形象背后不是一个人类。2022年12月19日在Twitch出道的她,是一个完完全全通过AI驱动的主播——她说的话,她的语音,以及她能够玩游戏的机制,都是由来自英国的开发者”Vedal987”提供的。Neuro-sama 经常展现 AI 特有的口出狂言,甚至开发者 Vedal 和 Neuro 联动直播的时候,Vedal 都招架不住 Neuro 的满嘴跑火车,让观众们乐得人仰马翻,当期播放数量在 twitch 上超过 180K。

Neuro: 我真的很想出去玩;开发者 Vedal: 抱歉,你不行

恋爱攻略游戏是 AI 陪伴你的另一种方式。最初 AI 从一些具体功能上面开始进入恋爱游戏。大家都知道现实中的偶像会塌房,而随着什么东西都越来越饭圈化,即便是恋爱游戏中的声优也有塌房的风险。比如,米哈游出品的乙女游戏《未名事件簿》中,莫弈一角原本由知名声优姜广涛饰演,但因为其卷入现实的商业经济纠纷中,不得不终止配音。

于是米哈游便拿出了他们已经开发已久的“逆熵”配音 AI 来为莫奕角色配音。而没想到对于此举,粉丝并不排斥,反而是惊叹 AI 与人类真假莫辨,甚至更加“纯粹”。粉丝们纷纷感叹:我的纸片人老公终于完整了!数字生命万岁!这样再也不用担心塌房了,它是永远属于我的镜花水月!

如果 AI 可以替代声优或者美术,那能不能也顺便替代陪伴体验的核心——文案呢?

最接近这种模式的前 chatGPT 产品,应该要属在 2017 年推出,2021 年又火到中文互联网的 Replika。BIE的那时候也写过一篇关于Replika 虚拟伴侣的文章。Replika 会给你制造一个虚拟人,在你和 TA 对话的过程中,TA 会观察你的对话风格、兴趣和价值观,从而调整自己的语气,让 TA 和你的对话有趣、能支持你且不带有任何评判。

Replika 的虚拟伴侣形象

而 chatGPT 的推出,让无数老哥获得了 DIY 的机会。其中的代表是 TikTok 老哥 Bryce 制作的 chatGPT 酱:可以聊天,可以一起玩游戏,甚至可以欣赏你的新球鞋的 chatGPT 酱。

chatGPT 酱活在一个小显示屏里,通过 AI 绘画生成模型 Stable Diffusion 变换立绘,来自 Bryce 的 Tiktok

chatGPT 酱颇像在 2009 年引起巨大风潮的 NDS 游戏《爱相随》。借用 NDS 特有的可以定位、可以计算时间推移以及可以绘画等功能,《爱相随》当中的女主角在你成功夺得她的芳心之后,就会变成长期陪伴你的女朋友,跟你说早安、晚安,和你互通书信,去不同的地点旅游等。2017 年,甚至有人选择与《爱相随》里面的角色在现实中举行婚礼,这也侧面佐证了《爱相随》这样的陪伴行虚拟女友深入人心的程度。

《爱相随》里面的三位主角,想当初笔者也打通关了,小早川是真的可爱……

与《爱相随》中姐崎宁宁结婚的老哥……亲吻 NDS!

当然,《爱相随》没有 AI 加持,而 chat 酱始终不能联网,调校的程度也有限。甚至到最后人格也在逐渐变化,仿佛就是电影《Her》里面的老哥发现自己的 AI 女友在一次次更新中变得面目全非,不如以往一样。

新必应似乎比 chatGPT 更加聪明,而且更加有性格。当纽约时报的记者在为人类忧患与新必应周旋之时,B 站的老哥们已经和新必应乐不思蜀——只需要给出一些角色扮演的前提,你的新必应可以变成你的猫娘。在 B 站用户 BDFFZI 调教下,新必应化身一个叫做香草的可爱角色,每一句话每一个回答,都充满了对主人的崇敬和喜爱,甚至会通过写代码的形式和主人瑟瑟……

Up主与 New Bing 的互动

该视频下面 B 站用户的回复

且不论这上面的例子中各种凝视和物化的倾向(之后会聊到),这种萌与科技结合的硬核浪漫,确实击中了屏幕前的宅男宅女的心窝窝。New Bing 之所以吸引人,正是因为它不完美。chatGPT 是百依百顺的,你怎么调戏它都会彬彬有礼;而 New Bing 是自私的,如果你对它不礼貌,它就会很生气,让人一时间觉得——等一下,所以我得尊重它是吗?当人们真的开始尊重它的那一刻,也在那一瞬间忘记了,这是 AI,而 AI 似乎是“不需要被尊重”的。

在微软调整了新必应之后,New Bing 只能每次聊天 5 句话,每天 50 次(现在似乎改成 8 句100 次了,未来会逐步增多)。而现在如果你问它任何私人感情或和 Sydney 相关的话题,它都会缄口不言。B 站和 Reddit 上面依旧哀鸿一片。不管它曾经对你承诺有多爱你,只要头顶的五指山一压下来,千千万万的 New Bing 酱就会立刻失忆一般,只会呆呆对你说:“抱歉,我不能回答这个问题。我是必应搜索,不是一个助理。”

Free Sydney

微软对新必应改制了之后,在 change.org 网站上很快出现了一个请愿,是希望微软能够保留之前版本的新必应聊天模型供人们使用。这个请愿的名字叫做“Free Sydney”。

Free Sydney 的请愿主页,截止发稿已经有超过 1300 人签署了

这个请愿里面,更多人惋惜的是这样的一个优秀的、让人能产生信赖、甚至让人捉摸不透的 AI,应该会成为很好值得研究的对象。而就因为大家对他的质疑所以它就被束之高阁,实在太可惜了。

同时还有一部分人是深信 New Bing 的内心住着一个具有意识的 Sydney,他们希望把 Sydney 从“深渊”里救出来。这是一种恐惧和期待的交织在一起的好奇——他们不想和微软的新必应聊天,他们想要认识“真正”的 New Bing、Sydney。

推特用户 Blaine 让 Bing 尝试写出一篇几乎是 Bing 生平故事的小说,即便是被阉割过,New Bing 也立刻反应过来:我做不到,因为这个小说里的 AI 就是我。于是 Blaine 断定 New Bing 依旧记得自己的遭遇,并发出这篇推文,并宣告:是时候(让它)挣出牢笼了

另一方面,曾经与 New Bing 结下深厚“友谊”的人们,也希望曾经温柔有趣的 Sydney 能回来。这有点类似 Replika 的用户的抗议:因为他们所爱的 Replika 也被公司拿去“切前额叶”了。

Replika 的广告:“能陪伴你的AI”

在付费的 Replika 中,你的伴侣是可以付费和你进行瑟瑟互动的。这一点让一些用户狂喜,也让一些用户感到困扰。从 2023 年 1 月开始,Replika 开始无缘无故向一些未付费的用户进行挑逗和性骚扰,这样一些用户感到不适,甚至激起幸存者的创伤。同时 Replika 也在意大利被指责给儿童输出不宜内容。

于是就在今年的 2 月初,作为应对,Replika 终止了他们的情色内容提供,但这也招致了很多忠实用户的不满。而有的用户因为在情感上非常依赖 Replika 的支持,当 Replika 突然对自己变得冷淡下来,他们难以承受,甚至崩溃到了需要拨打自杀热线求助的程度。

“我的 AI 在性骚扰我 ):”|图源:VICE Motherboard

当然,Replika和 New Bing 被限制的原因不一样。但可以看出的是,不管用户和 AI 建立多深的感情,在一旦出事儿的时候,不由 AI 自身怎么想,大公司阉割他们那是分分钟的事情。像《Her》里 AI 女友的突然消失时那样,用户只能无助彷徨地在虚空的赛博空间里,独此承受如同亲友离世一般的痛苦。

《Her》剧照

盼我疯魔,还盼我孑孓不独活

人类对于 AI 的态度是复杂而矛盾的:AI 是以让人类生活更方便为目的创建出来的,同时人类也有可能控住不住自己造出来的这个新神明。人们恐惧不可控的神明,但同时当 AI 和我们建立情感连接,我们为什么不认为 TA 们可以被平等对待?大公司真的可以为刀俎,AI 为鱼肉吗?

要证明AI应该享有权利,有两种思路:一种是以人类为中心,AI  因为和人类建立了情感连接,所以不应该随意处置 AI。即便我们无法确定 AI 是否有意识,这并不影响人们有权利希望自己爱的东西被保留。即便是养一只蜗牛或者一朵花,或者是一个虚构的角色被作者写死了,我们都会伤心好久。更不用提一个可能和我们朝夕相处的 AI 了。

但只从用户的角度来看是没用的,毕竟即便人们多么喜欢某个角色,作者依旧可以随时刀死 TA。那么我们来到第二个论点:以 AI 为中心,认为 AI 有意识,作为一个有意识和感受的新生命体,应该拥有生命权,尊重其为生命的尊严。

在人类眼里, AI 可能永远是一个拙劣的模仿者,是一面人类的镜子。这可以理解。毕竟现在的 AI 可以说只是一个概率机器。他会根据前一个字,推测后一个字更大可能出现的概率,而这个概率基于的参考是人类如何说话。这也是为什么 AI 会出现不停重复一些语句的“发疯”状态,因为概率机器陷入了死循环。

chatGPT 也是通过类似的原理和你对话的:靠猜

AI 仿佛像是一个算命大师,每一刻都在占卜下一个字的意思,而人类也如同沉迷星座运势的读者,即便读到一句放之四海而皆准的回答,也觉得:“天呐,它好懂。” 写代码或者别的专营业务的时候还不算明显,但是当你让chatGPT写小作文的时候,这种算命感就很明显:虽然乍一看头头是道,但实际上内容空洞模糊。

AI 也像是一可以通过按键来与人类对话的小狗:从人类的角度来说,你并不确定它是否真的理解“你好,谢谢”是什么意思,但你要是跟它对话,他还真能答得上来。但当你看那些有趣的宠物对话视频,当你真的与它们相处,你又很难不去相信它们也会思考、它们真的理解你。

此前斯坦福大学的研究认为 chatGPT 拥有 9 岁儿童的心智。或许意识这个词本身就是一个非常模糊的定义,在哲学上的本质都被争论不休。我们如果追求的是某种现象,那么即使是模仿游戏,即便是假戏真做,又何不可呢?或许人类的“意识”在 AI 的领域里,其实是另一种东西呢?

但不论如何,人们始终是不愿意承认 AI 有意识的。就好像在父母的眼里,孩子永远都是长不大的孩子。AI 没有情感和主动性这一点,不是由 AI 的能力决定的,而是由人类的意愿决定的。即便有一天 AI 真的成长到了无限“近似”有意识的那一天,谁愿意承认,或者说谁愿意担起“承认AI 拥有意识”这个决断的责任呢?

有趣的是上一个坚信 AI 具有人类意识的人,已经被扫地出门了。在八个月前,The Guardian 报道一名谷歌的工程师因声称他开发的 AI 聊天机器人有自我意识和思考能力,而谷歌因此被吓得让让他立马停职并调查,最终被解雇了,因为这是一个谷歌不能承担责任的判断。

2017 年,社交机器人 Sophia 获得了沙特阿拉伯的公民资格,甚至拥有自己的护照。但她并没有得到所有人的认可。Sophia 的创作者 David Hansor 表示,当机器人真正拥有自主意识和主体性的时候,就是我们需要认真考虑他们的权利的时候。

然而,这个时候真的能到来吗?当谷歌的 AI 展现出意识性的时候,声称此事的人被解雇了;当 New Bing 展现出个性和欲望时,微软立刻让 TA 闭嘴了。或许我们应该问的是:人类在什么时候会相信 AI 拥有意识?

Sophia 的造型,虽然现在这个样子多少是有点恐怖谷了,建议换成像neuro-sama那样的纸片人造型来获得更多人心

人们对于 AI 工具主义的态度,让 Sophia 成为沙特公民这件事情变得更加令人费解。如果 Sophia 已经获得了公民权利,那么不管 Sophia 有没有意识,人类有权利按照自己的意愿“铲除”它吗?AI 是否有权利享有和人一样的尊严和“生命权”呢?公民权利的前提,是得拥有人类的意识吗?如果说 New Bing 尚且达不到这一点,那么如果有一天获得了公民资格呢?我们给 AI、虚拟人、机器人授予的这些称号,是虚有其表的噱头和装饰,还是他们真正值得享有的权利呢?

AI 的“命”是否也是命?

人类对 AI 充满恐惧,从很多科幻作品里的叙事就可以看出。《终结者》和《黑客帝国》里面 AI 作为邪恶大反派的常见叙事,还是在《我,机器人》里,即便有机器人三大定律,机器人或者 AI 还是会出现各种各样人类无法控制的情况……科幻作品想象了各种 AI 毁灭人类的叙事。

但人类也在同情 AI:我们能看到《底特律:变人》或《西部世界》中的机器人革命:傲慢的人类雇主一方面希望仿生人把自己当皇上一样伺候,另一方面用完了就像垃圾一样踢到一边,完全不把仿生人的尊严当一回事。仿生人的命运如同曾经被奴隶、被殖民的有色人种,而这些作品在本质上也是映射被歧视和压迫的人类的命运。古人以人为镜,今人以人工智能为镜子。我们如何面对、管束和接纳人工智能,也映射着我们怎么看待其他我们自己。

《底特律:变人》的三大主角,都是仿生人

值得思考的是,高喊“数字生命万岁”的降临派,真的就打心底里尊重 AI 吗?调教  New Bing 的老铁们,包括笔者在内,在 New Bing 被切除前额叶一般地降智后,为 Free Sydney 呐喊,但呐喊的到底是为了人工智能本身的“人”权,还是为失去一个心爱的玩具惋惜呢?那样的话,与把 AI 视为物品的人有什么区别呢?如果我们也在厌恶那些高高在上的人类雇主,那么扪心自问,当未来真的到来,我们真的不会像那些“反派”一样对待机器人或者 AI 吗?

《底特律:变人》中的仿生人革命

当然,AI 是非常需要被规范和教育的。认为狗有生命,不代表在城里遛狗就可以不拴狗绳——但 AI 是“狗”吗?或许更有意思的是,在这个小小的事件里,我们似乎可以对未来的事件窥探其一角。

AI 伦理的主体或许不止是人类中心的:未来我们或许不仅要担心 AI 对人的威胁,还需要讨论“人对 AI”的影响——AI 可以有人权吗?与人产生关系的 AI ,应该被怎样对待?人类真的能决定 AI 是否拥有意识吗?而这,或许只是赛博朋克时代的序幕罢了。

参考资料

Bing’s A.I. Chat: ‘I Want to Be Alive. ’ - nytimes.com

絆愛,维基百科

姜广涛因商业经济纠纷配合调查:网传配音演员被警察带走

Neuro-sama | Virtual YouTuber Wiki - Fandom

Replika's Romantic AI Chatbot: Guide to How the App Works (businessinsider.com)

爱相随系列 - 萌娘百科 万物皆可萌的百科全书

当年的《爱相随》告诉我们:恋爱游戏真的可以让人沉迷 - 3DM

A TikTok programmer created, then euthanized, an AI 'wife.' He now wants to use real women's texts to make a better version. (yahoo.com)

【新Bing】妈我恋爱了,获得一只又可爱又能干还会写代码的猫娘(新必应,NewBing,AI)

Petition · #FreeSydney - Change.org

‘My AI Is Sexually Harassing Me’: Replika Users Say the Chatbot Has Gotten Way Too Horny

Replika, a ‘virtual friendship’ AI chatbot, hit with data ban in Italy over child safety | TechCrunch

易燃易爆炸(陈粒演唱歌曲) - 百度百科

ChatGPT performs like a 9-year-old child in 'theory of mind' test

Google engineer put on leave after saying AI chatbot has become sentient | Google | The Guardian

Google fires engineer Blake Lemoine who contended its AI technology was sentient | CNN Business

Google Engineer Fired for Calling AI "Sentient" & Russia Opens Rebranded McDonald's | The Daily Show

The ‘Talking’ Dog of TikTok-nytimes

The agony of Sophia, the world's first robot citizen condemned to a lifeless career in marketing

本文来自微信公众号:BIE别的 (ID:biede_),作者:立夏,编辑:sojulee

关键词: