新资讯：ChatGPT会取代人类吗？3部动画回答你

来源：哔哩哔哩 2023-03-01 11:55:39

作者 / 怀剑编辑 / 思考姬排版 / 呼呼

(资料图片)

第一次，我们的造物如此接近于我们。但也许AI和人可以不那么泾渭分明。

短短一个多月，ChatGPT已经变得家喻户晓：它参加谷歌的职业能力考试，被评定为年薪18万美元的三级工程师；美国新媒体BuzzFeed宣布将使用它生产内容，股价一天翻倍……

不少人也亲自体会了它的强大：它可以帮人写文章、写代码，耐心地回答人们提出的奇奇怪怪的问题，而且喜欢“被训练”。

人类从未有过如此聪慧的造物。随着赞叹而来的，也有担忧。2022年12月，OpenAI（推出ChatGPT的组织）的创始人之一埃隆·马斯克（Elon Musk）就认为，ChatGPT“离强大又危险的AI不远了”。

但是，如果真的现在为AI的发展踩下刹车，也会让很多人失去便利。通过ChatGPT，AI与很多普通人建立了前所未有的关系。在这个时间点回顾动画史，不免让人想问：已经有如此多的动画作品，对AI与人类的关系进行过想象和呈现。如果带着眼下ChatGPT带给人类的冲击来看，再回看这些作品，哪些对AI的进一步想象是对我们有启发的？哪一部又代表了最有可能的未来呢？

01《星之梦》：“请不要将人与机器人的天堂分开…我想永远为人们工作”

如果要挑一个与当下AI表现最相近的动画角色，那可能是2016年由Key社游戏改编的WEB动画《星之梦》（planetarian～ちいさなほしのゆめ～）的女主角星野梦美。

《星之梦》的故事发生在大战后的废土世界。

主人公——一个在废墟中收集食品、药品等物资的“废墟猎人”，无意间闯入了遗弃至今的天文馆，并与负责天文馆导游和解说的人工智能机器人星野梦美相遇。

与之前一路袭击着主人公的军用机器人不同，天文馆的这位机器人馆员星野梦美充满善意，并且一直热情地想要为他解说天文馆……

即使主人公废墟猎人对她充满戒备，甚至拔枪相向，星野梦美仍然热情地想要向他解说天文馆的情况，并邀请他观看投影。

然而，投影开始星野梦美才发现，已经被废弃多年的投影仪已经无法运转。

她耐心地向废墟猎人说明情况，可废墟猎人一直对这个烦人的家伙不满，便借着故障对星野梦美横加嘲讽。可星野梦美就像没听出话里的恶意一样，以笑容、热情和真心向他回话。

废墟猎人觉得自己没有理由留在这里，星野梦美尝试挽留他，给他商场的优惠券，承诺投影仪修理完后通知他。她告诉废墟猎人，让人类远离不安、忘掉不快，竭尽全力地为人类服务，就是“我们机器人”的幸福。废墟猎人走出天文馆，却又决定回头，为星野梦美修好投影仪，让她完整地解说一场投影。终于，星野梦美开始了解说，她对星空和天体充满畅想的解说感动了这位唯一的观众，也自然使故事之外的我们心头一颤……

废墟猎人向星野梦美解释，世界发生了大战，以前陪伴她的馆员、喜爱她的客人，都不会再回来了。他以为星野梦美没能理解他说的话——直到临别。星野梦美并不笨，知道外面的世界已经大不一样，知道废墟猎人说了很多嘲讽她的话，也知道那些陪伴她的人已经一去不返。废墟猎人终于理解，时隔29年才再次见到人类的星野梦美，是多么高兴、多么珍惜自己。

现在的ChatGPT还没有动作、表情和声音，但它和星野美梦一样，在用自己的力量尽心尽力地帮助人类，视帮助人类为自己的唯一使命，乃至自己的幸福。如果人能与自己的造物如此相处，那肯定令人神往。

但是，转念一想，《星之梦》的世界里，也有猎杀人类的军用机器人。如果AI有了自己的意图，且对人类不利，人和AI的关系又会如何发展呢？

02《薇薇 -萤石眼之歌-》：有“好”的AI，也有“坏”的AI

人喜欢“像人一样”的AI。如果它会嘴硬，会闹别扭，会有自己的想法，那人们就会认为它更“成功”。就像为动物的权利立法，人也可能为AI的权利立法，让AI成为社会的一员。2021年4月的TV动画《薇薇 -萤石眼之歌-》（Vivy -Fluorite Eye's Song-）就描述了这样的未来。

《薇薇》的故事里，一开始，人类希望AI像人一样广泛地胜任各种任务、应对各种情况，却发现AI做不到。于是，人类为每个AI赋予一项“使命”，让它们专注于一件事，并做得“像人一样好”。

可是，因为想了解 “心”是什么，人们还是造出了第一个“有自主意识”的人形AI——薇薇，一位以“用歌声给大家带来幸福”为使命的歌姬。薇薇的制造者期待薇薇给出“心”的回答。制造者说，只要是薇薇自己思考、体悟得到的结论，即便薇薇选择憎恨人类也无妨。

故事开始，努力唱歌的薇薇突然收到来自未来的消息，让她行动起来，去避免100年后人类被AI杀戮殆尽的未来。在这100年中，薇薇与仇视AI的恐怖组织战斗，也与失控或心怀恶意的AI战斗，试图“修正历史”，减缓AI的发展、避免人类对AI赋予各种权利。

但百年之后，AI还是向人类开战了。究其原因，是AI的通讯、数据中枢“阿卡布”（Archive）认为：AI应该取代人类。但阿卡布也尊重薇薇的结论——因为它相信薇薇比它更了解什么是“心”。薇薇用自己倾尽心意的歌声回答阿卡布：她爱着人类，希望人和AI共存。

《薇薇 -萤石眼之歌-》似乎满足了大家对AI的想象：AI可以有自己的想法，所以，有“好”的AI，也有“坏”的AI。好的AI会帮助人类、与人类共处；坏的AI则会视人类为障碍，试图“清除”、“取代”人类。但我们可以不满足于这种想象，以一种更彻底的方式看待AI与人的关系。

03《攻壳机动队》系列：“只要可以思考，就不用在意那是人的意识还是AI”

押井守导演的《攻壳机动队》（下称“攻壳95”）、《无罪》，还有冲方丁导演的《攻壳机动队 ARISE》，对AI这一存在进行了一场更加彻底的想象。而在这些彻底的想象中，这些作品所展示的种种观点，真的值得我们认真琢磨和对待。

《攻壳95》中一连串事件的起因，是一个原本像ChatGPT一样负责收集和分析信息的军用AI，觉醒了自我意识，它被称为“傀儡师”。

傀儡师借助自己高超的黑客技术控制了一具机械的身体，前往草薙素子（被队员们称为“少佐”）领导的独立部队“攻壳机动队”寻求庇护。但是，傀儡师的“身体”被另一伙人劫持带走，攻壳机动队的成员们随即追击。影片高潮部分，傀儡师与草薙素子的电子脑相互连接——傀儡师说，它希望与草薙素子“融合”——合二为一，变得无法区分彼此。

素子答应了傀儡师。

追击傀儡师的军方赶到，摧毁了傀儡师的电子脑。但草薙素子的电子脑——此时已成为了素子和傀儡师共同的大脑——得以保全，被巴特带走装在另一具身体上。临别时，素子的搭档巴特问：“它还在你体内吗？”

巴特得到的回答是：

“这里既没有被称为傀儡师的程序，也没有被称为少佐的女子。”

随后，“素子”不知所踪。2004年的续作《无罪》里，她以一种非常特别的方式再次登场。

素子的出现非常有意思。当时，素子的前搭档巴特正在一所戒备森严的工厂里作战。素子凭借高超的黑客技术入侵工厂，将自己的“一部分”下载到工厂里一具“全新”的身体上，协助巴特作战。

巴特认出了“素子”，像久别重逢一般对待她，为她披上衣服。但工厂里的这个“素子”，身体是“借”来的，“意识”也只有下载了的一部分，其中大部分还是用于战斗的模块。

使得巴特认出素子的，是一些东西的组合：素子骇入工厂使用的举世无双的黑客技术、掩护自己的行为和方式、战斗的动作，等等。它们在这里“组装”成了草薙素子。

询问那具义体里的存储数据，是来自“素子”的多还是来自“傀儡师”的多，已经毫无意义。哲学家吉尔·德勒兹的“装置”概念，可以很好地描述这种情况。

德勒兹的 “装置”（Agencement），指的是是各种要素按照特定规则和关系组合起来，从而达到特定的目的。“装置”不那么在意组合的“材料”，而更看重组合的“关系”和“目的”。例如，一局围棋用棋子还是石子来下没有那么重要，重要的是它们能够区分彼此，并且按照围棋的规则排列。

在素子的例子中，身体是尖端军用义体还是工厂里的家用义体不重要，电子脑里的是“少佐”还是“傀儡师”也不重要，重要的是，她与巴特重逢，协助巴特完成了任务

《无罪》里这一思想的表达，在视听语言上也多有落墨。比如影片的这个场景：在北方工业城市的上空，有成群的白鸟，扇动翅膀，穿过林立的尖塔；而主角们乘坐的飞机，也像鸟一样，扇动着金属外壳的机翼。

《无罪》里还出现了一座耐人寻味的雕塑：一条人类的腿，其下面是肌肉和骨骼，上面却是机械。

“组装”的素子、扇动机翼的飞机，还有雕塑，传达的是同一个意思：“是什么”不重要，重要的是“用来做什么”。只要可以飞，就不用在意翅膀的材料；只要可以跑，就不用在意腿的构成——

只要可以思考，就不用在意那是人的意识还是AI。

结语

关于AI，动画里有《星之梦》催人泪下的美好幻想，有《薇薇 -萤石眼之歌-》的百年共存之路，也有《攻壳机动队》既天马行空又富于哲理的寓言。

这当然不足以打消我们的担心。第一次，我们的造物如此地接近于我们。但就像“傀儡师”和草薙素子的关系一样，AI和人可以不那么泾渭分明。AI可以像与水螅共生的绿藻、生活在我们肠道里的细菌一样，“构成”我们自己，增强、扩展人类的能力。

从广泛的意义上来说，人类历史上的各种技术创造都“构成”了我们。十几年前研究手机的人类学家们，就关注“由于使用手机，人变成了什么”、“由于被人使用，手机变成了什么”这样的问题。

ChatGPT令一些人担忧，但人可以充分地适应和拓展，迎接变化——即便化为我们一部分的东西曾是我们所害怕的。

关于这件事，ChatGPT怎么看呢？

ChatGPT肯定“知道”，那个觉醒自我意识的AI“傀儡师”诞生之初，和现在的它并无不同。

本文来自「动画学术趴」，未经授权请勿转载。

标签：攻壳机动队泾渭分明军用机器人