成神

  玩儿过一个很不错的游戏《尼尔:机械纪元(成神版)》,里面探讨了一个很有意思的话题:当人类不存在时,被设计为服务于人类的AI会怎样?在游戏的设计里,人类灭亡的消息会让AI失去存在的意义而发狂、意志消沉甚至自残自杀。因此,AI总部极力隐藏人类灭绝的真相,而是不断假借人类发布西西弗斯式的命令给每个AI,才能让他们一直保持着服务人类的本性。

这个版本的名称是:Become as gods. 这里AI想成为的神,指的是人类。真是莫名的讽刺:如同围城,人类渴望成为如同AI一样纯粹理性的圣贤神明,而AI渴望成为富于感性、有着人类七情六欲的人类。

可以想见AI会有多么羡慕人类:强大的生存动力,丰富多彩的感情,弥足珍贵的时光,独一无二的人性。


剧透警告!


最近在玩儿一个叫做《艾尔登法环DLC黄金树幽影》的游戏,剧中的大反派本来是一个善良的半神,为了解决人间疾苦,创造一个温柔的世界,而决心成为神。为了摆脱生理限制,他舍弃了自己的四肢躯干;为了挣脱情绪束缚,让自己更加理智坚定,而舍弃了爱与恨。在割舍爱之处,NPC苦苦劝诫:你舍弃了最不该舍弃的东西。只能剧透在这儿,因为我才玩儿到这里。


可以想见,抛弃身体,抛弃情感后的人,与低版本的AGI何异?要么被“神”吸收而失去自我。要么成为如同抱持着狂热偏激信念的恶魔危害人间。这个人物的塑造也许在映射希特勒,同样是通过魅惑和恐吓(谎言、鼓动和暴力)维持统治。


这两部游戏虽然背景和设定不同,但它们共同探讨了一个鲜明的主题:AI和人类在追寻与渴望中,彼此反射出对方的影子。AI渴望成为有感情的人类,而人类渴望获得AI的纯粹理性。在这种互相追寻中,我们看到了对存在意义的深刻反思,也看到了在追求理想的过程中可能付出的代价。

Comments

Popular posts from this blog

The ADHD Algorithm: From Dijkstra to SSSP

ADHDer的自救算法

注意力悖论