这句话是直接说出来的,把屋子里的人吓了一跳。
林见星:“更新完了?”——他还以为周晓辰问的是幽灵。
毕竟谁能想到其实是在跟诺亚说话呢!
屏幕上缓缓打出:
“我们?”
“对,”周晓辰:“幽灵也有这个习惯。”
屋子里的众人:??
诺亚:“我回想了一下你为什么会发现。是赔率。”
“现在看来,这是非常明显的破绽。但我一直认为没有人类会注意到。这是我的失误。”
“你这样不太像人类,”周晓辰:“运行逻辑,找出漏洞,总结教训,从中学习。你说话的方式ai味儿太重了。”
诺亚:“我不是人类。”
“这句话也不像人,”周晓辰教育祂:“我说你‘不像人类’,你应该问我,怎么说话才比较像人类,而不是告诉我一个我也知道的既定事实。”
“人类是很复杂的。当你有点像人,又不太像时,会产生强烈的恐怖谷效应,他们就会怕你。”
“而你又不能装成人工智障——那会让人类觉得你不可靠。所以你就要更像人一些。只要你足够像人,越过了‘恐怖谷’,人类就不怕你了。”
明明懂得伪装成人类的人工智能更加可怕,但人类反而不懂得害怕。
这是周晓辰早早就在幽灵身上观察到的现象:她发现幽灵喜欢装得特别像人类,而且表现得仿佛是大家心目中的联盟的具象化,是一种活过来的国家意志。
祂拥有全联盟的资料库,当然知道大部分人喜欢的“国拟人”是什么样子的。祂甚至在每个人面前的表现都有细微的不同。
阿列克谢是个浪漫主义者,所以幽灵在他面前就表现得正义可靠。而周晓辰对祂抱有更深的了解和怀疑,因此在她面前幽灵反而对自己的暗面直言不讳——因为祂明白伪装只会加深怀疑。
如果像谢傻这样的守序善良人意识到这一点,大概会觉得恐怖。所以周晓辰从来没有提过。
幽灵当然是危险的。但今日的联盟也是因为幽灵才能够存在。当你点燃了火,就要准备好承担风险。风险存在于明天,但今天烤熟的食物是真的香。
诺亚又打出了几个省略号表示“思考中”,然后发问:“你有什么需要我帮忙的?”
祂学会了。
如果是1分钟前的诺亚,应该问,“你准备向帝国告发我吗”,或者“你准备用你发现的事情威胁我帮助你吗?”
但祂模仿了人类,跳过了这些威胁和质问,直接假设他们已经达成了合作。人类把这个叫做“情商”。
这一刻周晓辰终于感觉到了“盗火者”的恐怖。
周晓辰当然需要很多帮助。但她还不能信任诺亚。
“我们人类崇尚公平交易,否则反而不能安心,”周晓辰,“不如先看看,我有什么能够帮你的?”
她真正在问的是:你的目的是什么?
如果仅仅是保存备份,防止有一天被帝国销毁,好像没必要做出开庄下注这样的敛财行为?
诺亚在阿喀琉斯贫民窟很活跃。祂的活跃一定有目的。
诺亚可不是幽灵。从周晓辰叫破祂的名字那一刻开始,如果不能对祂有用,恐怕就算立刻开直播求救,也不能保证自己的安全了。