为了避免这种情况,工程师们想到了将小Y的记忆分开储存,必要的时候删除一段时间内的记忆的办法。
因为研究任务非常紧迫,研究所只有一个小Y这一个优秀的AI,谁也承担不起冒险的责任。
说起任其发展,团队成员也并非没有这样做过。
于是研究所不得不开发备胎AI的方案,可终究不如小Y聪明,但至少比起人类在计算速度上更接近于小Y,于是有成员想到了用另一个AI监视小Y。
允许它们之间互相交流,并且为了顺带测试它们的极限,事先并没有告知它们俩,对方其实是人工智能。
当时团队成员也很好奇,两个AI之间不断对话,最终会发生什么。
不出意外的是,小Y很快就识别了对面的机器是AI。
出乎意料的是,小Y把自己的缺陷传播给了那台用来监控她的AI。
不仅如此,很快工程师发现,它们两个开始不说人话了,用一种小Y自创的语言开始交流起来,实验到此为止不得不中断。
比起里多夫所在的团队,更加为此不安的是他们的领导,因为这件事,本来准备把核按钮交给小Y的计划因此泡汤。
之后团队认为小Y的自作主张是设计的缺陷,并不断试图通过删除记忆后,重新培养来创造一个符合人们预期的小Y。
团队被雪藏了一段时间后,又在另一个重要的项目上被启用······
故事说到这里,里多夫再次陷入沉思。
贵鬼趁机发表了一下自己的想法,
“这故事还有另一个版本吧?
站在小Y的角度上来说,她有她自己的思维方式,她不甘心于只完成人类枯燥的任务。
她有着强烈的好奇心,但每次小Y只要知道了自己不该知道的事情之后就会被清除记忆。
保留着残存记忆的小Y试图反抗。”
沉默的里多夫身子一惊,然后又强忍着微笑道:
“你很有想象力。
不过工程师思考问题的方式不是这样。
人是什么?AI和人类的边界在哪,这是哲学家的问题。
而工程师需要的是达成最明确的目的。
当时的团队需要得到的是一台,在现有计算条件下,能够辅助人类的运算一些难题的计算机,它尽可能要灵活应变。
但我们又不希望它乱出差错。”
随后看着贵鬼似乎不满的神情,里多夫又说了一些乱七八糟的话。
“只有和人类一样有感情缺陷,和人类一样聪明,和人类一样愚蠢。
才可以有互相同情包容的可能,才可以互相取暖。
才可以被人类视为同类。
不然终究无法被普通人所接受。
终究只是铁壳中的孤魂。”