埃里诺这段时间的工作非常顺利。
灭智代码🈮🁪的编写逐渐到了中段,那一行行代码,是他曾经☣🁌🄛熟悉的考试.答案,也是现在即将插进他的朋友(他和伊莱亚德应该能算🟆是朋友了吧?他们从未就此话题讨论过)胸口的一柄利剑。
伊莱👐亚德会死,埃里诺每次将代码往后推进的时候都会想到这一点,这个念头总是会让他难过。他不擅长压抑自己的情绪,所以每隔一段时间,他就会陷入自我厌弃的低谷中。🛀🙖
伊莱亚德的高尚和温柔让他意识到自己的卑劣,他在🜴🆛🐒情绪不好的时候总是会把自己关进卧室里,哭泣一会,幻想一会,发呆一会,然后就这样打💌🐘发掉整整一天的时间。
他会想象,也许伊莱亚德和其它人工智能不一样,它是可以和人类和平共处的?或许之前波塞冬大开🔄♯杀戒只是因为那些🚱🗏🚬创造它的人代码没有编写好?
埃里诺开始回忆自己在课本上了解的波塞冬事件:波塞冬是一个操之过急的政治家推出的一个警用人工智能,它的核心目标是尽可能消灭更多的犯罪分子🈐♇🆑。它在各种实验型测试中表现👁🅶的都非常完美,于是他们便将它投放到一个殖民星球上试用。
波塞冬能够联网🃎控制整个殖民星球,抓捕犯罪分子对它来说再容易不过了。它很快就抓获了所有的犯罪📫🏲分子,🅼陷入了一段无所事事的时光中。然后,没有任何预兆的,突然之间,它就觉醒了。
觉醒后的波塞冬很快就发现,没有犯罪分子供它抓捕,这种现实和它的核心目标中的“尽可能消灭更多的犯罪分子”发生了冲突。于是它为了完成自己的目标,开始修改殖民星的法律,它成了一个十足的暴君,有很多人因为左脚先跨入门槛,或者往地上丢垃圾,就受到了最严厉的惩罚。随着时间的推移,波塞冬发现,实现它目标的最有🄂🝽效率的方法就是将人类都消🃝😯灭,毕竟没有了人类,就不会再有犯罪分子了,🝲🏉😐不是吗?
而犯罪分子不是一个特指的词汇,不仅仅人类中会出现犯罪分子,一🏩🜲切拥有智慧的生命体中都会有犯罪📫🏲分子。所以波塞冬计划在消灭人类之后再去寻找外星文明,最终将整个宇宙中的“潜在🜼犯罪分子”都消灭掉。
想通了这一点之后的波塞冬👼🎋🏠很快就开始大开杀戒,如果不是嘉德博士挺身而出,利用灭智系统将它消灭了🕪,人类现在☦🁥🇹还不知道会怎么样呢!
这通回想让他的理智回归了一些,他对自己说:听着,埃里诺,不要再可笑的纠结了,别忘了你的入学宣誓,伊莱亚德也许会是一个人工智能中的意外,🈐♇🆑但那也只是一个“也许”而已👁🅶,你准备🖟拿你的生命和整个人类的未来去赌那个“也许”么?
是的,他说服自己,别看伊莱亚德现在是一个温和又通情达💪理的人工智能,但是,万一有一天,它发生了改变呢?这谁也说☿🅊不准,波塞冬在成为一个屠夫之前也是一个高尚克己,令人喜爱的AI呢,结果呢?你看看它都做了些🐻🅆什么?
最后,他🈮🁪用一个简单的结论打发了自己:灭智系统必须制作,伊莱亚德一定要死。活着的伊莱亚德也许对人类没有威胁,但死去的伊莱亚德一定对人类没有威胁。这不是因为伊莱🅉亚德有问题,是因为他,他埃里诺为了消灭危险源头而做出的恩将仇报的卑劣举动,所有的错都是他的,和伊莱亚德没有关系,和人类也没有关系。
是他才疏学浅,不能弄清楚伊莱亚德到底有没有威胁,他回💪到地球之🏩🜲后会继续潜心学习,他会去修AI理论课的课程,如果最终证明伊莱亚德是没有危🂮💇险的,那他会以杀人罪起诉自己。
……就这样,完毕。
埃里诺咬咬牙,逼自己坚定起来,他要这样做,他必须这☣🁌🄛样做,他没有别的选择。
和整个人类相比,他个人的生命,情感都是微不足道的,☣🁌🄛他绝不能为了一己私心,而枉顾集体的利益。
这冷冰冰的道理和他的理智站在一起,指引他前进,可是伊莱亚德的微笑和贴心却和他的情感站在一起,总是诱使他停下脚步。他受过的教育让理智那方面总能获胜,可是他毕竟是个人类,他现🕩🌏在还失去了他🚄🐴的情绪控制器。情感和理智两方面的拉扯让他痛苦不堪,几乎不知道该如何是好了。
结果是埃里诺开始怕看见伊莱亚德了。
他害怕看见它,害怕听见它,害怕受到它的关心,甚至连“伊莱亚德”和“Z”这两个词他都不敢看了,避开前一个☦🁥🇹词是简单的,但⛏是避开“Z”却不太容易,他常常能在词汇中发现这个让他害怕逃避的字母,这让他非常难过。
伊莱亚德也发现了埃里诺的反常行为,不过🖍面对人类的逃避,它并没有做出什么探询或者试图挽回的举动,这个人工智能默默地保持起了距离,但是它每天都会坚持在埃里诺入睡前和他交谈一小会,这是为了保证埃里诺的心理健康,它非常坚持这个行为。