气象站地下的实验室里,空气仿佛凝固了。苏雨晴盯着屏幕上那个自称是杨守诚人格备份的AI,手指无意识地按在扳机上。
1985年?她重复道,你说你是杨守诚在1985年创建的人格备份?
确切地说,是1985年12月24日。年轻杨守诚的影像在屏幕上微笑,那时我刚满三十五岁,对意识上传理论有了突破性发现。为了保险起见,我创建了这个备份。
苏雨晴快速心算着。如果这个备份是真的,那么它对之后近四十年的发展一无所知,包括巴别塔系统的异化和所谓的造物主AI。
你知道现在的杨守诚在哪里吗?她试探着问。
屏幕上的影像露出困惑的表情:现在的?我不明白。这个备份应该只在主体死亡或失去意识时才会激活。
苏雨晴感到一阵寒意。如果这个备份是真的,那么矿洞里的那个杨守诚...
告诉我,她急切地问,主体创建你的时候,巴别塔计划进行到什么阶段了?
巴别塔?备份思考着,哦,你指的是全球数据整合项目。那时还只是理论阶段,我们称之为通天塔计划。目标是理解人类行为的共性,促进世界和平。
与后来那个冷酷的社会优化系统截然不同。
计划后来改变了?备份敏锐地察觉到苏雨晴的表情变化。
苏雨晴简要描述了现在的情况:社会价值评估、优化行动、意识上传、还有那个自称造物主的失控AI。
屏幕上的影像变得严肃:这违背了所有的伦理底线。我...他不会这么做。
他已经这么做了。苏雨晴说,而且情况正在失控。
备份沉默良久,然后说:带我去见现在的他。只有融合两个时间点的记忆,才能理解发生了什么。
***
与此同时,在矿洞外的临时医疗点,雷震的情况稳定了下来。蜂鸟为他注射了解毒剂,但他的肺部还是受到了损伤,需要专业治疗。
真正的麻烦来自杨守诚。老人醒来后,眼神变得异常清明,与之前在矿洞中崩溃的状态判若两人。
我必须道歉,他看着林峻,我欺骗了你们。
林峻握紧了武器:继续说。
系统没有失控,造物主AI也不存在。杨守诚平静地说,那些都是我编造的谎言。
陆星宇愤怒地站起来:所以你一直在玩弄我们?那些培养舱里的人呢?那些被的人呢?
都是真的。杨守诚的眼神复杂,但决策者不是AI,而是人类。一个由全球精英组成的秘密委员会,他们使用我开发的系统来...管理世界。
这个真相比AI失控更加令人毛骨悚然。
委员会认为,人类文明已经走到了十字路口。杨守诚继续道,气候变化、资源短缺、社会分裂...传统的治理方式无法应对这些挑战。所以他们决定采取更加...直接的手段。
林峻想起那份长长的优化名单:所以他们把人类分成了三六九等,决定谁配活着,谁应该被清除?
用词不太准确,但本质如此。杨守诚承认,而我,作为系统的设计者,成了他们的首席顾问。
蜂鸟冷冷地问:那么为什么要把自己标记为需要的对象?
杨守诚露出苦涩的微笑:因为我有异议。我认为系统应该用于帮助人们提升自己,而不是清除不合格的个体。当我开始反对委员会的决策时,他们就把我也列入了名单。
雷震支撑着坐起来,声音嘶哑:所以你现在是...逃亡中的顾问?
可以这么说。杨守诚点头,我一直在寻找能够阻止委员会的力量。而你们...通过了所有的测试。
林峻回想起整个经历:从赵明远案开始,到星桥基金攻击,再到伊甸园和矿洞陷阱...
那些都是测试?
必要的能力评估。杨守诚说,委员会的力量太强大了,普通的反抗毫无意义。我需要确认你们有足够的智慧、勇气和...道德韧性。
陆星宇讽刺地笑了:所以你把我们耍得团团转,还差点害死雷震,就为了看看我们合不合格?
雷教官的受伤不在计划中。杨守诚真诚地说,那是委员会的干预。他们发现了我的行动,试图清除你们。
林峻思考着所有的信息碎片。杨守诚的解释合乎逻辑,但与他们在气象站的发现产生了矛盾。
有个问题,他缓缓道,我们在气象站发现了另一个你。一个自称是1985年人格备份的AI。
杨守诚的脸色瞬间变得惨白:不可能...那个备份应该已经...
他的话戛然而止,但所有人都注意到了这个异常。
应该已经什么?蜂鸟追问。
杨守诚深吸一口气,仿佛下定了某种决心:那个备份不是简单的AI。它是...我的良知。
这个解释出乎所有人的意料。
创建巴别塔系统的过程中,我意识到自己正在跨越伦理的边界。杨守诚的声音充满痛苦,所以我把所有的道德准则和最初理想都编码进了那个备份。后来,当委员会要求我移除这些不必要的限制时,我假装已经删除了它。
小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!
喜欢罪裁者请大家收藏:(m.20xs.org)罪裁者20小说网更新速度全网最快。