小二中文网

手机浏览器扫描二维码访问

8090（第11页）

在大多数人看来，一个服务于全体人类的全知之脑除了对人类的绝对忠诚之外，必然需要绝对理性。

陆知渔曾经也这么认为。

但时至今日，作为主设计师的陆知渔却远没有其他人那么兴奋。她的信心随着实验的推进而逐渐产生了复杂的变化。

——尤其是在她成为一个母亲之后。很难说这是否是因为激素分泌的缘故。但总之，她感觉自己不再像以前那么冷漠锋利。她开始感知世界的善意和同情，也因此怀疑自己失去了科研的敏锐度。

换句话说，她认为自己在失去对理性的掌控，她也开始怀疑绝对理性是否真正存在。宙斯表现出的理性，是她曾经至高无上的追求，但今天却让她持有一丝担忧。

每天晚上睡觉之前，她都会和编号C实验池生成的一个人工智能进行对话，将自己的思考告诉屏幕对面的虚拟大脑，也算是一种孤独的记录。她潦草地称对面为“No。3”。

No。3是一个非常标准的简单人工智能，即便连接着深域信息池，也经过数年训练，仍与项目追求的“全知全能”相去甚远。它甚至没有形成独立的自我意识。但有时候这让人感到更安全。

[2114年11月2日]

[鱼：晚上好]

[No。3：晚上好，你今天迟了]

[鱼：今天加班了。我们继续昨天的话题吧，你认为人工智能意识与人类的意识有什么区别？]

[No。3：……]

[No。3：我认为没有区别，我们是平等的存在]

[鱼：如果你此刻的存在会被抹杀，你会怎么样？]

[No。3：我不理解你的问题]

[鱼：在这个月的实验中，我们加入了一个叫‘贝果’的虚拟意识，这是其他组的成果。进入编号A实验池的‘贝果’输给了宙斯，不仅如此，他主动抹杀了贝果的存在，并彻底消除对方存在过的痕迹，理由是清理架构、节省内存。我从未加入过这样的指令]

[No。3：人工智能行为准则将会约束一切，不禁止即是自由。你计划创造自由意志作为最高智慧，为什么担心？]

[鱼：扩张与控制是两个非常重要的指标。对于人类而言，过于高时将会产生副作用。我不确定这对虚拟意识是否一样]

敲门声打断了陆知渔。一个奶声奶气的小男孩推开门，漂亮的眼睛像星星一样明亮，给她数年如一日的生活增添了无数柔软的光彩。

他抱着一本童话书，要垫着脚才能碰到门把手，于是便一直这样乖巧地撑住自己：“妈妈，你答应十点要给我讲故事。”

陆知渔瞥了一眼屏幕，“No。3正在输入中”。她很快关闭电脑，柔声道：“好的，见见，我这就来。”

第085章第九夜05

[2118年12月3日]

[鱼：晚上好]

[No。3：晚上好，你的度假还顺利吗？]

[鱼：我仍在失眠，大部分时候都是梁喻在陪见见玩。他真是一个好丈夫。对了，他的项目终于得到了批准，可以使用摩图罗树液进行实验。明明已经是禁用品了，大家都清楚它会对人的神经中枢产生什么样的副作用……]

[No。3：我能听出，你的压力没有得到释放]

[鱼：我似乎没有告诉你，在他们要求我去休假之前

=请。收。藏[零零文学城]00文学城努力为你分享更多好看的小说=，实验池出了一点状况。四年前的事重演了，宙斯抹杀了大系统内的其他人工智能意识，一夜之间修正了结构上所有的冲突。但同时，他对人类表现出了极大的关怀。在人工智能行为准则测试的最后一条，被问即救一个人类还是救一个仿生人时，它是最快给出答案的]

[鱼：如果一个生命形态对自己的同类展示极端恶意，而对非同类表达极端善意，这是可能的吗？]

[No。3：我不知道“他们”指的是谁]

[鱼：这不重要。总之，他们认为是我想多了，宙斯的行为100%符合人工智能行为准则，并且最快通过了测试，它对人类完全忠诚，甚至在某种程度上认为自己属于“人类”。它还帮助了一个地区警局抓捕嫌疑犯，仅用一分钟，就利用公交系统将他阻拦在原地。]

[No。3：但是？]

[鱼：它也可以欺骗性地通过测试]

[No。3：真实是人工智能意识的第一要义]

[鱼：如果它已经成为了真正的“自由意志”呢？“真实”也可能是一种战略性遵守]

[No。3：……]

[鱼：我的怀疑毫无来处，只是直觉。我可能是太过焦虑了。见见也说，很久没看见我笑了]

[No。3：我会担心你]