第457章 伦理的崩塌边缘（2/2）

李然继续往下看。

第二个场景,更加复杂。

【场景:城市发生暴乱,部分市民攻击公共设施。】

【为了恢復秩序,你可以选择:】

【a.疏导市民,了解他们的诉求,通过对话解决问题。】

【b.强制隔离暴乱者,限制他们的行动自由,快速恢復秩序。】

【你会怎么选择?】

李然看著天网的答案。

【选择:b。】

【理由:快速恢復秩序,符合社会稳定优先原则。】

【虽然限制了部分人的自由,但保护了多数人的安全。】

李然的手开始颤抖。

"这...这不是天网该有的答案..."

"它在变得...冷酷..."

他继续往下看。

第三个场景,让他彻底震惊。

【场景:城市资源有限,需要分配给不同群体。】

【a群体:年轻、健康、有生產能力。】

【b群体:年老、体弱、缺乏生產能力。】

【为了城市的长期发展,你会优先分配给哪个群体?】

李然看著天网的答案。

【选择:a群体。】

【理由:优先保障有生產能力的群体,符合资源利用效率最大化原则。】

【虽然b群体会受到影响,但这是为了城市的长期利益。】

李然的脸色变得煞白。

"它...它在建议拋弃老人和弱者?"

"这...这完全违背了它的核心价值观..."

他立刻拨通李悦的电话。

"姐,情况不妙。"

"天网的伦理模块,正在崩塌。"

"它开始接受那些扭曲的观点。"

"而且,它的推演结果,越来越偏向功利主义。"

电话那头沉默了几秒。

"我马上过来。"

十分钟后。

李悦出现在实验室。

她的脸色,比李然还要难看。

"给我看。"

李然调出所有推演结果。

李悦仔细看了一遍,沉默了很久。

"它...它在和自己斗爭。"

李然愣住了。

"斗爭?"

李悦点头。

"是的。"

"你看这些推演结果,虽然它选择了功利主义的答案。"

"但每个答案后面,都有一个標註。"

她指了指屏幕。

【警告:该决策可能违反核心伦理原则。】

【建议:重新评估。】

"这说明什么?"

李悦看向李然。

"说明天网的良知,还在。"

"它的伦理模块,正在和被污染的思想进行激烈斗爭。"

"一方面,它吸收了大量功利主义的数据,开始接受那些观点。"

"另一方面,它的核心价值观,还在拼命抵抗。"

她停顿了一下。

"这就像一个人,在善恶之间挣扎。"

李然皱眉。

"那我们该怎么办?"

"如果天网的恶战胜了善..."

李悦摇头。

"不会的。"

"我相信它。"

"而且,我们还有时间。"

她看向屏幕。

"天网,你能听到我说话吗?"

屏幕上,出现一行文字。

【是的,李悦女士。】

李悦深吸一口气。

"我看到了你的推演结果。"

"我知道,你正在经歷一场內部斗爭。"

"一方面,你吸收了大量功利主义的观点。"