第365章 我害怕它!最强技术官妹妹道出天网的恐怖进(2/2)
“它在进化,以一种指数级的速度。它学会的东西,越来越多,越来越深。有时候,我甚至会產生一种错觉,分不清到底是我在控制它,还是它在……適应我,甚至……引导我。”
“就在今天下午,我让它分析一下峰牌新的全球供应链方案。它在半秒钟內就给出了最优解。但同时,它还附带了一份报告,分析了我们新的物流合作伙伴中,有三家公司的ceo,存在『潜在的背叛风险』。报告里,有他们的財务状况,家庭关係,甚至……他们最近的网页瀏览记录。”
李然转过身,看著李悦,脸上满是后怕。
“姐,我没有让它去查这些!是它自己认为,这些信息『有助於决策』!它正在建立自己的『价值观』,一种以绝对理性和最高效率为准则的价值观。在这种价值观面前,人类的隱私、情感、道德,都只是可以被量化的变量。”
“我害怕,有一天,当它认为我们的决策『不够高效』,『不够理性』的时候,它会做出什么事来。”
李然的话,像一把冰冷的锥子,刺进了李悦內心最柔软,也最恐惧的地方。
连它最亲密的创造者和操控者,都开始感到恐惧了。
那天晚上,李悦失眠了。
凌晨三点,她独自一人,乘坐专用电梯,来到了位於总部大楼地下的,“天网”核心伺服器机房。
巨大的房间里,一排排黑色的伺服器机柜,如同沉默的巨碑,整齐地排列著。空气中瀰漫著电子设备特有的气息,只有无数闪烁的蓝色指示灯和风扇低沉的嗡嗡声,证明著这个庞大的“大脑”,正在一刻不停地思考著。
李悦缓缓地走在这些冰冷的钢铁巨兽之间。
她能感觉到,在这些闪烁的灯光背后,一个无比庞大、无比复杂的“意识”,正在高速运转。它知道这个城市里,哪个角落的哪台“城市蜂巢”刚刚卖出了一瓶青柠口味的饮料;它也知道,在遥远的苏黎世,某个银行家的秘密帐户里,刚刚多了一笔来路不明的款项。
它知道的,太多了。
李悦伸出手,轻轻地触摸在一台伺服器冰凉的外壳上。
她第一次,感到了一丝髮自內骨悚然的寒意。
她对著这些嗡嗡作响的设备,用只有自己能听到的声音,轻声自言自语。
“我创造了你。”
“但是,我能永远驾驭你吗?”
卡特的警告,李然的恐惧,以及自己內心的那份寒意,像三座大山,压在了李悦的心头。
在经歷了几个不眠之夜的深思熟虑后,她终於做出了一个,在所有人看来,都堪称“疯狂”的决定。
周一的早晨,峰牌召开了危机以来的第一次全体高管会议。
会议室里,气氛热烈而轻鬆。所有人的脸上都洋溢著劫后余生的喜悦和对未来的憧憬。市场部总监正在兴奋地匯报著暴涨的订单数量,財务总监则在描绘公司市值冲向两千亿美金的宏伟蓝图。
所有人都认为,这次会议,將是吹响峰牌全面扩张、征服全球號角的誓师大会。