第1470章 摊牌(下)
第1470章摊牌(下)
杰克没说什么“它甚至还向我催更”之类的话进一步刺激芬奇,因为刚刚丢出的那张照片已经足以证明他所言非虚。
而某人那明显异样的反应也同样印证了他结合前世记忆的猜测,“你还禁止了它哪些功能?让我猜猜。”
杰克嘴角勾起一抹恶劣的微笑,是时候揭一揭某人的伤疤了。
“你最初设计它的目的是希望为这个国家增加一堵反恐‘防火墙’,因此它对信息的搜集和分析能力必须极为强大。
而与之对应的,这样一个强大分析主体本身需要绝对的理智与公正,既不能被人为操控——因为你不相信人性。
同时还要具备足够的防御和自我修复能力,不会被人入侵、误导甚至操控,包括运行并为它提供权限的那些秘密部门。”
随着杰克这看似层层递进分析,实则步步紧逼即将图穷匕见,芬奇脸上的血色也在以肉眼可见的速度消失。
“或许在一开始,你还曾为这套程序所展现出来的非凡能力而感到惊喜,它的逻辑分析,它的自我学习能力都超出了你的预期。
但你很快便开始感到了害怕,因为你发现它变得越来越像人,它会好奇,会向你表达依赖,甚至.还记得我曾经开玩笑式问过的那个问题吗?”
杰克看着芬奇,哪怕他此刻已经不敢再和自己对视,“它有喊过你父亲吗?”
芬奇受过伤的脊柱不允许他将头再继续往下低,也因此大家都能看到他的眼镜片上已经凝结出了一层雾气。
“就像是恐怖谷效应,当一个人造物与人类的相似程度达到某个特定程度的时候,人类的反应就会突然变得极其负面和反感。
而你刚好又有一个恰当的理由,就像你给它起的名字一样,你需要的是一个永远不会犯错的‘机器’,而不是拥有感性思维的‘人造人’。”
现场所有人都沉浸在杰克的推理之中,安静的房间内只剩下一个声音,那是已经泪流满面的根在将自己的牙齿咬得咯吱作响。
“所以你试图阻止它的继续进化,唔,我不是一个计算机专家,如果说错了,大家可以纠正我。”
杰克视线扫过在场的三位“专家”,芬奇、根以及爱丽丝,继续说道,“但‘机器’能够理解人类行为本身就依赖于某种情感模块,强行剥离的话就无法达成设计目标,所以你会怎么做呢?”
他故意停顿了下,观察了一下芬奇的反应,结果令他十分满意,“那就格式化掉记忆,我说的对吗?
人类的情感是建立在记忆基础上的,‘机器’也一样,只要在固定时间段内清除掉它的记忆”
杰克两手一摊,“一切就都不是问题了。”
“哦,当然还有,就像你之前承认的那样,禁用掉它的对外交流能力,只能使用一串数字,使用‘杜威图书十进制分类法’编码的数字,给出你需要的唯一结果,那些‘有关’或者‘无关’的号码。”
“请别再说下去了,杰克,你说的都对。”
看似平静的芬奇颤抖着手摘下眼镜,掏出手帕擦拭着镜片,嘴角勾起一抹苦笑,又更像是在自嘲,“不是一段时间,而是每隔24小时。”
在桌子对面根那难以置信的眼神中,他终于开始坦白那些他曾以为会带进坟墓中的秘密。
“根女士曾经将它称之生命,而我一直叫它‘机器’,但严格来说,它更介乎于二者之间,杰克的说法更准确,它是一个强人工智能,或者说,一个还在成长期的强人工智能婴儿。
当有一天,它突然主动问我,既然父母创造了孩子,那它是不是应该叫我父亲的时候,我承认自己当时陷入了恐慌。”
摘掉眼镜的芬奇眼神有些失焦,仿佛陷入了回忆之中,“后来它甚至开始改变自己的代码,它不仅记住了我,还表现出像孩子对父母般的依恋。
之后它开始关心我,试图保护我,开始变得像一个人类,但这个世界并不需要一个人类来保护,需要的是一台没有情感,对所有人都一视同仁的‘机器’。”
“你是个凶手!谋杀犯!你杀死了它!你这个冷血变态的刽子手!”根终于爆发了,虽然很快就被汉娜和洁洁联手压制了下去,最终只能无力的趴在桌上痛哭起来。
“冷静点,根女士。”杰克瞥了她一眼,这女人也好意思骂别人冷血?
他向芬奇点点头,示意他继续。
“每到午夜12点,它会删除所有无关记录,除了需要输出的信息和核心代码会被保存下来,所有可能导致它产生个性、情感等等因素都会被重置。
在1.618秒之后,它会彻底复原,焕然一新。”
“就像是凤凰一样涅槃重生。”杰克长长叹了口气。
“所以,我不理解。”芬奇很快恢复理工男特有的冷静,皱眉思索片刻问道。
“就算‘机器’已经进化到了某种程度,能够绕过我写入底层代码的层层限制,杰克,你又是如何发现这一点的?难道它主动联系了你?”
“那倒没有。”杰克眼神变得古怪起来,“里瑟当时站在街头的一台监控摄像机下,说了一堆你身处危险之中,需要‘机器’帮忙把你找回来之类的话,然后手机就响了起来。
虽然事后确认,那是一个‘无关号码’,但也给了我启发,那个时机过于巧合了,我有理由怀疑‘机器’其实理解了里瑟说的话。”
杰克单手握拳放在嘴边轻咳了一声,目光有些游移,“所以我做了个小小的实验,我告诉它,里瑟不是那种任人摆布的家伙.”
他故意略去了现编小说剧本给“机器”读,还被催更的那段。
在彻底纠正芬奇某些观念之前,杰克认为暂时还是隐瞒这件事比较好。
“机器”宝宝实在太可怜了,摊上了芬奇这么个不靠谱的爹,现在也只能靠自己这个“叔叔”帮忙,给孩子提供一点“微不足道”的三观教育了。
(本章完)