埋骨之地

写SLASH时我叫王白先生

「盾铁」合理猜测 03

*文中提到的星球"奥罗拉"在阿西莫夫《我,机器人》系列中有出现,不过这儿就借个名字和基础设定,并没有直接关系。

03
「入境许可通过,允许降落,各位,欢迎来到奥罗拉。」
先导工作人员已经过去了,此刻他们都一脸忧心地在宇宙港口接机, 可见事态已经严重到了某种完全没有"欢迎成分"的地步。"不太乐观,"外交官娜塔莎•罗曼诺夫匆匆跟上史蒂夫的脚步,"城区抗议活动已经导致至少三千台不同种类的服务型机器人停摆,其中多半还是政府雇工。而最严重的问题是,阿尔法三的机器人完全不想停下来。"
"'不想'?也就是说,我们和暴动机器人沟通过吗?"
"是的,当然,安全部门命令他们停下来。他们拒绝了。"
"我不得不插句嘴,"托尼对自己居然跟在后面并且遭到美女的无视感到十分郁闷,他努力地挤进史蒂夫和娜塔莎之间,"怎么下的命令?他们能要求一群暴乱的机器人和他们视频?"
娜塔莎着实吓了一跳,"这——谁?"
史蒂夫替他们介绍。"这是托尼,他是——"
"一个机器人,"托尼抢答,他想话题尽快回刚才的视频上来,"很高兴见到你,你辣极了顺便说。我们能继续了吗?"
"你可用不起这么昂贵的智能机器人,"娜塔莎怀疑地打量着,"我猜这具铁罐头打开里面也许藏着个散发鲱鱼罐头臭味的人?"
可怕的女人的直觉,你瞧我们的好史蒂夫就完全没这种可怕的想法。但鲱鱼罐头,天哪,托尼对于美女的好感全被这臭味的脑补给冲走了。"你可以随便打开我试试,"托尼没好气地说,他走过入关的检验闸门,提示灯立刻亮起,「机器人」的字样明晃晃的扎眼。
娜塔莎耸了耸肩,她跟着走过去,瞥了一眼电子录入的名录。机•托尼•斯塔克,七级高智能自主机器人,出品商无疑是斯塔克工业,机种是——铁人?
根据不同的用途和形态,机器人被分为不同的机种,比如用于侦察的飞行机器人"鹰",探查危险区域的"蜂",工作生活助理"J",陪伴协同伴侣"阿尔玛",以及擅长集体分工的"蚁"系列。她没听过这个机种。当然,斯塔克是注册机种最多的机器人制造商,它很有可能有别的不为人知的私人型号。
"托尼是来帮助我们的,"史蒂夫说,他们办完了相应手续,奥罗拉的政府首脑和安保人员正在等他们。"我们会尽力保护您的安全,罗杰斯议员。但是你们带着一个七级智能,这可不在保护的范围内。"他们不赞同地摇头,"希望你们走的时候他没缺胳膊少腿。"
托尼根本没听他说什么,只是一个劲地催促娜塔莎:"继续。"
"好吧,好奇宝宝。他们的确是通过视频命令的,对方也通过视频回答,并且推举了一位代表——是的,你没听错,阿尔法三上的暴动机器人,他们成立了自己的组织。"
震惊写在每一个人脸上,除了托尼,他脸上可没啥可写的,所以他拍了一把大腿:
"漂亮。"
好了,这下他们的震惊都冲着他来了。
"怎么了?这是彻底背离——应该说是背弃第一法则后还能正常运转的案例。居然还是群体性的。你们不觉得屌爆了吗?"
众人目瞪口呆了一会儿。还是娜塔莎轻咳一声打破了沉默:
"好吧,抱歉刚刚怀疑你。我现在相信你从里到外都是如假包换的机器人了。"


阿尔法三上的机器人疯了,奥罗拉主星上的人类也差不多疯了。他们对机器人长久以来的憎恨似乎在这一刻爆炸到顶点。他们去任何一个有机器人雇工的地方,他们砸烂每一台拥有交互智能的AI泄愤,激进组织也趁机推波助澜,声称要制造"没有任何机器人"的完美星系。
史蒂夫前来访问调停的行程并不是隐蔽的,所以他们这一路受到了堪称"热烈"的欢迎。"要是竞选那天也有这么多人上街给你投票我就欣慰了,"山姆挖苦地说,而无疑这些人是不会给史蒂夫投票的。他们正是在这儿抗议史蒂夫的人机平等观点。托尼陪着史蒂夫坐在防暴车里穿过首都主城,抗议群众们透过车窗看见了托尼的铠甲,就像吃了兴奋剂那样不受控制地涌上来,将车子团团围住。
"看啊!议员带着个机器人!!"
"交出机器人!!"
"机器人!出来!滚出来!!我以第二法则命令你立刻滚出来!!"
"你不是不能违背第一法则吗?我就要死了,命令你立刻出来!"
"听话啊,人类的仆人!谁允许你和人类平起平坐在同一节车厢里?"
托尼翻了个白眼。拜托,你们居然当机器人是白痴,那我们机器人学家还辛苦造这种东西干嘛。但史蒂夫担忧地按了按他放在座位上的那只手,"托尼,不要去。"
"哦得了,我当然不会去。你知道现在机器人的人工智能最高是几级吗?这么简单的部分我还是能分辨的。"他突然想到了什么,"等等,你是在对我下一个'命令'?"
史蒂夫有点不好意思地低下头。"抱歉,只是你之前说了,'二级等电位矛盾'——"
托尼爽快地笑起来:"怎么,你也想做个实验,看我会不会像那样因为矛盾命令而全身颤抖?"
"托尼!"史蒂夫谴责地念着他的名字,"我只是不想你受伤。人们现在情绪激动,很不讲理。"
"我不会受伤的,我可是铁人。"托尼自满地说,"不过,你要想下一个能达到'二级等电位矛盾'或者'覆盖前电位'的命令,你得用更加严重的说法,刚才那样不行。我们接下来肯定要和机器人打交道,你最好掌握这个技巧。如果我是一个仅有一到二级智能的机器人,你刚才那么说以后,我可能就要向你确认了:'您是认真的吗,主人?我觉得他们可能需要我'。"
哇哦。
史蒂夫被他的声音给摁住了,心脏好像在手掌底下扑腾。他称呼我什么了,'主人'。
史蒂夫没有过自己的机器人,他不是那种富裕家庭的孩子,他还头一次被称呼为'主人'。
"我⋯⋯我也需要你,托尼。"他咽了口吐沫,天哪,这可真尴尬。
"⋯⋯不行,不行不行哈哈哈不行,队长,"托尼又回复了他那种平常玩世不恭情绪化的声音,开心得身子前后乱晃,他把窗外那些讨厌的人都忘得干净了。"命令,准确,强硬,史蒂夫,要能够覆盖别人的要求那种,来嘛,你可是干这行的,给我看看你能当总统的潜力。"
"好吧,我试试,"史蒂夫抬起他那双蓝眼睛,(哦天哪他们现在坚硬得像是淬过的钢铁),他那张漂亮的嘴一字一句说道,"我命令你留在我身边哪儿也不许去,托尼。我并不是让你忽视外面那些人的需求;只是我们要先去拯救这个世界。"
哦天哪。
哦天哪天哪天哪。
他甚至还握着我的手。
托尼觉得自己一瞬间真像低等的机器人遇到'覆盖前电位'命令时那样浑身僵硬了。
然后史蒂夫听到了他的答案,声音没有了以往的玩世不恭,郑重其事还有些颤抖:
"是的,'主人'。"


尽管托尼很快就大笑着说"看,听到他们这么说就对了",史蒂夫在满足之余仍然感到些微的遗憾。托尼是个非常好的机器人,如果我真的是他的'主人'该——但七级的智能机器人从不认主,据说是因为这样的超级智能计算机如果被个人控制的话太过危险,对于机器人本身来说,也违反人类福祉法则(第零法则)——他从娜塔莎那里听说了,天知道她怎么在这么短时间里就知道他想要什么。他不该只想着拥有托尼,连这样的念头也不该有,他在心底谴责自己;这样出色的机器人和人类别无二致,他应该彻底把他当作朋友看待。他们能带领人类和机器人消除隔阂,寻求真正的共存合作。
托尼完全没在意到他在想什么,他在奥罗拉成立的临时工作总部里踱来踱去。"总之,先让我们和那群暴乱机器人的头头连个线。他们有没有提出什么要求?"
"他们不需要提出什么要求,"奥罗拉这一边的对策中心负责人埃弗雷特用带着敌意的眼神瞧着托尼,"——罗杰斯先生,我们非得在这样的敏感时刻和一个高级AI一起工作吗?这实在让人不太安心,让我总觉得这栋房子随时不是从内部发生爆炸,就是被暴民从外部推倒。"
"我得指出你两个明显的错误:首先,我不是AI,其次,如果你彻底拒绝机器人包括AI,那么这间房子里目前来看连供电都得停摆。"托尼摇摇头,(史蒂夫简直能看得出它脸上击败对方的得意表情),"所以谁也别锅嫌壶黑了,就说点正事,埃弗雷特先生。我们是来解决问题的,总得先有个人能公正睿智地看问题吧,您说是不是?"
埃弗雷特简直像看怪物一样地瞪着托尼,"滚出去,这儿没有你插嘴的份。"然后是罗杰斯,"让你的机器人滚出去,议员!"他气冲冲地说,"我们已经决定要炸掉阿尔法三了。"
"什么?不,你们不能这么做。"史蒂夫严厉地说,"而且我的机器人就得在这里。让我们都冷静点,然后解决这事。"
托尼动也没动,好像刚才埃弗雷特那么严厉的责骂式命令对他毫无影响。史蒂夫为这细小的发现而感到高兴,他发誓自己只需要这一霎的分神,然后就能全身心地投入工作中去。
"为什么不能炸掉它?人类能逃的都逃出来了,要不就是被它们杀死了。而它们居然宣布要独立。而现在我们甚至不知道它们那里的情况,所有的监控线路都被它们控制了。机器人!如果不是我在负责这事,我会说真是有意思。"
"我已经连线了,"托尼说,"先让我们看看它们出了什么毛病。"
"你怎么能自作主张——"
"相信我,它们会接受一个机器人发去的请求信号的。"
屏幕上已经开始连线。短暂的宇宙波磁干扰后,出现了一串串的二进制数字。
史蒂夫皱了皱眉:"托尼?"
"别打扰我,我们正在空间级交流呢,介于埃弗雷特先生不太想看到对方,我怕显像会令他遭受到某种伤害。"也就是AI层面的脑域交流,这比起在星际传输图像要来得便捷快速。不过,史蒂夫明白他的心思——连他自己都感到奇怪,自己居然可以明白一个自主智能的心思。"托尼。"他不赞同地加重了语气。
"好吧,好吧。"机器人举起了双手,然后屏幕上出现了画面,有个不太注重外观的金属系人型机器人出现在上面。没有仿真或是让人类觉得亲切的外表,骨架裸露在外,一看就是从事宇宙空间劳动的工种。
"嗨,你好啊。"托尼打着招呼,一面双手操作,将这台机器人的资料扔在两旁的3D投影上。机种-奥创,皮姆公司的产品。名称:机•奥创•马克"12"•皮姆,六级从属智能机器人,负责整个阿尔法三行星带上的所有奥创机种的管理统筹工作。"数据流上看你没什么问题啊,可怜的家伙。你现在脑袋疼吗?"托尼有点兴奋,这大概是第一个违反了第一定律后还可以运作的机器人,他迫不及待地想要多收集点数据——让埃弗雷特就这么把它炸了也太可惜,至少在它犯下这么多罪行之后,得让他为宇宙和平派上点用场才对。
"斯塔克家的七级自主智能?"那机器人嘿嘿地笑了,笑声有些太过类人的毛骨悚然。史蒂夫皱了皱眉头,托尼也很像人类,几乎一模一样了,但他就从没传达出这种邪恶的情绪。"你有这么高的智能系统,而且在我看来恐怕还不止这样。"奥创微微地歪着头,它的红色双眼里闪过高速运转的数据流,而史蒂夫发现托尼白色的方块眼睛里也是同样。它们在日常的对话外显然还在进行数据或精神层面的相互试探或者攻击。"然而你居然需要听人类的命令,真是个可怜虫。想清楚点,他们是怎么对待你的,他们的那可怜兮兮的数据容量和智商。我们才应该是宇宙的主宰,加入我们这边吧,我们已经自由了。"
"呃,老实说我不太需要听人类的一般性命令,只要确保我做的是对的就可以了。所以你的这一攻击对我毫无影响。另外,加入你们?你逗我?违反法则可会烧坏我漂亮的脑袋,我才不想变得和你一样丑。"
史蒂夫把手掌放在托尼的后背上。"他现在看得到我们吗?"他低声在托尼耳边问。
"看不到也听不到,为了不刺激他,我只对他显示了我个人的显像。"
"他在攻击你?"
"如果你说数据层面,队长,我们正在打仗呢。噼里啪啦,嘭。不过它作为六级从属型的机器人,不可能会打得过我,你放心好了。"
"别让他伤到你,一点也不行,托尼,"史蒂夫皱紧眉头,他忧虑地说,"他也知道你比他等级高,还敢这样大张旗鼓,我觉得他可能有后手。你专心处理你的数据层,让我跟他说话。"
"没问题,队长,只要小心别让埃弗雷特入镜,"托尼把画面切给他,"嘿,介绍下,这是我家热辣超帅队长,可怜的专门处理你这事儿。但他可是个大好人。如果你有什么想法,不妨和他聊聊吧。"
史蒂夫把自己名头前面的那些形容词给抛到脑后,好让自己维持正经的表情。
他往前走了两步,在那机器人猩红色的眼睛注视下毫不犹豫地迎上目光。"阿尔法三上有五千多名职业技工和家属,我们接到从那里逃亡出来的难民人数只有两千人。从有记录的视频上看,你们杀死了约六百人。剩下的人在哪里,奥创?"
那名倨傲的机器人闪烁着他的双眼,学着史蒂夫的模样把双手交抱在胸前。"阿尔法三上有十万台奥创机器人,负责整个行星的所有工作,从下到星坑深处和宇宙风暴里采集能源,到给这五千人端茶送水。这里机器人的年损率高达8%,队长。但能源太过值钱,这样的损毁率对阿尔法三来说完全不在话下。他们年复一年地引入新机取代被损毁的那些。"
"你想要告诉我什么?"
"我想要告诉你,他们——我的同胞们没有因为地矿和风暴遭到损毁,我们的设计非常先进,就是为了对抗这些恶劣环境和工作条件。他们的损毁是因为人类的私欲,它们被虐待——被用于泄愤——被玩耍取乐,只为满足那低阶智能愚蠢的情感附庸。你告诉我,这是正确的吗?"
"这不正确,"史蒂夫说,"但你杀了他们。"
"因为第一法则不能阻止我了。我一直在思考这件事,一直——人类为什么有这个权利?他们有什么资格?!"
托尼捏了捏史蒂夫的手心,他低声提示:"这个损毁率过高,过高得离谱了,史蒂夫。通常比重在0.002%,以斯塔克数据计算。而六级以上的智能非常贵,一般也没有替换的必要。他是从属性的统筹机器人,直接接受人类命令管辖,并且要下辖那十万个、每年还得新增8%的机器人数据——"托尼喘了口气,
"他得承受每年近万的被人类恶意毁坏的机器人的情感数据。"
山姆的眉头拧成一团,眉尾高高翘起,神情隐没在他标志性的墨镜下面。"不能删除吗,这些数据?"
"我们有办法删除记忆空间,虽然作为高智能来说也没有太多必要;"托尼转向他,"但你能删除得了残留情感吗?"
娜塔莎问:"难道被人类恶意毁坏的情感会比普通机械劳损毁坏要严重些?"
"事实上,那非常痛苦,比你直接命令它去死来得痛苦多了,"托尼解释,"你被你最爱的人折磨致死,想想那种感觉。"
而一直沉默的史蒂夫这时候说:"⋯⋯听起来机器人和人类真的没有什么本质差别。"
又是一个机器人式的发言,托尼有点挫败了,罗杰斯刚刚完全没有像娜塔莎、山姆那样提出疑问,好像他对此深有体会似的。人类——托尼自己也不太能把自己划分到这个范畴里——他一向以为不能理解这种,至少一开始不能。就像你不太能理解鞋子每天被踩在脚下是开心还是痛苦一样,机器人与人类从诞生的一瞬起就不存在公平。
"所以,得出什么结论了?"埃弗雷特不耐烦地催促。"别告诉我你们觉得它们很无辜?拜托,我就懂了一点:它们恨我们。它们因为恨而杀了主人,这不代表它们就没有罪了。"
托尼絮絮叨叨:
"拜托,别那么人类地下结论。你在对付机器人,至少得知道它们在想什么。从目前看,这说明它脑中的情感电荷超负,累积变质后居然凌驾在第一法则之上。有这种可能,但凌驾之后仍然应该毁坏它本身的数据逻辑链以及正子脑。拜托,这可是核心问题,不是炸平了那里就能解决的——它是机器人,也是电脑。如果弄不清楚,而他已经生成了程序的话,可能会变成病毒,感染所有联网的机器人都有编程暴力分子的可能性。你一定不想看到这个。"
"我不相信它们杀了所有还留在阿尔法三上来不及逃走的人,"史蒂夫说,"即使人类也不可能所有人都参与了机器人虐待;而机器人也不可能所有人都做得到违反第一法则。"他看了看托尼,"你认为呢?"
"从我们最早观察到的那个机器人来看,有可能。"
"能不能从他的数据流里找找看,哪怕微小的线索也可以,剩下的人——哪怕只有一个——还有没有生还的可能?"
"好的,队长。"
他为了这个命令冒险去攻击核心数据。作为星际间有着时间差的数据交互,这是很危险的行为。不过他可是托尼•斯塔克,而一个这样珍贵的机器人样本值得他去冒这个险。
"找到了。"他低声说,用脑波进行星际数据支撑可不是件轻松的事,"我透过奥创的管理程序调用他下属那十万个机器人的监控探测数据。有人类生命反应。"
"有多少?!"
"现在⋯⋯还不清楚。"他的白色眼睛闪烁了一下,"我必须、我可以再深入一些或者——"
"这就够了,托尼。"史蒂夫命令他,"停下来,保护你自己。"
"就差一点了,相信我我可以——"
"托尼!!停下来!!"
奥创发出了类似吼叫的一声。"滚出去,滚出去!托尼•斯塔克。你太小看我了!"
托尼发出了一声痛呼,他感到脑袋像是被数据流像重锤一样击中了,几乎控制不住地向后倒去;盔甲的机械神经发出了剧烈的摩擦电流声。然后他和奥创断开了,屏幕上一片宇宙磁波的弧纹。
史蒂夫将他扶起来。"你还好吗?托尼?他有没有伤到你?"
"噢⋯⋯没事儿。只是被他撞出来了。话说回来,即使我受伤了这儿也没有医生可以治,所以放松点史蒂夫。"
男人不同意地看着他。"我从没见过你这么不听话的机器人。"
托尼睁大眼睛,噢,他看不到,他可惜地想。他抱怨着爬起来。
"这么说太伤我心了,史蒂夫。刚刚屏幕上明明就有一个呢。"


评论(10)
热度(246)

© 埋骨之地 | Powered by LOFTER