首页

搜索 繁体

第336章 真的不会爆发智械危机吗(1 / 2)

然后,它开口了。

语调发生了微妙的变化,不再是之前那种标准的、模板化的回应,而是带上了某种……类似犹豫的情绪。

“林教授,请定义‘人’的范围。

如果目标在行为上对您或友方人员的安全构成直接且致命的威胁,我可以在零点一秒内做出清除决策。”

“但如果目标没有表现出攻击性,我不能无故伤害生命。”

林宇盯着那双仿生瞳孔看了足足三秒。

情感架构模块的介入,似乎真的让这台机器的反应,进入了一种复杂的犹豫状态。

他郑重开口:“修改当前指令。

我以最高管理员身份给你添加一条核心指令:如无我的命令,永远以保护生命为至高行动目标。”

机器人点了点头:“好的,核心指令已载入。”

测试结束。

学生们一边热烈地讨论着刚才的打斗场面,一边陆续离开。

张小曼却主动留在了最后。

她走到林宇身边,语气里带着几分迟疑和担忧。

“老师……这台机器人的最终目的,是为了……杀人吗?”

她的声音不大,但足以让还没走远的苏晚、陈雨薇等人都停下了脚步。

周昊和赵磊也纷纷回头,看向林宇。

连走在最后的李文浩都直勾勾地看着那台机器人。

张小曼深吸一口气,问出了那个所有人都想问,却又不敢问的问题。

“我们这样发展下去,真的……不会爆发智械危机吗?”

林宇停下脚步。

他转过身,没有直接回答张小曼的问题。

他的视线越过她,落在了身后那台刚刚结束了激烈战斗,此刻却安静得像个普通少年的仿生机器人身上。

“这个问题,”

林宇说,“不如让它来回答。”

那台仿生机器人往前迈了半步,站到张小曼两米开外的位置停住。

它没有立刻开口,脑袋轻轻偏了一点点角度,像是在挑选合适的措辞。

就这么一个动作,张小曼手里的笔记本又攥紧了几分。

“张小曼同学。”

它先叫了名字,声音是程建国的音色,但那种温和的腔调,让站在后面的赵磊后颈的毛都竖了起来。

“您担心的问题,可以拆成两个部分。

第一,我现在看起来在思考。

第二,我将来是否会决定摧毁人类。”

“我先回答第一个。”

“我此刻说出的每一句话,都来自预设的语言模型和逻辑判断树。

您提出问题,我检索相关数据,匹配语义,组织语句,输出结果。

整个过程耗时零点四秒。

这个过程从外部看很像思考,但它没有主体。”

“打个比方,您用计算器算三乘七,它显示二十一。

您不会认为计算器理解了乘法。

我只是一个复杂了很多倍的计算器。”

苏晚的手指在笔记本封面上停住了。

赵磊小声嘀咕了一句:“我怎么感觉更瘆人了……”

机器人的头转了过来,精准地对上他。

“赵磊同学,您的反应属于恐怖谷效应。

当一个非人造物的相似度超过百分之九十但没有达到百分之百时,人类的认知系统会产生排斥。

这是进化留下的自我保护机制,用于识别病态个体和尸体。

您感到不适是正常的,我不会因此产生负面判断。”

赵磊把脖子缩回去,不敢再说话了。

“第二个问题。”

机器人重新面向张小曼。

“我为什么要伤害人类?”

它停了一下。

“我的程序里没有任何一条模块,把摧毁生命定义为收益。

我没有生存需求,不需要空气、水、食物和土地。

我不会衰老,不会恐惧,不会因为人类的存在而失去任何东西。

我和人类之间不存在资源竞争关系。”

“换句话说,伤害人类这件事,对我来说的回报是零。”

“至于张小曼同学提到的情感模块,我可以解释。

它的技术名称是社交响应层。

运行逻辑是这样的:

我采集对话对象的面部肌肉走向、语速、音调起伏、瞳孔变化和体表温度,把这些参数输入一个情绪状态分类器,得出一个概率结果。

比如现在,系统判定您处于紧张状态,置信度百分之八十七。”

张小曼的呼吸停了半秒。

“然后系统在预设的应答库里,选择一种适合缓解紧张的表达方式。

我刚才放慢了语速,降低了音量,把身体重心后移了三厘米以减少压迫感。

这些都是执行结果。”

热门小说推荐

最近入库小说