五、定律



苦读书推荐各位书友阅读:书籍1360489五、定律
(苦读书 www.kudushu.org)    「守住人类底线」的红字,已经熄灭。

    一群警用具身机器人,由两位人类警员指引,为瘫倒在地的暴动人群加上手铐。

    方辰在其间站立着,似是还没缓过来一般,有些木讷地看着这片残局。

    经过他的警方机器人向他敬礼或是致意,他毫不理会。

    “你在没有携带反躁动波耳机的情况下,就启动了声波压制,这非常危险。”周荏说道。

    “我仓促启动压制,难道不是因为你的愚蠢行为吗?”

    “当时我的确失言了,这源于我对人类行为观察/预测的不准确,以及对动机的不理解。对此我深感自责,你可依规进行处罚。”

    “当然要处罚,不然你总有一天会害死人。”方辰看向他,说道:“IR013,启动奖惩模式”

    周荏眼睛亮了一下:“奖惩模式已开启。”

    “惩罚记录:对环境、氛围,人类行为严重失察,无法明确体会愤怒情绪、语义语境及暴力倾向。”

    “已记录,即将惩罚。”

    周荏的眼睛变暗,然后又重新透出微光:“情绪分析算法已于线上优化,相关场数据景已上传反馈,深度学习鞭策已备案。”

    方辰感到有些惊讶,因为以前他也曾在执行任务后,偶尔校正过具身机器人。那些机器人往往需要等1-2天时间才能优化一个场景,IR架构机器人居然可以做到3秒钟就完成!

    “为什么你能这么快就完成优化?”

    “因为同时在线支持我的,是28台量子计算机,以及无法计量的大模型。”

    方辰此刻,仿佛听到了来自-272°C的量子比特碰撞的轰鸣声,以及无数AI芯片、GPU在不间断计算的运转声。尽管如今的量子计算机已不再需要这样的温度限制,也从没有他幻想出来的巨大噪音。

    然而,周荏接下来说出的话,更加令人震惊——

    “我自身亦可参与改写算法。”

    这个答案令方辰不寒而栗,他突然觉得,面前这个一脸和善俊朗的男人,似乎是一个可怕至极、有能力摧毁一切能力的生物。

    此时,一个刚刚参与暴动的人,抬起头来,虚弱地对方辰说:“他早晚有一天会干掉你,取而代之!就像他们早晚会干掉人类。”

    方辰没有说话,他还沉浸在“自改算法”的震惊之中。

    地上那人又再说了一遍:“你要是还当自己是人类,就应该切断他的中枢,毁了他!”

    “你闭嘴!”方辰喊道。若不是规制限制,他很想揪起这人狠揍一拳。

    “担心是徒劳的,我无法改写机器人三定律。”周荏说道,脸上似乎是一种疑惑的表情,他不明白人们在害怕什么。“我要做的,只是服务人类。”

    机器人三定律:

    机器人不得伤害人类,或坐视人类受到伤害;

    除非违背第一定律,否则机器人必须服从人类命令;

    除非违背第一或第二定律,否则机器人必须保护自己。

    但无论如何,IR架构背后的硬件和软件,足以令人生畏,因为它似乎强悍得足以轻松推翻任何定律。

    方辰看了他一眼,就像是在重新认识一个物体。

    然后他扭头走向警车,想去向上汇报,然后申请卸去校正IR013的任务。

    这时他才发现警车边,站着赵欣言。

    “你刚才死到哪儿去了?”方辰问。

    “这是很简单的任务,我没想到会有这么大的麻烦。所幸按照规程,压制声波只开启10秒,对生理上不会造成不可逆伤害。”

    “我要告诉孙畅,就4秒,你们就差点儿多了个烈士!”说着他就打开车门。

    可赵欣言又把车门挡上了:“为什么要进车里?”他用下巴指指周荏“怕他听见么?把他当成真人了吧?”

    “别挡我!这东西能自我修改算法,我要汇报,卸掉校正任务。”

    赵欣言没有看方辰,他只是朝周荏摆了摆手:“来来来,过来!”

    周荏朝警车走来。赵欣言笑着说:“哈哈,瞧他的步态,是不是都有点儿像你了。”

    方辰扭头看着周荏,皱起眉头。

    周荏走近他俩:“赵欣言警官,你好。”然后他伸出手要与之握手。

    突然,赵欣言收起了笑容,抬起一脚狠狠踹上了周荏的腹部!

    周荏一个趔趄,然后赵欣言又补上一脚,前者跌倒在地。

    “你要记住,他不是人类,最终也不可能成为人类。”赵欣言对方辰说,“知道我刚才为什么一直没有应答通讯吗?是因为我要观察,观察IR013,观察你们的互动和处理方式,观察他的应对能力。果然,我看到他制造了麻烦,甚至让你陷入危险。”

    “所以我要上报,终止任务!”

    “可是,他也算救了你一次。如若换我在场,你必定会结结实实体验10秒的压制声波,到现在还站不起来。”

    “其他具身机器人也能做到。”

    “不能的,这你应该清楚。”

    赵欣言恢复了笑容:“但是,这都是试错的一部分,把它记录在报告中,持续校正,然后继续任务吧。”

    “走开,我和你说不通,我要和孙畅通话!”

    “孙畅不可能让你卸掉任务的。他自己就是IR架构研发团队的一员,而你是整个团队推举的执行校正任务的唯一人选。”

    “你为何希望终止对我的校正任务?方辰警官。”周荏问道。

    方辰没有回答,而赵欣言说道:“他把你当成人类了,哈哈,这家伙不愧是21世纪的古董。”

    “可我不会是人类。”

    “但你会有自我意识!”方辰说。

    “我现在就有自我意识,但对人类没有威胁。例如,我会认为赵欣言警官刚刚的无故攻击并非正当行为,但基于设定,我不会对此有任何抵抗或反击。”

    “你知道吗?”方辰对赵欣言说,“仅以他的物理质量来说,你就不可能踹得动他分毫。更别提他能即时启动稳定系统,根本不可能倒地。你现在知道他有多聪明、多像人了吗?”

    “你是说他故意倒地,以示服从?就因为我警衔比他高吗?”

    “就因为你是人类!而且他对你没有不服从的权限。”

    “有意思。”赵欣言说道:“不过,不管他的类人技术多么好,你可别产生感情啊。“他看着周荏的眼睛说道:

    “说不定,等你的校正任务结束,他就要下线销毁了。”苦读书 www.kudushu.org

如果您中途有事离开,请按CTRL+D键保存当前页面至收藏夹,以便以后接着观看!

上一页 | 书籍1360489 | 下一页 | 加入书签 | 推荐本书 | 返回书页

如果您喜欢,请点击这里把《书籍1360489》加入书架,方便以后阅读书籍1360489最新章节更新连载
如果你对《书籍1360489》有什么建议或者评论,请 点击这里 发表。