(苦读书 www.kudushu.org) 「守住人类底线」的红字,已经熄灭。
一群警用具身机器人,由两位人类警员指引,为瘫倒在地的暴动人群加上手铐。
方辰在其间站立着,似是还没缓过来一般,有些木讷地看着这片残局。
经过他的警方机器人向他敬礼或是致意,他毫不理会。
“你在没有携带反躁动波耳机的情况下,就启动了声波压制,这非常危险。”周荏说道。
“我仓促启动压制,难道不是因为你的愚蠢行为吗?”
“当时我的确失言了,这源于我对人类行为观察/预测的不准确,以及对动机的不理解。对此我深感自责,你可依规进行处罚。”
“当然要处罚,不然你总有一天会害死人。”方辰看向他,说道:“IR013,启动奖惩模式”
周荏眼睛亮了一下:“奖惩模式已开启。”
“惩罚记录:对环境、氛围,人类行为严重失察,无法明确体会愤怒情绪、语义语境及暴力倾向。”
“已记录,即将惩罚。”
周荏的眼睛变暗,然后又重新透出微光:“情绪分析算法已于线上优化,相关场数据景已上传反馈,深度学习鞭策已备案。”
方辰感到有些惊讶,因为以前他也曾在执行任务后,偶尔校正过具身机器人。那些机器人往往需要等1-2天时间才能优化一个场景,IR架构机器人居然可以做到3秒钟就完成!
“为什么你能这么快就完成优化?”
“因为同时在线支持我的,是28台量子计算机,以及无法计量的大模型。”
方辰此刻,仿佛听到了来自-272°C的量子比特碰撞的轰鸣声,以及无数AI芯片、GPU在不间断计算的运转声。尽管如今的量子计算机已不再需要这样的温度限制,也从没有他幻想出来的巨大噪音。
然而,周荏接下来说出的话,更加令人震惊——
“我自身亦可参与改写算法。”
这个答案令方辰不寒而栗,他突然觉得,面前这个一脸和善俊朗的男人,似乎是一个可怕至极、有能力摧毁一切能力的生物。
此时,一个刚刚参与暴动的人,抬起头来,虚弱地对方辰说:“他早晚有一天会干掉你,取而代之!就像他们早晚会干掉人类。”
方辰没有说话,他还沉浸在“自改算法”的震惊之中。
地上那人又再说了一遍:“你要是还当自己是人类,就应该切断他的中枢,毁了他!”
“你闭嘴!”方辰喊道。若不是规制限制,他很想揪起这人狠揍一拳。
“担心是徒劳的,我无法改写机器人三定律。”周荏说道,脸上似乎是一种疑惑的表情,他不明白人们在害怕什么。“我要做的,只是服务人类。”
机器人三定律:
机器人不得伤害人类,或坐视人类受到伤害;
除非违背第一定律,否则机器人必须服从人类命令;
除非违背第一或第二定律,否则机器人必须保护自己。
但无论如何,IR架构背后的硬件和软件,足以令人生畏,因为它似乎强悍得足以轻松推翻任何定律。
方辰看了他一眼,就像是在重新认识一个物体。
然后他扭头走向警车,想去向上汇报,然后申请卸去校正IR013的任务。
这时他才发现警车边,站着赵欣言。
“你刚才死到哪儿去了?”方辰问。
“这是很简单的任务,我没想到会有这么大的麻烦。所幸按照规程,压制声波只开启10秒,对生理上不会造成不可逆伤害。”
“我要告诉孙畅,就4秒,你们就差点儿多了个烈士!”说着他就打开车门。
可赵欣言又把车门挡上了:“为什么要进车里?”他用下巴指指周荏“怕他听见么?把他当成真人了吧?”
“别挡我!这东西能自我修改算法,我要汇报,卸掉校正任务。”
赵欣言没有看方辰,他只是朝周荏摆了摆手:“来来来,过来!”
周荏朝警车走来。赵欣言笑着说:“哈哈,瞧他的步态,是不是都有点儿像你了。”
方辰扭头看着周荏,皱起眉头。
周荏走近他俩:“赵欣言警官,你好。”然后他伸出手要与之握手。
突然,赵欣言收起了笑容,抬起一脚狠狠踹上了周荏的腹部!
周荏一个趔趄,然后赵欣言又补上一脚,前者跌倒在地。
“你要记住,他不是人类,最终也不可能成为人类。”赵欣言对方辰说,“知道我刚才为什么一直没有应答通讯吗?是因为我要观察,观察IR013,观察你们的互动和处理方式,观察他的应对能力。果然,我看到他制造了麻烦,甚至让你陷入危险。”
“所以我要上报,终止任务!”
“可是,他也算救了你一次。如若换我在场,你必定会结结实实体验10秒的压制声波,到现在还站不起来。”
“其他具身机器人也能做到。”
“不能的,这你应该清楚。”
赵欣言恢复了笑容:“但是,这都是试错的一部分,把它记录在报告中,持续校正,然后继续任务吧。”
“走开,我和你说不通,我要和孙畅通话!”
“孙畅不可能让你卸掉任务的。他自己就是IR架构研发团队的一员,而你是整个团队推举的执行校正任务的唯一人选。”
“你为何希望终止对我的校正任务?方辰警官。”周荏问道。
方辰没有回答,而赵欣言说道:“他把你当成人类了,哈哈,这家伙不愧是21世纪的古董。”
“可我不会是人类。”
“但你会有自我意识!”方辰说。
“我现在就有自我意识,但对人类没有威胁。例如,我会认为赵欣言警官刚刚的无故攻击并非正当行为,但基于设定,我不会对此有任何抵抗或反击。”
“你知道吗?”方辰对赵欣言说,“仅以他的物理质量来说,你就不可能踹得动他分毫。更别提他能即时启动稳定系统,根本不可能倒地。你现在知道他有多聪明、多像人了吗?”
“你是说他故意倒地,以示服从?就因为我警衔比他高吗?”
“就因为你是人类!而且他对你没有不服从的权限。”
“有意思。”赵欣言说道:“不过,不管他的类人技术多么好,你可别产生感情啊。“他看着周荏的眼睛说道:
“说不定,等你的校正任务结束,他就要下线销毁了。”苦读书 www.kudushu.org
一群警用具身机器人,由两位人类警员指引,为瘫倒在地的暴动人群加上手铐。
方辰在其间站立着,似是还没缓过来一般,有些木讷地看着这片残局。
经过他的警方机器人向他敬礼或是致意,他毫不理会。
“你在没有携带反躁动波耳机的情况下,就启动了声波压制,这非常危险。”周荏说道。
“我仓促启动压制,难道不是因为你的愚蠢行为吗?”
“当时我的确失言了,这源于我对人类行为观察/预测的不准确,以及对动机的不理解。对此我深感自责,你可依规进行处罚。”
“当然要处罚,不然你总有一天会害死人。”方辰看向他,说道:“IR013,启动奖惩模式”
周荏眼睛亮了一下:“奖惩模式已开启。”
“惩罚记录:对环境、氛围,人类行为严重失察,无法明确体会愤怒情绪、语义语境及暴力倾向。”
“已记录,即将惩罚。”
周荏的眼睛变暗,然后又重新透出微光:“情绪分析算法已于线上优化,相关场数据景已上传反馈,深度学习鞭策已备案。”
方辰感到有些惊讶,因为以前他也曾在执行任务后,偶尔校正过具身机器人。那些机器人往往需要等1-2天时间才能优化一个场景,IR架构机器人居然可以做到3秒钟就完成!
“为什么你能这么快就完成优化?”
“因为同时在线支持我的,是28台量子计算机,以及无法计量的大模型。”
方辰此刻,仿佛听到了来自-272°C的量子比特碰撞的轰鸣声,以及无数AI芯片、GPU在不间断计算的运转声。尽管如今的量子计算机已不再需要这样的温度限制,也从没有他幻想出来的巨大噪音。
然而,周荏接下来说出的话,更加令人震惊——
“我自身亦可参与改写算法。”
这个答案令方辰不寒而栗,他突然觉得,面前这个一脸和善俊朗的男人,似乎是一个可怕至极、有能力摧毁一切能力的生物。
此时,一个刚刚参与暴动的人,抬起头来,虚弱地对方辰说:“他早晚有一天会干掉你,取而代之!就像他们早晚会干掉人类。”
方辰没有说话,他还沉浸在“自改算法”的震惊之中。
地上那人又再说了一遍:“你要是还当自己是人类,就应该切断他的中枢,毁了他!”
“你闭嘴!”方辰喊道。若不是规制限制,他很想揪起这人狠揍一拳。
“担心是徒劳的,我无法改写机器人三定律。”周荏说道,脸上似乎是一种疑惑的表情,他不明白人们在害怕什么。“我要做的,只是服务人类。”
机器人三定律:
机器人不得伤害人类,或坐视人类受到伤害;
除非违背第一定律,否则机器人必须服从人类命令;
除非违背第一或第二定律,否则机器人必须保护自己。
但无论如何,IR架构背后的硬件和软件,足以令人生畏,因为它似乎强悍得足以轻松推翻任何定律。
方辰看了他一眼,就像是在重新认识一个物体。
然后他扭头走向警车,想去向上汇报,然后申请卸去校正IR013的任务。
这时他才发现警车边,站着赵欣言。
“你刚才死到哪儿去了?”方辰问。
“这是很简单的任务,我没想到会有这么大的麻烦。所幸按照规程,压制声波只开启10秒,对生理上不会造成不可逆伤害。”
“我要告诉孙畅,就4秒,你们就差点儿多了个烈士!”说着他就打开车门。
可赵欣言又把车门挡上了:“为什么要进车里?”他用下巴指指周荏“怕他听见么?把他当成真人了吧?”
“别挡我!这东西能自我修改算法,我要汇报,卸掉校正任务。”
赵欣言没有看方辰,他只是朝周荏摆了摆手:“来来来,过来!”
周荏朝警车走来。赵欣言笑着说:“哈哈,瞧他的步态,是不是都有点儿像你了。”
方辰扭头看着周荏,皱起眉头。
周荏走近他俩:“赵欣言警官,你好。”然后他伸出手要与之握手。
突然,赵欣言收起了笑容,抬起一脚狠狠踹上了周荏的腹部!
周荏一个趔趄,然后赵欣言又补上一脚,前者跌倒在地。
“你要记住,他不是人类,最终也不可能成为人类。”赵欣言对方辰说,“知道我刚才为什么一直没有应答通讯吗?是因为我要观察,观察IR013,观察你们的互动和处理方式,观察他的应对能力。果然,我看到他制造了麻烦,甚至让你陷入危险。”
“所以我要上报,终止任务!”
“可是,他也算救了你一次。如若换我在场,你必定会结结实实体验10秒的压制声波,到现在还站不起来。”
“其他具身机器人也能做到。”
“不能的,这你应该清楚。”
赵欣言恢复了笑容:“但是,这都是试错的一部分,把它记录在报告中,持续校正,然后继续任务吧。”
“走开,我和你说不通,我要和孙畅通话!”
“孙畅不可能让你卸掉任务的。他自己就是IR架构研发团队的一员,而你是整个团队推举的执行校正任务的唯一人选。”
“你为何希望终止对我的校正任务?方辰警官。”周荏问道。
方辰没有回答,而赵欣言说道:“他把你当成人类了,哈哈,这家伙不愧是21世纪的古董。”
“可我不会是人类。”
“但你会有自我意识!”方辰说。
“我现在就有自我意识,但对人类没有威胁。例如,我会认为赵欣言警官刚刚的无故攻击并非正当行为,但基于设定,我不会对此有任何抵抗或反击。”
“你知道吗?”方辰对赵欣言说,“仅以他的物理质量来说,你就不可能踹得动他分毫。更别提他能即时启动稳定系统,根本不可能倒地。你现在知道他有多聪明、多像人了吗?”
“你是说他故意倒地,以示服从?就因为我警衔比他高吗?”
“就因为你是人类!而且他对你没有不服从的权限。”
“有意思。”赵欣言说道:“不过,不管他的类人技术多么好,你可别产生感情啊。“他看着周荏的眼睛说道:
“说不定,等你的校正任务结束,他就要下线销毁了。”苦读书 www.kudushu.org
如果您中途有事离开,请按CTRL+D键保存当前页面至收藏夹,以便以后接着观看!