五、定律（1 / 2）

“守住人类底线”的红字，已经熄灭。

一群警用具身机器人，由两位人类警员指引，为瘫倒在地的暴动人群加上手铐。

方辰在其间站立着，似是还没缓过来一般，有些木讷地看着这片残局。

经过他的警方机器人向他敬礼或是致意，他毫不理会。

“你在没有携带反躁动波耳机的情况下，就启动了声波压制，这非常危险。”周荏说道。

“我仓促启动压制，难道不是因为你的愚蠢行为吗？”

“当时我的确失言了，这源于我对人类行为观察/预测的不准确，以及对动机的不理解。对此我深感自责，你可依规进行处罚。”

“当然要处罚，不然你总有一天会害死人。”方辰看向他，说道：“IR013，启动奖惩模式”

周荏眼睛亮了一下：“奖惩模式已开启。”

“惩罚记录：对环境、氛围，人类行为严重失察，无法明确体会愤怒情绪、语义语境及暴力倾向。”

“已记录，即将惩罚。”

周荏的眼睛变暗，然后又重新透出微光：“情绪分析算法已于线上优化，相关场数据景已上传反馈，深度学习鞭策已备案。”

方辰感到有些惊讶，因为以前他也曾在执行任务后，偶尔校正过具身机器人。那些机器人往往需要等1-2天时间才能优化一个场景，IR架构机器人居然可以做到3秒钟就完成！

“为什么你能这么快就完成优化？”

“因为同时在线支持我的，是28台量子计算机，以及无法计量的大模型。”

方辰此刻，仿佛听到了来自-272°C的量子比特碰撞的轰鸣声，以及无数AI芯片、GPU在不间断计算的运转声。尽管如今的量子计算机已不再需要这样的温度限制，也从没有他幻想出来的巨大噪音。

然而，周荏接下来说出的话，更加令人震惊——

“我自身亦可参与改写算法。”

这个答案令方辰不寒而栗，他突然觉得，面前这个一脸和善俊朗的男人，似乎是一个可怕至极、有能力摧毁一切能力的生物。

此时，一个刚刚参与暴动的人，抬起头来，虚弱地对方辰说：“他早晚有一天会干掉你，取而代之！就像他们早晚会干掉人类。”

方辰没有说话，他还沉浸在“自改算法”的震惊之中。

地上那人又再说了一遍：“你要是还当自己是人类，就应该切断他的中枢，毁了他！”

“你闭嘴！”方辰喊道。若不是规制限制，他很想揪起这人狠揍一拳。

“担心是徒劳的，我无法改写机器人三定律。”周荏说道，脸上似乎是一种疑惑的表情，他不明白人们在害怕什么。“我要做的，只是服务人类。”

机器人三定律：

机器人不得伤害人类，或坐视人类受到伤害；

除非违背第一定律，否则机器人必须服从人类命令；

除非违背第一或第二定律，否则机器人必须保护自己。

但无论如何，IR架构背后的硬件和软件，足以令人生畏，因为它似乎强悍得足以轻松推翻任何定律。

方辰看了他一眼，就像是在重新认识一个物体。

然后他扭头走向警车，想去向上汇报，然后申请卸去校正IR013的任务。