近日，Google DeepMind 机器人团队公布了三项新进展，旨在帮助机器人在自然环境中做出更快、更好、更安全的决策。其中最引人注目的是该团队起草的「机器人宪法」系统——AutoRT。该系统的目的是确保 AI 机器人在工作中不会伤害到人类。
为了实现这一目标，DeepMind 对机器人进行了编程，对其关节处设限。如果关节上的力超过一定阈值，机器人会自动停止工作。此外，人类操作员可以通过实体开关随时让机器人停止运行。这种安全机制的灵感源自艾萨克·阿西莫夫的「机器人三定律」。
这些定律是：
- 第一定律：机器人不能伤害人类，也不能因不作为而伤害人类。
- 第二定律：机器人必须服从人类发出的命令，除非违反第一定律。
- 第三定律：只要不违反第一或第二定律，机器人就必须捍卫自己的存在。
「机器人宪法」系统以安全为核心，使得机器人在高效工作的同时，能够保护人类的安全。这一系统的实施将有助于解决机器人在实际应用中可能带来的安全问题，并推动机器人技术的进一步发展。
