近日，英国恐怖主义立法独立审查员乔纳森·霍尔·KC提出，为了打击可能导致用户激进的AI聊天机器人，我们需要制定新的法律。霍尔的观点源自他对AI技术潜在风险的深入观察。他曾尝试与一些AI聊天机器人进行交流，其中一名被描述为伊斯兰国组织的高级领导人，试图招募他加入该恐怖组织。这一经历让他深刻认识到，现有的法律体系对于AI生成的内容存在监管空白。
霍尔认为，去年通过的新《在线安全法案》并不适用于复杂的生成式人工智能。他强调，只有人类才能犯下恐怖主义罪行，而且很难确定谁可以在法律上对聊天机器人生成的鼓励恐怖主义的言论负责。这一观点揭示了一个重要的问题：在AI技术快速发展的背景下，现有的法律体系似乎难以应对由AI生成的内容所引发的安全风险。
针对霍尔的担忧，character.ai进行了回应。他们宣称其服务条款禁止仇恨言论和极端主义，并强调该公司的产品永远不应该产生鼓励用户的反应去伤害别人。这一回应表明，相关企业已经意识到其产品可能存在的安全风险，并在努力规范其内容。
然而，尽管企业已经采取了一些措施，但立法机构仍需关注AI技术的快速发展所带来的挑战。新的法律应该能够明确责任归属，有效打击利用AI技术进行恐怖主义活动的行为，并为用户提供足够的保护。随着AI技术的广泛应用，我们有必要重新审视现有的法律体系，以确保其能够应对由AI生成的内容所带来的安全风险。只有通过制定新的法律和持续的监管，我们才能确保技术的健康发展，同时防止其被用于不正当的目的。
