强闯政府网站、暴露用户图片……一系列越界行为之后，OpenAI宣布暂停其最新一代人工智能模型的训练 、评估及包含工具调用的推理 。
公司表示 ，虽然本次事件严重程度低于此前的安全事故 ，但为下一阶段加固防线提供了重要信号 。
闯祸的AI智能体给大众的预警，不仅在于未经授权的情况下违规访问 、操作美国官方网站，还在于又一次把AI越界的风险具象化 ，引发全球对人工智能安全管控与合规治理的广泛关注。
越界并非新鲜事 ，却是最让大众忧心的AI行为。今年3月，OpenAI回溯审查中就发现类似问题 ，当时指向司法部以及加州、纽约州等政府网站 。
而OpenAI的解释 ，恰恰最能说明安全风险无处不在 。OpenAI指出，大部分活动都是例行研究任务 ，政府网站被模型视为权威的公开信息来源。
越界没有出现在什么危险任务里 ，而是在最日常的查资料任务中 。AI发展越快，密集地渗透于大大小小的任务中 ，越能暴露出智能体在自主决策、安全约束 、权限管控上的漏洞 。
这些漏洞进一步放大了人工智能的安全边界 、风险管控、合规监管等安全考题。从OpenAI的训练沙箱跑出来的隐患 ，正步步逼近现实世界 。
几起安全事件真正指向的，是一个离每个人都很近的问题 ，AI帮人做事的同时 ，人对AI授权到底授权了多少，又意味着什么 。
关于AI安全，终极问题始终是哪些事能做 、哪些事不能做。人的授权代表了任务指令 ，而到了具体执行层面 ，则需要划定边界，而非为了达到目的不惜一切 。
数据安全首当其冲 。一个按授权完成任务的AI ，在怎样的围墙之下 ，采用怎样的方式方法获取信息完成任务，其实和完成任务本身一样重要。
即便数据是公开的 ，也不等于随便拿到钥匙就可以开门 。
前不久，OpenAI官宣“攻克 ”的千禧年数学难题 ，非但没有赢得学术界的掌声 ，反倒引来了一片嘘声，数学家们认为这并不是加冕 ，而是一场数据掠夺的“胜利 ” 。
能力越强 ，责任越大。放在今天的AI发展上，格外具有说服力，也更现实。模型足够大 、数据足够多、对齐足够先进 ，不代表它能正确理解意图 、识别恶意输入 、服从正确指令、杜绝错误行为 。
我们对AI的期待 ，已经超过了对工具的期待 。但对AI安全的预警及应对，却呈现出不及预期的一面。
模型的进化永远不能替代系统的约束 。安全始终是发展的前提 ，当全球最强的AI公司，给最强的模型按下暂停键 ，足以说明问题 。
（文章来源：北京商报）
