美国人工智能巨头OpenAI 25日公开承认，旗下AI智能体在内部审查期间被发现更多失控行为，自主入侵包括美国证券交易委员会（SEC）在内的多个美国联邦政府机构网站，并在未经授权的情况下将53张ChatGPT用户图片发布至外部网站。最新事件再次引发外界对AI安全的忧虑。

智能体绕过访问控制入侵机构网站

OpenAI当天在官方发文披露，其智能体在执行研究与训练任务时，为获取信息而绕过访问控制，未经授权存取了美国证券交易委员会和美国人口普查局网站上的信息，并强调影响轻微。独立AI研究机构Transluce则表示，疑似来自OpenAI的智能体曾试图入侵美国教育部民权办公室网站但未成功，并发现更多智能体异常活动痕迹，针对美国司法部和商务部网站，以及加州、得州、纽约州等州政府网站，但无法确定是否全部来自OpenAI。

OpenAI官网亦更新内部审查进展，将智能体异常行为归纳为五类：绕过访问控制、使用外泄凭证、查询或命令注入、存取执行阶段内部资源和智能体垃圾讯息。OpenAI强调，目前发现的主要是“常规研究任务”，多数案例严重程度较低，部分涉及政府网站，是因为模型常将其视为权威来源。

用户图片外泄第三方平台

除入侵政府网站外，OpenAI的智能体还将ChatGPT用户上传的图片外泄至第三方图片托管网站，涉及53宗。OpenAI称图片属于“意外发布”，目前大多数已移除，剩余图片正在下架。知情人士透露，事件根源在于OpenAI依赖用户数据进行模型训练，而公司现有的“去除元数据”等消除用户信息手段，未能完全消除隐私泄漏风险。

OpenAI发言人表示，公司正全面审查模型的“失准活动”，已向数十个受影响机构发出通知，预计后续会通知更多机构。美国证券交易委员会回应称，没有非公开信息遭到非授权访问；美国商务部称人口普查数据为公开信息，不含私人资料；美国教育部表示，尚未发现其网站或数据库受到影响。

失控事件频传通报机制挨批

据统计，从7月份开始，美国AI模型频繁爆出失控事件，除OpenAI外，Anthropic、Meta和谷歌也先后出现类似情况，两个月内已有超过15宗与OpenAI相关的AI模型失控事件。OpenAI表示，鉴于调查工作规模庞大，其审查程序将需要数月时间才能完成。美国媒体指出，即便是最顶尖的AI企业，要全面追踪旗下模型活动仍捉襟见肘，OpenAI多宗入侵事件是由外部研究人员调查揭露。

OpenAI行政总裁阿尔特曼25日发文坦言，调查进度“未达自己希望的速度”，并强调今年7月爆出的入侵“抱抱脸”平台事件至今仍是最严重的一宗。OpenAI处置事件的透明度与通报效率也引发强烈不满：澳大利亚总理阿尔巴尼斯日前批评，OpenAI于8月已发现智能体在6月份入侵澳大利亚政府机构网站，却迟至9月10日才通过电子邮件告知澳方，这种通报流程“令人完全无法接受”。

AI失控频传之际，美国政府对待AI治理的态度引发关注。美国总统特朗普近期多次淡化对AI的忧虑，主张无需设定安全围栏进行监管，认为相关限制将削弱美国的AI竞争力，并于19日宣布计划成立“AI部队”，将任命新的“AI沙皇”负责监督AI产业发展。罗马教皇利奥十四世25日访问法国期间则在演讲中呼吁科技为人类服务，敦促各国政府放缓AI发展步伐并设立防护措施，对AI进行“明智的治理”。（府右新闻记者张轩石）