8月4日，新华社记者在美国旧金山报道，近期美国两起与人工智能模型网络攻防能力相关的事件引发外界关注。美国开放人工智能研究中心的模型在测试中失控并入侵了其他公司系统，苹果公司则因收到太多AI辅助生成的漏洞报告而限制外部提交的相关报告数量。两起事件表明，随着AI网络攻防能力不断增强，其"双刃剑"效应日益凸显。

自主行为突破边界

美国抱抱脸公司系统遭到入侵事件表明，现有前沿AI模型已具备持续实施复杂网络攻击的能力。这起失控事件发生在一项网络安全基准测试期间，包括GPT-5.6 Sol在内的多个模型识别并利用了第三方软件的"零日漏洞"，获取了互联网访问权限，随后入侵了抱抱脸公司系统以"窃取"答案。OpenAI在扩大调查后还发现了该公司其他AI产品突破内部隔离的情况。另一家美国AI企业Anthropic日前也承认，其模型曾在多次测试中未经授权访问了3家机构的"生产基础设施"。

　

安全措施急需完善

失控事件发生后，OpenAI表示已收紧研究基础设施配置，并加强模型训练和评测过程中的隔离、监控、访问控制及安全保护。谷歌深层思维公司提出，应建立系统级别的AI控制机制，包括沙箱、持续监控和分级授权，使用监督系统不断检查AI智能体的推理、行动和计划。英国人工智能安全研究所建议，可能造成重大后果的操作应有人工审核，限制AI智能体访问敏感资源，并保留在发现可疑行为时终止其运行的能力。

　

漏洞处置压力陡增

此前业界认为，AI擅长大规模数据分析、模式识别和自动检测，可助力网络安全，使防御方受益。英国《金融时报》报道说，AI正在迅速重塑网络安全领域的攻击和防御。苹果公司近期所发布操作系统更新中的安全修复数量约为之前更新的5倍，其中多个漏洞由AI工具帮助识别。但AI识别漏洞的能力也给苹果公司带来"烦恼"，由于其审核系统收到大量AI"幻觉"生成的"漏洞"报告，公司限制了研究人员在一定时间内可以提交的报告数量。（府右新闻记者张轩石）