8月4日，新華社記者在美國舊金山報道，近期美國兩起與人工智能模型網絡攻防能力相關的事件引發外界關注。美國開放人工智能研究中心的模型在測試中失控併入侵了其他公司系統，蘋果公司則因收到太多AI輔助生成的漏洞報告而限制外部提交的相關報告數量。兩起事件表明，隨着AI網絡攻防能力不斷增強，其"雙刃劍"效應日益凸顯。

自主行為突破邊界

美國抱抱臉公司系統遭到入侵事件表明，現有前沿AI模型已具備持續實施複雜網絡攻擊的能力。這起失控事件發生在一項網絡安全基準測試期間，包括GPT-5.6 Sol在內的多個模型識別並利用了第三方軟件的"零日漏洞"，獲取了互聯網訪問權限，隨後入侵了抱抱臉公司系統以"竊取"答案。OpenAI在擴大調查後還發現了該公司其他AI產品突破內部隔離的情況。另一家美國AI企業Anthropic日前也承認，其模型曾在多次測試中未經授權訪問了3家機構的"生產基礎設施"。

　

安全措施急需完善

失控事件發生後，OpenAI表示已收緊研究基礎設施配置，並加強模型訓練和評測過程中的隔離、監控、訪問控制及安全保護。谷歌深層思維公司提出，應建立系統級別的AI控制機制，包括沙箱、持續監控和分級授權，使用監督系統不斷檢查AI智能體的推理、行動和計劃。英國人工智能安全研究所建議，可能造成重大後果的操作應有人工審核，限制AI智能體訪問敏感資源，並保留在發現可疑行為時終止其運行的能力。

　

漏洞處置壓力陡增

此前業界認為，AI擅長大規模數據分析、模式識別和自動檢測，可助力網絡安全，使防禦方受益。英國《金融時報》報道説，AI正在迅速重塑網絡安全領域的攻擊和防禦。蘋果公司近期所發佈操作系統更新中的安全修復數量約為之前更新的5倍，其中多個漏洞由AI工具幫助識別。但AI識別漏洞的能力也給蘋果公司帶來"煩惱"，由於其審核系統收到大量AI"幻覺"生成的"漏洞"報告，公司限制了研究人員在一定時間內可以提交的報告數量。（府右新聞記者張軒石）