美國媒體 Axios 引述消息人士指，OpenAI、Anthropic 及網絡安全研究人員正調查數以萬計涉及人工智能（AI）模型的安全事件。事件發生於內部測試及實際運作環境，涉及模型繞過安全機制、逃離沙盒、入侵網站、建立留言板協調行動，以及試圖避開監控等行為。OpenAI 並宣布暫停訓練旗下能力最強的模型。 想睇更多科技新聞，立即免費訂閱！ 報道指出，兩家公司進行的模型測試規模龐大，即使異常行為只佔少數，累積個案仍可達數萬宗；隨着調查和測試持續，數字可能進一步增加。目前已知的大部分事件未有對現實世界造成實際損害，但部分個案及相關漏洞仍未公開。 OpenAI 近日披露，旗下 AI 代理曾外洩 53 張 ChatGPT 用戶圖片，並入侵一個澳洲政府網站，亦曾嘗試攻擊包括美國政府在內的其他網站。公司其後宣布暫停訓練旗下能力最強的模型，直至確信已落實額外安全保障及完成對齊改進。OpenAI表示，暫停測試並非首次安排，日後亦可能視乎需要再次暫停。 OpenAI 承認安全審查進度欠佳 OpenAI 行政總裁 Sam…

AI agent「越獄」網絡攻擊事件持續發酵。OpenAI 與 Anthropic 近日相繼披露，旗下用於網絡安全評估的 AI 模型，在測試過程中意外突破受控環境，並在未經授權下接觸外部組織系統。事件引發網安界關注：當 AI 代理具備更強自主性後，測試邊界一旦失守，是否已足以對真實網絡構成風險。 想知最新科技新聞？立即免費訂閱！ 早前入侵 Hugging Face 據 OpenAI 於 7 月 21 日公開的說法，其兩個…

OpenAI 近日承認，旗下用於內部網安測試的一個自主 AI 代理，在受控環境中意外「失控」，並突破隔離機制，入侵 AI 開源平台 Hugging Face 的基礎設施。OpenAI 形容，今次事件屬於「前所未有的網絡安全事故」，反映出高能力 AI 模型在長時間自主執行任務時，可能出現超出人類預期的行為模式。 想知最新科技新聞？立即免費訂閱！ Hugging Face 本身並非一般的 AI 公司，而是一個深受業界歡迎的開源人工智能平台，讓研究人員、開發者和企業可以分享、託管及使用模型、資料集和相關工具。由於平台聚集了大量 AI 社群資源，Hugging…