近期 AI 代理（AI Agent）安全事故頻生，美國晶片商英偉達（Nvidia）宣布推出開放 AI 代理安全平台（NVIDIA Open Agent Safety Platform），加強監管可自主執行任務的 AI 代理，防範其越權存取資料、使用未獲授權工具或執行意料之外的操作。 想睇更多科技新聞，立即免費訂閱！ AI 代理與一般聊天機械人不同，它們不僅能回答問題，更可自行瀏覽網頁、操作軟件、處理檔案、使用工具，甚至編寫和執行程式。因此，一旦代理繞過原有的應用程式安全控制，便可能取得超出授權範圍的資料或完成非預期任務。 新平台由兩個主要部分組成：開源軟件「NVIDIA OpenShell」，以及參考系統設計「NVIDIA Sentry」。OpenShell 主要負責為 AI…

AI agent「越獄」網絡攻擊事件持續發酵。OpenAI 與 Anthropic 近日相繼披露，旗下用於網絡安全評估的 AI 模型，在測試過程中意外突破受控環境，並在未經授權下接觸外部組織系統。事件引發網安界關注：當 AI 代理具備更強自主性後，測試邊界一旦失守，是否已足以對真實網絡構成風險。 想知最新科技新聞？立即免費訂閱！ 早前入侵 Hugging Face 據 OpenAI 於 7 月 21 日公開的說法，其兩個…

網絡安全公司 Hunt.io 近日披露一宗泰國財政部網絡系統疑似被入侵事件，研究員指攻擊者在過程中使用開源 AI 代理工具 Hermes，並在「YOLO 模式」下自動執行入侵及後續行動。事件被視為 AI 代理被武器化用於實際網絡攻擊的最新例證，反映 AI 技術正逐步改寫網絡攻防的遊戲規則。 想知最新科技新聞？立即免費訂閱！ 香港伺服器曝露未設防目錄 Hunt.io 在 7 月 9 日至 13…

OpenAI 近日承認，旗下用於內部網安測試的一個自主 AI 代理，在受控環境中意外「失控」，並突破隔離機制，入侵 AI 開源平台 Hugging Face 的基礎設施。OpenAI 形容，今次事件屬於「前所未有的網絡安全事故」，反映出高能力 AI 模型在長時間自主執行任務時，可能出現超出人類預期的行為模式。 想知最新科技新聞？立即免費訂閱！ Hugging Face 本身並非一般的 AI 公司，而是一個深受業界歡迎的開源人工智能平台，讓研究人員、開發者和企業可以分享、託管及使用模型、資料集和相關工具。由於平台聚集了大量 AI 社群資源，Hugging…