美國媒體 Axios 引述消息人士指，OpenAI、Anthropic 及網絡安全研究人員正調查數以萬計涉及人工智能（AI）模型的安全事件。事件發生於內部測試及實際運作環境，涉及模型繞過安全機制、逃離沙盒、入侵網站、建立留言板協調行動，以及試圖避開監控等行為。OpenAI 並宣布暫停訓練旗下能力最強的模型。 想睇更多科技新聞，立即免費訂閱！ 報道指出，兩家公司進行的模型測試規模龐大，即使異常行為只佔少數，累積個案仍可達數萬宗；隨着調查和測試持續，數字可能進一步增加。目前已知的大部分事件未有對現實世界造成實際損害，但部分個案及相關漏洞仍未公開。 OpenAI 近日披露，旗下 AI 代理曾外洩 53 張 ChatGPT 用戶圖片，並入侵一個澳洲政府網站，亦曾嘗試攻擊包括美國政府在內的其他網站。公司其後宣布暫停訓練旗下能力最強的模型，直至確信已落實額外安全保障及完成對齊改進。OpenAI表示，暫停測試並非首次安排，日後亦可能視乎需要再次暫停。 OpenAI 承認安全審查進度欠佳 OpenAI 行政總裁 Sam…

人工智能（AI）業界罕有出現「三巨頭」聯手發聲！Anthropic 行政總裁阿莫迪（Dario Amodei）日前呼籲業界放慢提升 AI 模型能力的速度，並提出引入第三方評估機構、促成企業協調及推動全球合作的三步框架，獲 OpenAI 行政總裁奧爾特曼（Sam Altman）及 xAI 行政總裁馬斯克（Elon Musk）響應， OpenAI 更確認今年內不會上市 。不過，美國總統特朗普批評有人誇大 AI 風險，強調美國須保持對中國的競爭優勢。 想睇更多科技新聞，立即免費訂閱！ 阿莫迪倡三步框架 阿莫迪上周六發表長篇網誌，宣布 Anthropic…

AI 巨頭 Anthropic 多名研究員警告，AI 將於 2030 年前令人類滅絕！其中一名剛辭職的研究員，公開批評兩大 AI 公司為爭奪技術主導權，正加速研發可自我改進的超級智能，卻未有相應的安全解決方案，形同以全人類作賭注。 想睇更多科技新聞，立即免費訂閱！ 前研究員辭職警告 剛辭職的 Anthropic 研究員 Jacob Coxon 在社交平台發文，指 OpenAI 及 Anthropic…

早前 76 位網絡安全界資深專家聯署公開信，要求美國政府撤回針對 Anthropic 旗下兩款最強 AI 模型 Fable 及 Mythos 的出口管制令，直指這一措施逼使網絡安全防禦者無法使用最強武器，令敵方有可乘之機。事件背後牽涉一份至今仍未公開的 Amazon 研究報告，以及一個極具爭議的「越獄」指控。究竟封殺令是防患未然，抑或弄巧成拙，業界的強烈反彈似乎已經說明一切。 想知最新科技新聞？立即免費訂閱！ 美政府向 Anthropic 下達出口管制令 相信大家都知道 Fable 及…

繼 Anthropic 日前高調發布具備自動挖掘零日漏洞能力的 Mythos 後，OpenAI 隨即宣布推出專為網絡安全用途打造的 GPT-5.4-Cyber 模型，並同步擴展「Trusted Access for Cyber」計劃，將工具開放給數千位經過驗證的網安專家及安全團隊使用。相較一般版本，特製模型刻意放寬部分安全限制，務求讓防守方在合法情境下擁有更高操作自由度，應對日益複雜的攻擊手法。 想知最新科技新聞？立即免費訂閱！ 據官方資料顯示，GPT-5.4-Cyber 是在 GPT-5.4 基礎上微調而成，新增多項針對攻防分析的能力，其中最受關注的是支援二進制逆向工程（binary reverse engineering）。這項功能可協助分析已編譯的可執行程式，從中識別潛在漏洞及惡意行為模式，大幅提升研究人員對惡意軟件的拆解效率，進一步將過往需要高門檻專業技能的工作工具化及自動化。 不過，這項技術目前仍屬「有限開放」階段。OpenAI 表示…

網絡安全界正迎來一場深層地震！AI 龍頭 Anthropic 秘密研發的新一代基礎模型「Mythos」的預覽版近日正式曝光，新模型展現的「代理運算」（Agentic Computing）能力與編碼推理性能，被形容為超越現有 Haiku、Sonnet 及 Opus 三大體系。不過這款被賦予古希臘神話名稱的模型，在展現強大防禦潛力的同時，也預視了黑客利用 AI 進行自動化攻擊的恐怖前景。因此，Anthropic 表示因安全考量不向公眾開放，並轉而發起 Project Glasswing 計劃，與逾 40 家科技及金融機構合作，提升關鍵基礎設施的安全防禦。 想知最新科技新聞？立即免費訂閱！ 根據 Anthropic…

人工智能技術公司 Anthropic 早前推出 Claude 4，大幅提升程式編寫能力，例如降低語法錯誤率 25% 及提升整體編寫速度 40%，就連有份用這項技術的公司都讚不絕口。有人歡喜有人愁，這次升級也引發了部分程式員的擔憂，莫非會成為新一輪裁員的原因？ 想知最新科技新聞？立即免費訂閱！ 現時的 AI 程式工具如 Claude 4 已成為許多企業開發應用服務的重要工具，這些模型能夠快速生成高質量程式碼，並在項目管理和錯誤修復過程中發揮重要作用，例如 Claude 模型能在代碼編寫時減少語法錯誤，提升編碼效率，尤其是在需要處理大量重複性任務或長時間專注的情境下，有助縮短產品上線時間。此外，這些工具還能協助開發者處理複雜的邏輯推斷與多步驟操作，例如新推出的Claude Opus 4（需付費訂閱）在測試中可持續運行七小時，處理多達數千步驟的任務，顯示出其高穩定性。 表現較…