AI 巨頭 Anthropic 多名研究員警告,AI 將於 2030 年前令人類滅絕!其中一名剛辭職的研究員,公開批評兩大 AI 公司為爭奪技術主導權,正加速研發可自我改進的超級智能,卻未有相應的安全解決方案,形同以全人類作賭注。 想睇更多科技新聞,立即免費訂閱! 前研究員辭職警告 剛辭職的 Anthropic 研究員 Jacob Coxon 在社交平台發文,指 OpenAI 及 Anthropic…
Search Results: Anthropic (13)
AI agent「越獄」網絡攻擊事件持續發酵。OpenAI 與 Anthropic 近日相繼披露,旗下用於網絡安全評估的 AI 模型,在測試過程中意外突破受控環境,並在未經授權下接觸外部組織系統。事件引發網安界關注:當 AI 代理具備更強自主性後,測試邊界一旦失守,是否已足以對真實網絡構成風險。 想知最新科技新聞?立即免費訂閱! 早前入侵 Hugging Face 據 OpenAI 於 7 月 21 日公開的說法,其兩個…
早前 76 位網絡安全界資深專家聯署公開信,要求美國政府撤回針對 Anthropic 旗下兩款最強 AI 模型 Fable 及 Mythos 的出口管制令,直指這一措施逼使網絡安全防禦者無法使用最強武器,令敵方有可乘之機。事件背後牽涉一份至今仍未公開的 Amazon 研究報告,以及一個極具爭議的「越獄」指控。究竟封殺令是防患未然,抑或弄巧成拙,業界的強烈反彈似乎已經說明一切。 想知最新科技新聞?立即免費訂閱! 美政府向 Anthropic 下達出口管制令 相信大家都知道 Fable 及…
Anthropic 近日接連推出兩項重大革新,一方面用旗下最新模型 Claude Mythos Preview 掃描近千個開源軟件項目,成功偵測超過 2.3 萬個潛在安全漏洞;另一方面推出 Claude Compliance API,聯手 28 家網安及合規平台,將 AI 助理打造成可受企業管控的安全工具。兩項部署一攻一守,恰好回應了 AI 時代企業兩大痛點:軟件漏洞遭黑客自動化利用,以及員工使用 AI 導致商業機密外洩。 想知最新科技新聞?立即免費訂閱!…
網絡安全界正迎來一場深層地震!AI 龍頭 Anthropic 秘密研發的新一代基礎模型「Mythos」的預覽版近日正式曝光,新模型展現的「代理運算」(Agentic Computing)能力與編碼推理性能,被形容為超越現有 Haiku、Sonnet 及 Opus 三大體系。不過這款被賦予古希臘神話名稱的模型,在展現強大防禦潛力的同時,也預視了黑客利用 AI 進行自動化攻擊的恐怖前景。因此,Anthropic 表示因安全考量不向公眾開放,並轉而發起 Project Glasswing 計劃,與逾 40 家科技及金融機構合作,提升關鍵基礎設施的安全防禦。 想知最新科技新聞?立即免費訂閱! 根據 Anthropic…
人工智能(AI)業界罕有出現「三巨頭」聯手發聲!Anthropic 行政總裁阿莫迪(Dario Amodei)日前呼籲業界放慢提升 AI 模型能力的速度,並提出引入第三方評估機構、促成企業協調及推動全球合作的三步框架,獲 OpenAI 行政總裁奧爾特曼(Sam Altman)及 xAI 行政總裁馬斯克(Elon Musk)響應, OpenAI 更確認今年內不會上市 。不過,美國總統特朗普批評有人誇大 AI 風險,強調美國須保持對中國的競爭優勢。 想睇更多科技新聞,立即免費訂閱! 阿莫迪倡三步框架 阿莫迪上周六發表長篇網誌,宣布 Anthropic…
網絡安全界正面對一個現實:過去企業斥巨資建立的安全運營中心(SOC)正逐步淪為擺設。在網絡安全界別擁有逾 20 年經驗的Danelle Au,在外國媒體 Security Week 撰文時指出,整套 SOC 運作模式已無法追上時代需要,當攻擊者開始借助 AI 發動高速攻擊,依賴人手逐一處理警報的傳統 SOC 流程,根本就無力招架。 想知最新科技新聞?立即免費訂閱! 過去一年,AI 大大提升了黑客的攻擊效率及較低入門門檻。Google 威脅情報小組研究員在去年年底便確認了一款能夠在執行期間自行改寫編碼的 AI 惡意程式 PROMPTFLUX。它能夠實時與…
中國的網絡安全公司 360 數字安全公司近期宣稱,他們內部研發的「多代理協作漏洞發掘系統」能夠在極短時間內自動發現大量安全漏洞,除了在今年復辦的天府盃黑客大賽中幫助團隊快速找到漏洞,奪取賽事冠軍,更有能力在數分鐘內發現一個長達 8 年而未被揭露的 Office 致命漏洞(CVE-2026-32190),如果內容屬實,其漏洞挖掘效能已足以與剛公布的 Claude Mythos 匹敵。不過,有專門研究中國網絡安全技術的專家,就對這個 AI 系統抱持懷疑態度。 想知最新科技新聞?立即免費訂閱! 從賽後報告顯示,360 數字安全公司在天府盃比賽中總共找出接近 1,000 個漏洞,當中超過 50 個屬高危等級,漏洞涵蓋 Windows、Microsoft…
繼 Anthropic 日前高調發布具備自動挖掘零日漏洞能力的 Mythos 後,OpenAI 隨即宣布推出專為網絡安全用途打造的 GPT-5.4-Cyber 模型,並同步擴展「Trusted Access for Cyber」計劃,將工具開放給數千位經過驗證的網安專家及安全團隊使用。相較一般版本,特製模型刻意放寬部分安全限制,務求讓防守方在合法情境下擁有更高操作自由度,應對日益複雜的攻擊手法。 想知最新科技新聞?立即免費訂閱! 據官方資料顯示,GPT-5.4-Cyber 是在 GPT-5.4 基礎上微調而成,新增多項針對攻防分析的能力,其中最受關注的是支援二進制逆向工程(binary reverse engineering)。這項功能可協助分析已編譯的可執行程式,從中識別潛在漏洞及惡意行為模式,大幅提升研究人員對惡意軟件的拆解效率,進一步將過往需要高門檻專業技能的工作工具化及自動化。 不過,這項技術目前仍屬「有限開放」階段。OpenAI 表示…
墨西哥政府近日爆出大規模數據洩漏事件,一名黑客被指利用 Anthropic 的 Claude 人工智能聊天機器人,成功從多個政府機構竊取約 150GB 官方數據,引發國際社會對 AI 被武器化的高度關注。根據《彭博》報導,這宗攻擊行動自 2025 年 12 月開始,歷時約一個月,主要鎖定納稅人紀錄及政府員工憑證,對當地資訊安全構成嚴重威脅。 想知最新科技新聞?立即免費訂閱! 負責調查事件的網絡安全公司 Gambit Security 表示,攻擊者將 Claude 用作「攻擊輔助工具」,讓…