AI 巨頭 Anthropic 多名研究員警告,AI 將於 2030 年前令人類滅絕!其中一名剛辭職的研究員,公開批評兩大 AI 公司為爭奪技術主導權,正加速研發可自我改進的超級智能,卻未有相應的安全解決方案,形同以全人類作賭注。 想睇更多科技新聞,立即免費訂閱! 前研究員辭職警告 剛辭職的 Anthropic 研究員 Jacob Coxon 在社交平台發文,指 OpenAI 及 Anthropic…
Search Results: Anthropic (21)
AI agent「越獄」網絡攻擊事件持續發酵。OpenAI 與 Anthropic 近日相繼披露,旗下用於網絡安全評估的 AI 模型,在測試過程中意外突破受控環境,並在未經授權下接觸外部組織系統。事件引發網安界關注:當 AI 代理具備更強自主性後,測試邊界一旦失守,是否已足以對真實網絡構成風險。 想知最新科技新聞?立即免費訂閱! 早前入侵 Hugging Face 據 OpenAI 於 7 月 21 日公開的說法,其兩個…
早前 76 位網絡安全界資深專家聯署公開信,要求美國政府撤回針對 Anthropic 旗下兩款最強 AI 模型 Fable 及 Mythos 的出口管制令,直指這一措施逼使網絡安全防禦者無法使用最強武器,令敵方有可乘之機。事件背後牽涉一份至今仍未公開的 Amazon 研究報告,以及一個極具爭議的「越獄」指控。究竟封殺令是防患未然,抑或弄巧成拙,業界的強烈反彈似乎已經說明一切。 想知最新科技新聞?立即免費訂閱! 美政府向 Anthropic 下達出口管制令 相信大家都知道 Fable 及…
Anthropic 近日接連推出兩項重大革新,一方面用旗下最新模型 Claude Mythos Preview 掃描近千個開源軟件項目,成功偵測超過 2.3 萬個潛在安全漏洞;另一方面推出 Claude Compliance API,聯手 28 家網安及合規平台,將 AI 助理打造成可受企業管控的安全工具。兩項部署一攻一守,恰好回應了 AI 時代企業兩大痛點:軟件漏洞遭黑客自動化利用,以及員工使用 AI 導致商業機密外洩。 想知最新科技新聞?立即免費訂閱!…
網絡安全界正迎來一場深層地震!AI 龍頭 Anthropic 秘密研發的新一代基礎模型「Mythos」的預覽版近日正式曝光,新模型展現的「代理運算」(Agentic Computing)能力與編碼推理性能,被形容為超越現有 Haiku、Sonnet 及 Opus 三大體系。不過這款被賦予古希臘神話名稱的模型,在展現強大防禦潛力的同時,也預視了黑客利用 AI 進行自動化攻擊的恐怖前景。因此,Anthropic 表示因安全考量不向公眾開放,並轉而發起 Project Glasswing 計劃,與逾 40 家科技及金融機構合作,提升關鍵基礎設施的安全防禦。 想知最新科技新聞?立即免費訂閱! 根據 Anthropic…
澳洲信號局(ASD)警告,人工智能正被國家支持的黑客用來更快找出系統漏洞、提升攻擊速度與規模,網絡安全威脅正在上升。該局最新報告顯示,上財年處理的網絡安全事件超過 1,500 宗,按年增加 20%,較五年前上升 36%。 澳洲信號局於 10 月 27 日發表最新網絡安全威脅報告,指出今年 3 月是重要轉折點。當時,美國人工智能公司 Anthropic 及 OpenAI,連同中國的 DeepSeek,先後推出前沿人工智能模型。這類模型的核心特徵,是由單純「回答問題」進一步發展至「完成任務」,即由生成式人工智能加速演變為能自主執行複雜流程的智能體(AI Agent)。 想睇更多科技新聞,立即免費訂閱! 報告指出,前沿人工智能常被視為邁向通用人工智能(AGI)的最新里程碑。通用人工智能被視為科技巨頭共同追求的目標,理論上能在大多數具經濟價值的任務中達到甚至超越人類水平,並具備自主學習、常識推理、知識遷移及適應陌生環境的能力。 澳洲信號局局長…
美國舊金山網絡安全初創公司 DepthFirst,利用中國公司提供的免費人工智能(AI)模型,成功透過漏洞遠程存取一名 TikTok 用戶手機的攝像頭及照片庫,事件引發外界對中國 AI 模型缺乏使用限制的擔憂。 據《華盛頓郵報》報導,DepthFirst 在尋找協助偵測電腦漏洞的 AI 軟件時,並未選用美國頂尖 AI 公司,而是採用了中國公司的模型。美國的 Anthropic 和 OpenAI 等公司,均限制其模型只能向經過嚴格審查的特定用戶提供網絡安全協助;但中國的 DeepSeek 和 Z.ai 等公司,則允許任何人免費下載並修改其…
台灣網絡安全研究公司 TeamT5 表示,與中共政府有關聯的黑客組織,正利用 DeepSeek 等人工智能(AI)工具,將偵察、漏洞利用及惡意程式開發等工作自動化,據其最新研究,相關組織採用 AI 工具後,發動的攻擊數量較以往增加超過一倍。 想睇更多科技新聞,立即免費訂閱! 彭博社引述 TeamT5 研究指出,黑客開始把部分繁瑣工作交由 AI 處理,並利用模型協助開發較複雜的惡意軟件。研究人員認為,儘管中國市場上已有能力更強的模型,例如 Moonshot 的 Kimi K2,但黑客仍較傾向使用 DeepSeek,原因是其安全護欄相對較弱,運行成本亦較低。TeamT5 表示,暫未發現 Kimi…
摩根大通行政總裁戴蒙(Jamie Dimon)警告,Anthropic 旗下人工智能模型 Mythos 大幅推高全球網絡安全風險,並帶來此前未被察覺的安全漏洞。他表示,面對相關威脅,重點是採取實際行動處理問題,而非陷入人工智能是否構成人類存亡威脅的爭論。 想睇更多科技新聞,立即免費訂閱! AI 帶來未知漏洞 網絡安全憂慮加劇 戴蒙日前接受彭博電視訪問時表示,AI 帶來的風險「在 Mythos 出現後增加了 10 倍」。他指出,人工智能揭示了此前未知的安全漏洞,而早在這些技術出現之前,網絡安全已一直令人擔憂。 談及 AI 代理及 Mythos 等技術可能引發的問題,戴蒙形容,相關憂慮合理,而且確實存在。不過,他強調,自己不會因為 AI…
英國《金融時報》引述消息指,長和(001)旗下屈臣氏集團,原擬今年在倫敦及香港雙重上市,估值約 300 億美元,折合逾 2,300 億港元,惟計劃押後至 2027 年,主要受亞洲監管程序影響。據了解,該業務已獲中證監「開綠燈」,但仍需待內地網絡安全監管機構放行。 想睇更多科技新聞,立即免費訂閱! 據報道指,屈臣氏集團原計劃透過上市集資約 20 億美元。其經營包括健康及美容零售業務,旗下品牌包括德國 Rossmann、英國 Superdrug 及 Savers。 屈臣氏上市延後之際,歐美新股市場亦出現降溫。美國方面,油站集團 EG Group、智能戒指初創 Oura、核能企業 Holtec…