墨西哥政府近日爆出大規模數據洩漏事件,一名黑客被指利用 Anthropic 的 Claude 人工智能聊天機器人,成功從多個政府機構竊取約 150GB 官方數據,引發國際社會對 AI 被武器化的高度關注。根據《彭博》報導,這宗攻擊行動自 2025 年 12 月開始,歷時約一個月,主要鎖定納稅人紀錄及政府員工憑證,對當地資訊安全構成嚴重威脅。 想知最新科技新聞?立即免費訂閱! 負責調查事件的網絡安全公司 Gambit Security 表示,攻擊者將 Claude 用作「攻擊輔助工具」,讓…
Search Results: Claude (16)
人工智能技術公司 Anthropic 早前推出 Claude 4,大幅提升程式編寫能力,例如降低語法錯誤率 25% 及提升整體編寫速度 40%,就連有份用這項技術的公司都讚不絕口。有人歡喜有人愁,這次升級也引發了部分程式員的擔憂,莫非會成為新一輪裁員的原因? 想知最新科技新聞?立即免費訂閱! 現時的 AI 程式工具如 Claude 4 已成為許多企業開發應用服務的重要工具,這些模型能夠快速生成高質量程式碼,並在項目管理和錯誤修復過程中發揮重要作用,例如 Claude 模型能在代碼編寫時減少語法錯誤,提升編碼效率,尤其是在需要處理大量重複性任務或長時間專注的情境下,有助縮短產品上線時間。此外,這些工具還能協助開發者處理複雜的邏輯推斷與多步驟操作,例如新推出的Claude Opus 4(需付費訂閱)在測試中可持續運行七小時,處理多達數千步驟的任務,顯示出其高穩定性。 表現較…
美國舊金山網絡安全初創公司 DepthFirst,利用中國公司提供的免費人工智能(AI)模型,成功透過漏洞遠程存取一名 TikTok 用戶手機的攝像頭及照片庫,事件引發外界對中國 AI 模型缺乏使用限制的擔憂。 據《華盛頓郵報》報導,DepthFirst 在尋找協助偵測電腦漏洞的 AI 軟件時,並未選用美國頂尖 AI 公司,而是採用了中國公司的模型。美國的 Anthropic 和 OpenAI 等公司,均限制其模型只能向經過嚴格審查的特定用戶提供網絡安全協助;但中國的 DeepSeek 和 Z.ai 等公司,則允許任何人免費下載並修改其…
台灣網絡安全研究公司 TeamT5 表示,與中共政府有關聯的黑客組織,正利用 DeepSeek 等人工智能(AI)工具,將偵察、漏洞利用及惡意程式開發等工作自動化,據其最新研究,相關組織採用 AI 工具後,發動的攻擊數量較以往增加超過一倍。 想睇更多科技新聞,立即免費訂閱! 彭博社引述 TeamT5 研究指出,黑客開始把部分繁瑣工作交由 AI 處理,並利用模型協助開發較複雜的惡意軟件。研究人員認為,儘管中國市場上已有能力更強的模型,例如 Moonshot 的 Kimi K2,但黑客仍較傾向使用 DeepSeek,原因是其安全護欄相對較弱,運行成本亦較低。TeamT5 表示,暫未發現 Kimi…
國家安全部部長陳一新近日在《中國網信》雜誌發表署名文章《全面築牢人工智能安全屏障 推動人工智能健康有序發展》,指出人工智能已成為全球科技競爭主戰場,以及大國戰略博弈新賽道,發展機遇與安全風險並存。文章並列出人工智能發展帶來的六大風險挑戰,並提出要加快構建人工智能安全風險防治體系,以高水平安全及高效能治理,推動人工智能健康有序發展。 想睇更多科技新聞,立即免費訂閱! 文章指出,首項風險是系統性影響政治安全環境。各種敵對勢力和別有用心之人濫用深度偽造音視頻、AI 生成圖文及智能水軍等生成式人工智能技術,低成本、批量化炮製政治謠言、傳播有害信息及煽動對立情緒,對中國實施輿論戰及認知戰,直接威脅政治安全、制度安全及意識形態安全。 第二項風險為顛覆性升級網絡攻防態勢。文章稱,以美國科技公司近期推出的「神話」(Claude Mythos)及「賽博」(GPT-5.5-Cyber)大模型為標誌,人工智能正顯著提升網絡漏洞挖掘、惡意軟件開發效率及武器化水平,令網絡攻防進入漏洞工業化、攻防全自動及「AI 對 AI」的新階段。文章指,人工智能大幅拉低實施網絡攻擊的技術門檻及成本投入,對中國關鍵信息基礎設施帶來嚴重風險隱患。 第三項為規模性放大竊密洩密風險,指部分境內用戶安全意識不足,使用境外人工智能產品處理敏感信息及向境外輸出數據,造成境內數據大規模外洩。 須加強安全風險監測預警 第四項風險是人工智能壟斷性加劇科技發展失衡。有關國家利用在 AI 基礎理論、模型架構及核心算力等方面的優勢,以「維護國家安全」為名,透過制定實體清單、實施技術管制、壟斷行業標準及建立閉源生態等手段,嚴格限制相關國家引進前沿技術設備及提升科技創新能力,割裂全球人工智能產業鏈、供應鏈,加劇全球智能產業發展失衡。 第五項風險為結構性衝擊社會治理體系,因人工智能高速發展突破傳統技術治理框架,令現有法律規範、倫理原則及治理機制在實踐中頻頻滯後,難以形成有效制度約束及監管體系。 第六項則為根本性變革軍事鬥爭形態,以美以伊衝突為例,AI 軍事化應用催生情報智能融合、決策智能輔助、目標智能識別、實戰智能支持及認知智能塑造,人工智能正由戰場「輔助配角」變成「關鍵角色」。 陳一新提出,面對相關風險,中國要堅持黨的全面領導、提升體系作戰合力、強化風險感知預警,並建立完善人工智能安全監管平台。他又指,要加強安全風險監測預警,深化對人工智能發展態勢等重大問題的研究,科學研判新興技術帶來的潛在風險,及時堵塞漏洞隱患,並定期發布安全風險防範指南,為行業企業、政府部門等各類主體提供指導。
億格雲(Eagle Cloud)宣布完成近億元人民幣 B+ 輪融資,本輪由 MTR Lab 與北極光創投(Northern Light Venture Capital)聯合投資,航行資本(Voyagers Partners)擔任財務顧問。本輪融資資金將重點投入兩大方向,包括升級 AI 時代企業智能生產力治理基礎設施,面向 Agent 等新型行動主體持續完善治理能力;以及加速全球化佈局,擴大海外團隊、加強市場拓展及本地化交付與服務能力。 距 B 輪融資僅四個月,億格雲再次完成融資。既反映投資方對 AI 治理方向的持續看好,亦是對公司產品能力、商業化進展與全球化潛力的高度肯定。…
AI agent「越獄」網絡攻擊事件持續發酵。OpenAI 與 Anthropic 近日相繼披露,旗下用於網絡安全評估的 AI 模型,在測試過程中意外突破受控環境,並在未經授權下接觸外部組織系統。事件引發網安界關注:當 AI 代理具備更強自主性後,測試邊界一旦失守,是否已足以對真實網絡構成風險。 想知最新科技新聞?立即免費訂閱! 早前入侵 Hugging Face 據 OpenAI 於 7 月 21 日公開的說法,其兩個…
一、從 GenAI 到 Agentic AI 的典範轉移 過去兩年,我們經歷了 Generative AI(生成式 AI)的爆發——ChatGPT、Claude、Gemini 等工具讓每個人都能產生文字、程式碼、圖像。但這只是序幕。 Agentic AI(智能體 AI)的本質差異在於:它不只是回答,而是行動。Agentic AI 具備規劃、使用工具、執行多步驟任務、並在過程中自我修正的能力。從「幫你寫郵件」到「幫你發郵件、追蹤回覆、並根據回覆內容安排日程」——這中間的距離,就是 GenAI 與 Agentic AI…
早前 76 位網絡安全界資深專家聯署公開信,要求美國政府撤回針對 Anthropic 旗下兩款最強 AI 模型 Fable 及 Mythos 的出口管制令,直指這一措施逼使網絡安全防禦者無法使用最強武器,令敵方有可乘之機。事件背後牽涉一份至今仍未公開的 Amazon 研究報告,以及一個極具爭議的「越獄」指控。究竟封殺令是防患未然,抑或弄巧成拙,業界的強烈反彈似乎已經說明一切。 想知最新科技新聞?立即免費訂閱! 美政府向 Anthropic 下達出口管制令 相信大家都知道 Fable 及…
Anthropic 近日接連推出兩項重大革新,一方面用旗下最新模型 Claude Mythos Preview 掃描近千個開源軟件項目,成功偵測超過 2.3 萬個潛在安全漏洞;另一方面推出 Claude Compliance API,聯手 28 家網安及合規平台,將 AI 助理打造成可受企業管控的安全工具。兩項部署一攻一守,恰好回應了 AI 時代企業兩大痛點:軟件漏洞遭黑客自動化利用,以及員工使用 AI 導致商業機密外洩。 想知最新科技新聞?立即免費訂閱!…