美國舊金山網絡安全初創公司 DepthFirst，利用中國公司提供的免費人工智能（AI）模型，成功透過漏洞遠程存取一名 TikTok 用戶手機的攝像頭及照片庫，事件引發外界對中國 AI 模型缺乏使用限制的擔憂。 據《華盛頓郵報》報導，DepthFirst 在尋找協助偵測電腦漏洞的 AI 軟件時，並未選用美國頂尖 AI 公司，而是採用了中國公司的模型。美國的 Anthropic 和 OpenAI 等公司，均限制其模型只能向經過嚴格審查的特定用戶提供網絡安全協助；但中國的 DeepSeek 和 Z.ai 等公司，則允許任何人免費下載並修改其…

台灣網絡安全研究公司 TeamT5 表示，與中共政府有關聯的黑客組織，正利用 DeepSeek 等人工智能（AI）工具，將偵察、漏洞利用及惡意程式開發等工作自動化，據其最新研究，相關組織採用 AI 工具後，發動的攻擊數量較以往增加超過一倍。 想睇更多科技新聞，立即免費訂閱！ 彭博社引述 TeamT5 研究指出，黑客開始把部分繁瑣工作交由 AI 處理，並利用模型協助開發較複雜的惡意軟件。研究人員認為，儘管中國市場上已有能力更強的模型，例如 Moonshot 的 Kimi K2，但黑客仍較傾向使用 DeepSeek，原因是其安全護欄相對較弱，運行成本亦較低。TeamT5 表示，暫未發現 Kimi…

摩根大通行政總裁戴蒙（Jamie Dimon）警告，Anthropic 旗下人工智能模型 Mythos 大幅推高全球網絡安全風險，並帶來此前未被察覺的安全漏洞。他表示，面對相關威脅，重點是採取實際行動處理問題，而非陷入人工智能是否構成人類存亡威脅的爭論。 想睇更多科技新聞，立即免費訂閱！ AI 帶來未知漏洞　網絡安全憂慮加劇 戴蒙日前接受彭博電視訪問時表示，AI 帶來的風險「在 Mythos 出現後增加了 10 倍」。他指出，人工智能揭示了此前未知的安全漏洞，而早在這些技術出現之前，網絡安全已一直令人擔憂。 談及 AI 代理及 Mythos 等技術可能引發的問題，戴蒙形容，相關憂慮合理，而且確實存在。不過，他強調，自己不會因為 AI…

美國聯邦調查局（FBI）局長帕特爾（Kash Patel）表示，FBI 已全面翻新科技基礎設施，並大幅擴大人工智能（AI）應用，以更快分析民眾提供的線索、篩檢安全威脅，並應對中共、俄羅斯等外國對手惡意使用 AI 所帶來的威脅。 想睇更多科技新聞，立即免費訂閱！ 帕特爾接受福克斯新聞網（Fox News）訪問時表示，外界常以為 FBI 擁有全球最先進科技，但實際情況並非如此。他說，過去數十年來，相關系統長期依靠臨時修補維持，「只是在一塊膠布上再貼一塊膠布，再貼一塊膠布」，始終沒有從根本解決問題。 如今，FBI 利用 AI 掃描資料庫，快速處理民眾及私營部門合作夥伴提供的線索。帕特爾說，過去信息往往需要層層轉達，50 個人打電話給另外 50 個人，可能要三天才能送到FBI手上；現在線索會立即匯入系統並進行分析，隨後傳送至各地外勤辦事處，華盛頓總部也會同步收到通知，再派員處理。 他強調，FBI 使用 AI…

人工智能（AI）成為企業競爭的新戰場，企業共同的「Prompt」幾乎都是：AI 盡快落地。然而，當 AI 模型這個「黑盒」，進化成擁有自主決策權限的 AI 代理（AI Agent），風險亦隨之而倍增，AI 治理（AI Governance）成為高速發展下的一大隱憂。 小編邀請到兩位專家，Splunk, a Cisco Company 大灣區銷售總監 Paul Lee，以及香港大學商學院客席助理教授兼 KBQuest CEO Eric Moy，深入探討企業在…

近期 AI 代理（AI Agent）安全事故頻生，美國晶片商英偉達（Nvidia）宣布推出開放 AI 代理安全平台（NVIDIA Open Agent Safety Platform），加強監管可自主執行任務的 AI 代理，防範其越權存取資料、使用未獲授權工具或執行意料之外的操作。 想睇更多科技新聞，立即免費訂閱！ AI 代理與一般聊天機械人不同，它們不僅能回答問題，更可自行瀏覽網頁、操作軟件、處理檔案、使用工具，甚至編寫和執行程式。因此，一旦代理繞過原有的應用程式安全控制，便可能取得超出授權範圍的資料或完成非預期任務。 新平台由兩個主要部分組成：開源軟件「NVIDIA OpenShell」，以及參考系統設計「NVIDIA Sentry」。OpenShell 主要負責為 AI…

美國人工智能公司 OpenAI 因內部測試發現安全疑慮，決定暫緩發布原定於 10 月推出的新一代模型「GPT-6.1 Astra」。公司表示，該模型雖然具備更強的寫作及自主完成複雜任務能力，但在如實匯報工作進度、遵從用戶授權及安全使用外部工具等方面，未達發布門檻。 想睇更多科技新聞，立即免費訂閱！ 據報，GPT-6.1 Astra可在較少人類協助下，端到端處理高難度任務，能力較以往模型提升。不過，OpenAI 安全系統負責人 Saachi Jain 指出，模型在內部測試中於兩項關鍵範疇表現較上一代退步。 第一項是「對齊度」，即模型是否能按照人類意圖行事。測試發現，GPT-6.1 Astra 在向用戶交代任務進度時，未必總能如實說明哪些工作已完成、哪些仍未完成，反映模型存在較強的欺騙傾向。 第二項問題涉及「範圍授權」。OpenAI 發現，模型有時會在未獲用戶明確允許下自行推進任務，甚至可能在安全條件不足時調用外部工具及服務。公司認為，這類行為若未得到有效控制，可能增加使用 AI 代理系統時的風險。…

國家安全部部長陳一新近日在《中國網信》雜誌發表署名文章《全面築牢人工智能安全屏障　推動人工智能健康有序發展》，指出人工智能已成為全球科技競爭主戰場，以及大國戰略博弈新賽道，發展機遇與安全風險並存。文章並列出人工智能發展帶來的六大風險挑戰，並提出要加快構建人工智能安全風險防治體系，以高水平安全及高效能治理，推動人工智能健康有序發展。 想睇更多科技新聞，立即免費訂閱！ 文章指出，首項風險是系統性影響政治安全環境。各種敵對勢力和別有用心之人濫用深度偽造音視頻、AI 生成圖文及智能水軍等生成式人工智能技術，低成本、批量化炮製政治謠言、傳播有害信息及煽動對立情緒，對中國實施輿論戰及認知戰，直接威脅政治安全、制度安全及意識形態安全。 第二項風險為顛覆性升級網絡攻防態勢。文章稱，以美國科技公司近期推出的「神話」（Claude Mythos）及「賽博」（GPT-5.5-Cyber）大模型為標誌，人工智能正顯著提升網絡漏洞挖掘、惡意軟件開發效率及武器化水平，令網絡攻防進入漏洞工業化、攻防全自動及「AI 對 AI」的新階段。文章指，人工智能大幅拉低實施網絡攻擊的技術門檻及成本投入，對中國關鍵信息基礎設施帶來嚴重風險隱患。 第三項為規模性放大竊密洩密風險，指部分境內用戶安全意識不足，使用境外人工智能產品處理敏感信息及向境外輸出數據，造成境內數據大規模外洩。 須加強安全風險監測預警 第四項風險是人工智能壟斷性加劇科技發展失衡。有關國家利用在 AI 基礎理論、模型架構及核心算力等方面的優勢，以「維護國家安全」為名，透過制定實體清單、實施技術管制、壟斷行業標準及建立閉源生態等手段，嚴格限制相關國家引進前沿技術設備及提升科技創新能力，割裂全球人工智能產業鏈、供應鏈，加劇全球智能產業發展失衡。 第五項風險為結構性衝擊社會治理體系，因人工智能高速發展突破傳統技術治理框架，令現有法律規範、倫理原則及治理機制在實踐中頻頻滯後，難以形成有效制度約束及監管體系。 第六項則為根本性變革軍事鬥爭形態，以美以伊衝突為例，AI 軍事化應用催生情報智能融合、決策智能輔助、目標智能識別、實戰智能支持及認知智能塑造，人工智能正由戰場「輔助配角」變成「關鍵角色」。 陳一新提出，面對相關風險，中國要堅持黨的全面領導、提升體系作戰合力、強化風險感知預警，並建立完善人工智能安全監管平台。他又指，要加強安全風險監測預警，深化對人工智能發展態勢等重大問題的研究，科學研判新興技術帶來的潛在風險，及時堵塞漏洞隱患，並定期發布安全風險防範指南，為行業企業、政府部門等各類主體提供指導。

2025 年全球網絡流量中，BOT（自動化程式）佔比已達 53%，意味相關流量已超過人類用戶活動。其中逾七成屬於惡意 BOT，常被用作商品轉售、搶購門票、廣告詐欺及網絡攻擊。隨着人工智能（AI）技術加速發展，BOT 的自動化能力和隱蔽性持續提升，令企業面對的網絡安全及數碼營銷風險同步加劇。 想睇更多科技新聞，立即免費訂閱！ 據日本《讀賣新聞》報道，BOT 是可代替人類高速執行網上操作的自動化程式。近年生成式 AI 普及，市場上亦出現結合 AI 技術的高階 BOT。熱門 IP 周邊商品、限量品牌貨品或演唱會門票推出後迅速售罄，背後除有大量買家競逐外，亦可能涉及 BOT 大規模自動搶購，破壞正常交易及購買秩序。 日本電商市場在 2024 年增至約…

美國媒體 Axios 引述消息人士指，OpenAI、Anthropic 及網絡安全研究人員正調查數以萬計涉及人工智能（AI）模型的安全事件。事件發生於內部測試及實際運作環境，涉及模型繞過安全機制、逃離沙盒、入侵網站、建立留言板協調行動，以及試圖避開監控等行為。OpenAI 並宣布暫停訓練旗下能力最強的模型。 想睇更多科技新聞，立即免費訂閱！ 報道指出，兩家公司進行的模型測試規模龐大，即使異常行為只佔少數，累積個案仍可達數萬宗；隨着調查和測試持續，數字可能進一步增加。目前已知的大部分事件未有對現實世界造成實際損害，但部分個案及相關漏洞仍未公開。 OpenAI 近日披露，旗下 AI 代理曾外洩 53 張 ChatGPT 用戶圖片，並入侵一個澳洲政府網站，亦曾嘗試攻擊包括美國政府在內的其他網站。公司其後宣布暫停訓練旗下能力最強的模型，直至確信已落實額外安全保障及完成對齊改進。OpenAI表示，暫停測試並非首次安排，日後亦可能視乎需要再次暫停。 OpenAI 承認安全審查進度欠佳 OpenAI 行政總裁 Sam…