防不勝防｜AI模型成黑客利器 中國開源模型安全隱憂加劇

美國舊金山網絡安全初創公司 DepthFirst，利用中國公司提供的免費人工智能（AI）模型，成功透過漏洞遠程存取一名 TikTok 用戶手機的攝像頭及照片庫，事件引發外界對中國 AI 模型缺乏使用限制的擔憂。

據《華盛頓郵報》報導，DepthFirst 在尋找協助偵測電腦漏洞的 AI 軟件時，並未選用美國頂尖 AI 公司，而是採用了中國公司的模型。美國的 Anthropic 和 OpenAI 等公司，均限制其模型只能向經過嚴格審查的特定用戶提供網絡安全協助；但中國的 DeepSeek 和 Z.ai 等公司，則允許任何人免費下載並修改其 AI 模型。

今年早些時候，DepthFirst 對 Z.ai 的免費 GLM AI 模型進行大量修改，並結合其他工具，打造出一個能深入軟件內部、尋找潛在漏洞的系統。報導指，一段展示軟件功能的影片顯示，DepthFirst 一名員工利用 TikTok 的多個漏洞，遠程存取了一部正在瀏覽 TikTok 的智能手機上的攝像頭和照片庫。

DepthFirst 的 AI 漏洞偵測模型，在 TikTok 使用的一款開源軟件中發現漏洞，令攻擊者得以遠程存取用戶手機。TikTok 安全團隊發布的消息顯示，DepthFirst 已主動披露該漏洞，TikTok 其後確認並完成修復。

DepthFirst 行政總裁卡西姆‧米塔尼表示，該公司利用 AI 模型，已在數百萬用戶使用的軟件中發現數十個嚴重漏洞。他警告，人工智能正日益成為網絡攻擊者的有力工具，世界正面臨一場嚴峻考驗。

今年 4 月，Anthropic 曾警告，其最新版 Claude 模型在網絡攻防兩方面均表現出色，促使美國及其他國家政府評估 AI 潛在風險。Anthropic 和 OpenAI 均限制模型的黑客攻擊能力，僅允許經審查的公司以防禦為目的使用完整功能。

數月後，中國 AI 模型同樣展現強大的網絡攻防能力，但限制極少，令全球幾乎任何人都能取得用於防禦或攻擊的高階黑客技術。米塔尼直言：「這狀況讓我夜不能寐。」