【Check Point報告】揭露四大AI驅動網絡威脅　醒你三招智取網絡犯罪分子

隨着 AI 在各行各業應用普及，數碼世界真假邊界越來越模糊。網絡安全解決方案供應商 Check Point 發布首份《AI 安全報告》，深入拆解網絡犯罪分子如何以 AI 技術作為武器，並為網絡安全業界提供一系列防禦建議與實踐策略。

網絡犯罪分子正利用生成式 AI 和大型語言模型（LLM）大規模偽造身分，破壞公眾對數碼身分的信任。網絡用戶已無法單憑表像去判斷網絡上看到或聽到資訊的真偽。AI 驅動的深度偽造技術，甚至可繞過最先進身分驗證機制，令每一個人都有機會成為網絡欺詐的受害者。

Check Point 指出，某些地下犯罪服務組織的技術越發先進，更有迹象顯示「數碼分身」即將崛起。這些 AI 驅動的複製體不但能複製外貌和聲音，更能模仿人類的思想與行為。

四大關鍵威脅：

威脅變化的背後核心，是 AI 高度模仿和操控數碼身分的能力，因而模糊了真實與虛假之間的界線。以下是導致信任瓦解的四個核心領域：

．AI 加強身分冒充及社交工程攻擊：犯罪者利用 AI 生成像真度極高的釣魚郵件、虛假音訊和深度偽造影片。近期更有犯罪者利用 AI 合成語音冒充義大利國防部部長的事件，充分說明在網絡世界裏無論是聲音、面容還是文字內容都有機會被偽造。

．大型語言模型（LLM）數據下毒與虛假訊息傳播：黑客透過操控 AI 訓練數據，引導其輸出有偏差的內容。 其中一宗涉及俄羅斯虛假信息網絡組織「Pravda」的相關案例顯示，AI 聊天機械人有多達 33%  的回答內容為虛假敘事，突顯保護 AI 系統數據真實的重要。

．AI 生成惡意軟件與數據探勘：網絡犯罪分子利用 AI 技術生成並改良惡意代碼、將 DDoS 攻擊流程自動化，並竄改被盜數據。一些組織如「Gabbers Shop」，更會透過 AI 提升數據轉售價值與目標精準度。

．AI 模型的武器化與劫持：從被盜的大型語言模型帳號到暗網定製的 FraudGPT、WormGPT 等暗黑模型，網絡罪犯正繞過原有的安全機制，將 AI 用作黑客攻擊與詐騙的商業工具。

安全防禦建議

Check Point 指出，網絡安全人員應假設犯罪分子已普遍將 AI 融入攻擊手段。為應對挑戰，機構應採用具備 AI 感知能力的網絡安全框架，包括：

．AI 輔助偵測與威脅狩獵：利用 AI 識別由 AI 生成的攻擊內容，例如偽造郵件、深度合成影片等。

．強化身份驗證機制：加強身分驗證，採取超越傳統的安全策略，實施多重身分驗證，以應對文字、音訊和影片中 AI 驅動的身分冒充，警惕數碼身分不一定可信。

．結合 AI 情景感知的威脅情報：為網絡安全團隊配備具 AI 感知能力的分析工具，加強團隊對新型攻擊手段的識別與回應能力。

在 AI 驅動時代，網絡安全團隊必須結合 AI 和防禦系統，同步對抗網絡犯罪分子。

AI 普及加深了穿梭於現今高度連結世界所需的靈活度，單靠基於雲端的解決方案已然不足，Check Point 鼓勵機構採用混合式網狀架構。一個多元、適應力強的框架，讓機構更靈活地在所需的時間和環境，準確地保障網絡安全。

比起將所有流量引至雲端，混合式網狀架構讓機構能斷定不同場景的最佳檢查點。藉此，他們既可在適當的時候利用雲端的強大效能，亦能同時保護本地環境流量，以確保最佳效能、成本效益，及最為重要的強大保障。