【勢不可擋】掌握生成式人工智能潛力　以 AI 制 AI 應對網絡安全挑戰

生成式人工智能（Generative AI）的急速發展，為企業帶來了革新機遇，但同時也揭示了數據安全和合規方面的挑戰。早前中信國際電訊 CPC（下稱「CPC」） 舉辦的「Managing GenAI Risks with Proactive Cyber Resilience Measures」研討會，便邀請了 Blackpanda、SentinelOne 與 羅兵咸永道（下稱「PwC」）的專家到場，深入探討企業部署生成式 AI 的趨勢，以及分享如何平衡 AI 的應用潛力及其潛在風險，並交流透過 AI-SOC 服務緩解人才短缺及智能高效地應對網絡威脅。

關鍵業務部署AI的趨勢及安全風險

生成式 AI 已成為企業不可或缺的應用技術，PwC 人工智能風險業務主管合夥人 CY Cheung 舉例說，目前金融業已在數據分析方面應用 AI，而零售業則在市場推廣和數據洞察等方面廣泛採用。他強調 AI 的快速部署會帶來多種潛在風險，例如生成出錯誤的答案導致決策偏差、隱藏歧視性演算法引發道德爭議；另外又如數據外洩風險、分散式阻斷服務攻擊（DDoS）及以 Prompt Injection 形式惡意改變 AI 的行為等，都是企業必須解決的安全風險問題。

CY 說雖然企業管理層過往始終比較謹慎使用 AI，但在部署方面正逐漸由後台業務過渡到面向客戶的關鍵領域，他指出原因是後台服務難以評估投資 AI 的回報率（ROI），而面對這方面的資源壓力，企業不得不積極探索更高價值的應用場景。在部署 AI 的過程中，CY 特別強調全面的安全測試是不可或缺的。他建議企業應模擬非正常使用情境，從攻擊者的角度檢視系統漏洞，同時測試 AI 的穩定性和可靠性，以減少可能的風險暴露。他進一步提醒，生成式 AI 的應用雖然能帶來效率提升，但其背後潛藏的風險需要企業以審慎和全面的方式應對，才能真正發揮 AI 的最大優勢。

從端點到雲端 AI 提升企業全面安全防護

SentinelOne 網絡安全解決方案工程師 Raymond Mok 認為現時由 AI 驅動的網絡攻擊手段已經改變了傳統的網絡安全格局，例如黑客已在利用 AI 生成各種傳統安全偵測工具亦難以檢測的惡意腳本，而且僅需幾分鐘便能完成，大大減低其攻擊的成本及技術要求。面對這種日益嚴竣的挑戰，他指出 SentinelOne 早在 2020 年便開始在端點偵測中融入 AI 技術，並在過去五年不斷升級，持續提升威脅偵測能力。

Raymond 指出通過 AI 的介入，SentinelOne 的解決方案擴展到了 Windows、Mac、Linux 和雲端環境的全面保護。值得一提的是，這些工具還支持對容器化環境的安全防護。此外，SentinelOne 的 XDR 解決方案將端點數據與防火牆和雲端數據整合，提供全方位的安全態勢視圖。配合最新推出的 Purple AI 平台，企業能夠以自然語言與系統互動，提出具體問題，例如防火牆內是否存在潛在風險，系統將自動生成詳細報告並提供行動建議，為企業帶來更高的安全標準。

攻擊無遠弗屆 事故應變堵塞安全漏洞

Blackpanda 業務發展總監 George Wong 強調，無論是跨國企業抑或中小企，一樣會成為黑客攻擊的目標。去年 Blackpanda 共接獲 90 多宗本地企業的求助個案，而隨著黑客以 AI 強化攻擊，他預計數字只會有增無減。George 在會上分享了兩個遭受勒索軟件攻擊的個案，其中之一儘管企業擁有昂貴的防禦工具如防火牆、EDR 和 SIEM，又定期為系統及設備更新安全韌體，但因缺乏人手監控，最終也被黑客加密了所有裝置及數據。

Blackpanda 作為事故應變（Incident Response）的專家，George 強調事故應變不僅是恢復數據，還包括徹底調查黑客的攻擊行為，找出並消除所有後門，防止未來再一次受到攻擊。他說公司已將人工智能加入分析工具，而且亦特別以機器學習（Machine Learning）方式，訓練人工智能更快識別出各種網絡攻擊，有助他們在短時間內提供詳細報告，幫助企業儘快作出應變。

AI-SOC 應對人才短缺 實現智能預測、防護與應變一體化

中信國際電訊 CPC 數字戰略官（信息與網絡安全）Edman Tam 認為安全專才及人手短缺是網絡安全的致命傷，因為傳統的安全運作中心（SOC）以人力為主，但面對複雜的網絡威脅，僅依賴人力已無法應對。CPC 引入 AI 技術，重新定義 SOC 的功能，實現從預測、保護到偵測和應變的全方位安全架構。

Edman 分享說，CPC 的 AI-SOC 融合了多種自家研發及合作開發的解決方案，例如 TrustCSITM AI Pentest 便使用了獨家專利認證技術，利用 AI 進行滲透測試和漏洞評估，幫助企業在威脅發生前預測潛在風險；TrustCSITM EDR 端點檢測與回應工具結合了 SentinelOne 的偵測技術，有效加強企業資產的防護能力；而 TrustCSITM Incident Response（IR） 亦結合了 Blackpanda 的技術，實現自動化報告及回應，將網絡安全事故的影響降至最低。總括來說，面對當前層出不窮的 AI 攻擊，CPC 的 AI-SOC 服務能夠運用智能分析串聯起所有監測數據，快速構建完整的攻擊脈絡，幫助企業在最短時間內做出應對決策，實現全方位的網絡安全防護。Edman 亦指 CPC 將於下半年度提供第三個『自主研發』並備有 AI 技術的 SIEM 技術平台，賦能 SOC 更快速及更高效率應對網絡威脅。

四位專家一致認為，生成式 AI 是一把雙刃劍。它在提升效率的同時，也為網絡安全帶來了前所未有的挑戰。無論是針對生成式 AI 的應用場景，還是黑客利用 AI 技術實施的攻擊，專家們均建議企業應採用整合性的解決方案，主動提升網絡韌性，構建出更強大的網絡防線。

如需了解更多生成式 AI 風險及應對方案，請點擊以下連結收看：https://youtu.be/7ZpFz-MT1ZE