安全把關｜AI模型要驗身？歐盟推AI資安治理新框架

歐盟委員會近日公布《AI 與網路安全行動計畫》，提出加強先進 AI 模型的安全評估與前置審查，並計劃建立受控測試平台，讓模型在正式進入市場前先接受資安檢驗。歐盟表示，措施旨在應對生成式 AI 及自主 AI 代理帶來的網絡風險，並強化關鍵基礎設施防護。

歐盟執委會負責技術主權、安全與民主事務的副主席 Henna Virkkunen 表示，AI 正在改變網絡安全的定義，若 AI 系統漏洞被武器化，將可能危及社會及關鍵基礎設施。歐盟因此提出一套更系統化的治理框架，希望在創新與安全之間取得平衡。

根據計畫，歐盟將提升對先進 AI 模型的評估能力，並由歐盟網路安全局（ENISA）及歐盟聯合研究中心（JRC）建立安全測試平台，針對資安場景進行模擬演練，包括漏洞分析、修補建議及威脅應對等用途。歐盟同時會制定「European Blueprint」，列明高階 AI 能力的受控使用方式，供企業及公共機構參考。

這項行動計畫亦會與現有多項歐盟資安法規銜接，包括《網路韌性法案》（Cyber Resilience Act）、《網路與資訊系統安全指令》（NIS2 Directive）及《數位營運韌性法案》（DORA）。歐盟希望藉此推動「Security by Design」原則，令AI及相關數碼產品在設計階段已納入安全考量，而非事後補救。

歐盟亦計劃透過資助、研究及競賽等方式，推動本土 AI 資安能力發展，包括支援防禦型 AI 模型、強化開源軟件安全，以及協助企業和公部門更快修補漏洞。當局強調，資安審查並非創新障礙，而是AI模型要取得市場信任的必要條件。