防患未然｜國安部長列AI六大風險 籲築牢安全屏障
國家安全部部長陳一新近日在《中國網信》雜誌發表署名文章《全面築牢人工智能安全屏障 推動人工智能健康有序發展》，指出人工智能已成為全球科技競爭主戰場，以及大國戰略博弈新賽道，發展機遇與安全風險並存。文章並列出人工智能發展帶來的六大風險挑戰，並提出要加快構建人工智能安全風險防治體系，以高水平安全及高效能治理，推動人工智能健康有序發展。
文章指出，首項風險是系統性影響政治安全環境。各種敵對勢力和別有用心之人濫用深度偽造音視頻、AI 生成圖文及智能水軍等生成式人工智能技術，低成本、批量化炮製政治謠言、傳播有害信息及煽動對立情緒，對中國實施輿論戰及認知戰，直接威脅政治安全、制度安全及意識形態安全。
第二項風險為顛覆性升級網絡攻防態勢。文章稱，以美國科技公司近期推出的「神話」（Claude Mythos）及「賽博」（GPT-5.5-Cyber）大模型為標誌，人工智能正顯著提升網絡漏洞挖掘、惡意軟件開發效率及武器化水平，令網絡攻防進入漏洞工業化、攻防全自動及「AI 對 AI」的新階段。文章指，人工智能大幅拉低實施網絡攻擊的技術門檻及成本投入，對中國關鍵信息基礎設施帶來嚴重風險隱患。
第三項為規模性放大竊密洩密風險，指部分境內用戶安全意識不足，使用境外人工智能產品處理敏感信息及向境外輸出數據，造成境內數據大規模外洩。
須加強安全風險監測預警
第四項風險是人工智能壟斷性加劇科技發展失衡。有關國家利用在 AI 基礎理論、模型架構及核心算力等方面的優勢，以「維護國家安全」為名，透過制定實體清單、實施技術管制、壟斷行業標準及建立閉源生態等手段，嚴格限制相關國家引進前沿技術設備及提升科技創新能力，割裂全球人工智能產業鏈、供應鏈，加劇全球智能產業發展失衡。
第五項風險為結構性衝擊社會治理體系，因人工智能高速發展突破傳統技術治理框架，令現有法律規範、倫理原則及治理機制在實踐中頻頻滯後，難以形成有效制度約束及監管體系。
第六項則為根本性變革軍事鬥爭形態，以美以伊衝突為例，AI 軍事化應用催生情報智能融合、決策智能輔助、目標智能識別、實戰智能支持及認知智能塑造，人工智能正由戰場「輔助配角」變成「關鍵角色」。
陳一新提出，面對相關風險，中國要堅持黨的全面領導、提升體系作戰合力、強化風險感知預警，並建立完善人工智能安全監管平台。他又指，要加強安全風險監測預警，深化對人工智能發展態勢等重大問題的研究，科學研判新興技術帶來的潛在風險，及時堵塞漏洞隱患，並定期發布安全風險防範指南，為行業企業、政府部門等各類主體提供指導。
