全球調查｜67%企業明知AI風險仍硬上　報告指管治機制嚴重落後

最新研究指出，儘管世界各地企業機構都知道人工智能存在安全與合規的風險，但他們仍持續加速引進人工智能。其中 67% 受訪者曾於存在安全疑慮下，仍被迫批准引進人工智能，當中七分之一人更指，當時處於「極為嚴重」的安全疑慮卻仍被機構忽略，目的只為緊追競爭對手的腳步及對應內部需求。

是次 TrendAI 2026 全球人工智能研究，共訪問全球 3,700 位中大型企業與資訊科技領導。

趨勢科技平台暨營運長金敬秀表示，企業機構不是沒有風險意識，而是缺乏有效管理風險的條件。「當人工智能部署是受競爭壓力而非管治成熟度所驅動時，人工智能就會在缺乏必要管控機制的情況下被嵌入至企業的關鍵系統中。這研究凸顯了我們的核心使命，就是協助企業運用人工智能創造實質業務成果，同時亦幫助他們掌控商業風險。」

受壓力而部署人工智能的風險因管治不一致、人工智能風險責任不清等情況日趨普遍而加劇。資訊保安團隊也面臨類似問題，常在高層已決定引進人工智能後才被動地作出相應工作，導致越來越多使用權宜替代方案及未經授權的人工智能工具（影子AI）。

TrendAI™ 近期一份威脅研究也支持這一趨勢，指攻擊者已開始利用人工智能自動化偵查、加速釣魚攻擊、降低網絡犯罪門檻，與及提升攻擊速度與規模。

人工智能引進速度超越管治能力

企業機構引進人工智能的速度遠快於其管理風險的能力，令企業目標與管治能力之間的落差越來越大。57% 受訪者表示，人工智能發展速度已超過企業掌握安全防護的能力，而超過半數（64%）受訪者對人工智能法規框架的理解僅具中等信心。

另外，企業管治成熟度仍偏低，僅三分之一（38%）的企業機構具備完善的人工智能政策，而多數企業仍在發展中，且有 41% 表示，不明確的法規與合規標準是主要障礙。在實務上，人工智能雖然已投入實際營運，但相關管治與規範仍未同步建立。

對自主人工智能的信任仍存在不確定性

受訪者仍在逐步建立對高階自主系統的信任，不到一半（48%）受訪者相信代理式人工智能會在短期內大幅提升資訊保安防禦能力，而其主要疑慮包括資料存取、誤用與管控不足。其憂慮主要集中於：

1．44% 認為代理式人工智能存取機密敏感資料是最大風險

2．36% 擔心惡意提示詞可能破壞安全性

3．33% 指出人工智能擴大了網絡受攻擊面

4．33% 擔心人工智能的信任機制遭到濫用，以及部署自主程式碼帶來的風險。

同時，近三分之一（31%）受訪者承認他們缺乏對這些系統的觀察性或稽核能力，令人質疑企業在部署代理式人工智能後是否仍具備有效管控與介入能力。

約 40% 的企業機構支持引進人工智能的「緊急關閉」機制，以便在失控或誤用時關閉系統，但仍有近半組織表示尚未確定。這種分歧顯示出更深層的問題，就是雖然企業正走向自主人工智能，但對於關鍵時刻如何保持掌控卻沒有共識。

金敬秀補充表示，代理式人工智能正令企業進入全新的風險範疇。「透過我們的研究結果，可清楚看到企業的擔憂，包括機密敏感資料曝露與缺乏監管。企業機構如果沒有可視性與管控能力就開始著手部署他們尚未完全理解或管治的系統，這些風險只會持續增加。」

閱讀完整報告：https://www.trendmicro.com/explore/trendai-global-ai-study/