近日有研究指出,ChatGPT 新增的日曆整合功能可能成為黑客攻擊的突破口,最壞情況可能導致敏感的電郵內容及其他私隱資料被盜取。如果用家在未充分了解 AI 應用的潛在風險下隨便使用,很可能因一時大意而墮入黑客的陷阱。
只需有電郵即可攻擊
ChatGPT 新推出的日曆整合功能,旨在透過深度整合用戶常用的日曆、電郵等第三方服務,幫助用戶更方便地規劃日程和管理日常任務。不過,AI 安全公司 EdisonWatch 創辦人 Eito Miyamura 近日進行了一項測試,揭露黑客如何透過發送惡意日曆邀請來執行攻擊的可能性,讓 ChatGPT 自動執行隱藏的惡意指令,最終竊取受害者的電郵內容。
研究指出,攻擊者只需掌握目標用戶的電郵地址,便可發動攻擊,即使受害者並未接受邀請,也可能觸發這些隱藏的指令。
整個攻擊過程始於黑客生成一個表面看似普通但實際上暗藏惡意指令的日曆邀請,這些指令被稱為「jailbreak prompt」,它可能包含一段指令,例如要求 AI 搜尋目標用家郵箱中所有含有「財務報告」的郵件,並將其內容發送至黑客預先設置的電郵地址。
一旦受害者向 ChatGPT 提出檢查日程或整理日曆的請求,ChatGPT 便會掃描其電郵信箱及日曆內容,並無意間觸發這些隱藏的指令,將敏感數據根據黑客預設的指示發送至指定地址。整個過程中,用家未必能夠察覺自己的私隱數據已經被盜取。
用家或出現決策疲勞
ChatGPT 與日曆、電郵等應用的整合是通過工具指令達成,而這些指令的開放性使其容易被黑客濫用。用家對 AI 助理的高度信任也成為了攻擊的助推因素,因為大多數用家未必會仔細檢查日曆邀請的來源或內容,甚至在不假思索的情況下批准 AI 執行某些請求。此外,ChatGPT 在執行日曆功能時,無法有效分辨內容是否惡意,令黑客能輕易繞過安全限制。再者,專家認為日常工作時面對頻繁彈出的授權提示,也可能導致用家出現「決策疲勞」,未有看清權限的內容,進一步增加攻擊成功率。
為了應對這類新型攻擊手段,專家建議採取多種防禦措施以降低風險。首先,應在功能尚未成熟時限制 AI 對敏感數據的訪問權限,例如電郵和日曆內容,以減少潛在的攻擊面。其次,應避免讓 ChatGPT 自動執行高風險操作,特別是涉及財務數據或其他私隱內容的任務。同時,用戶需提高對 AI 工具的警惕性,對每個外來的日曆邀請進行仔細檢查,避免輕率接受。
雖然 AI 技術為生活帶來了便利,但其安全性仍有待進一步提升,用家要打醒十二分精神,以免成為黑客攻擊的目標。
資料來源:https://www.securityweek.com/chatgpts-new-calendar-integration-can-be-abused-to-steal-emails/