人工智能（AI）正迅速融入日常生活，從搜尋資訊、撰寫文章到企業自動化營運，AI 已成為提升效率的重要工具。然而，當我們享受科技帶來的便利時，犯罪分子亦開始利用相關技術，令傳統網絡詐騙變得更具欺騙性。
雖然香港整體詐騙案件數字有所回落，但生成式 AI 正改變犯罪分子的工具與手法。過去，我們習慣透過電郵錯字、陌生來電或可疑連結辨識騙局；如今，詐騙訊息可以寫得自然流暢，聲音可以模仿，影像亦可以偽造。當眼見與耳聞都未必可信，我們應如何保護自己？
AI 詐騙升級：從文字欺騙到虛假身份
傳統釣魚攻擊（Phishing）通常透過大量發送虛假訊息，誘使受害者提供個人資料或轉帳。生成式 AI 則令騙徒更容易製作不同語言、具有針對性的詐騙內容。
例如，犯罪分子可以利用社交媒體公開資料，冒充招聘機構、學校或企業管理層，製作更具說服力的訊息。AI 降低了製作欺騙內容的成本，亦令社交工程攻擊（Social Engineering）更容易規模化。
2026 年 2 月，香港警方就一宗早於 2025 年 1 月偵破的跨境 Deepfake 詐騙案，再落案起訴 9 人。涉案集團涉嫌在九龍灣設立兩個詐騙中心，利用 AI 深度偽造技術製作虛假女性身份，透過網上交友誘騙海外受害人投資虛擬貨幣。
警方指涉案騙款超過 3,400 萬港元，截至當時共有 14 人被落案起訴「串謀詐騙」罪，其中 4 人另被加控洗黑錢罪。
這宗案件反映，AI 不只是用來製作單一虛假照片，更可能成為有組織詐騙流程的一部分。當一個人的樣貌與聲音都可以被模仿，單靠照片或視像確認身份，已經不足夠。
AI 聲音複製與假裸照：新的個人安全風險
除了虛假身份，AI 語音合成亦可能被用於冒認親友。
例如，騙徒可以利用聲音樣本，生成與特定人物相似的語音，聲稱發生意外或急需金錢，誘使受害者在情緒壓力下轉帳。
這類手法結合了傳統社交工程與新技術。當受害者聽見熟悉的聲音，便可能降低警覺。因此，遇到親友突然提出緊急付款要求，最可靠的方法不是單靠聲音辨認，而是透過已知電話號碼或其他獨立渠道核實。
另一個值得關注的問題，是 AI 生成虛假私密影像。
傳統裸聊勒索通常涉及騙徒取得受害者的真實私密影像，再威脅公開。然而，生成式 AI 令犯罪分子有可能利用普通照片，製作虛假的裸露或色情影像。
根據香港警方於 2026 年公布的數據，2025 年本港錄得 1,312 宗裸聊勒索案件，按年下降 46.1%。不過，學生佔受害人的比例卻由 2024 年的 18.7% 上升至 27.4%。
需要強調的是，這些數字反映整體裸聊勒索情況，並非全部涉及 AI，亦不能據此推斷 AI 導致學生受害者比例上升。
然而，隨着影像生成技術普及，即使從未拍攝私密照片，個人的公開影像仍可能被惡意利用。這意味著數碼私隱保護，已不只是提醒市民不要分享私密照片。
AI 幻覺：資訊看似專業，不代表真實
AI 帶來的風險並非全部來自犯罪分子。
生成式 AI 可能產生看似合理、實際上卻不正確的資訊，這種現象稱為「AI 幻覺」（AI Hallucination）。
例如，AI 可能提供錯誤的歷史資料、虛構研究文獻，甚至不存在的法律條文。由於答案通常具有完整結構及專業語氣，使用者容易誤以為內容已經獲得驗證。
在學校，學生可能引用錯誤資料；在企業，員工亦可能根據不準確的 AI 摘要作出決策。
因此，AI 素養（AI Literacy）不應只包括如何使用工具，更需要理解其限制，並養成核實資訊來源的習慣。
AI 可以協助我們尋找答案，但不能取代我們判斷答案是否正確的能力。
AI 犯罪與法律責任：香港開始正視新挑戰
隨着 AI 工具普及，部分使用者可能低估相關行為的法律後果。
例如，利用 AI 製作他人的虛假不雅影像、未經授權公開個人資料，或協助入侵他人帳戶，都可能涉及法律責任。
不過，並非所有未經同意製作的 Deepfake 都必然構成刑事罪行，具體仍須視乎影像內容、使用方式及相關法律要件而定。
2026 年《施政報告》提出加強 AI 風險治理，包括打擊利用 AI 犯罪、保護未成年人，以及釐清 AI 產品引致事故的法律責任。
政府亦提出研究立法規管深偽相關罪案，包括製作色情影像及網絡詐騙。法律改革委員會正檢視相關法律，但有關工作仍處於研究階段，並不代表相關新法例已經生效。
這反映 AI 的挑戰已不只是技術問題，更涉及個人權利、法律保障及社會責任。
香港如何建立 AI 時代的數碼安全防線？
面對 AI 帶來的網絡犯罪風險，單靠提醒市民提高警覺並不足夠。
對個人而言，應審慎管理社交媒體上的個人資料，並在涉及金錢、密碼或敏感資訊時，透過獨立渠道核實身份。
對學校及家長而言，AI 教育不應只集中於如何使用工具完成作業，更需要加強私隱保護、資訊核實及數碼責任教育。
對企業而言，則需要重新檢視身份驗證、付款授權及事故應變流程，並將 Deepfake、語音冒認及 AI 驅動的社交工程納入風險評估與員工培訓。
香港警方的「防騙視伏器」及「防騙視伏 App」，亦可協助市民識別已知詐騙風險，但不能取代獨立核實。
結語：AI 時代，真正需要保護的是信任
AI 為社會帶來龐大機遇，但同時亦改變了網絡犯罪的形式。從個人化釣魚訊息、Deepfake 換臉，到語音冒認及虛假私密影像，傳統欺騙手法正變得更具說服力。
對香港而言，真正的挑戰不是如何避免使用 AI，而是如何在積極應用新技術的同時，建立更成熟的數碼判斷能力、身份核實程序及風險管理機制。
當聲音可以複製、影像可以偽造、資訊可以憑空生成，我們不能再單靠「看起來是真的」作為信任的理由。
AI 時代最重要的安全能力，不只是懂得使用科技，而是知道甚麼時候需要停下來核實。
撰文：翁希廉（Willis Yung）
資訊安全及科技風險專家，現任數字銀行資訊安全主管，專注 AI 治理、網絡安全與金融科技風險管理；亦為「數苗青少年慈善基金」創會會長，推動青少年數碼素養與 AI 倫理教育，長期關注人工智能對教育、社會及政策發展的影響。
由剛奪得亞太廣播聯盟機械人大賽 2026 冠軍及亞軍嘅港大、中大 Robocon 團隊，即場展示冠軍級機械人同技術！
上下午時段均設有 Lucky Draw，豐富禮品包括最新 Apple iPhone 18 Pro、Insta360 Luna Ultra 等多項巨獎！
