為了預防選舉結果遭受惡意操控影響,新加坡政府剛提出準備推行新的「網上選舉廣告法」,禁止任何人在選舉期間運用各種手段,發表對候選人不實的訊息,特別是透過深度偽造(Deepfake)創作不實內容,以保障選舉訊息的完整性和真實性,避免選民的投票決定遭受影響。 想知最新科技新聞?立即免費訂閱! 現有法案內容針對性不足 新加坡政府提交的新法案,主要是為了保護當地合資格選民的知情權,確保不會受到包括人工智能(AI)生成的音訊、視訊和圖像誤導,對候選人產生不實的印象。官方表示雖然生成式人工智能技術的進步為國家帶來了機遇,但同時亦帶來資訊風險,有心人可利用它來製造和散播錯誤訊息,而從官方的統計數字亦可見,國內出現的深度偽造騙案數字的確明顯上升。 發言人指,現有的「防止網絡假訊息和操控法案」雖然能處理網絡假訊息,但法案內容未夠針對性,因而必須為選舉另設新法例。 擬定的措施將禁止發佈任何利用人工智能或非人工智能的手段,例如透過改圖、配音等方式,製作不實的選舉廣告內容,原則是這些廣告必須「真實地描述」候選人所說過或所做過的事情,如被發現有不實內容將被視為犯罪,有可能被判處罰款或監禁。新法例將允許政府向發佈此類內容的個人以及社交平台發出刪除違規內容指示,如果事件涉及有候選人散佈不實內容,亦會受到罰款或其他處罰,預計這條新法將會在明年初至 11 月前,即選舉舉行前完成立法。 美國大選常出現虛假訊息 其實近年是全球各地的大選年,不少國家或地區都會舉行選舉,以美國總統大選為例,現時便不時出現虛假的訊息,例如美國前總統 Donald Trump 便曾在自家的社交平台 Truth Social 發佈了一張天后 Taylor Swift 穿上經典人物 Uncle…
Browsing: Deepfake
早前有外媒報道,一名叫 Justin Culmo 的網絡罪犯被指控利用生成式 AI 製作孌童及虐兒照並在網上發佈及銷售,涉及的數量多達數千張,當中更有他女兒的照片,而 Culmo 拍攝素材的場地,更是在美國佛羅里達州的夢幻樂園 Disney 內,再次引起公眾對監管生成式 AI 的爭議。 想知最新科技新聞?立即免費訂閱! 生成式 AI 自前年開放讓公眾使用後,雖然對提升企業工作效率及網民的日常生活帶來不少便利,但同時間網絡罪犯亦借用來犯案,例如以 deepfake 技術製作虛假影片或進行電話詐騙,借用 AI 編寫網絡攻擊程式等,因而在社會上引起不少爭議,希望能有效監管這些…
疫情後,不少企業都開始接受員工遙距工作,甚至會聘請遠在其他地區的人入職,很可能連真人也未見過一面。不過,早前網絡安全意識培訓公司 KnowBe4 的安全事故就為這種聘僱模式敲響警鐘,突顯了國家級黑客組織利用深度偽造的身分,滲透企業的問題日益嚴峻。 想知最新科技新聞?立即免費訂閱! 本月中,KnowBe4 發現一名剛獲聘為「首席軟件工程師」的新員工,在接收到公司給他的電腦設備後便立即遙距登入系統,試圖在公司系統內植入惡意軟件。 他的可疑舉動立即觸發網絡安全工具的警報,IT 部門立即聯絡該員工核實情況,對方起初聲稱正在按照安裝指南解決路由器的連線問題,可能因此觸發警報,但經 IT 部門翻查連線記錄後,便發現他原來連接了一部 Raspberry Pi 在執行其他操作,當中包括篡改 session 記錄文件、下載及安裝惡意軟件。其後當 IT 員工試圖與他通話,獲取更多細節時,便發現已無法再找上對方。 利用DeepFake技術瞞過面試人員 KnowBe4 發言人指,經調查後推斷這名假員工隸屬於北韓國家級黑客組織,據知他利用了深度偽造技術製成了求職信及通過人事部門的遙距預見,隱藏了自己真正身份,從而獲得公司聘用。發言人又指相信這個黑客並非身處美國或登記的住址內,而是利用假地址接收電腦設備,再經…
社交媒體平台 Meta 早前除了宣布會重開美國總統後選人 Donald Trump 的 Facebook 帳號,又宣布成功打擊了一個龐大的網絡性勒索集團,刪除多達 63,000 個涉事的 Instagram 帳號。官方聲稱這次行動主要是封鎖了來自尼日利亞約 20 名主要嫌疑者,稱單是這些疑犯已操控了 2500 個帳號,令不少男性用家深陷勒索之苦。 想知最新科技新聞?立即免費訂閱! 網絡性勒索(Sextortion)的犯罪手法一般是騙徒先透過社交工程攻擊接觸目標人士,以甜言蜜語誘使對方上傳一些裸照或影片。一旦握住把柄,騙徒就會開始要脅勒索,否則便會將這些私密資料公開或發給受害者的親朋好友。Meta 指責這種極度卑劣的犯罪手段,已經造成不少年輕人陷入絕境,甚至選擇自殘或自殺。 Meta…
用人工智能演繹真人聲線的難度愈來愈容易,好似歌手尹光的聲線就曾用來唱姜 B、林家謙的歌曲。在這種情況下,語音詐騙偵測專家 Pindrop Security 獲得 1 億美元債務融資,自然不難理解。 想知最新科技新聞?立即免費訂閱! Pindrop Security 成立於 2011 年,當時公司已籌集了 2.183 億美元的風險股權融資,而這次轉以債務融資形式向 Hercules Capital 籌措研發資金,業內人士認為可顯示公司的財政已經穩定,可以保證能夠還款和支付利息,所以不用考慮出讓股權。 最短 3…
巴黎奧運會即將在 7 月 26 日揭幕,不過,科技龍頭公司 Microsoft 卻已率先發出安全警告,指巴黎奧運會面臨的網絡威脅風險極高,特別是來自俄羅斯的黑客團隊,將會因政治原因發動不同方式的猛烈攻擊。亦有網絡安全專家指黑客除了會針對主辦單位,還會一併攻擊奧運會的贊助商、售票系統,以及準備參賽的運動員及觀眾,令這項國際體壇盛事蒙上安全陰影。 想知最新科技新聞?立即免費訂閱! 與其大國際盛事一樣,奧運會一向受到黑客關注,部分黑客會為了利益而發動網絡攻擊,例如濫發釣魚電郵吸引關注奧運的網民上釣,最終希望能騙取對方的帳戶登入資料或信用卡資料等;但同時間亦有黑客會針對運動員或主辦單位發動攻擊,以上屆東京奧運會為例,在賽事舉辦期間,東京奧運會官方網站便曾遭受大規模的 DDoS 攻擊,導致網站出現短暫癱瘓;直播網站亦曾遭受攻擊,但幸而被官方的網絡安全團隊及時制止,才能避免直播訊息中斷。另外,又有運動員的個人社交平台帳戶被黑客入侵,借刀發布不實或侮辱性內容,可見奧運會對黑客來說的確充滿機遇。 受到持續兩年的烏俄之戰影響,今屆巴黎奧運會預計會特別受俄羅斯黑客集團「關照」,因為國際奧林匹克委員會(IOC)以俄羅斯入侵烏克蘭為由,對俄羅斯及白俄羅斯的運動員實施多項制裁,例如兩國選手只能以中立的個人身份參賽,不能參加團體項目,同時亦不得參加奧運開幕儀式,奧委會更預計可能只有約 40 名俄羅斯運動員符合資格參賽,數量只及上屆東奧的十分之一。 這樣的安排,自然惹來俄羅斯政府及其黑客的不滿,再加上俄羅斯對法國提供給烏克蘭的軍援極度不滿,所以網絡安全公司 Mandiant 就認定俄羅斯黑客將對今屆奧運構成重大威脅,除了會執行一般的門票詐騙、盜竊個人私隱之外,還有可能散播大量不實訊息或妨礙大會運作。 黑客早於上年已開始針對奧運進行惡意活動 根據 Microsoft…
美國 FBI 的 IC3 部門發表 2023 年網絡犯罪報告,去年網絡犯罪造成的損失高達 125 億美元,較 2022 年報告增加 22%。當中最令人頭痛的是商業電郵詐騙(BEC),約佔總損失的五分之一。而其中一個令 BEC 詐騙大增的原因,相信與深度造假(deepfake)人工智能技術有好大關係。 想知最新科技新聞?立即免費訂閱! BEC 造成 29 億美元損失 這次公布的數據中,當局開宗名義指出所有數據都是基於執法部門的發現或受害者上門求助,其他未有求助或被發現的個案估計還有更多。而基於這些數據顯示,BEC…
網絡安全機構 Group-IB 發表調查報告,揭露一個以騙取泰國及越南市民人臉數據及身分證明文件的中國黑客組織 GoldFactory 的詐騙手法。黑客會誘騙目標人安裝 iOS 或 Android 木馬程式,從而暗中盜取這些資料,再利用 deepfake 技術去進行金融詐騙。研究員指現時攻擊仍然持續,香港用家亦要小心防範。 Deepfake 深度造假技術相信大家都耳熟能詳,早前香港就有一間跨國公司的員工受騙,導致公司損失過億港元。而這次被 Group-IB 研究員發現的黑客組織 GoldFactory,過往亦有開發一系列的惡意軟件,如 GoldDigger、GoldKefu 等,但在最新的惡意軟件 GoldPickaxe 中,還加入了盜取目標人物的生物辨識數據的功能。…
在手機利用人臉識別技術登入 Apps,毋須再打密碼,看似方便又安全。不過香港中文大學有研究團隊發現,市場上 18 個人臉識別流動應用模組中,竟然有 11 個存有安全漏洞!而企業級的 Wi-Fi 及 VPN 服務,同樣存在缺陷和漏洞,或會為用戶帶來安全風險。 想知最新科技新聞?立即免費訂閱 ! 人臉識別系統漏洞繞過活體檢測 用戶的個人資料和自拍照片很容易被盜用及作非法販賣,繼而被不當使用。為防止駭客盜用他人圖像進行身分欺騙或建立傀儡賬戶,大部分人臉識別系統要求用戶在建立賬戶時完成眨眼、搖頭等動作,即所謂「活體檢測」。儘管過往有不少研究通過 3D 打印面具或 deepfake(深度偽造)等手段,利用機器學習模型弱點攻破人臉識別系統,但甚少人研究人臉識別系統設計與程式代碼之中的弱點。 中大工程學院信息工程學系劉永昌教授領導的研究團隊,深入分析檢測了市場上 18 個人臉識別服務供應商提供的流動應用模組,發現其中…
社交平台 TikTok 最近被歐盟指控保護兒童私隱不力,判處罰款 3 億歐元,原來同期在平台上亦發生一波大規模的加密貨幣贈送(Giveaway)詐騙活動。安全專家指平台出現大量 Deepfake 生成的 Elon Musk 訪問影片,聲稱免費送 Bitcoins,實則引人入金呃錢。 大家以為這類騙局應該好少人上當?但專家估計自 2020 年開始至今,騙徒已至少騙走 8000 萬美元,更預言這類騙局會持續在社交平台氾濫,很難阻止。 想知最新科技新聞?立即免費訂閱 ! 被黑客假借身份進行加密貨幣詐騙已非首次,無論是比特幣於前年升至 6…