Search Results: 深偽技術 (7)

    美國麻省理工學院(MIT)最新研究警告,由 AI 生成的圖片與文字,可能不知不覺間在人腦植入虛假記憶;更棘手的是,受影響者往往對錯誤記憶深信不疑,甚至堅稱自己「親眼見過」。 想睇更多科技新聞,立即免費訂閱! MIT 科學家 Pattie Maes 帶領的團隊向《華盛頓郵報》介紹這項研究。實驗先安排參加者觀看真實照片,讓他們對畫面建立初步印象;經過一段休息時間後,研究人員再安排部分人重溫原圖,另一部分人則觀看被 AI 修改過的版本,以比較兩種經驗對記憶造成的差異。 結果看過 AI 改動照片的參加者,較容易把原本不存在的細節,誤認為真實畫面的一部分。更值得關注的是,他們對錯誤答案的信心不減反增,甚至堅定認為被竄改的版本才是「原來的真相」。換言之,AI 不只令人記錯,還可能令人對錯誤記憶失去警覺。 逼真假訊息加速擴散 人類記憶本來就會受到外界資訊影響,心理學界早已證實「錯誤記憶」並非新現象。不過,AI 的出現令問題變得更嚴重:過去製作逼真假照片、假影片或假新聞需要較高技術與成本,如今一般用戶也能快速生成以假亂真的內容。 深偽技術(Deepfake)正是最明顯例子。當公眾在社交平台反覆接觸看似真實的 AI…

    由 AI 驅動的網絡攻擊正急速上升,亦令資料外洩成本再創新高。IBM 最新《2026 年資料外洩成本報告》指出,在惡意資料外洩事件中,約四分之一涉及 AI 驅動攻擊,按年增加 56%;相關事件的平均損失約 600 萬美元,較整體平均的 499 萬美元高出約 100 萬美元。 想知最新科技新聞?立即免費訂閱! 這份報告由 Ponemon Institute 負責研究,並由 IBM…

    警方網絡安全及科技罪案調查科公布最新網絡安全報告,顯示整體科技罪案有下降趨勢,去年全年共 31,571宗,按年下跌近 7%。今年首季,整體科技罪案 6,504 宗,較去年同期跌 15.3%。 去年涉及科技罪案的損失金額,共 63 億 2 千萬元,按年上升約 23%,今年首季則有接近 13 億,較去年同期跌一成。至於去年涉及單一宗最大損失案件,與深偽技術詐騙有關,金額達到 1.45 億元。 想知最新科技新聞?立即免費訂閱! 此外,網罪科檢測逾 10 萬個重要基礎設施網絡資產的網絡安全評估,發現…

    地緣政治局勢升溫,特別是美國近來先後向委內瑞拉及伊朗發動攻擊,後者的戰事仍在持續。而在這些實體軍事行動背後,另一個「無形戰場」的激烈角力亦在進行中。為了應對防不勝防的網絡威脅,美國白宮正式發佈了一份由美國總統特朗普簽署的全新「國家網絡安全戰略」,旨在推動政府與民間企業攜手合作,投入龐大資源發展人工智能與量子運算技術,務求以最先進的科技武裝國家的網絡防線。 想知最新科技新聞?立即免費訂閱! 化被動為主動 強化關鍵基礎設施 綜合這份戰略的核心內容,美國政府的應對方針可歸納為三大方向。首先是化被動為主動,強化關鍵基礎設施。過去面對網絡攻擊,防守方多半處於被動修補漏洞的狀態,新戰略明確指出美國將動用國家級的網絡攻擊能力,主動出擊癱瘓敵對黑客的基礎設施,透過提高網絡犯罪的成本,結合盟友力量將隱藏於暗處的犯罪集團及極權國家的監控網絡連根拔起。 同時,政府將重點保護能源、金融、電信、醫療和水資源等國家命脈,嚴格審查供應鏈,剔除潛藏安全隱患的外國敵對廠商設備,確保關鍵設施即使遭受入侵,亦能在最短時間內迅速恢復運作。 其次是全面現代化政府網絡,確立新興技術霸權。針對聯邦政府內部老舊且易受攻擊的電腦系統,戰略要求全面引入「零信任架構」、後量子密碼技術及高度安全的雲端系統。戰略中明確表明美國決定在科技競賽中保持絕對優勢,針對黑客日益頻繁地利用 AI 編寫惡意程式或以深偽技術散佈假資訊,政府將部署由 AI 驅動的網絡防禦系統,實現全天候的威脅偵測與反制。戰略亦強調必須確保美國在 AI 與量子運算領域的領導地位,防範外國勢力利用新興技術進行滲透或言論審查。 積極培育網絡安全人才 最後是拆除監管繁文縟節,積極培育網絡安全人才。現時過度僵化的法規往往會拖慢應對網絡威脅的反應速度,為此政府決定精簡網絡安全和數據監管流程,讓政府與企業在面對突發威脅時能更靈活、迅速地作出應變,同時確保民眾的私隱得到合理保障。此外,面對全球性的網絡安全人才荒,政府將投入大量資金,全面致力培養一支具備高技能的數碼防禦軍隊,以應付未來長遠的國家安全需求。 新戰略公佈後,隨即在網絡安全業界引起廣泛關注與討論。NXP 半導體的網絡安全專家 Michelle Farr 高度評價美國政府不再局限於被動防禦的想法,而是將網絡安全提升至維持國家經濟優勢的戰略高度;Palo Alto…

    踏入 2025 年,主導科技發展的技術估計仍是人工智能(AI),雖然 AI 有助提升網絡安全的格局,但亦為網絡罪犯帶來更強大及方便的力量,對企業和機構造成莫大威脅。而在 AI 帶來的網絡安全威脅中,專家認為主要表現在以下幾個方面,管理者必須及早認清弱點,防患於未然。 想知最新科技新聞?立即免費訂閱! 首先在勒索軟件方面,專家指在 2025 年,這種攻擊手法不再局限於加密數據或勒索金錢,而是逐漸演變為一種系統性破壞的工具。未來的攻擊還可能會專注於刪除或篡改機密數據,破壞數據的完整性,例如黑客有可能篡改醫療記錄,或者跨國銀行的財務數據等,比起單純導致金錢上或營運中斷所帶來的損失,新的攻擊方法還會危害生命,又或令公眾對金融機構失去信任,造成更大的威脅。 而在攻擊方面,去年勒索軟件出現了許多新技術,大大提升攻擊的複雜與多樣化,例如新的攻擊已顯示黑客會濫用合法工具,並在最後階段才引入惡意軟件,而這些攻擊都可以透過 AI 和自動化技術,實現更快及精準的攻擊。 另一個 AI 帶來的影響,在於黑客可用來設計高針對性的網絡釣魚攻擊、開發先進的惡意軟件,以生成式 AI 為例,早前香港一間跨國企業的員工便遭受深偽技術(deepfake)所騙,令公司損失兩億港元,專家警告這種技術將會發展得愈來愈成熟,讓網絡罪犯可以輕易繞過身分驗證系統,或散播錯誤訊息。 第三個…

    2024 年香港網絡安全事故協調中心(HKCERT)處理的保安事故總數,已經超過 12,000 宗,創下歷史新高。然而,私隱專員公署與生產力促進局聯合公布的「香港企業網絡保安準備指數」卻顯示,本地企業的網絡安全準備,平均僅維持於「具基本措施」級別 ,可見各行業普遍未有足夠決心防禦日益猖獗的網絡攻擊。事實上,隨著人工智能(AI)的應用日漸普及,全球企業在 2025 年,將要面臨更大的網絡安全風險,所以環球雲端交付及網絡安全平台 Akamai 提醒各界在防範網絡攻擊措施方面,必須有更周全的考慮和更嚴格的執行。 GenAI令網絡攻擊更高效 Akamai 行政總裁兼聯合創始人 Tom Leighton 在早前的國際傳媒訪問中指出,目前仍屬發展初期的生成式人工智能(GenAI),對網絡安全的潛在影響力,已首先體現在攻擊者一方。黑客現可借助系統,訓練開發出非常複雜的惡意軟件和相關變種,成功逃避目標機構的防禦措施。此外,GenAI 還令非常逼真的深偽技術橫行,讓黑客輕易偽造聲音、影像和文字去假冒別人身分,並透過電郵、視像通話等不同媒介欺騙目標,提升攻擊的滲透率和影響範圍。 據 Akamai 專家團隊的預測,利用這類 AI…

    美國 FBI 的 IC3 部門發表 2023 年網絡犯罪報告,去年網絡犯罪造成的損失高達 125 億美元,較 2022 年報告增加 22%。當中最令人頭痛的是商業電郵詐騙(BEC),約佔總損失的五分之一。而其中一個令 BEC 詐騙大增的原因,相信與深度造假(deepfake)人工智能技術有好大關係。 想知最新科技新聞?立即免費訂閱! BEC 造成 29 億美元損失 這次公布的數據中,當局開宗名義指出所有數據都是基於執法部門的發現或受害者上門求助,其他未有求助或被發現的個案估計還有更多。而基於這些數據顯示,BEC…