【前方危險】ChatGPT等新AI工具 兼任網絡安全攻守要員?

    生成式人工智能正改變網絡安全生態,無論是攻擊者抑或是防禦者,都加以利用,將之變成有利自己的工具。近日威脅情報平台 Recorded Future 的 CEO Christopher Ahlberg 表示,不受道德或法律約束的網絡犯罪分子,爭相利用 AI 尋找新的黑客技術;另一方面,防禦者也正在使用相同的技術,來保護關鍵基礎設施、政府組織和企業網絡。

    早前 Google 的 AI 之父 Geoffrey Hinton 公開表示已經離職,更對外聲稱對發展 AI 的事業感到後悔不已,並曾指出讓電腦學會自我改進,是一件相當危險的事,當下人類應認真考慮,如何控制人工智能。

    生成式人工智能幫助犯罪分子開發新的攻擊策略及模式,使他們能夠比網絡安全防禦發展行快一步,包括自動執行攻擊、掃描攻擊面,並生成令不同地區的人有共鳴的內容,令他們能夠針對不同國家或地區,作出更廣泛的攻擊,令更多人受害。他們使用 AI 來創造令人信服的網絡釣魚電子郵件,由 AI 生成的文本讓攻擊者製作出具有高度個人化的電子郵件和短信,提升詐騙成功的機會。

    而防守方亦同時使用 AI 來抵禦攻擊,不少組織正在使用 AI 來防止資料洩漏,並利用 AI 去主動地發現網絡漏洞。AI 還可以自動執行任務,例如為特定關鍵字設置警報和於線上檢測敏感訊息。打擊威脅者亦正使用 AI 來識別異常。這項工作仍然需要人類專家,但 Ahlberg 指 ChatGPT 等具生成能力的人工智能技術可以提供協助,加快分析週期,直言:「我認為我們看到了突破。」

    Ahlberg 還提到高度智能機器可能帶來的潛在威脅。他指,隨著世界變得越來越數碼化和互相聯繫,不法分子伺機扭曲現實和塑造認知的能力。這些威脅並不僅限於針對國家層面,令形勢更加複雜和不對稱。

    人工智能或能幫助抵禦新出現的威脅,但它也帶來一系列相關風險。例如具有高處理能力的機器,可以比人類更快、更有效地破解系統。而為了應對這些威脅,我們需要確保以誰在控制人工智能,並清楚地了解防禦方式。

    而隨著人工智能越來越融入社會,並被廣泛使用,立法者、法官和其他決策者,均需積極了解這項技術及其影響,並在技術專家和政策制定者之間建立強大的聯盟,這對於搜尋威脅,以及在未來其他領域引入人工智能至關重要。

    人工智能在網絡安全方面的機遇、挑戰和倫理考慮,既複雜也在不斷發展。因此確保人工智能模型的公正性,並保持人類參與相關決策,於應對道德挑戰也非常重要。保持警惕、協作和對技術的清晰理解,能解決高度人工智能的潛在長期威脅。

    Ahlberg 又表示,對中國、俄羅斯和其他經濟對手所部署的自動運行機器感到擔憂,他認為這些國家可能不會放慢 AI 的發展,或有道德考慮。雖然能控制對此類機器「拔下插頭」,是一種明智的保障措施,但他表示,將技術融入於社會和全球經濟,可能會使其更難以分離。Ahlberg 強調,需要在設計產品和機器時,明確地指出控制它們的人。

    資料來源:https://www.zdnet.com/article/chatgpt-and-the-new-ai-are-wreaking-havoc-on-cybersecurity/

    相關文章:【生成式AI大限?】中國政府擬規管 推出服務前要先審查

    #AI #ChatGPT #CyberAttack #CyberSecurity #Hacker #RecordedFuture #網絡保安 #網絡攻擊

    相關文章