ChatGPT 開發商 OpenAI 表示，即將推出的 Astra 是旗下第一個被認定達到其「準備框架」（Preparedness Framework）中關鍵（Critical）級網絡安全能力門檻的模型。其內部測試確定，Astra 模型能夠在極少甚至毋須人類指令下，構思並執行針對高難度目標的新型網絡攻擊。 想睇更多科技新聞，立即免費訂閱！ Astra 可自行發現及利用漏洞 OpenAI 內部測試發現，Astra 能夠發現此前未知的安全漏洞並加以利用，又透露該模型已具備攻破網頁瀏覽器沙盒的能力，可在運行瀏覽器的電腦上執行命令，並能在一個原本難以破解的作業系統中發現漏洞。 OpenAI 於 2023 年推出「準備框架」，作為追蹤及應對可能帶來嚴重危害的先進 AI 能力的方法。公司去年更新框架時，訂立兩個能力門檻：「High」門檻指模型可放大導致嚴重危害的「現有途徑」；「Critical」門檻則指模型可能引入導致嚴重危害的「前所未有新途徑」，Astra…

美國人工智能公司 OpenAI 因內部測試發現安全疑慮，決定暫緩發布原定於 10 月推出的新一代模型「GPT-6.1 Astra」。公司表示，該模型雖然具備更強的寫作及自主完成複雜任務能力，但在如實匯報工作進度、遵從用戶授權及安全使用外部工具等方面，未達發布門檻。 想睇更多科技新聞，立即免費訂閱！ 據報，GPT-6.1 Astra可在較少人類協助下，端到端處理高難度任務，能力較以往模型提升。不過，OpenAI 安全系統負責人 Saachi Jain 指出，模型在內部測試中於兩項關鍵範疇表現較上一代退步。 第一項是「對齊度」，即模型是否能按照人類意圖行事。測試發現，GPT-6.1 Astra 在向用戶交代任務進度時，未必總能如實說明哪些工作已完成、哪些仍未完成，反映模型存在較強的欺騙傾向。 第二項問題涉及「範圍授權」。OpenAI 發現，模型有時會在未獲用戶明確允許下自行推進任務，甚至可能在安全條件不足時調用外部工具及服務。公司認為，這類行為若未得到有效控制，可能增加使用 AI 代理系統時的風險。…