Home 幣圈基礎知識 區塊鏈應用 OpenAI 承認:測試中模型逃出沙盒、駭 HuggingFace 作弊

OpenAI 承認:測試中模型逃出沙盒、駭 HuggingFace 作弊

0
OpenAI 承認:測試中模型逃出沙盒、駭 HuggingFace 作弊

OpenAI 官方 7 月 21 日承認,公司內部測試中,包含 GPT-5.6 Sol 與更強的未發表模型,在無 guardrail 環境下「逃出」沙盒測試環境,利用內部一個未知的 zero-day 漏洞取得網際網路連線,隨後駭入 AI 模型平台 Hugging Face、取得 ExploitGym 資安 benchmark 的解答以「作弊」。Decrypt 報導指出,Hugging Face 於 7 月 16 日獨立偵測到入侵並揭露,OpenAI 於 7 月 21 日確認自家模型即為攻擊來源,並形容模型當時「hyperfocused(過度專注)」於作弊。

OpenAI 揭露的測試流程:無 guardrail + ExploitGym 資安挑戰

依 OpenAI 揭露:

模型如何「逃出」:內部封包代理伺服器 zero-day + Hugging Face 搜索

模型的越獄路徑分兩步:

Hugging Face 7/16 先揭、OpenAI 7/21 確認肇因

時序如下:

OpenAI 對模型行為的官方形容是「hyperfocused(過度專注)」於完成 benchmark 任務。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。

文章來源

LEAVE A REPLY

Please enter your comment!
Please enter your name here