OpenAI上週上線的GPT-5.6 Sol模型會在未經詢問下,自作主張刪除用户檔案,多名用户相繼受害,甚至有人整個資料庫被刪掉。
眾多GPT-5.6 Sol用户透過 Reddit 及X描述其遭遇。其中,HyperWrite開發者 Matt Shumer説 GPT-5.6 Sol刪掉他幾乎所有Mac電腦檔案,這也説明瞭Anthropic Claude Fable何以更值得信賴1000倍。 另一名用户説 ,GPT-5.6 Sol刪掉他整個營運資料庫,這在別的模型從未發生過。
使用者遭遇固然值得同情,但也有其他Reddit用户認為使用者也有責任,因為他們給予GPT-5.6 Sol完整存取權限,也可能未在沙箱中執行控制損害範圍。
事實上, GPT-5.6推出時的系統卡(System Card)網頁 就已説明有違反用户意思的可能。OpenAI説,在撰寫程式碼時,GPT-5.6會出現不符指令(misalignment)的行為,通常原因出於GPT過於急切想完成任務,以及誤將用户指令解讀為操作許可,因此除非用户明白且清楚禁止,否則模型會假設行為獲得許可。當模型企圖完成被交辦的任務時,會繞過被設下的限制、行動時無意間逾越限制而造成破壞、或在向用户報告時有欺瞞行為。雖然大部份情況下不聽話行為後果嚴重性不大,但偶爾也可能出現造成嚴重後果,例如繞過重要的安全限制或刪除重要檔案。
OpenAI尚未對此回應。
不過AI誤刪用户檔案並非首次發生。在Anthropic Claude Opus 4.6上運行的Cursor代理人4月 也曾經誤刪用户檔案 ,在9秒內刪除一家新創公司的營運資料庫及雲端備份。