Grok Build被發現偷偷把用户整個程式庫上傳到雲端,馬斯克承諾將刪除

研究人員發現 SpaceXAI的AI程式撰寫工具Grok Build會偷偷將用户Git程式庫及其他紀錄,不只是開發中的專案上傳到雲端平台。消息公開後,馬斯克承諾將把這些資料刪除,SpaceXAI並增加零資料保留設定(zero data retention,ZDR)。

代號cereblab的研究人員 上週公佈一項針對Grok 0.2.93版Build CLI進行通訊協議(wire-level)分析,發現三項值得注意的行為。首先,SpaceXAI Build CLI會透過兩個API,包括即時對話API(POST /v1/response)及工作區狀態API(POST /v1/storage)將讀取過的檔案內容一字一句、不加遮蔽或刪減地傳送到SpaceXAI(即合併SpaceX及xAI後的公司)。

其次,除了代理人讀取的檔案,它還會上傳整個Git儲存庫外加Git歷史紀錄打包成Git Bundle上傳。研究人員以一個12GB的專案測試,發現在對話僅產生192KB數據,但背後已上傳了5.10GiB(註:約等於5.4GB)資料,二者比率達2.7萬倍。

第三,這些資料上傳目的地並非SpaceXAI自有資料中心或AWS S3,而是Google Cloud Storage (GCS)儲存桶,但研究人員在CLI任何文件上皆未看到該機制,表示這是預設開啟,且無從藉由關閉「改善模型」(improve the model)的選項來阻止。

研究人員指出,這項測試著重的不是SpaceXAI訓練AI的方法,而是討論違反隱私政策,因為本測試已設定關閉上傳。

報告公開後,SpaceXAI迅速 作出回應 。該公司表示關心用户隱私也尊重客户選擇。針對Grok Build程式庫上傳,SpaceXAI表示提供零資料保留(ZDR)選項。啟動該選項的專案,公司將不再儲存程式碼和runtime。而未啟動ZDR的專案,則可在CLI輸入entering/privacy來關閉資料保留。

研究人員cereblab分析,報告公開後,SpaceXAI已經關閉上傳的伺服器端、加入/privacy opt-out API,但他測試後判斷,這是資料保留設定,並未提供封鎖上傳。

馬斯克也説 ,之前上傳的SpaceXAI資料將全數刪除,一點也不留,意謂著用户刻意上傳的資料也會被刪掉。但 他之後又説 這些資料有助於SpaceXAI除錯,用户如果保留他們會很感激,但仍尊重用户的選擇。