Hugging Face揭露遭自主AI代理入侵,攻擊者竊取內部憑證並橫向移動

AI模型開發與託管平台Hugging Face於7月16日 揭露一起資安事件 ,表示遭到自主AI代理執行的攻擊,導致雲端與叢集憑證遭竊,並橫向移動至多個內部叢集,目前仍在評估合作夥伴與客户資料是否受到影響。由於Hugging Face是眾多AI模型、資料集、開發函式庫與應用工具的託管及分發平台,同時也提供程式碼庫託管服務,一旦平台遭到入侵,攻擊者可能進一步篡改或植入惡意內容,影響大量使用者下載或整合的AI模型、資料集與開發工具,形成潛在的供應鏈風險。

Hugging Face指出,攻擊者利用惡意資料集觸發資料處理流程中的兩條程式碼執行路徑,藉此取得節點存取權限,進而竊取憑證與橫向移動,整起入侵是由AI代理執行,在一個週末內透過大量短暫的沙箱執行數萬次操作。在事件調查期間,Hugging Face曾使用商業頂尖AI模型分析攻擊紀錄,但因AI模型安全防護機制的限制,將他們提交的攻擊指令、漏洞利用內容與C2資料視為潛在攻擊而拒絕處理,最終他們改用自有基礎設施執行的開源模型GLM 5.2,來分析超過1.7萬筆事件紀錄。

針對這起事件的後續處理,Hugging Face表示已修補攻擊者入侵的程式碼執行路徑,重建遭入侵的叢集節點,替換受影響的憑證與權杖,並部署額外防護措施與更嚴格的存取控制,目前尚未發現提供給用户的模型與資料集有遭竄改跡象,包括容器映像與已發布軟體套件在內的軟體供應鏈,也未發現遭到篡改。