最近2到3年，駭客偏好散佈惡意程式的新興管道，其中之一就是針對開發人員使用的開源套件儲存庫NPM、PyPI而來，藉由在此發行有問題的套件，進而在安裝、使用這些套件的電腦散佈惡意程式，但隨著生成式AI技術的掘起，類似的情況也出現在共享機器學習模型的平台。 在譽為AI界GitHub之稱的Hugging Face平台，研究人員發現裡面存在惡意的機器學習模型，值得留意的是，儘管該公司已採取多項檢測措施來掃描機器學習模型的檔案是否有害，然而，這些模型仍舊可以繞過這些機制而能成功上架。