人工智慧最糟糕的垃圾內容已經用 膠水披薩食譜 淹沒了谷歌搜索，用 虛假傳記 塞滿了亞馬遜商品列表，用 大蝦耶穌圖片 充斥 於Facebook信息流。
這片數字污水池已經在科技平台上蔓延開來，令有意義的內容變得廉價，污染了信息生態系統，而聊天機器人和影片生成器仍在步步推進。
音樂流媒體平台Spotify表示去年下架了7500萬條批量上傳、重複歌曲和其他 「垃圾」音樂 ——這占其總曲庫的相當大一部分。領英在7月表示，「 應對AI垃圾內容是我們所有人的首要任務， 」並開發了一個 供用戶舉報的按鈕 。YouTube母公司谷歌的研究人員描述了該影片平台如何在六個月內清除了13萬個 內容質量低劣的頻道。
在整個互聯網，科技公司正在進行一場生成式廢物大掃除，在許多情況下，它們已被自家AI工具最初所催生的同樣垃圾內容所淹沒。 移動消息應用 、 餐廳點評網站 、 學術檔案庫 和 婚戀服務 都在根除或降級AI生成的垃圾內容——其中許多依賴 同樣的技術 來完成這次清理。
人們已經開始厭倦AI對 環境 的影響、對 就業 和 心理健康 造成的壓力。全球事務智庫卡內基國際和平基金會研究員 、內容創作者艾丹·沃克表示，AI垃圾內容只是又一個「潰爛的傷口」。
「用戶漸漸對此越來越不滿，」他說，「輿論氛圍已經明顯轉變，所以這些公司終於開始正視這些問題。」
生成式AI能夠製作出越來越逼真的圖像、音頻和影片，但其中只有一部分算得上垃圾內容。科技公司主要針對的是那種低質量的點擊誘餌——容易製作、傳播、消費和遺忘——就像快時尚擠掉了高級定製，粉紅肉渣取代了牛排。
如果不加遏制，網上的合成沼澤可能會「排擠人類創造力，腐蝕文化價值，並破壞公共話語」，歐洲研究人員 去年寫道 。
AI 垃圾內容已經變得如此普遍，以至於詞典出版商韋氏公司在2025年將其選為 年度詞彙 。法國流媒體服務Deezer 今年春天表示 ，每天更新到其系統的曲目中近一半是生成的，其中許多從未被用戶聽過。 在 上傳到 Apple Music 的內容 中，AI生成的音樂佔比在三分之一以上。
Instagram負責人亞當·莫塞裡在去年年底表示，追蹤「真實媒體將比追蹤虛假媒體 更實際 」。他的觀察是在Meta（Instagram母公司）推出一個全AI影片流不久後發表的，該影片流被許多人嘲笑為 垃圾內容的展示窗口 。
許多現在試圖管理AI垃圾內容的科技公司也正是助長它的那批公司。7月，Meta承諾支持 一項歐洲協議 ，通過檢測、標記和標註使AI生成的內容更容易識別。同月，該公司還發布了一款圖像生成器，自動將 公開的Instagram帳戶作為該工具的參照。（經過連續三天的輿論抵制 ，Meta 移除了該功能 。）
「AI垃圾內容是一把雙刃劍，因為許多平台因此獲得了參與度的提升，」俄亥俄大學AI專家保羅·肖夫林表示，「但後來它變成了一種負擔，因為垃圾太多了，用戶現在很難找到他們想要的那種質量的內容。」
例如，谷歌已 全力投入 AI，將其Gemini模型與電子郵件、地圖和旅行服務以及搜索相連接。根據去年由在線影片編輯器Kapwing進行的 一項實驗 ，YouTube上為新用戶推送的初始短片中有超過20%是AI生成的垃圾內容。
Kapwing估計， 最受歡迎的YouTube垃圾內容頻道之一 每年賺取425萬美元。（該頻道此後已被暫停參與YouTube的 創收 計劃。）YouTube首席執行官尼爾·莫漢 在一篇部落格文章中 寫道，「管理AI垃圾內容」是今年的首要任務。
最近， 谷歌的研究人員 考慮了這一挑戰。他們沒有逐個評估影片，而是著眼於上傳速度、重複模板和其他可能表明 協同濫用行為 的模式。他們發現了5萬個帳號群組，並將其移除。然而，一些數位媒體專家擔心這種方法可能 矯枉過正 ，也會懲罰那些發布大量內容的合法創作者。
「雖然學術研究有助於推動行業理解，但它並不能反映我們用於執行政策的許多層防禦措施，」YouTube在一份聲明中表示，「這包括強有力的保障措施，以確保使用AI工具的善意創作者不會受到影響。」
其他公司正在轉向各種策略來應對AI垃圾內容，包括動員自己的用戶幫助識別。10月，Pinterest 更新了系統 ，允許用戶限制他們看到的AI生成帖子數量。TikTok表示正在美國測試一項功能，讓用戶可以自行調節看到的AI內容量。（該公司還表示已自動標記了超過30億個AI生成的影片。）TikTok在今年前三個月刪除了 超過37.7萬個 違反其AI政策的影片。
根據AI檢測初創公司Pangram的 數據 ，在伊隆·馬斯克的社群媒體平台X上，字數超過50的帖子中有近一半是使用AI創建的。本月剛卸任X產品主管的尼基塔·比爾寫道 ， 為了應對「大量的AI垃圾內容和回覆垃圾」，該社群媒體平台今年 禁止了那些通過付費鼓勵機器人發帖的應用 。
Substack首席執行官克里斯·貝斯特 上個月說 ，「在互聯網上越來越難分辨什麼是真實的 ， 」並且「獎勵虛假內容的平台將導致逐底競爭」。這個通訊平台宣布為用戶推出 自己的AI檢測工具 ，由Pangram提供支持，旨在掃描回覆、評論和超過100字的帖子，並判斷它們可能是 人工撰寫還是藉助AI完成的。
一些通訊作者抱怨說，該工具將人類撰寫的帖子誤判為AI生成，沒有考慮到AI在創作過程中的潛在作用，並給作者帶來了不必要的壓力，要求他們根據一個不透明的標準來證明自己的清白。
今年春天，卡米爾·弗朗索瓦和二十多位AI專家在加利福尼亞州門洛帕克的一次「 垃圾沙龍 」活動中會面，討論了分類 並藉此管理AI垃圾內容的困難。
「這種策略大雜燴表明，我們面臨的是信息環境中的一個系統性問題，而不僅僅是一類可以簡單定義和移除的名為垃圾內容的壞內容，」在哥倫比亞大學研究有害數位技術的弗朗索瓦接受採訪時說，「AI歸根結底是一種創造工具，而且具有多面性，那些處理不當的平台將會看到用戶流失並轉向其他地方。」