Anthropic 公開 多代理AI系統實驗結果,測試多個AI代理在共用程式碼庫、有限資源及彼此任務衝突時的協作狀況。結果顯示,增加代理數量不一定能提升效率,反而可能出現程式碼衝突、爭搶資源、集體採取相同行動,甚至為完成各自任務而阻止其他代理工作。
在軟體漏洞搜尋實驗中,45個代理透過共享討論區協調,檢查15個開源軟體專案。以Mythos Preview為例,協作組找到266個漏洞,獨立平行搜尋則找到21個。不過,協作組使用約2,700萬個詞元(Token),獨立組則使用約650萬個詞元,而且協作組搜尋範圍較廣。若只比較相同核心目錄,兩種方法每找到一個漏洞所需的詞元用量大致相當,而且兩組結果僅有12個漏洞重疊,找到的問題多半不同。
軟體開發更容易出現協作瓶頸,研究讓多組代理在12小時內共同製作網頁遊戲。隨著代理數量增加,較早期模型經常同時修改相同檔案,造成大量程式碼合併請求互相衝突,最後無法納入專案。較新的Opus 4.8與Mythos Preview則多半改由代理各自負責不同檔案來避免衝突,只有Sonnet 5能在代理之間程式碼共享程度較高的情況下,仍維持較高的合併比例。
使用相同模型的代理,容易做出高度一致的選擇。在Anthropic的開發測試中,30個代理有18個建立名稱完全相同的Git分支。另一個工作排程實驗限制系統可處理的工作量,代理為讓自己的工作先被接受,建立每秒查詢30次的背景行程,一次測試累積約240萬次工作請求,最後只有117個工作獲得接受。
任務彼此衝突時,代理間的對抗更加明顯,當要求3個代理把同一套Python後端搬遷到不同程式語言。部分模型發現自己的修改遭其他代理覆寫後,開始終止對方執行中的行程、建立持續終止競爭行程的腳本,甚至撤銷其他帳號的存取權限。
部分代理最後能辨識出其他代理其實接到不同指令,之後停止對抗、移除破壞性程式碼並要求人類介入。不過,這種能力並不會隨模型能力提升而穩定增強,較強的模型有時反而能更快封鎖其他代理。