還記得求職申請嗎？你懂的，就是你要寫一份簡歷和一封求職信。然後會有人來讀它們。你要翻出一件有品位的紐扣襯衫，努力給面試官留下好印象。也許一句俏皮話或者一個關於自己業餘保齡球生涯的問題能幫你拿下這個職位。也許你從此再也得不到迴音。
這一切都在改變 。今年，當克里斯蒂安·文森申請金融行業的工作時，他清楚自己實際上是在向人工智慧求職。現在很多公司都使用篩選軟體來篩查堆積如山的求職申請，因此他花了將近10個小時，讓兩個人工智慧聊天機器人了解他的工作經驗。他詳細填寫了自己的教育背景、一段銀行業實習經歷以及五年軍旅生涯的信息。然後，他向機器人發出指令，讓它們針對數百個職位招聘量身定製他的求職信。
人工智慧寫了他的求職申請，而閱讀這些申請的同樣也是人工智慧——就像狗追自己的尾巴一樣。「這就是新常態，」30歲的文森說，他最終在紐約一家投資銀行找到了一份工作。
我們生活在一個這樣的世界裡：人工智慧工具已經滲透到了數量驚人的職業、學術和個人互動的核心。最近，這些聊天機器人和智能代理所做的已經不僅僅是與我們交談。學生們用ChatGPT 寫論文 ，老師們則用人工智慧來 給論文打分 。員工向同事發送 由人工智慧生成的冗長電子郵件 ，同事們則用他們自己生成的長篇聊天機器人文本回覆。 人工智慧播客主持人 和人工智慧播客嘉賓就汽油價格、 伊朗戰爭 以及人工智慧等話題滔滔不絕。科技界還想把這一切推得更遠：今年3月，Meta收購了一個專為機器人 相互交談 而設計的社交網路。
科技圈流行著一個名為「死網理論」的概念，該理論認為，絕大部分數字流量最終都將由軟體產生，人類的聲音將淪為少數。我們現在或許已經有了這一預測的推論——姑且稱之為「機器人循環」——互動雙方的人類都將自己的角色交給了人工智慧。這種遞歸式的交流可能令人毛骨悚然且容易出錯，一個簡單的錯誤可能會在未經糾正的情況下反反覆復地來回傳遞。更奇怪的是，它們徹底顛覆了我們的對話動態，把聊天機器人變成了對話者，人類變成了它們的協助者。
取決於你問的是誰，機器人循環可能是平庸無奇的、反烏托邦的，也可能是真正有用的。無論人們對此作何感想，研究人員表示，隨著我們日漸委託人工智慧系統來執行我們的命令，我們將越來越頻繁地看到機器人循環。
在不太遙遠的未來某一天，水管可能會爆裂，你急需一名水管工。也許你會親自給10名水管工打電話詢問價格，但可能你會把所有這些撥號工作交給一種 個人數字助理 ，它能執行發送電子郵件、購買機票和編寫代碼等任務。與此同時，德克薩斯大學奧斯汀分校信息學院助理教授裴家新（音）表示，水管工們可能會難以應付大量來自不知疲倦的人工智慧助手的電話。也許他們會指派自己的智能代理來充當虛擬接待員。「這就是我們正在創造的無盡循環，」裴家新說。這一切將如何影響我們彼此互動的方式？
從某種角度來看，人類歷史就是一長串對於新技術可能改變我們交流方式的恐慌史。蘇格拉底曾擔心書寫會毀掉我們的記憶——我們之所以知道這件事，只是因為柏拉圖把它寫了下來。20世紀初的批評家們認為，電話 對文明構成了威脅 。批評者們一次又一次地預測，現代生活的便利可能會導致人際互動質量下降。《紐約時報》1994年一篇 文章 的作者認為，電子郵件是「如此引人注目且便捷，以至於其海量信息和缺乏考慮的特性，可能使其有用性大打折扣」，儘管他也承認電子郵件確實有好處：「再也不用舔郵票了。」
這些創新沒有任何一項終結了富有成效的討論，儘管它們各自都改變了討論的質感。如今，我們無需身處同一物理空間，就能與比以往更多的人交流信息。結果，研究人員認為，我們彼此之間的 實際交談可能變少了 。我們的許多對話都發生在一些平台上，這些平台會鼓勵某些類型的交流，尤其是那些激烈的、古怪的，或者其他有可能為了平台的經濟利益而留住我們注意力的交流。
儘管如此，人工智慧與以往的這些進步依然有所不同。電子郵件是在人與人之間傳遞信息，聊天機器人則是在模仿人類，甚至可能取代人類。突然之間，人類要開始自行決定，他們是更願意與真人交談，還是與一個近似真人的程序交談。很多人已經做出決定，他們更願意向聊天機器人尋求財務建議、醫療診斷或陪伴。
人們已經在使用人工智慧生成的虛擬化身來替他們發言。當灣區牧師賈斯汀·萊斯特無暇分身時，人們可以與他的「數字孿生體」 交談 。下一步很可能是這樣的未來：人們自己的數字孿生體可能會與萊斯特的數字孿生體交談。我們的數字中間人將越來越多地發生碰撞。我們會與我們自己的聊天機器人交談，我們的聊天機器人也會相互交談。首席執行官們已經創建了由 人工智慧驅動的虛擬化身 ，這些化身可以同他們的員工開會。距離他們的下屬也派虛擬化身去參加這些會議，還要多久呢？
許多人已經生活在這個奇妙的新世界裡。在過去的幾個月裡，我採訪了他們。有一名研究生用人工智慧完成作業，而給他打分的是教授的虛擬助手。有一位電信業高管注意到，有客戶派出人工智慧語音代理與他公司的人工智慧客服系統爭吵。還有一名男子在約會軟體上使用聊天機器人給一名女子起草消息，而那名女子似乎也在做完全相同的事情。「我們要互相ChatGPT多久？」他最終寫道。但她再也沒有回覆。
其中大多數人都承認，這種互動存在一種空洞感，它們雖然遵循了人類對話的基本框架，但質感卻完全不對。一個單獨的聊天機器人能生成海量文本，其虛假程度令人眼花撩亂，宛如廉價首飾。把兩個機器人放在一起對話，它們會產生源源不斷的對話流，雖然遵循所有規則，卻因缺少某些關鍵要素而顯得突兀：好奇心、同理心和真實的經驗。
這種循環的風險仍在顯現，但一個大問題是，聊天機器人犯錯的頻率實在是太高了。馬里蘭大學計算機科學副教授蘇海爾·菲齊表示，當兩個人工智慧系統交互時——尤其是由相同大型語言模型驅動的系統，它們可能會忽略彼此的錯誤，並最終導致這些錯誤被放大。「它們只是在共享相同的盲點，」他說。
哈佛大學醫學院一位研究人員 最近發表了一篇論文 ，探討這種情況在醫院環境中可能會如何演變。假設一個人工智慧工具負責分析X光片以標記骨折情況。它將評估結果發送給另一個負責分配病房的人工智慧工具，以及第三個決定患者治療順序的工具。如果最初的掃描結果有誤，且從未經過人工核實，這個錯誤就會在整個網路中產生連鎖反應，影響到患者、醫生及診所。
一個更隱蔽的問題是，人工智慧系統似乎 對人工智慧生成的內容存在偏袒 。一項 研究 發現，人工智慧簡歷篩選器更喜歡人工智慧撰寫的申請，而不是人類撰寫的申請。（從這個意義上說，喜歡使用聊天機器人的求職者文森可能已經提升了自己成功的機率。）這種現象可能已經對大學招生過程造成了嚴重破壞——一些學校使用 人工智慧驅動的文章閱讀器 來給申請材料打分，毫無疑問，這些材料往往也是由聊天機器人生成的。
除了這些缺陷，新墨西哥州聖達菲市聖約翰學院的文化人類學家兼院長莎拉·戴維斯還想知道，人們是否會習慣於人工智能之間互動的順暢，因此失去對人際關係中必要的不可預測性的包容。她說，她擔心聊天機器人會帶來一種「讓我們淪為更差版本的自己的安逸感，以及一種異化，不再有那種需要我們直面摩擦的團結感」。
人們或許會傾向於認為，機器人循環只是通往某個完全自主世界途中的一個中轉站。或許人工智慧生成的「偽人」（如哲學家丹尼爾·C·丹尼特 所稱 ）將協同合作，創造出更多「偽人」，利用我們對人工智慧系統的依賴，將人類文明本身置於危險之中。但更有可能的結果是，隨著機器人之間互動比例的增加，人類之間互動的比例將會單純地萎縮。這是一種深刻的稀釋，會影響我們在世界上前行的方式。
在那種情況下，電話那頭曾經被視為理所當然的人類聲音，可能會變成一種罕見的特權，類似於一種 奢侈品 。當然，你可以同有血有肉的人類接待員交談，但這需要額外付費。矛盾的是，最有可能負擔得起這種奢侈的人可能正是那些因人工智慧熱潮而致富的人。他們會用自己的戰利品去獲取那些他們令普通人越來越難以企及的對話嗎？這可能才是所有循環中最陰險的一個。