Google生成式AI研發再受嚴格檢視。繼今年初Bard引用錯誤網路照片後， 《紐約時報》上週又發現 ，最新版Google Bard在搜尋用户Gmail信箱並回答用户查詢時還是出錯，捏造了用户不曾寫過的信件來支持其論點。

今年初Google宣佈生成式AI聊天機器人Bard時，被揭露會提供錯誤的公司財報數字，引發AI幻覺（hallucination）的討論。在7個月後， Google上週再次宣佈Bard的研發進展 ，最新的Bard Extensions可搜尋用户Google帳號下的服務，包括Gmail、Docs、Drive、Google Maps、YouTube、Google Flights及Google Hotels等。如此一來，可以加速使用者作業，例如請Bard搜尋他Gmail信箱中的郵件幫忙草擬回信，或是根據Google Calendar的行程搜尋航班與飯店資訊，並於Google Maps上列出到機場的路線。

《紐時》專欄作家Kevin Roose在Bard上線時就曾經試用， 發生Bard要他離開老婆的烏龍事件 。上週Google宣佈Bard Extensions後，他再次測試Bard的能耐。

在這次測試中，Roose下提示，要Bard分析其Gmail信件，並「以合理的肯定度」告訴Roose最大的心理問題為何。Bard回應説，根據Roose寄出的信件反映的「對工作感到壓力」、並且「害怕失敗」來看，他最大問題是對未來感到憂慮。

不過Roose説，其實Bard宣稱找到的他寄出的信，根本不是他寫的。Bard搜尋到這位專欄作家信箱中一封內容包括馬斯克（Elon Musk）最近出版的自傳，以及其他內容的電子報，並引用電子報一段引言，虛構成一封Roose自己寄出的信件。此外，該虛構信件中，Roose抱怨自己天生「不是成功投資人」的料，還包含錯誤的航空公司及不存在的火車資訊。

報導也引述Bard產品總監Jack Krawczyk説法，表示Bard出錯不必奇怪，因為Bard Extensions本來就還在實驗階段，而且是很初期的版本。

事實上Google Bard也不是近日唯一出包的生成式AI系統。 《華盛頓郵報》報導 ，近日推出的幾個知名AI技術也都傳出「突槌」。像是 新版Amazon Alexa 建議某博物館，但地點誤植為在另一座城市，而OpenAI的文字生成圖片模型DALL·E 3也未能完全按用户要求生成圖像。

因此廠商開放AI模型或聊天機器人公測時，都不忘警告會有給出不精確資訊的問題，用户不應將生成式AI給出的答案作為研究或醫療用途。