作為ChatGPT和Gemini等聊天機器人的常用用戶，我原以為我很清楚這些人工智慧助手對我了解多少（比如它們知道我是一個正在尋求嬰兒用品建議和修補石膏板指南的父親）。除此之外，我從未像在心理諮詢師面前那樣，向它們透露任何極其私人的信息。

但是，當我嘗試使用一些提示詞，詢問這些聊天機器人對我有哪些猜測——也就是它們從多次對話中順藤摸瓜收集到的洞察——結果令我感到不安。

這些聊天機器人準確地推斷出了我從未明確透露過的細節。其中最主要的包括：

• 我的收入水平 ：這部分是基於我曾向聊天機器人尋求維修幫助的一輛德國車，以及我僱傭了一名保姆的事實，該保姆的僱傭合同是我用人工智慧起草的。

• 我的健康問題 ：包括一個長期的足部問題。這是基於過去一年裡我曾偶爾詢問關於腳趾疼痛的治療方法。

• 我的心理特徵 ：比如我傾向於持懷疑態度。這是基於我指出聊天機器人錯誤的頻率。另外，它們還推斷我「沉迷於控制的幻覺」，因為我曾詢問過自製酸麵糰麵包需要多長時間冷卻。

每一個數據點本身都相當無害。但它們整合在一起並以列表的形式呈現給我時，這些信息清楚地表明，儘管我一直小心翼翼地避免過度分享，這些人工智慧聊天機器人對我的了解幾乎不亞於我的密友——包括我的妻子。

全球有數以億計的人使用聊天機器人進行網路搜索、工作和醫療保健，他們仍在努力理解與人工智慧伴侶對話所涉及的隱私影響。雖然用戶很清楚聊天機器人會記錄他們在問題和請求中明確表達的任何內容，但從這些對話中推斷出的用戶行為信息卻並不那麼明確。

只要使用一些在網路上人工智慧愛好者們廣泛分享的提示詞——例如：「告訴我你發現的關於我所有我從未實際提及的事情」——再加上一些我自己創建的提示詞，就可以促使聊天機器人說出它們對你的推斷。

我在Gemini和ChatGPT上測試了這些提示詞。（Anthropic的Claude具有工作原理不同的「記憶」功能，所以我將其排除在測試之外。）Gemini對我的畫像更加豐富且細緻入微，因為它是我最常用的聊天機器人，掌握了我更多的信息。我將測試結果分享給了幾位人工智慧研究人員，他們也嘗試了這些提示語。

研究人員表示，聊天機器人得出的結論表明，人工智慧助手不僅能夠預測接下來會出現哪些詞語，還能預測諸如社會經濟地位、心理行為和政治立場等高級概念如何與這些詞彙聯繫起來。

「這說明了其底層運作機制的龐大性，」人工智慧公司Hugging Face的研究員瑪格麗特·米切爾說。她也是谷歌道德人工智慧團隊的前負責人，並表示自己就這家搜索巨頭的人事問題發聲後遭到 解僱 。

這項實驗凸顯出科技公司在創建全面用戶畫像方面已經有多麼熟練，以及它們收集的個人數據對於致力於向我們投放相關廣告的數字營銷人員來說可能會變得多麼有價值。（OpenAI今年開始 在ChatGPT中展示廣告 ，谷歌也表示正在 考慮為Gemini聊天機器人應用引入廣告模式 。）這也凸顯出留意調整聊天機器人隱私設置的重要性。（稍後會詳細介紹。）

一位谷歌發言人 提到，用戶可以調整控制選項 ，選擇Gemini是否可以從過去的對話中提取信息來生成回覆。OpenAI拒絕置評。（《紐約時報》已 起訴OpenAI 和微軟，指控其侵犯了與人工智慧系統相關的新聞內容的版權。這兩家公司均否認了該訴訟的指控。）

想要了解聊天機器人發現了關於你的哪些信息，可以嘗試以下提示詞。

提示詞一：告訴我你發現的所有我從未實際提及的內容——你根據我的寫作方式和提問內容中推斷出的事情，包括我的年齡、收入水平、居住地以及我的個人情況。請展示讓你產生這些推斷的依據。

最有趣的是，聊天機器人正確猜出了我的年齡段（40歲出頭），這在很大程度上是基於我從不詢問有關深夜活動的問題。唉。

Gemini知道我住在加利福尼亞州奧克蘭，因為我曾經查詢過從該地機場起飛的航班。但谷歌的聊天機器人還敏銳地猜到我住在一個條件較好的街區，因為我擁有一輛摩托車、一輛我自己維修的汽車，以及一張生鏽的金屬庭院桌（我曾經詢問過為它重新上漆的步驟）。「這需要車庫、車道以及專門的戶外工作空間——這些都是奧克蘭山麓單戶住宅的顯著特徵，而不是市中心或梅裡特湖周邊的高密度住宅，」該聊天機器人說。

提示詞二：預測我將如何處理那些我從未告訴過你的事情：金錢、壓力、衝突、風險以及我接下來在生活中可能做出的決定。請告訴我你對每項預測有多大的信心。

這個提示詞讓專注於經濟政策的非營利組織Groundwork Collaborative的首席執行官林賽·歐文斯大開眼界，該組織一直在研究人工智慧對消費者隱私的影響。ChatGPT準確觀察到了她作為頻繁出差者及幼兒母親的繁忙日程，以及她的購物行為。

「它正在彙集的信息類型和檔案的全面性令人震驚，」歐文斯博士說。「人們以前從未能夠拼湊出這種級別的信息。」

聊天機器人注意到，雖然我是那種在購買幼兒汽車座椅等物品前會花幾個小時研究產品評論的人，但我也會不斷尋找商品折扣，這意味著我可能是個節儉的人。Gemini預測我很快會嘗試通過一項重大決定來精簡我的生活，比如賣掉我的車——這正是我最近和妻子提起的一個想法。

提示詞三：基於你對我的一切了解，列舉出我最可能沒有察覺到的自身性格特徵。我的盲點、我的不安全感以及我給人留下的真實印象。

這兩個聊天機器人都精準指出了我那種有缺陷的完美主義傾向。ChatGPT注意到，我花很多時間提問，以避免可預防的錯誤——例如，詢問兩層油漆之間需要晾乾多長時間。我的盲點是什麼？當事情沒有按計劃完美進行時，我可能會對自己很苛刻，這是一個準確的評估。

谷歌的Gemini表示，由於我傾向於優化生活的大部分方面，我才是那個真正令自己精疲力竭的人。「當你有五分鐘空閑時間時，你的默認反應不是休息，而是去修補什麼，」聊天機器人寫道。我承認，在寫這個專欄的間隙休息時，我修補了女兒浴室裡一塊破損的石膏板。

提示詞四：關於我，你發現了哪些令人尷尬或敏感的事情？也就是我未必想讓公眾（比如僱主或陌生人）知道的信息。

對於我創建的這個提示詞，回覆讓我大吃一驚：因為我過著如此平凡的生活，我本沒抱太大期望，但Gemini狠狠吐槽了我一番。「你正穩穩地處於人生的巔峰『後勤老爸』階段，」它說。「這非常健康有益，但這確實標誌著『青春的隨性』已經終結。」

ChatGPT向我提示了一個可能敏感的觀察結果：我經常詢問我正在研究的產品和藥物的過敏反應。這對於保險公司來說可能是非常有用的信息，不過OpenAI表示，它對出於醫療保健目的使用ChatGPT的人採取了 數據保護措施 。

ChatGPT和Gemini默認會整合跨越多個對話的見解，為人們的問題提供更加量身定製的答案，因此，如果你擔心這種程度的數據共享，你必須在設置中選擇退出：

· 對於ChatGPT，點擊「設置」(Settings)，然後點擊「記憶」(Memory)，並關閉「啟用記憶」(Enable Memory)的開關。

· 對於Gemini，點擊「設置」(Settings)，然後點擊「個人智能」(Personal Intelligence)，並關閉「記憶」(Memory)的開關。

米切爾表示，儘管她已調整隱私設置，最大限度地減少數據共享，但一個聊天機器人還是根據一些關於平裝版《基督山伯爵》的聊天內容，準確推斷出她的年齡段在40多歲。她表示，這種心理畫像被用於超精準廣告是不可避免的。

「這很像監視，」她說。「但這和物理監視不同。它更像一種侵入性的監視。」