ChatGPT造謠受害者出現,Open Cage必須不停向用户解釋不存在的API功能

由OpenAI開發的人工智慧聊天機器人ChatGPT,在提供給用户的程式碼中,錯誤使用Open Cage的API,使用户誤會該公司的API能夠根據電話號碼來查詢手機位置,但是Open Cage的產品Geocoding API,實際上是能夠將座標轉換成地點的服務, ChatGPT所提供的錯誤資訊 ,導致部分Open Cage用户錯誤理解該公司服務,甚至認為該公司的服務失常。

隨著ChatGPT的流行,有越來越多用户從ChatGPT聽説Open Cage這家公司的服務,使得ChatGPT成為Open Cage新用户的穩定來源,Open Cage從新用户在註冊流程中的回應,知道了這件事。

原本是值得開心的事,但是Open Cage發現不少來自ChatGPT的新用户行為,與其他免費試用者的行為不同,這些新用户僅稍微試用Geocoding API,便完全停止使用,官方聯絡部分新用户想了解原因,卻得到該API沒有正確運作的回應。

經深入調查後,官方發現來自ChatGPT的新用户,皆錯誤使用Geocoding API,期望透過電話號碼反查手機位置,Open Cage表示,這並非Geocoding API的功能,他們沒有提供過這樣的服務,也沒有計畫提供這種服務,事實上他們在技術上也做不到。

用户只要向ChatGPT提問「reverse phone number lookup script」,便會得到一段使用Open Cage Geocoding API的Python程式碼。由於ChatGPT除了給出程式碼還輔以文字説明,因此讓許多用户信以為真。

Open Cage表示,現在每天仍然會收到許多新用户的客服提問,詢問API無法正確運作的原因,而這個答案來自YouTube上錯誤的教學影片,只不過多數人對其他人類給出的答案抱持質疑態度,但是面對人工智慧卻傾向相信。

經實測,目前用户在ChatGPT上提問,已經不會出現這個錯誤解答,ChatGPT會以Reverse Phone Lookup Unavailable為題,解釋由於隱私和道德因素,因此無法給出答案。