谷歌指控中國團伙利用該公司AI技術詐騙美國人

谷歌警告稱,人工智慧加劇了網路詐騙問題。
谷歌警告稱,人工智慧加劇了網路詐騙問題。 Andria Lo for The New York Times

谷歌週五對一個中國網路犯罪團伙提起訴訟,指控其利用谷歌的人工智慧技術,向數十萬美國人發送網路金融詐騙信息。
這家互聯網巨頭還表示,正首次與美國聯邦調查局及AT&T、T-Mobile、Verizon等無線運營商展開協調行動,共同打擊這個名為「局外人企業」(Outsider Enterprise)的犯罪網路。
訴訟稱,該中國團伙利用谷歌的Gemini人工智慧系統創建了數百個虛假網站,冒充谷歌、YouTube等公司以及美國郵政局、紐約州高速公路收費系統E-ZPass等政府服務機構。
谷歌警告稱,人工智慧加劇了網路詐騙問題,並表示正努力提前應對其認為可能出現的利用Gemini及其他人工智慧工具進行的 網路欺詐激增 。
谷歌和執法機構表示,由人工智慧驅動的詐騙增長速度快於其他類型的網路釣魚和欺詐活動。根據聯邦調查局的數據,網路犯罪分子去年共騙取美國民眾近210億美元,其中 約8.93億美元的損失與人工智慧有關 。
谷歌總法律顧問哈利瑪·德萊恩·普拉多在接受採訪時表示:「這是我們首次採取協調行動並提起訴訟,這本身就說明了這起詐騙案的影響範圍之廣。」
在提交給美國紐約南區聯邦地區法院的訴訟中,谷歌指控這個中國網路犯罪團伙利用其技術和品牌進行欺詐活動。它請求法院簽髮禁令,以便公司和執法部門能夠合作取締該網路。
谷歌表示,該犯罪組織通過即時通訊軟體Telegram進行協調,分享經驗,並交換基於人工智慧的軟體工具包,以此在各類通訊平台上大規模量實施詐騙。
谷歌表示,受害人數已達數十萬,其中絕大多數在美國境內。公司無法精確計算損失金額,但估計已高達數百萬美元。
這個中國犯罪團伙藉助人工智慧製作了131個軟體工具包,使批量創建數千個虛假網站變得輕而易舉。僅5月份的兩週內,該團伙就向安卓手機用戶發送了250萬條信息,內含指向9000個虛假網站的鏈接,以及與該團伙相關的逾100萬個欺詐性網路地址。
「犯罪分子越來越多地利用人工智慧,使此類欺詐行為更具迷惑性、更難被識破,」FBI網路部門助理主任布雷特·萊舒曼在聲明中表示。

Cecilia Kang 自華盛頓為《紐約時報》報導科技和監管政策。她撰寫有關科技的報導已超過20年。

翻譯:紐約時報中文網

點擊查看本文英文版。

Menu