OpenAI頂尖模型將提供資料零留置

OpenAI昨(8/19)日 預覽 隱私安全處理(Private Safety Processing)作法,以減少企業客户對AI模型平台的資料隱私疑慮。媒體認為此舉是為了和Anthropic的資料留置(data retention)作法區隔。

隨著AI系統愈來愈強大,業者有必要區分合法及不當的使用目的,並確保AI代理人是在適當控管範圍內活動。例如Anthropic 7月 宣佈 要對頂尖AI模型例如Mythos的用户提示及模型回應實施為期30天的資料留置進行安全檢查,以確保AI使用是否牽涉安全威脅、詐欺與濫用。但對一些組織例如醫療、金融客户而言,這項措施違反了組織的資料保密義務。隱私安全處理則是為了提供零資料留置(zero data retention, ZDR)而設計。

OpenAI也有資料留置要求。在用户以標準API用户上傳提示與接收回應時,OpenAI預設會將資料在後端伺服器暫存最長30天。但醫療和金融企業,可申請審核開啟ZDR。通過者從下次就不會再被蒐集資料。

現有ZDR的安全系統是個別審核用户和AI的互動,隱私安全處理則是擴展到跨多次相關互動,讓自動化系統從中辨識出整體樣態,不會再有OpenAI人員存取企業客户的內容。

隱私安全處理是利用客户儲存的內容來審查,不論是存在客户端或OpenAI提供的儲存空間。OpenAI也正在開發由其提供儲存空間的選項,屆時客户內容會以客户自行控制的金鑰加密。OpenAI人員不會有金鑰備份,無法存取內容。

當系統偵測到有風險時,OpenAI會接到一個明確定義的訊號,指向特定活動。這組訊號可用以決定是否有通報執法機關的必要。客户接到後,可先調查警報及是否要通報。但即使有動被標示出來,OpenAI的人員也不能存取客户內容。

如果客户欲申訴、澄清或支援調查,也可以選擇將資料分享給OpenAI。

目前OpenAI已將隱私安全處理提供給部分客户早期測試。該公司預計這系統更為成熟時擴推出。

TechCrunch Axios 都認為OpenAI希望藉此提供更好的企業誘因。

華爾街日報本週報導 ,Anthropic氣勢如虹,上季營收成長較前季翻倍來到116億美元,是首次超越OpenAI,後者同季營收為67億美元,季成長率18%。