產業觀察:金融擁抱ChatGPT真正痛點不是成本,找出適用場景更重要

當ChatGPT浪潮吹進台灣時,企業又愛又擔心,尤其是金融業,從iThome 2023年CIO大調查結果可以看到,高達6成金融業者的第一反應是,強化自家員工的ChatGPT資安意識,甚至有近4成6的金融業者更是直接下令在內部網路中禁用ChatGPT相關網址,深怕不小心就外流了企業的機敏資訊到上面而曝光。

不過,也有2成金融業者反過來鼓勵自家員工試試看,更有39%金融業者開始評估,各種生成式AI的可行性,金融業看重生成式AI的企業比重,遠高於整體產業的平均比例,這也反映出ChatGPT浪潮,開始讓金融業認真看待生成式AI的價值和可行性,而且比其他產業更加的積極思考生成式AI在企業應用的可能性。

一方面高度警戒,另一方面又高度感興趣,金融業對ChatGPT浪潮的反應相當兩極,這反映出,金融業想要擁抱ChatGPT,但是,擔心背後風險的不可控程度,真正的問題不是要不要用,而是該怎麼用它?

ChatGPT去年剛現身時,就以擬人般的對話能力獲得高度關注,不過,有位銀行資訊主管一看到這項新技術,第一時間就要求客服團隊先不要用。「這項技術的不確定性,出現任何一個閃失,都可能造成顧客的災難。」這位IT主管私下這樣對我説。

銀行是一個無法容忍誤差的行業,甚至是,所有銀行資訊系統中,與金錢有關的資料欄位,都避免甚至禁止使用浮點數,尤其是交易類的系統,就是為了確保每一筆錢的計算都精準,不能有任何小數點。

為何摩根大通銀行年初下達ChatGPT暫時限用令?

正是擔心ChatGPT相關技術的不可控性和不確定性,所以,就算是目前率先開始評估ChatGPT的金融圈先行者,也不敢輕易就直接運用到交易系統,或是直接面對顧客的場景中,如公開表明正在進行ChatGPT技術評估的摩根大通集團,旗下銀行第一時間也先對員工下達暫時限制使用令,不只國外,台灣也有銀行發布了ChatGPT內部禁用令。

從頭打造一套ChatGPT背後大型語言模型和訓練成本可能上億美元,相當驚人,但對 2023年IT預算高達153億美元(約台幣4,700億元)的摩根大通集團 而言,1億美元只是IT預算的幾個百分比零頭,禁用ChatGPT不是IT預算不足的問題。

更不用説,摩根大通這幾年發展的AI應用案例超過300個,涵蓋了風險、潛在顧客挖掘、市場行銷、顧客體驗和詐欺防範等領域的AI應用案例,例如在消費市場領域,已有25個利用AI來提供個人化的產品和顧客體驗應用,創造了2.2億美元的價值。

在2023年投資者日活動(5月22日)時,摩根大通全球資訊長Lori Beer更透露,這300個應用已經影響了10億美元的業務價值,這是摩根大通在2021年訂下的3年目標,但提前在去年達成,因此,摩根大通今年甚至將AI對業務影響金額的KPI目標,提高到了15億美元。摩根大通集團,非常清楚,AI對金融業可以帶來的業務實質價值。

摩根大通不是因為錢,也不是不清楚AI的價值,會因為AI人力不足而無法用ChatGPT嗎?

統計到2023年,摩根大通集團擁有900多位資料科學家,600位機器學習工程師和1千多名資料管理人員,更有一個200人規模的AI專門研究團隊,他們自己揭露,在知名銀行AI成熟度指標Evient AI評比上,摩根大通名列第一。所以,AI研發人力更不是摩根大通集團不敢輕易用ChatGPT技術直接面對顧客的關鍵門檻。

更不用説,不只Open AI、微軟,連Google、Nvidia、AWS等科技巨頭,都開始透SaaS服務形式,來提供ChatGPT類技術,或GPT類LLM模型的商用服務,透過公雲服務等級的法遵配套,以及商業契約形式的機敏資料約束擔保(如保證上傳資料不會用於契約外的運用)。

以目前實務經驗來看,企業使用SaaS形式的GPT技術服務,每個月所需要投入的費用其實不算高,有位台灣新創執行長告訴我,只需數百美元就能嘗試不少GPT類應用。

SaaS服務的好處是可以用多少付多少。從Open AI在3月初開始提供商用ChatGPT模型客製化服務後,陸續看到不少企業嘗試上傳自己的資料,來微調(Finetune)客製版ChatGPT模型,不過,先前那位對客服下達禁用令的銀行IT主管,也對微調客製化模型,先説「不」。

不是不用,場景和時機更關鍵

「不是不用,而是時機未到!」他認為:「需要到調校模型的前提是,AI模型產生的結果,雖不完美但可以接受時,才值得做。」所以,他要求下屬直接用現成生成式模型,進行概念驗證,根據他的評估,目前還沒到需要投入資料,進行微調的階段。

這位金融主管的想法,與英國頂級休旅車公司捷豹路虎Jaguar擔心的ChatGPT長期成本考量一樣。捷豹路虎的擔心是,日後若想要將SaaS形式ChatGPT類技術服務,客製運用到不同的任務用途,每一次,只要需求、任務有些微不同,就需要一筆少少的微調費用,看似不多,但積數百個「少」會變成真的「多」,這個不可預估總成本的不確定感,讓他們轉而思考,能不能從Prompt提示問題下手。 捷豹路虎經驗也很有意思,請看另文補充

對金融業者而言, 想要擁抱ChatGPT,真正的痛點是如何找出使用場景。 而且不只金融,對同樣高度擔心ChatGPT不確定性和不可控性的任何產業或企業,都是如此。

就我觀察,多數開始嘗試ChatGPT的企業,仍把生成式AI視為文章產生器的技術,來提高生產力,不論式產生行銷文章,或是內部研究報告,專案計畫內容等,本質上都同樣是文章生成。

目前最可能的ChatGPT或GPT類LLM技術的使用場景,我認為是, 用ChatGPT優化內部作業流程,提高內部的生產力 。舉例來説,在保險場景運用生成式AI的可能性最高。

生成式AI應用可能:保險員內訓場景

這幾年,保險業早就開始運用Chatbot技術,來訓練新進的保險業務員,傳統做法上,新進保險業務人員,得閲讀大量文件或者觀看大量事先錄製的教育訓練影片,來訓練與顧客的應答。已經有台灣的金融業者,開始評估如何運用到保險業務的內部訓練上,像是運用AI來整理或摘要,大量(尤其對新人來説)保險產品或相關説明文字的搜尋。

這正是為何 摩根士丹利財管使用GPT-4來支援理財顧問 的案例,引起各國金融業熱烈討論的緣故,包括台灣金融圈。這家公司用GPT-4來整理龐大的現成公開知識來支援真人理財顧問,讓這些顧問更有能力面對外面顧客,而不是直接用AI來提供面對外面顧客的客服機器人。

不是用來直接面對顧客,而是透過「人機協作」策略, 讓人作為把關的窗口,也能善用既有的稽核、審查、控管流程或機制,來發揮目前仍有高度不確定性和不可控性的ChatGPT技術。

AI人機協作待解課題:真人變AI圖章

不過,長期來説,這種人機協作還是有一個課題待解,會不會讓這些新手保險業務員,喪失了過去那種靠辛苦自學而來的成長能力,反正有AI幫我整理和摘要,我就可以不用那麼辛苦自學,靠「人」作為把關,資深人員是靠過去「非AI輔助」的經驗來建立這樣的判斷人力。

可是,10年後,新一代「AI輔助」下的保險業務員,變成老手後,會不會失去了足夠的真假判斷能力,仍舊靠「能力不足」的真人老手來把關,容易淪為「只是蓋章背責」的真人圖章,這是當前教育界,思考ChatGPT技術對學生影響的長期反思,不過,大家都還沒有答案,都在思索中。看重短期效益的業界,更需要好好參考的教育界對生成式AI長期思考的經驗。

面對新技術,總是得不斷嘗試, 不是問能不能用,而要思考,怎麼用更適合。 文☉王宏仁