今年5月，台灣大哥大悄悄揭露了運用大型語言模型（LLM）優化自家智能客服小麥的成果。他們並非採用常見的微調LLM優化方法，而是以嵌入式模型（Embedding model）搭配客服知識庫，來讓小麥回答更準確、更有人味。 為何不直接建置資料集、微調LLM，讓模型成為客服大腦？台灣大資訊長蔡祈巖認為：「現階段嵌入式模型就夠用了。」為什麼？ 去年底ChatGPT問世，各產業爭相擁抱LLM，要來強化自家服務、提高競爭力，台灣大也不例外。「這段時間，我們嘗試過許多大大小小的應用，」蔡祈巖指出，台灣大不只有一個團隊在摸索，而是「各部門全員動員，」來嘗試各種應用案例，特別是客服場景。