為什麼問AI同樣問題,答案每次都不同?陌生人悄悄「跟你搭上同一班車」

OpenAI前技術長領軍團隊最新論文發現,大型語言模型回覆不一致性並非源於隨機性,而是「批次大小」影響GPU演算法選擇,進而造成數值差異,最終導致回覆不同。此研究提出「批次不變性」解法,確保運算一致性,提升AI可靠度。