隨著AI投資持續升温，企業也正加速導入基於AI的基礎設施與自動化營運管理。Gartner近期發布 《塑造未來AI基礎設施面貌的三大技術趨勢》報告 指出，未來IT營運將逐步朝向由AI代理（AI Agent）協助執行監控、分析與修復工作的模式發展，形成AI代理驅動的IT維運（Agentic IT Ops），但同時也帶來新的治理挑戰，必須結合人機協作（Human-in-the-loop）的治理機制。

Gartner研究副總裁周玲指出：在推動AI從試點專案邁向全面生產的過程中，完善的治理框架、基於AI代理的維運系統，以及強大的AI超級運算能力，是三項不可或缺的發展加速工具。

Gartner指出，面對IT基礎設施的維運，AI代理能幫助IT團隊大幅縮減平均修復時間（MTTR），並將被動的「救火式」維運，轉變為預測性、預防性的IT管理模式。企業可透過標準化的AI工廠架構，支援大規模「AI即服務」（AIaaS）的安全交付。與此同時，從最初的架構設計階段開始，企業就必須考量主權資料合規性、大型模型的多樣性，以及多代理系統的可擴展性。

在這樣的趨勢下，企業一方面需要透過整合內部 IT維運模式與流程，加速推動以AI代理驅動的IT維運自動化。同時，企業也應將AI平台視為產品，制定平台產品路線圖，設定服務水準目標（SLO），建立成本分攤機制，並導入財務成本管理框架（FinOps），以確保運算資源使用狀況的透明度，使企業對於AI基礎架構投資，能有效推動業務營運。