【我的預測】Agentic AI的能力從「規劃」走向「執行」，各大語言模型也開始發展各自專長，治理壓力也跟著來。如何讓AI成為可問責的系統，是所有企業的核心課題。
【我們正在做】以MCP串接Agentic AI客服系統，並訓練玉山專屬的小語言模型擔任分流引擎；同時推動知識管理基礎建設，將所有歷史資料轉換為AI讀得懂的中介格式。
【我的建議】企業應盡快盤點內部AI系統的風險等級，依照風險高低決定治理嚴格程度，並把「公平」「透明」轉成有數據可驗證的程式邏輯。
趨勢一：Agentic AI、專家模型崛起
2026年的關鍵趨勢是Agentic AI的大爆發。舉例而言，如果我想去日本金澤旅遊，AI Agent不只能幫忙規劃每日行程，還能直接買機票、訂新幹線、預約住宿。
這並不簡單。買車票要先聯繫日本的鐵路系統，知道我偏好的出發時間，碰到班次售罄還要找替代方案。它的概念已經從「規劃」進階到「執行」，這是AI發展的重要進展。
另一件大事是「專家模型」的崛起。ChatCPT、Gemini等通用LLM的知識雖然廣，但不精；而且多採跳蛙式競爭（Leapfrogging Strategy），今天Gemini更勝一籌，隔天又被ChatGPT超前了，對AI產業而言並非長久之計。
因此，各大模型開始發展特有專長，試圖走出不同的路。其中最明顯的案例，就是Claude在程式開發領域的突出表現；Gemini已有非常完整的生態系優勢，甚至還有自主開發的TPU架構，未來會發展出什麼樣的特色，也值得繼續觀察。
趨勢二：RAI治理成為金融業必修課
隨著技術升級，我們開始期待AI能被管理、問責，協助提升生產力。
2025年初台灣《人工智慧基本法》上路，金管會也提出「金融業運用人工智慧指引」，包含建立治理與問責機制，確保系統穩健、透明性、可解釋性等原則。但法規只給出框架，銀行端還沒有具體的施行細則能依循。
因此，去年成立的金融科技產業聯盟設有四大工作圈，玉山負責的是「數位金融實務規範建議工作圈」，也就是RAI（負責任AI，Responsible AI），把「公平」「透明」等抽象治理原則，轉換為有數據支撐的程式邏輯。
以車險保費為例，「男性出險比例高於女性」是統計事實；但定價邏輯不能單憑印象，要有歷史數據支撐，系統才能在客戶申訴時拿出資料解釋判斷依據。
玉山根據AI系統的風險等級，來決定治理嚴格程度。
對銀行而言，只要牽涉客戶權益就屬於高風險系統，像理財機器人（Robo-advisor）涉及投資決策，AI只能提供建議，不能代替客戶直接交易，否則可能導致荷包大失血。
接下來，還必須有一整套的治理規範，才將風險降到最低。在玉山內部，每兩週會重建一次信用卡盜刷偵測模型，確認新舊模型並行比對無誤，才能正式上線。
我們也規劃預測式、生成式AI的專案PoC，根據各種應用實務協助制定各種治理規範。
行動一：訓練自有SLM
玉山客服系統的架構，是一個統一的對外入口，後端透過MCP（Model Context Protocol），讓每個AI Agent用自然語言描述自己有什麼功能；LLM理解顧客意圖後，再決定調用哪個Agent。
這個轉變讓系統擴充更靈活，也是目前多數銀行Agentic AI的共同走向。
但ChatCPT、Gemini這類通用大語言模型，並不了解我們內部的產品規範和業務邏輯；要做得精準，需要一個真正懂玉山業務的模型。於是我們開發了一款玉山專屬的小語言模型，灌入產品資訊、業務邏輯和常見問題作為訓練資料，讓它具備行內的產業知識。
自建模型除了回應速度更快，輸出內容也更可控。
這就是企業內部的主權AI。在金融科技應用研發工作圈中，中國信託正負責訓練台灣金融業的通用大語言模型，各家銀行再微調成符合自身需求的小語言模型。
大模型解決算力和基礎問題，小模型處理內部知識和風險控管；如此一來，各家銀行不必從零開始打造模型，也無需擔心資料外洩。
行動二：升級知識管理系統
「知識管理」的議題談了30年，學界曾提出「語意網」（Semantic Web）概念，希望直接在網頁標記語意，讓電腦判讀意圖。可惜，這件事並沒有真正普及，直到語言模型出現，才有能力解讀非結構化資料的內容。
以前，知識管理系統只能做到關鍵字搜尋。舉例而言，輸入某間公司名稱，系統會撈出該公司過去30年的所有合約，最後仍得靠人工篩選內容。
但玉山想做得更完整，當客戶問：「哪幾張信用卡有機場接送服務？分別要符合哪些條件？」系統要能整合20幾張信用卡的資料，直接回傳一份表格，不必由客服人員逐一查詢。
要打造這樣的知識管理系統，是個大工程。我們希望先將資料整理成AI讀得懂的中介格式，再轉成人類讀的版本並對外發布，所以整個基礎建設都要跟著改；此外，所有資料都要貼標，歸納歸納客戶屬性、文件類別，曠日費時。
但資料格式、技術進展變化很快，以前用Big5，現在全換成Unicode；兩三年前還在談RAG（檢索增強生成），現在已經有把整份文件直接塞進記憶體搜尋的做法，不需要再切分向量。
唯一不變的是資料本身，把資料整理成中性的中介格式，讓任何新技術都能判讀，才是真正值得投入的事。
未來城市＠天下｜玉山金控科技長張智星2026年AI趨勢觀點：
A：Agentic AI讓AI從「規劃」走向「執行」，銀行客服系統也跟著改變。玉山金控串接多個AI Agent，從查餘額到理財規劃一站處理。但通用模型不懂內部業務，因此玉山自建SLM（小語言迷行），把行內產品知識和業務邏輯當作訓練資料，讓分流更精準、輸出更可控。
A：金管會提出金融業運用AI六大指引，要求系統透明、公平、可問責，但原則性規範缺乏量化標準，銀行不知道怎麼向監管機關證明合規。玉山金控在金融科技產業聯盟中主導RAI工作圈，把抽象原則轉成可程式化的數據邏輯。
A：ChatGPT、Gemini等通用LLM知識廣但不精，現在各大模型開始往專長方向分化：Claude在程式開發領域表現突出，Gemini則憑藉完整生態系走出不同路徑。對企業而言，選模型開始變成一門學問，不再只是比誰比較聰明，而是找到最符合自身需求的專業工具。
