AI代理顛覆數位治理,企業需先建立風險框架|余若凡・台灣網路資訊中心執行長

AI代理顛覆數位治理,企業需先建立風險框架|余若凡・台灣網路資訊中心執行長
代理型AI為數位治理帶來挑戰,余若凡建議企業建立風險管控機制,並從技術端與教育層面共同防範AI假訊息、詐騙。圖片來源:余若凡提供
2026-01-02
採訪、撰文・簡鈺璇
6564
Agentic AI如何挑戰數位治理?企業如何防範AI詐騙風險?《人工智慧基本法》通過後,企業該做什麼?

【我的預測】2026年會看到更多「Agentic AI」(代理型AI)的嘗試及運用。隨著「Agentic AI」(代理型AI)崛起,AI不再只是被動回應需求,而是具備自主決策能力。這將徹底翻轉以人為本的數位治理思維,該如何檢視AI決策過程?誰又該為AI的行動負責?

【我們正在做】AI使釣魚訊息、詐騙網站更氾濫,TWNIC與合作夥伴透過DNS RPZ技術,在合法、急迫時阻擋惡意網域,並推動「綠色域名認證」為合法企業建立信任標章,降低民眾遭詐騙風險。

【我的建議】《人工智慧基本法》在2025年底通過,企業應「邊走邊看」,在法規細則明朗前,可先盤點內部AI應用場景,從資料管理、存放位置到資安防護全面檢視,建立AI治理框架。

趨勢1 AI自主力提高,治理難度同步上升

Agentic AI(代理型AI)是2026年最具潛力與影響力的技術發展,不管大小企業都在嘗試,雖然還沒有非常成熟的應用出現,但趨勢已經相當明確。

代理型AI最大特色是「自主性」。不同於現在生成式AI「你問我答」、「人類輸入、AI輸出」的被動回應,代理型AI將轉變為「AI輸入、AI輸出」,能主動偵測需求、自動完成任務,像是根據行程自動借會議室、設定代辦提醒,或依據產業變化、客戶需求自動下原物料訂單。

這項技術將翻轉傳統以人為中心的治理模式。例如,傳統資安強調在偵測範圍內控制風險,但當Agentic AI進入決策流程,情況變得複雜。

舉例來說,我們授權AI蒐集資料做報告,AI未必只找相關資料,它可能也會出乎意料地接觸內部人士相關紀錄,所以公司需要更明確了解權限如何設定、風險接受度的多寡、遇到例外由誰來處理、最後結果由誰負責?以避免未預期的風險。

更麻煩的是,AI決策就像「黑盒子」,加上它具備自主學習能力,一旦AI擁有高度自主性,企業該如何釐清決策流程、確認責任歸屬以管控風險,都會是難題。

對於AI如何決策,我們處於未知領域,風險相對較高。因此我觀察,多數企業雖有興趣發展代理型AI,但在應用上仍較謹慎。

趨勢2 AI衝擊網路信任機制:從預設相信到審慎選擇

數位信任的議題在AI出現前就已經存在,包括:使用者能否信任網站服務商妥善保管個人資料而不外洩、購物平台能否保障交易安全。而生成式AI的出現,使數位信任變得更加薄弱。

最主要的原因是,AI大幅降低網路犯罪的成本。許多偽造照片、訊息、網站在AI協助下能快速被生成,連非專業人士也能用AI學會詐騙技術、架設釣魚網站騙取民眾個資、公司機密資料。

儘管政府應積極遏止,不過我也觀察到一個有趣現象:當網路上可能超過一半內容都將是AI生成時,辨識真假或許將成為一個不可能的任務。信任機制開始改變。

我認為,未來數位信任可能會從「預設相信」走向「選擇信任」。

當人們已經無法辨識哪些內容是真的、哪個網站為假,人們會轉向相信有品牌背書的媒體、有認證標記的來源。

這個觀察呼應TWNIC「2025年台灣網路報告」的調查結果:

  • AI使用者比例從2024年20幾%提升至2025年43%,提升約一倍以上。
  • 認為AI假訊息不會對自身造成負面影響的比例,由2024年的75%下滑至2025年的69.5%。
  • 超過80%民眾支持政府應有生成式AI相關法律規範,以及推動AI素養教育。

由此可知,民眾使用AI的比例愈高、對其能力愈了解,就愈有機會察覺潛在風險。

從近兩年的數據變化來看,我認為這是一個正向發展的趨勢,因此當民眾多用AI、多了解AI能力,其數位素養能力也是會提升。

行動1 人工智慧法通過,企業應及早建立AI治理框架

《人工智慧基本法》在2025年12月底通過,建立台灣在AI應用的基本原則。不過,實際運作細節,包括資料使用、風險評估準則等,政府將在未來兩年陸續訂立;建議企業「邊走邊關注」,密切注意法規動態。

在法令明確化以前,企業必須提前建立治理架構。

隨著2026年AI應用陸續在企業各流程落地,愈來愈多AI服務進入企業內部,亦有不少員工私下使用,甚至購買付費AI工具執行業務;組織若未能全面掌握,稍不留意就有個資洩漏、侵害他人智慧財產權等風險。

我建議,企業盤點組織內AI應用情境,並根據《人工智慧基本法》的原則,檢視現有AI應用是否符合基本法的核心價值。

首先,建立風險分級管理機制。可參考歐盟《人工智慧法》(Artificial Intelligence Act,AIA)四級風險管理架構:不可接受風險、高風險、有限風險、最小風險,並針對不同風險等級的應用實施相應管制措施。

例如:客服聊天機器人的風險就比用AI篩選履歷來得低,管理和應用範疇理應不同。

其次,留心資料儲存問題。企業應審慎思考員工上傳哪些資料至AI平台。

目前多數資料儲存於雲端,但究竟該雲端服務商存放資料地點為何、資料是否會被其他使用者、他國政府使用、或AI平台取用進行再訓練,許多企業未必清楚。

這是組織在AI應用治理上應特別留意的風險,以避免機密資料外洩,或觸犯個資保護相關規範。

行動2 從技術到教育,建立全民AI素養防線

面對AI帶來假訊息、假網站風險,我認為應該從兩端來防止。

一是技術層面,如TWNIC針對「.tw」網域推出「綠色域名認證服務」,供企業申請認證,消費者可在 TWNIC 網站查詢是否通過驗證,辨識網站真偽。

另外,TWNIC也與合作夥伴一起建立「DNS RPZ」機制(一種阻斷或限制存取特定網站的技術,可封鎖經法院裁定或政府機關行政處分認定的惡意網站),以快速回應重大風險的惡意網站。

二是教育層面,TWNIC每年發佈「台灣網路報告」,用調查數據呈現台灣民眾對AI認知和素養狀況了解社會的準備度;同時推動「台灣社群計畫」,每年提供近千萬台幣資金,讓公司或NGO申請包括AI素養教育計畫,以彌平數位落差。

AI時代下,「我們知道什麼」或許沒那麼重要,因為AI能夠解答,更關鍵的是「知道自己不知道什麼」。

唯有保持這種謹慎態度,才能在AI邁向自主化過程中,既享受AI帶來的效益,又能有效應對風險。

未來城市@天下|台灣網路資訊中心執行長余若凡2026年AI趨勢觀點:

Q1:Agentic AI讓企業效率大躍進,但自主決策帶來了哪些治理風險?

A: 代理型AI能主動偵測需求、自動下訂單、完成任務,但自主性高,也將翻轉傳統以人為中心的治理模式。企業導入前必須先想清楚:權限如何設定、例外狀況由誰處理、最終結果誰來承擔,以避免未預期的風險。

Q2:AI讓詐騙網站、假訊息更氾濫,一般人該怎麼保護自己?

A: 數位信任可能會從「預設相信」走向「選擇信任」,轉向相信有品牌背書的媒體、有認證標記的來源。建議可在查詢TWNIC網站查詢「綠色域名認證」確認網站真偽;提升AI素養,多使用AI、了解AI能力,反而是提升辨識力的最快途徑。

Q3:企業該如何建立AI治理框架?

A:分三步走。

  1. 全面盤點組織內所有AI應用場景,包括員工私下使用的工具與付費服務,確認現有應用是否符合《人工智慧基本法》核心原則。
  2. 建立風險分級管理機制,參考歐盟《人工智慧法》四級風險管理架構,針對不同等級實施對應管控。
  3. 留心資料儲存問題,確認員工上傳哪些資料至AI平台,雲端資料存放地點、是否會被用於AI訓練或被他國政府取用,以避免機密資料外洩,或觸犯個資保護相關規範。

延伸閱讀

AI 2026|預測與行動:產業領先者的第一線洞察

其他人也在看

你可能有興趣

已成功複製連結