【我的預測】AI大幅降低攻擊門檻，駭客入侵速度更快、手法更逼真。許多企業急著部署AI應用，若未經管控只會造成更多資安破口，需積極制定資安策略防範未來攻擊。
【我們正在做】透過紅隊演練模擬攻擊者戰略思維，協助企業檢視系統成熟度與內部框架安全性，在威脅來臨前找出隱藏的防禦盲點。
【我的建議】別等到駭客入侵才開始挽救，企業應參考國際框架推動資安治理，並採取具體措施管控風險，包含盤點現有控制措施、團隊流程、資安軟硬體及委外供應商的安全性。
趨勢1 AI漏洞更多、駭客速度更快
自從AI應用普及，駭客的惡意攻擊門檻變得更低了，這是各國資安組織皆點出的現狀。
過往不論是國家級網路部隊還是一般駭客組織，都需要花費大量時間鑽研漏洞、研究社交工程技術，企業則經常從釣魚信件的用字遣詞識出破綻。
現在有了AI工具協助Code Review（原始碼檢測），就連初階駭客都能迅速找出資安漏洞、大量生成各國版本的釣魚信件，入侵手法變得更不著痕跡、更難以防範。
不只駭客速度變快，應用面的破口也更多。為了跟上技術熱潮，企業和個人使用者接連推出各種AI應用案例，但專案開發越多，可能會越失控。
若是組織導入的AI模型有bug，或管控權限切割得不夠完善，資訊外洩風險就會變得極高。
對企業而言，如果員工與AI的對話紀錄未經加密，對話素材又涉及企業內部資料、原始碼，甚至帳號密碼，系統一旦被攻擊，這些機密就會全數流入駭客手中。
行動1 由上而下制定資安策略
很多企業其實不了解自身的資安體質，直到駭客入侵，才驚覺該好好檢討防護系統。但AI時代的駭客攻擊手法迭代太快，企業領導者沒有拖延的本錢，高層必須儘速意識到資安議題的迫切性，由上而下制定資安策略，保護組織安全。
制定策略時，企業可以參考美國國家標準與技術研究院（NIST）設計的網路安全框架（Cybersecurity Framework, CSF）。
這套全球公認的資安標準指引，以治理、識別、保護、偵測、回應及復原等六大關鍵領域為核心，能協助組織評估資安風險，並逐步建立適當的防護措施，不論是政府機關、大型企業或中小企業都能快速入門。
模型安全性方面，則可以參考「OWASP LLM 應用程式十大威脅報告」列出的十大安全性風險，包含敏感資訊揭露、供應鏈風險過度代理授權及系統提示詞洩露，這些都是企業導入AI時該警戒的潛在漏洞。
若企業無法自主判斷模型安全性，也能積極運用甲方身份，向OpenAI、Google或微軟等AI供應商申請資安報告，檢驗過往的合規認證或稽核結果。
為因應更複雜的防禦環境，強化「資安韌性」已成為全球主流趨勢；隨著科技應用深入人類生活，未來的資訊安全可能直接衝擊人身安全，資安專家與紅隊演練人員只會更加稀缺且無可取代。
企業應將資安韌性視同人體健康，人不可能永遠不生病，但平時透過良好習慣健全體質，才能在生病後快速康復；同理可證，企業遭受攻擊的機率不可能為零，關鍵在於面臨威脅時，是否具備快速應變與復原的韌性，才是組織面對轉型浪潮的核心競爭力。
行動2 採取具體防範手段
DEVCORE長期透過紅隊演練服務模擬駭客攻擊手法，協助企業盤點資安成熟度。要在AI時代落實資安管理，我們建議企業採取以下幾項具體行動：
- 資料分級管理：根據資料機密程度，評估哪些資料能交由AI處理。原則上，機密資料應嚴禁上傳雲端或匯入AI，除非是在地端（On-premises）環境運行。如行政院規定內部機密文書應由承辦人親自撰寫，禁止使用生成式AI，企業也需要類似規範來落實資料分級。
- 盤點資料流（Data Flow）：建立清晰的資料流向，釐清資料在哪個階段被使用、誰有權限使用、是否有日誌（Log）可供稽核、儲存位置是否加密等。這項任務的難度不高，但一般企業可能因為系統架構複雜、未進行前端盤點，當資料外洩時便無從查起。
- 確認模型安全性：確認使用模型與訓練資料來源可受信賴，是否經深度檢測（如SOC 2認證）、紅隊演練等驗證措施，避免來路不明的模型出現安全漏洞。國內開發者則可以將自家產品送至「AI產品與系統評測中心」，評測模型安全性、可靠性、公平性、隱私及資安品質等十大項目。
- 存取控制：遵循「最小權限原則（PoLP）」，只給予AI完成任務所需的最小權限。就像老闆不會把所有帳戶權限交給新人助理，企業也不該授權AI存取所有內部系統，以免AI因錯誤判斷或駭客入侵造成重大損失。
未來城市＠天下｜DEVCORE執行長暨共同創辦人翁浩正：2026年AI趨勢觀點
A： 主要有三：AI 模型漏洞或權限切割不當導致資料外洩；員工與AI的未加密對話涉及公司內部機密內容，遭攻擊後全數流入駭客手中；駭客借助AI快速找出系統漏洞、生成高仿真釣魚信件，攻擊更難防範。
A： 建議參考兩套國際資安架構：以美國國家標準與技術研究院（NIST）設計的網路安全框架（CSF）。為基礎，有六大面向可協助評估組織風險；並對照「OWASP LLM 應用程式十大威脅報告」，針對AI 特有漏洞制定對應規範。 無法自主判斷模型安全的企業，也可主動向 OpenAI、Google、微軟等AI供應商申請資安稽核報告，確認合規認證。
A：可從四項具體資安規範著手：
- 參考行政院禁止機密文書使用生成式 AI 的做法，制定內部資料分級、使用AI的規範。
- 盤點資料流（Data Flow），建立可供稽核的機制，釐清存取權限，限制機密資料禁止上傳雲端或匯入 AI。
- 優先選用經 SOC 2 認證或紅隊演練驗證，可受信賴的模型。
- 遵循最小權限原則（PoLP），只授予AI完成任務所需的最低權限。
