自主 AI 發展超前資安防護，企業坦言既有治理已失效
根據外媒報導，安永（EY）美國近日公布最新《AI 風險與治理調查》（AI Risk and Governance Survey），針對 202 位年營收超過 10 億美元企業的高階 AI 決策主管進行調查。結果顯示，企業導入自主 AI（Agentic AI）的速度，已明顯超前既有治理框架的更新腳步，其中四分之一企業坦言，內部已無法偵測未經授權運作的 AI 代理人，另有超過三成企業表示，已因 AI 事故或失靈而遭受實質損害。
調查指出，91% 受訪企業已採用自主 AI，無論是試行階段或全面部署。然而，在這些企業中，49% 坦言既有治理框架尚未針對自主 AI 的特性與風險進行更新，85% 則表示，至少有部分 AI 系統已在無即時人類介入的情況下自行執行行動，範圍涵蓋威脅偵測到程式碼執行等關鍵任務。
安永美洲鑑證部技術風險 AI 負責人 John McLain 指出，自主 AI 最大的風險，在於人類監督機制並未同步演進。AI 治理提供必要的防護欄，讓企業能在不失控的前提下加速前進，尤其當自主 AI 已經在做出真實的商業決策時。
隨著自主 AI 規模擴大，企業內部的可視性缺口也隨之浮現。調查顯示，在已採用自主 AI 的企業中，26% 坦承組織內部無法偵測未經授權運作的 AI 代理人，形同企業內部出現一批看不見的 AI 員工，脫離既有治理與監控機制之外。
這樣的落差並非個案。整體受訪者中，47% 表示組織過去曾在急迫的部署需求下，未依循既有 AI 治理流程行事，另有近七成受訪者（69%）擔憂內部缺乏足夠專業人力，能有效演進治理管控機制。
安永調查同時發現，過去一年內，89% 受訪者曾遭遇 AI 相關風險，包括資安風險（52%）、人為風險（47%）與影子 AI 風險（46%）。這些風險已轉化為實際損害，36% 受訪企業表示，組織曾發生 AI 事故或失靈，並造成資料遺失、財務損失、營運中斷或品牌信譽受損等實質衝擊。
面對風險升溫，企業也開始加強稽核。調查顯示，98% 受訪企業每年至少執行一次正式 AI 保證評估（AI assurance review），而在執行過稽核的企業中，64% 因此大幅修改了四分之一以上的 AI 系統，25% 則完全停用了四分之一以上的 AI 系統。稽核最常揪出的問題包括資料品質不佳（57%）、AI 模型飄移（48%）與影子 AI（39%）。
安永美洲鑑證部技術長暨全球與美洲鑑證 AI 負責人 Richard Jackson 表示，企業正在用昨天的治理規則，因應今天與 AI 的互動。稽核之所以能持續找出問題，並促成系統修改、暫停或停用，正說明 AI 治理與稽核機制在真正落實時是有效的，企業需要將這些機制內建到 AI 系統的設計、測試與治理流程中。
資料來源：資安人
從 AI Agent 測試到即時防護，AIFT Vulcan 協助企業建立 AI 安全防線
當企業開始大量導入自主 AI 與 AI Agent，AI 不再只是協助人員產生內容或回答問題，而是逐步具備自主判斷、串接工具與執行任務的能力。這也意味著企業面臨的資安風險，已從「模型是否安全」進一步延伸至「AI 會做什麼、能做什麼，以及是否能被有效控管」。面對未經授權的 AI Agent、提示詞注入、權限濫用與敏感資料外洩等風險，傳統以人工審核或事後稽核為主的資安機制，已難以全面掌握 AI 的即時行為。
AIFT Vulcan 可從「測試、驗證到防護」協助企業建立完整的 AI 安全機制：
- Vulcan Attack：在導入前透過 AI 紅隊測試主動模擬提示詞注入、越權操作、資料外洩等攻擊情境，協助企業找出模型與 AI 應用的潛在弱點。
- Vulcan Protect：正式上線後，建立即時防護機制，針對 AI 輸入與輸出進行安全檢查，並依企業需求設定敏感資料遮罩、主題政策與自訂規則，降低惡意指令、敏感資訊外洩及 AI 濫用等風險。
- Vulcan Harness：針對 AI Agent 的執行期治理，在每個 Agent 動作執行前進行檢查與裁決，並完整留存紀錄，防止越權操作與目標偏離，讓 AI Agent 的行為可控管、可追溯。
面對 AI Agent 日益自主化的發展，企業需要的已不只是「知道 AI 有哪些風險」，更需要具備持續測試、驗證與控制 AI 行為的能力。Vulcan 協助企業從「看不見、管不到」走向「可測試、可驗證、可控管」的 AI 安全架構，讓 AI 在加速企業創新的同時，也能在安全與治理的框架下持續運作。