代理 AI 雙面刃：提升營運效率 vs. 新興資安威脅 針對金融業導入代理 AI 的風險，金融監督管理委員會（金管會）10 月 13 日宣布公開「金融業運用代理 AI 安全諮詢文件」，提出安全治理、風險分級及安全控管三大面向的建議，並公開徵詢各界意見 30 天。該文件強調以風險為基礎，將代理 AI 視為具備行動能力的非人類身分，透過零信任、最小權限及持續驗證等原則，降低金融業導入 AI 代理人可能帶來的資安風險。 金管會表示，代理 AI（Agentic...
自主 AI 發展超前資安防護，企業坦言既有治理已失效 根據外媒報導，安永（EY）美國近日公布最新《AI 風險與治理調查》（AI Risk and Governance Survey），針對 202 位年營收超過 10 億美元企業的高階 AI 決策主管進行調查。結果顯示，企業導入自主 AI（Agentic AI）的速度，已明顯超前既有治理框架的更新腳步，其中四分之一企業坦言，內部已無法偵測未經授權運作的 AI 代理人，另有超過三成企業表示，已因 AI 事故或失靈而遭受實質損害。 調查指出，91% 受訪企業已採用自主...
Vulcan Research（AIFT）打造的多輪 AI 紅隊測試方法 現在測試 AI 系統安不安全，已經不能只靠單次的「快問快答」來決定。真正的惡意攻擊者會像一般聊天一樣，一步步卸下 AI 的心防，誘騙它說出不該說的機密。 然而，現有的 AI 安全測試方法，卻存在三個嚴重脫離現實的盲點： 測試情境不切實際：許多測試忽略了企業在真實環境中會設定的「對話次數上限」或「防濫用機制」。它們靠著無限制的對話來攻擊，但這並不能反映企業真實面臨的風險。 無法分辨風險的嚴重性：傳統測試只給一個簡單的分數，把「AI 不小心說溜嘴一點點」跟「AI...
