自主 AI 發展超前資安防護，企業坦言既有治理已失效 根據外媒報導，安永（EY）美國近日公布最新《AI 風險與治理調查》（AI Risk and Governance Survey），針對 202 位年營收超過 10 億美元企業的高階 AI 決策主管進行調查。結果顯示，企業導入自主 AI（Agentic AI）的速度，已明顯超前既有治理框架的更新腳步，其中四分之一企業坦言，內部已無法偵測未經授權運作的 AI 代理人，另有超過三成企業表示，已因 AI 事故或失靈而遭受實質損害。 調查指出，91% 受訪企業已採用自主...
Vulcan Research（AIFT）打造的多輪 AI 紅隊測試方法 現在測試 AI 系統安不安全，已經不能只靠單次的「快問快答」來決定。真正的惡意攻擊者會像一般聊天一樣，一步步卸下 AI 的心防，誘騙它說出不該說的機密。 然而，現有的 AI 安全測試方法，卻存在三個嚴重脫離現實的盲點： 測試情境不切實際：許多測試忽略了企業在真實環境中會設定的「對話次數上限」或「防濫用機制」。它們靠著無限制的對話來攻擊，但這並不能反映企業真實面臨的風險。 無法分辨風險的嚴重性：傳統測試只給一個簡單的分數，把「AI 不小心說溜嘴一點點」跟「AI...
