Vulcan Research（AIFT）打造的多輪 AI 紅隊測試方法 現在測試 AI 系統安不安全，已經不能只靠單次的「快問快答」來決定。真正的惡意攻擊者會像一般聊天一樣，一步步卸下 AI 的心防，誘騙它說出不該說的機密。 然而，現有的 AI 安全測試方法，卻存在三個嚴重脫離現實的盲點： 測試情境不切實際：許多測試忽略了企業在真實環境中會設定的「對話次數上限」或「防濫用機制」。它們靠著無限制的對話來攻擊，但這並不能反映企業真實面臨的風險。 無法分辨風險的嚴重性：傳統測試只給一個簡單的分數，把「AI 不小心說溜嘴一點點」跟「AI...
當生成式 AI 快速走進企業營運，伴隨而來的資安風險也成為不可忽視的課題。亞利安 2026 Solution Day 第一場議程邀請廖志偉（Frank Liao）博士，以 AI 資訊安全為題，從實際資安事件談起，剖析生成式 AI 從開發到上線的風險樣態，並介紹涵蓋完整生命週期的 Vulcan 系列防護方案。 從資料投毒到提示詞外洩：生成式 AI 的風險樣態 廖志偉博士從實際資安事件切入，剖析生成式 AI 資料投毒與提示詞注入的風險樣態。 廖志偉以兩起案例說明 GenAI 的風險樣態。其一，某 AI Coding Assistant...
