Vulcan Research(AIFT)打造的多輪 AI 紅隊測試方法 現在測試 AI 系統安不安全,已經不能只靠單次的「快問快答」來決定。真正的惡意攻擊者會像一般聊天一樣,一步步卸下 AI 的心防,誘騙它說出不該說的機密。 然而,現有的 AI 安全測試方法,卻存在三個嚴重脫離現實的盲點: 測試情境不切實際:許多測試忽略了企業在真實環境中會設定的「對話次數上限」或「防濫用機制」。它們靠著無限制的對話來攻擊,但這並不能反映企業真實面臨的風險。 無法分辨風險的嚴重性:傳統測試只給一個簡單的分數,把「AI 不小心說溜嘴一點點」跟「AI...
當生成式 AI 快速走進企業營運,伴隨而來的資安風險也成為不可忽視的課題。亞利安 2026 Solution Day 第一場議程邀請廖志偉(Frank Liao)博士,以 AI 資訊安全為題,從實際資安事件談起,剖析生成式 AI 從開發到上線的風險樣態,並介紹涵蓋完整生命週期的 Vulcan 系列防護方案。 從資料投毒到提示詞外洩:生成式 AI 的風險樣態 廖志偉博士從實際資安事件切入,剖析生成式 AI 資料投毒與提示詞注入的風險樣態。 廖志偉以兩起案例說明 GenAI 的風險樣態。其一,某 AI Coding Assistant...
2026 亞利安科技 Solution Day 建構 AI x 雲端 x 零信任 的資安韌性 在生成式 AI 與雲端架構快速發展下,企業資安正邁向全新階段。從雲端架構的高度彈性,到零信任架構的全面落實,再到 AI 帶來的創新與威脅並存,如何建構兼具前瞻性與韌性的資安防護體系,已成為企業永續發展的關鍵。 本次活動以「智禦未來:建構 AI 、雲端、零信任的資安韌性」為主軸,聚焦打造面對新世代威脅的關鍵防禦能力,深入解析三大核心支柱: AI 驅動防禦:利用機器學習與自動化技術,實現秒級的威脅偵測與回應。...