Vulcan Research（AIFT）打造的多輪 AI 紅隊測試方法 現在測試 AI 系統安不安全，已經不能只靠單次的「快問快答」來決定。真正的惡意攻擊者會像一般聊天一樣，一步步卸下 AI 的心防，誘騙它說出不該說的機密。 然而，現有的 AI 安全測試方法，卻存在三個嚴重脫離現實的盲點： 測試情境不切實際：許多測試忽略了企業在真實環境中會設定的「對話次數上限」或「防濫用機制」。它們靠著無限制的對話來攻擊，但這並不能反映企業真實面臨的風險。 無法分辨風險的嚴重性：傳統測試只給一個簡單的分數，把「AI 不小心說溜嘴一點點」跟「AI...
當生成式 AI 快速走進企業營運，伴隨而來的資安風險也成為不可忽視的課題。亞利安 2026 Solution Day 第一場議程邀請廖志偉（Frank Liao）博士，以 AI 資訊安全為題，從實際資安事件談起，剖析生成式 AI 從開發到上線的風險樣態，並介紹涵蓋完整生命週期的 Vulcan 系列防護方案。 從資料投毒到提示詞外洩：生成式 AI 的風險樣態 廖志偉博士從實際資安事件切入，剖析生成式 AI 資料投毒與提示詞注入的風險樣態。 廖志偉以兩起案例說明 GenAI 的風險樣態。其一，某 AI Coding Assistant...
Summary 隨著生成式人工智慧（GenAI）技術爆發，醫療產業也正積極導入 AI 輔助臨床診斷、優化醫療紀錄與提升病人溝通效率。然而，醫療數據的高敏感度與臨床決策的嚴謹性，讓 AI 的資安與治理成為不可忽視的挑戰。 衛福部於 2026 年 5 月底正式發布首份《醫療機構應用生成式人工智慧指引》，針對醫院與診所導入生成式 AI 提出風險治理框架。這份指引不僅是台灣醫療 AI 治理的重要里程碑，更為醫療機構在導入與使用生成式 AI 系統時，提供了明確的安全治理與合規方向。 衛福部醫療 GenAI 指引的兩大核心亮點...
