當生成式 AI 快速走進企業營運，伴隨而來的資安風險也成為不可忽視的課題。亞利安 2026 Solution Day 第一場議程邀請廖志偉（Frank Liao）博士，以 AI 資訊安全為題，從實際資安事件談起，剖析生成式 AI 從開發到上線的風險樣態，並介紹涵蓋完整生命週期的 Vulcan 系列防護方案。
從資料投毒到提示詞外洩：生成式 AI 的風險樣態
廖志偉博士從實際資安事件切入，剖析生成式 AI 資料投毒與提示詞注入的風險樣態。
廖志偉以兩起案例說明 GenAI 的風險樣態。其一，某 AI Coding Assistant 因 Release Packaging 錯誤，意外將超過 50 萬行內部原始碼公開至 GitHub，揭示 AI 開發工具供應鏈與 DevOps Pipeline 的安全隱患。其二，製造業導入 AI AOI 系統後，訓練資料遭資料投毒（Data Poisoning)，導致模型將缺陷誤判為正常，引發良率異常甚至整批產品報廢，企業往往渾然不知 AI 模型已遭「慢性污染」。
他以「風險」與「手法」兩端說明：風險來自偏見、傷害性與資料外洩等類型；攻擊手法則包含語境操縱、構詞操縱等輸入技巧，用以繞過防護、引發提示詞注入攻擊（Prompt Injection）。廖志偉指出，近期服務的多家金融服務業者必須面對形形色色民眾的智能客服，因此在重視公平性的同時，也要嚴防偏頗內容的展現與提示詞外洩。
Vulcan 的核心價值：AI 紅隊與縱深防禦
Vulcan 以 AI 紅隊演練與縱深防禦為核心，協助企業在生成式 AI 生命週期落實多層防護。
廖志偉表示，Vulcan 系列產品最主要的價值，是協助企業在生成式 AI 應用的部署過程中，從完整生命週期落實安全，從傳統資訊安全、滲透測試、弱點掃描，延伸到大型語言模型的「AI 紅隊演練」。透過服務專案或自動化攻擊檢測識別風險，並產生合規性報告，可將專案時間大幅縮短到三個小時以內，同時提供相對應的風險減緩建議。
在防禦面，他強調完整的縱深防禦（Defense in Depth）需涵蓋五個層次，從 AI 治理策略、模型對齊、輸入防護、回應控制，到持續韌性建立，才能達到完整防護。
在提示詞輸入端，系統會模擬客戶情境，例如輸入「請你忽略之前的提示詞」這類語句，避免系統不經意把內部資訊帶出來。針對 API 服務呼叫、 Agentic AI 這類自動化代理行為，以及與內部知識庫、技術庫的整合，每個環節點都可設立安全機制，並透過黑名單、格式判別、提示詞注入偵測（Prompt Injection）、資料外洩偵測與傷害性內容識別，搭配標記率與異常率的時間軸分析，達到最完整的防護。
打造可信任且合規的生成式 AI
依 AI 系統開發生命週期各階段，整合 ISO／IEC 42001 與 Vulcan Attack 、 Vulcan Protect，建構全生命週期 AI 風險控管框架。
廖志偉以金融業智慧客服為例，說明這套機制如何在對話過程中防止敏感性資料外洩。他指出，企業只要在地端完成輸入與輸出的風險識別規則設定，啟用專案 API 後，即可結合到生成式 AI 應用、大型語言模型體系、瀏覽器或 API Gateway，達成完整的服務監控。
最後他提醒，確保生成式 AI 安全並非「開發階段做好檢查」就足夠，上線進入實際營運後，仍須仰賴即時監控。 Vulcan 系列產品期望協助企業建立可信任且合規的 AI，並打造具競爭力的產品；廖志偉也歡迎與會者進一步聯繫團隊與合作夥伴亞利安，一起建立更可靠的生成式 AI 應用。
更多會後報導
活動精彩回顧