Vulcan Research（AIFT）打造的多輪 AI 紅隊測試方法 現在測試 AI 系統安不安全，已經不能只靠單次的「快問快答」來決定。真正的惡意攻擊者會像一般聊天一樣，一步步卸下 AI 的心防，誘騙它說出不該說的機密。 然而，現有的 AI 安全測試方法，卻存在三個嚴重脫離現實的盲點： 測試情境不切實際：許多測試忽略了企業在真實環境中會設定的「對話次數上限」或「防濫用機制」。它們靠著無限制的對話來攻擊，但這並不能反映企業真實面臨的風險。 無法分辨風險的嚴重性：傳統測試只給一個簡單的分數，把「AI 不小心說溜嘴一點點」跟「AI...
Web 應用程式與 API（應用程式介面）現在幾乎成為所有數位企業的核心，隨之而來的攻擊面也逐漸擴大。根據獨立產業分析報告指出，API 流量目前已佔所有 Web 流量的 70% 以上。在已通報的資料外洩事件中，與 API 相關的資安威脅亦佔了約三分之一。此外，近期超過三分之一的 API 外洩事件，都與「物件層級授權中斷」（Broken Object Level Authorization, BOLA）漏洞相關。 與此同時，根據最新通過反惡意軟體測試標準組織（Anti-Malware Testing Standards...
