什麼是紅隊測試？
模擬攻擊者的角度來測試 AI 系統的安全性。專業的紅隊會嘗試 Prompt Injection、越獄、資料竊取等各種攻擊手法。360 用 AI 多智能體系統做自動化紅隊測試，就是「用 AI 找 AI 的漏洞」。
紅隊測試
紅隊測試 是什麼？模擬攻擊者的角度來測試 AI 系統的安全性。專業的紅隊會嘗試 Prompt Injection、越獄、資料竊取等各種攻擊手法。360 用 AI 多智能體系統做自動化紅隊測試，就是「用 AI 找 AI 的漏洞」。 — Judy AI Lab AI 詞彙庫