相較於傳統資安紅隊演練，AI紅隊不僅關注傳統的網路安全挑戰，更延伸至AI系統的安全性，包括虛構幻覺、偏見、誤用、騷擾以及惡意軟體生成和隱私洩漏等風險與獨特的漏洞。本文評析OpenAI、Google、Microsoft、NVIDIA等大廠在提升生成式人工智慧（Generative Artificial Intelligence, GAI）安全性方面所做的努力，並讓產業充分理解主動防禦與資料安全的重要性。