共 2 个相关内容
OpenAI 推出的红队安全评估 AI 模型，专门用于自主发现 LLM 系统中的漏洞与 Prompt 注入攻击，提升 AI 系统安全性。
系统讲解AI模型红队测试的方法论，覆盖提示注入攻击、越狱测试、数据投毒检测等内容，附完整安全评估checklist。