本章介绍大语言模型红队演练的核心内容。我们首先概述红队演练的一般做法,然后着重讲解其在大语言模型中的具体应用和重要性。您将了解到大语言模型常见的漏洞,以及红队演练生命周期中的结构化阶段。接下来的部分将讨论如何明确一次行动的目标和范围,理解攻击者视角的必要性,以及相关的法律和伦理考量。为了将这些内容付诸实践,本章最后设有一个练习,您将为一次模拟大语言模型红队演练定义范围。