什么是大型语言模型（LLM）？

其核心是，大型语言模型（LLM）是一种先进的人工智能（AI）程序，专门设计用于理解、生成和处理人类语言。可以把它想象成一个非常先进的文本处理器，能够执行各种涉及词语和句子的任务。

让我们来细说“大型语言模型”这个术语：

语言模型

“语言模型”部分指的是其核心功能：预测序列中的下一个词。想象一下你开始输入“The quick brown fox jumps over the...”（敏捷的棕色狐狸跳过……）。语言模型的基本职责是找出最有可能的下一个词（在这种情况下，很可能是“lazy”即“懒惰的”）。它通过在海量文本数据——书籍、文章、网站、代码等——上进行训练来学习这样做。通过分析这些数据中的模式、语法、语境和常用短语，模型会构建对语言运作方式的内部表示。这种预测能力是生成连贯句子、段落乃至完整文档的基础。

大型

“大型”这一方面是现代LLM与众不同的原因。它主要指两点：

1. 训练数据量： LLM在包含数千亿甚至数万亿词汇的数据集上进行训练。这种大量的接触使它们能够学习精细的语言模式、信息（如文本中所示）以及不同的写作风格。
2. 参数数量： 参数是模型在训练过程中调整的内部变量。你可以将它们想象成模型用于存储从训练数据中获取的知识的旋钮和刻度盘。LLM拥有大量的参数，通常从数十亿到数万亿不等。例如，你可能会遇到被称为“7B”（70亿参数）或“70B”（700亿参数）的模型。通常，参数数量越多，模型能够捕捉语言中更复杂的模式和细节，从而获得更精密的文本理解和生成能力。

大量的训练数据和庞大的参数数量相结合，使LLM能够执行远远超出简单下一个词预测的任务。它们可以：

• 根据所训练的信息回答问题。
• 总结长篇文档。
• 翻译语言。
• 撰写不同类型的创意文本，如诗歌、代码、脚本或电子邮件。
• 进行对话。

本质上，LLM是一种强大的AI工具，在大量的文本数据集上进行训练，使用数十亿内部参数来理解语境并为各种应用生成类人文本。理解这个基本定义是您了解它们如何运作以及如何在自己的电脑上运行它们的第一步。