Large Language Model (LLM)

大语言模型（LLM）是一种神经网络，几乎总是基于 Transformer 架构，使用数万亿个文本词元训练，拥有数十亿个参数，用于预测序列中的下一个 token。这一单一目标在大规模应用后，便能生成回答问题、总结文档、翻译、编写代码和调用软件工具的模型。OpenAI 的 GPT、Anthropic 的 Claude 和 Google 的 Gemini 是通过 API 提供的 LLM 系列；Meta 的 Llama、阿里巴巴的 Qwen、DeepSeek、Mistral 和 OpenAI 的 gpt-oss 则发布了开放权重。Transformer 架构源自 2017 年的论文 Attention Is All You Need；GPT-3 于 2020 年展示了一个拥有 1,750 亿个参数的模型如何从提示中的示例学习任务；而 ChatGPT 则于 2022 年 11 月让 LLM 走向大众。

LLM 的工作原理#

LLM 首先通过tokenization将文本转换为词元 ID，并为每个词元查找一个嵌入向量。这些向量会经过一系列相同的模块，每个模块都结合了因果自注意力和前馈层：自注意力让每个词元从它之前的词元获取信息，前馈层则分别转换每个词元。最后一个模块会为词汇表中的每个词元生成一个 softmax 概率；模型选出一个词元，将它追加到序列中，然后重复这一过程，这就是文本生成的工作方式：

模型大小以参数数量衡量，许多近期模型都采用稀疏结构。在混合专家模型（MoE）中，路由器会将每个 token 分配给多个前馈专家中的少数几个，因此 DeepSeek-V3虽然有 6710 亿个参数，但每个 token 只使用 370 亿个参数。模型一次能读取的文本量，即上下文窗口，已从 GPT-3 的 2,048 个 token 增长到当前多个模型中的 100 万个或更多；处理如此长的输入需要KV 缓存，用来存储每个先前 token 的注意力键和值。

LLM 的训练方式#

预训练属于自监督学习：模型预测网页、书籍和代码中的下一个 token，无需人工标签。缩放定律可以预测随着参数、数据和计算量增加，损失会如何下降；DeepMind 的 Chinchilla 研究发现，计算量最优的训练大约使用每个参数 20 个 token。现在的模型训练远远超过了这一比例；Meta 使用约 15 万亿个 token 预训练了 Llama 3。后训练会将由此得到的基础模型转变为助手。指令微调教模型遵循请求，基于人类反馈的强化学习（RLHF）或直接偏好优化则使模型回答符合人类偏好；OpenAI 的 InstructGPT结果显示，标注者更偏好经过调优的 13 亿参数模型，而不是 1750 亿参数的 GPT-3。推理模型（如 OpenAI 的 o1 和 DeepSeek-R1）加入了大规模强化学习；DeepSeek-R1 的做法是在数学和编程问题上进行带可验证奖励的强化学习，这些问题的答案可以核验，从而训练模型在作答前写出长篇推理链。之后，团队可通过微调（通常使用 LoRA）使模型适应自身领域，也可以保持权重不变，通过检索增强生成（RAG）提供知识。

应用场景#

LLM 为聊天机器人和助手、可编辑并测试整个代码仓库的智能编码工具、搜索和文档问答，以及通过函数调用规划多步任务的 AI 智能体提供能力。添加图像编码器后，LLM 就会成为能够回答有关照片、图表和视频帧问题的视觉语言模型 (VLM)。主要的 LLM 系列也能读取图像，而 Ultralytics VLM Leaderboard会比较 GPT-6.1 Sol、Claude Opus 5.5 和 Gemini 4 Argon 等模型在真实世界数据集中检测对象的准确度。Ultralytics LLM 接口可将文本或图像发送给来自 OpenAI、DeepSeek、Kimi、Z.AI、OpenRouter 的兼容 OpenAI 模型，或本地服务器，因此 YOLO26工作流可以只在需要解释检测结果时调用 LLM，例如有人出现时描述场景。

LLM 与相关术语的比较#

• 自然语言处理（NLP）：研究如何用计算机处理人类语言的领域。如今，LLM 是该领域占主导地位的模型类型。
• 生成式 AI：任何能够创建新内容的模型，包括图像、音频和视频生成模型。
• 基础模型：斯坦福研究人员于 2021 年提出的更广泛类别，指在广泛数据上预训练、并可适配多种任务的大型模型。它既包括视觉基础模型，也包括 LLM。
• 小型语言模型（SLM）：体积足够小、可在手机、笔记本电脑或低成本服务环境中运行的语言模型，通常只有数十亿个参数或更少。

局限性#

无论内容是否属实，LLM 都能生成流畅文本，因此在事实性任务中，幻觉仍是主要风险；除非通过检索或工具提供信息，否则模型对训练截止时间之后的内容一无所知。训练数据会将自身偏差传递给模型，网页或文档中隐藏的指令也可能通过提示注入劫持智能体。上下文变得很长时，准确率也会下降，这种现象称为上下文腐化。运行 LLM 还需要大量内存：一个 700 亿参数模型的权重采用 16 位时约需 140 GB，采用 4 位时约需 35 GB，因此 GGUF等模型量化格式可以让这类模型在单台工作站上运行。