Large Language Model (LLM)

探索大型语言模型 (LLM) 的基础知识。了解 Transformer 架构、分词，以及如何将 LLM 与 Ultralytics YOLO26 结合。

**大语言模型（LLM）**是一种复杂的人工智能（AI），它经过海量数据集的训练，能够理解、生成和处理人类语言。这些模型代表了深度学习（DL）的重大演进，利用拥有数百亿参数的神经网络来捕捉复杂的语言模式、语法和语义关系。在其核心，大多数现代 LLM 都依赖于Transformer 架构，该架构允许它们并行而不是按顺序处理数据序列。这种架构采用了自注意力机制，使模型能够权衡句子中不同单词彼此相对的重要性，而不管它们在文本中的距离如何。

LLM 的核心机制#

LLM 的功能始于分词，这是一个将原始文本分解为更小单位（称为标记或字词/子词）的过程。在模型训练阶段，系统会分析来自互联网、书籍和文章的太字节（petabytes）文本。它通过无监督学习来预测序列中的下一个标记，从而有效地学习语言的统计结构。

在最初的训练之后，开发者通常会应用微调来使模型专门用于特定任务，例如医疗分析或编码辅助。这种适应性正是斯坦福基础模型研究中心等机构将其分类为“基础模型”的原因——它们是构建特定应用程序的广阔基础。

实际应用#

LLM 已从理论研究转向各行各业中实用且影响深远的应用：

**智能虚拟助手：**现代客户服务严重依赖由 LLM 驱动的聊天机器人。与旧基于规则的系统不同，这些智能体可以处理细致入微的查询。为了提高准确性并减少幻觉，开发者集成了检索增强生成（RAG），允许模型在回答之前参考外部的、最新的公司文档。
**多模态视觉语言系统：**人工智能的前沿将文本与视觉数据连接起来。视觉语言模型（VLM）允许用户使用自然语言查询图像。例如，将语言界面与像YOLO26这样强大的检测器结合起来，使系统能够根据语音指令在实时视频源中识别和描述对象。

用代码连接文本与视觉#

虽然标准 LLM 处理文本，但行业正朝着多模态 AI发展。以下示例演示了语言提示如何使用YOLO-World（一个理解开放词汇检测文本描述的模型）来控制计算机视觉任务。

from ultralytics import YOLOWorld

# Load a model capable of understanding natural language prompts
model = YOLOWorld("yolov8s-world.pt")

# Define custom classes using text descriptions rather than fixed labels
model.set_classes(["person wearing a red helmet", "blue industrial machine"])

# Run inference to detect these specific text-defined objects
results = model.predict("https://ultralytics.com/images/bus.jpg")

# Show results
results[0].show()

区分相关概念#

区分 LLM 与更广泛或平行术语非常重要：

**LLM 与自然语言处理（NLP）：**NLP 是一个总括性的学术领域，关注计算机与人类语言之间的交互。LLM 是在该领域内使用以实现最先进结果的具体工具或技术。
**LLM 与生成式 AI：**生成式 AI 是一个包含任何能够创建新内容的 AI 的类别。LLM 是该类别的基于文本的子集，而像Stable Diffusion这样的模型则代表图像生成的子集。