Latent Reasoning

Латентное рассуждение — это рассуждение модели в скрытых состояниях, непрерывных векторах внутри нейронной сети, а не в записанных токенах. При использовании подсказок с цепочкой рассуждений большая языковая модель (LLM) записывает каждый промежуточный шаг текстом и затем читает его; при латентном рассуждении промежуточные шаги остаются в виде векторов и декодируется только ответ. Термин охватывает два явления: неявное рассуждение, происходящее в рамках любого отдельного прямого прохода, например решение двухэтапного вопроса без называния связывающего факта, и методы обучения моделей рассуждению в непрерывном пространстве, например Coconut от Meta, опубликованный в декабре 2024 года, и модели с рекуррентной глубиной 2025 года.

Зачем рассуждать в латентном пространстве#

Записанный шаг передаёт дальше очень мало информации. Каждый токен — это один вариант из словаря в десятки тысяч слов, тогда как скрытое состояние даже небольшого трансформера содержит сотни или тысячи чисел, способных одновременно кодировать несколько промежуточных результатов. Запись шагов также требует времени: каждый токен рассуждения — это полный прямой проход, поэтому длинная цепочка рассуждений увеличивает задержку инференса и стоимость обслуживания. Дополнительные скрытые вычисления помогают и без слов. В 2023 году исследователи из Google и Carnegie Mellon University обнаружили, что обучение модели с 1 млрд параметров с помощью обучаемых токенов «паузы», которые дают ей дополнительные прямые проходы перед ответом, повысило точность полного совпадения на 18% на тесте ответов на вопросы SQuAD.

Coconut: цепочка непрерывных рассуждений#

Исследователи из Meta и UC San Diego представили Coconut в работе Обучение больших языковых моделей рассуждению в непрерывном латентном пространстве. Между специальными токенами начала и конца рассуждения модель напрямую подаёт своё последнее скрытое состояние обратно как следующую входную векторную репрезентацию, вместо того чтобы декодировать его в слово. В Coconut использовалась модель OpenAI GPT-2, и тот же цикл выполняется на предварительно обученной модели:

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("gpt2")
model = AutoModelForCausalLM.from_pretrained("gpt2")
ids = tokenizer("Question: 3 apples plus 4 apples is", return_tensors="pt").input_ids
embeds = model.get_input_embeddings()(ids)

# Continuous thoughts: the last hidden state becomes the next input embedding
with torch.no_grad():
    for _ in range(4):
        hidden = model(inputs_embeds=embeds, output_hidden_states=True).hidden_states[-1]
        thought = hidden[:, -1:]  # a vector that is never decoded into a token
        embeds = torch.cat([embeds, thought], dim=1)

print(f"Positions: {ids.shape[1]} prompt tokens + 4 thoughts = {embeds.shape[1]}")
print(f"Each thought: {thought.shape[-1]} floats; each written step: 1 of {tokenizer.vocab_size:,} tokens")

Четыре шага рассуждения увеличивают последовательность с 8 до 12 позиций, не создавая текста; каждый шаг передаёт следующему прямому проходу 768 чисел с плавающей запятой. При текстовом шаге передавался бы один из 50 257 токенов, то есть около 15,6 бита информации. Coconut дообучает GPT-2 в этом цикле, постепенно заменяя записанные шаги рассуждения непрерывными — по одному этапу за раз. На ProsQA, задаче на логическое рассуждение с необходимостью планирования, модель достигла точности 97,0%, генерируя в среднем 14,2 токена, тогда как цепочка рассуждений дала 77,5% и 49,4 токена. На математических задачах GSM8K результат оказался ниже, чем у цепочки рассуждений: 34,1% против 42,9%, хотя модель генерировала примерно втрое меньше токенов. Авторы обнаружили, что одно непрерывное рассуждение может кодировать сразу несколько возможных следующих шагов, позволяя модели исследовать альтернативы в ширину. Записанная цепочка, которая фиксирует один токен за раз, этого не позволяет.

Другие подходы#

Модели с рекуррентной глубиной многократно используют один и тот же блок слоёв. В 2025 году Джонас Гайпинг и коллеги обучили модель с 3,5 млрд параметров на 800 млрд токенов. Во время инференса она многократно запускает рекуррентный блок, а показатели на тестах рассуждения продолжают расти с увеличением числа итераций — вплоть до объёма вычислений, эквивалентного модели с 50 млрд параметров, без генерации хотя бы одного дополнительного токена. Рекуррентные вычисления позволяют масштабировать вычисления во время тестирования — направление законов масштабирования, которого обычно достигают генерацией более длинных цепочек рассуждений. Методы неявной цепочки рассуждений обучают модель на готовых решениях, а затем постепенно убирают письменные шаги: пошаговая интернализация Юнтяня Дэна, Еджин Чоя и Стюарта Шибера научила GPT-2 Small умножать друг на друга два девятизначных числа с точностью до 99% без промежуточных шагов.

Эта идея применима не только к тексту. Большие концептуальные модели (LCM) Meta предсказывают векторную репрезентацию следующего предложения вместо следующего токена, предсказывающие архитектуры совместных векторных представлений (JEPA) предсказывают отсутствующие части изображений и видео в латентном пространстве, а не в пикселях, а системы воплощённого ИИ, например Helix от Figure, передают латентный вектор, а не текст, от визуально-языковой модели (VLM) к политике управления роботом. Детекторы хранят такие же скрытые состояния: в Ultralytics YOLO26 model.embed() выполняет режим predict только до слоя перед головой обнаружения и усредняет карту признаков в один вектор на изображение вместо возвращения рамок и меток классов.

Интерпретируемость и безопасность#

Записанная цепочка рассуждений даёт людям и автоматическим системам мониторинга материал для проверки. Модели рассуждений, которые рассуждают текстом, можно проверять на признаки взлома функции вознаграждения или обмана до того, как они начнут действовать. В статье с изложением позиции, опубликованной в июле 2025 года, исследователи из OpenAI, Google DeepMind, Anthropic, Meta и других организаций назвали возможность мониторить цепочки рассуждений хрупкой возможностью для безопасности ИИ и предупредили, что архитектуры с латентным рассуждением могут её устранить. Латентные шаги можно читать лишь косвенно, с помощью инструментов механистической интерпретируемости, таких как пробники, logit lens и разреженные автоэнкодеры (SAE). В статье о Coconut при декодировании непрерывного рассуждения через языковую голову модели вероятности распределялись между несколькими возможными промежуточными значениями.