Model Editing

Редактирование модели — это целенаправленное изменение обученной модели машинного обучения, позволяющее ей изучить, скорректировать или удалить определённое поведение без полного переобучения. Редактор может изменить выбранные веса модели, подключить небольшой модуль памяти или перенаправить выходные данные во время инференса. Обычно этот термин относится к корректировке знаний в большой языковой модели, хотя всё чаще применяется к мультимодальным и визуальным фундаментальным моделям. Он не означает редактирование 3D-объекта или сгенерированного изображения.

Как работает редактирование модели#

Запрос на редактирование модели обычно содержит входные данные, старый ответ и желаемый ответ. Методы, описанные в комплексном исследовании редактирования знаний 2024 года, обычно делятся на три группы: обновление внутренних параметров, интеграция новых знаний в модель или обращение к внешним знаниям. (arxiv.org)

Редактирование модели отличается от смежных методов:

• Дообучение: изменяет поведение на всём наборе данных, тогда как редактирование модели направлено на узкое, локализованное изменение.
• Фреймворк редактирования знаний EasyEdit: демонстрирует практические редакторы параметров, памяти и метаобучения для языковых моделей. (aclanthology.org)
• Генерация с дополнением поиска: предоставляет актуальную информацию, не изменяя базовые параметры.
• Машинное забывание: направлено на удаление изученной информации, а не на замену или добавление знаний.
• Объединение моделей: объединяет несколько обученных моделей или обновлений вместо выполнения одного точного редактирования.

Оценка и риски#

Успешное редактирование должно обеспечивать надёжность для целевого запроса, обобщаемость для переформулированных входных данных, локальность в отношении несвязанного поведения и переносимость на связанные задачи рассуждения. Исследования проблем редактирования знаний, деградации общих способностей и возмущений смежных знаний показывают, что внешне корректное редактирование может изменить несвязанные ответы или навыки рассуждения. (openreview.net)

Повторные редактирования также могут привести к катастрофическому забыванию. Результаты могут сильно зависеть от метрик оценки и размера пакета, что подчёркивается в исследовании оценки редакторов знаний 2025 года. Мультимодальная оценка расширяется благодаря VLKEB для редактирования визуально-языковых моделей и MMKE-Bench для разнообразных визуальных знаний. (aclanthology.org)

Практические применения#

• Обновление визуально-языковой модели на протяжении всего жизненного цикла: визуальный ассистент может изучить недавно выпущенный продукт или исправленную идентификацию достопримечательности, сохранив при этом ранее полученные визуальные знания.
• Корректировка медицинских визуально-языковых моделей: клинические системы можно оценивать после обновления устаревшей терминологии или диагностических знаний с учётом различных вариантов изображений и текста. (arxiv.org)
• Адаптация компьютерного зрения: модель для инспекции можно обновить, чтобы она распознавала новый тип дефектов, не перестраивая весь конвейер обучения.

Текущие лучшие практики#

Сохраняй исходную контрольную точку, используй минимальное эффективное обновление и выполняй комплексное тестирование модели перед развёртыванием. Согласно недавним исследованиям, стоит сравнивать редактирование весов с подходами на основе контекста, которые могут быть устойчивее в реалистичных условиях, а также тестировать длинные последовательности редактирований на наличие взаимных помех. (arxiv.org) Команды, отвечающие за эксплуатацию, должны вести журналы редактирований, обеспечивать возможность отката, проводить тесты безопасности и выполнять непрерывный мониторинг модели.

Редактирование моделей в рабочих процессах Ultralytics#

Для Ultralytics YOLO26 целевое обучение является практическим эквивалентом широкого редактирования модели. В этом примере предварительно обученный детектор обновляется на небольшом наборе данных, после чего выполняется валидация для выявления непреднамеренных изменений производительности:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=1)
metrics = model.val()
print(metrics.box.map)

Храни контрольные точки с версиями, используя рекомендации PyTorch по сохранению моделей, а для разметки данных, обучения обновлённых моделей, развёртывания ревизий и мониторинга производительности в рабочей среде используй Ultralytics Platform.