Model Editing

Редактирование моделей — это целенаправленная модификация обученной модели машинного обучения, позволяющая ей усваивать, исправлять или удалять определенное поведение без полного переобучения. Редактор может изменять выбранные веса модели, подключать небольшой модуль памяти или перенаправлять выходные данные на этапе инференса. Этот термин обычно относится к исправлению знаний в большой языковой модели, хотя он все чаще применяется к мультимодальным и визуальным базовым моделям. Это не означает редактирование 3D-объекта или сгенерированного изображения.

Link to this sectionКак работает редактирование моделей#

Запрос на редактирование модели обычно определяет входные данные, старый ответ и желаемый ответ. Методы, описанные в комплексном исследовании редактирования знаний 2024 года, обычно делятся на три группы: обновление внутренних параметров, интеграция новых знаний в модель или обращение к внешним знаниям. (arxiv.org)

Редактирование моделей отличается от связанных техник:

• Дообучение: Обновляет поведение на всем наборе данных, в то время как редактирование моделей нацелено на узкое, локализованное изменение.
• Фреймворк редактирования знаний EasyEdit: Демонстрирует практические редакторы параметров, памяти и метаобучения для языковых моделей. (aclanthology.org)
• Генерация, дополненная поиском: Предоставляет актуальную информацию без изменения базовых параметров.
• Машинное «забывание»: Стремится удалить усвоенную информацию, а не заменить или дополнить знания.
• Слияние моделей: Объединяет несколько обученных моделей или обновлений вместо выполнения одного точного редактирования.

Link to this sectionОценка и риски#

Успешное редактирование должно удовлетворять требованиям надежности для целевого запроса, обобщаемости для переформулированных входов, локальности для несвязанного поведения и переносимости для связанных задач рассуждения. Исследования подводных камней редактирования знаний, деградации общей способности и возмущений соседних знаний показывают, что внешне корректное редактирование может изменить несвязанные ответы или навыки рассуждения. (openreview.net)

Повторные правки также могут вызвать катастрофическое забывание. Результаты могут сильно зависеть от метрик оценки и размера батча, как подчеркивается в исследовании оценки редакторов знаний 2025 года. Мультимодальная оценка расширяется за счет VLKEB для редактирования текстов и изображений и MMKE-Bench для разнообразных визуальных знаний. (aclanthology.org)

Link to this sectionРеальные приложения#

• Непрерывные обновления визуально-языковых моделей: Визуальный помощник может выучить недавно представленный продукт или исправленную идентичность достопримечательности, сохраняя при этом предыдущие визуальные знания.
• Медицинские визуально-языковые исправления: Клинические системы можно оценивать после обновления устаревшей терминологии или диагностических знаний для различных изображений и текстов. (arxiv.org)
• Адаптация в области компьютерного зрения: Модель инспекции может быть обновлена для распознавания нового типа дефекта без перестройки всего конвейера обучения.

Link to this sectionТекущие лучшие практики#

Сохраняй исходную контрольную точку, используй минимально возможное эффективное обновление и проводи широкое тестирование моделей перед развертыванием. Недавние работы предлагают сравнивать правки весов с подходами на основе контекста, которые могут быть более устойчивыми в реалистичных условиях, а также тестировать длинные последовательности правок на предмет взаимных помех. (arxiv.org) Производственным командам следует вести журналы правок, пути отката, тесты безопасности и непрерывный мониторинг моделей.

Link to this sectionРедактирование моделей в рабочих процессах Ultralytics#

Для Ultralytics YOLO26 целенаправленное обучение является практическим эквивалентом широкого редактирования модели. Этот пример обновляет предобученный детектор с использованием небольшого набора данных, а затем применяет валидацию для обнаружения непреднамеренных изменений производительности:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=1)
metrics = model.val()
print(metrics.box.map)

Сохраняй версионированные контрольные точки с помощью руководства по сохранению моделей PyTorch и используй платформу Ultralytics Platform для разметки данных, обучения обновленных моделей, развертывания ревизий и мониторинга производительности в продакшене.