Model Editing

Chỉnh sửa model là quá trình sửa đổi có mục tiêu đối với một machine learning model đã được huấn luyện nhằm học hỏi, sửa chữa hoặc loại bỏ các hành vi cụ thể mà không cần huấn luyện lại toàn bộ. Trình chỉnh sửa có thể thay đổi các model weights được chọn, gắn một môジュール bộ nhớ nhỏ, hoặc chuyển hướng các đầu ra tại thời điểm inference. Thuật ngữ này thường đề cập đến việc chỉnh sửa kiến thức trong một large language model, mặc dù nó ngày càng được áp dụng cho các foundation models đa phương thức và thị giác. Điều này không có nghĩa là chỉnh sửa một đối tượng 3D hoặc hình ảnh được tạo ra.

Link to this sectionCách thức hoạt động của Chỉnh sửa Model#

Một yêu cầu chỉnh sửa model thường chỉ định một đầu vào, phản hồi cũ và phản hồi mong muốn. Các phương pháp được mô tả trong nghiên cứu tổng hợp về chỉnh sửa kiến thức năm 2024 thường được chia thành ba nhóm: cập nhật các tham số bên trong, tích hợp kiến thức mới vào model, hoặc tham khảo kiến thức bên ngoài. (arxiv.org)

Chỉnh sửa model khác với các kỹ thuật liên quan ở điểm:

• Fine-Tuning: Cập nhật hành vi trên một tập dữ liệu, trong khi chỉnh sửa model nhằm mục đích tạo ra sự thay đổi nhỏ, cục bộ.
• EasyEdit Knowledge-Editing Framework: Thể hiện các trình chỉnh sửa tham số, bộ nhớ và meta-learning thực tế cho các language model. (aclanthology.org)
• Retrieval-Augmented Generation: Cung cấp thông tin hiện tại mà không làm thay đổi các tham số cơ sở.
• Machine Unlearning: Tìm cách loại bỏ thông tin đã học thay vì thay thế hoặc bổ sung kiến thức.
• Model Merging: Kết hợp nhiều model hoặc bản cập nhật đã được huấn luyện thay vì thực hiện một chỉnh sửa chính xác duy nhất.

Link to this sectionĐánh giá và Rủi ro#

Một chỉnh sửa thành công phải đáp ứng tính tin cậy cho yêu cầu mục tiêu, tính tổng quát trên các đầu vào được diễn đạt lại, tính cục bộ trên các hành vi không liên quan, và tính khả chuyển sang các tác vụ suy luận có liên quan. Nghiên cứu về những cạm bẫy trong chỉnh sửa kiến thức, sự suy giảm khả năng tổng quát, và các nhiễu loạn kiến thức lân cận cho thấy một chỉnh sửa có vẻ chính xác có thể làm thay đổi các câu trả lời hoặc kỹ năng suy luận không liên quan. (openreview.net)

Các chỉnh sửa lặp đi lặp lại cũng có thể gây ra catastrophic forgetting. Kết quả có thể phụ thuộc nhiều vào các metrics đánh giá và batch size, như được làm nổi bật bởi nghiên cứu năm 2025 về đánh giá trình chỉnh sửa kiến thức. Đánh giá đa phương thức đang được mở rộng thông qua VLKEB dành cho chỉnh sửa thị giác-ngôn ngữ và MMKE-Bench cho kiến thức trực quan đa dạng. (aclanthology.org)

Link to this sectionCác ứng dụng trong thực tế#

• Lifelong Vision-Language Model Updates: Một trợ lý thị giác có thể học một sản phẩm mới ra mắt hoặc nhận diện địa danh đã được chỉnh sửa trong khi vẫn giữ lại kiến thức thị giác trước đó.
• Medical Vision-Language Corrections: Các hệ thống lâm sàng có thể được đánh giá sau khi cập nhật thuật ngữ lỗi thời hoặc kiến thức chẩn đoán qua các biến thể hình ảnh và văn bản. (arxiv.org)
• Sự thích ứng của Computer Vision: Một inspection model có thể được cập nhật để nhận dạng một loại lỗi mới mà không cần xây dựng lại toàn bộ pipeline huấn luyện.

Link to this sectionCác phương pháp thực hành tốt nhất hiện nay#

Bảo lưu checkpoint ban đầu, sử dụng bản cập nhật hiệu quả nhất, và chạy model testing trên diện rộng trước khi deployment. Các nghiên cứu gần đây cho thấy việc so sánh các chỉnh sửa trọng số với các phương pháp dựa trên ngữ cảnh, điều này có thể mạnh mẽ hơn trong các điều kiện thực tế, và kiểm tra các chuỗi chỉnh sửa dài để tìm sự can thiệp. (arxiv.org) Các nhóm production nên duy trì nhật ký chỉnh sửa, đường dẫn rollback, kiểm tra an toàn và model monitoring liên tục.

Link to this sectionChỉnh sửa Model trong các Workflow của Ultralytics#

Đối với Ultralytics YOLO26, training có mục tiêu là phương án tương đương thực tế của việc chỉnh sửa model trên diện rộng. Ví dụ này cập nhật một detector đã được huấn luyện trước bằng cách sử dụng một tập dữ liệu nhỏ, sau đó áp dụng validation để phát hiện các thay đổi hiệu suất không mong muốn:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=1)
metrics = model.val()
print(metrics.box.map)

Giữ lại các checkpoint được quản lý phiên bản bằng cách sử dụng hướng dẫn lưu model PyTorch, và sử dụng Ultralytics Platform để chú thích dữ liệu, huấn luyện lại các model, deploy các phiên bản chỉnh sửa, và theo dõi hiệu suất production.