Long Short-Term Memory (LSTM)

Long Short-Term Memory (LSTM) là một loại kiến trúc mạng neural hồi tiếp (RNN) chuyên biệt, có khả năng học sự phụ thuộc thứ tự trong các bài toán dự đoán chuỗi. Khác với mạng neural chuyển tiếp chuẩn, LSTM có các kết nối phản hồi cho phép chúng xử lý không chỉ các điểm dữ liệu đơn lẻ (như hình ảnh), mà còn toàn bộ các chuỗi dữ liệu (như giọng nói hoặc video). Khả năng này khiến chúng cực kỳ phù hợp cho các tác vụ trong đó ngữ cảnh từ các đầu vào trước đó đóng vai trò cốt lõi để hiểu dữ liệu hiện tại, khắc phục các giới hạn "bộ nhớ ngắn hạn" của các RNN truyền thống.

Vấn đề với RNN tiêu chuẩn#

Để hiểu được điểm đổi mới của LSTM, việc xem xét các thách thức mà các mạng neural hồi tiếp cơ bản phải đối mặt sẽ rất hữu ích. Mặc dù các RNN được thiết kế để xử lý thông tin tuần tự, chúng lại gặp khó khăn với các chuỗi dữ liệu dài do vấn đề gradient biến mất. Khi mạng thực hiện lan truyền ngược qua thời gian, các gradient—các giá trị dùng để cập nhật trọng số của mạng—có thể trở nên nhỏ theo cấp số nhân, làm cho mạng không thể học được các mối liên hệ giữa các sự kiện cách xa nhau. Điều này có nghĩa là một RNN tiêu chuẩn có thể nhớ một từ từ câu trước nhưng lại quên ngữ cảnh được thiết lập từ ba đoạn văn trước đó. LSTM được thiết kế rõ ràng để giải quyết vấn đề này bằng cách giới thiệu một cấu trúc nội bộ phức tạp hơn, có thể duy trì cửa sổ ngữ cảnh trong các khoảng thời gian dài hơn đáng kể.

Cách thức hoạt động của LSTM#

Khái niệm cốt lõi đằng sau một LSTM là trạng thái ô (cell state), thường được mô tả như một băng chuyền chạy xuyên suốt toàn bộ chuỗi của mạng. Trạng thái này cho phép thông tin truyền dọc theo nó mà không bị thay đổi, giúp bảo toàn các phụ thuộc dài hạn. Mạng đưa ra quyết định về việc lưu trữ, cập nhật hoặc loại bỏ thông tin từ trạng thái ô này bằng cách sử dụng các cấu trúc gọi là cổng (gates).

• Forget Gate (Cổng quên): Cơ chế này quyết định thông tin nào không còn phù hợp và nên được loại bỏ khỏi trạng thái ô. Ví dụ, nếu một mô hình ngôn ngữ gặp một chủ thể mới, nó có thể "quên" giới tính của chủ thể trước đó.
• Input Gate (Cổng vào): Cổng này xác định thông tin mới nào đủ quan trọng để được lưu trữ vào trạng thái ô.
• Output Gate (Cổng ra): Cuối cùng, cổng này kiểm soát những phần nào của trạng thái nội bộ nên được xuất ra trạng thái ẩn tiếp theo và được sử dụng cho việc dự đoán ngay lập tức.

Bằng cách điều tiết luồng thông tin này, LSTM có thể vượt qua các khoảng trễ thời gian lớn hơn 1.000 bước, vượt trội hơn hẳn so với các RNN thông thường trong các tác vụ đòi hỏi phân tích chuỗi thời gian.

Các ứng dụng trong thực tế#

LSTM đã tạo động lực cho nhiều bước đột phá lớn trong deep learning trong thập kỷ qua. Dưới đây là hai ví dụ nổi bật về ứng dụng của chúng:

• Mô hình Chuỗi-đến-Chuỗi trong Dịch thuật: LSTM đóng vai trò nền tảng cho các hệ thống dịch máy. Trong kiến trúc này, một LSTM (bộ mã hóa) xử lý một câu đầu vào bằng một ngôn ngữ (ví dụ: tiếng Anh) và nén nó thành một véc-tơ ngữ cảnh. Một LSTM thứ hai (bộ giải mã) sau đó sử dụng véc-tơ này để tạo ra bản dịch sang ngôn ngữ khác (ví dụ: tiếng Pháp). Khả năng xử lý các chuỗi đầu vào và đầu ra có độ dài khác nhau này đóng vai trò quan trọng đối với xử lý ngôn ngữ tự nhiên (NLP).
• Phân tích Video và Nhận dạng Hoạt động: Trong khi các Mạng Neural Tích chập (CNN) như ResNet-50 xuất sắc trong việc xác định các đối tượng trong hình ảnh tĩnh, chúng lại thiếu đi cảm nhận về thời gian. Bằng cách kết hợp các CNN với LSTM, các hệ thống AI có thể thực hiện nhận dạng hành động trong các luồng video. CNN trích xuất các đặc trưng từ mỗi khung hình, và LSTM phân tích chuỗi các đặc trưng này để xác định xem một người đang đi bộ, chạy hay ngã.

Tích hợp LSTM với Computer Vision#

Trong computer vision hiện đại, LSTM thường được sử dụng bên cạnh các bộ trích xuất đặc trưng mạnh mẽ. Chẳng hạn, bạn có thể sử dụng một model YOLO để phát hiện các đối tượng trong từng khung hình riêng lẻ và dùng LSTM để theo dõi quỹ đạo của chúng hoặc dự đoán chuyển động trong tương lai.

Dưới đây là một ví dụ mang tính khái niệm sử dụng torch để định nghĩa một LSTM đơn giản có thể xử lý một chuỗi các véc-tơ đặc trưng được trích xuất từ một luồng video:

import torch
import torch.nn as nn

# Define an LSTM model for processing sequential video features
# Input size: 512 (e.g., features from a CNN), Hidden size: 128
lstm_model = nn.LSTM(input_size=512, hidden_size=128, num_layers=2, batch_first=True)

# Simulate a batch of video sequences: 8 videos, 10 frames each, 512 features per frame
video_features = torch.randn(8, 10, 512)

# Pass the sequence through the LSTM
output, (hidden_state, cell_state) = lstm_model(video_features)

print(f"Output shape: {output.shape}")  # Shape: [8, 10, 128]
print("LSTM successfully processed the temporal sequence.")

Các khái niệm liên quan và sự khác biệt#

Việc phân biệt LSTM với các kiến trúc xử lý chuỗi khác là rất hữu ích:

• LSTM vs. GRU: Gated Recurrent Unit (GRU) là một biến thể được đơn giản hóa của LSTM. Các GRU kết hợp cổng quên và cổng đầu vào thành một "cổng cập nhật" duy nhất đồng thời hợp nhất trạng thái ô và trạng thái ẩn. Điều này giúp các GRU đạt hiệu quả tính toán cao hơn và huấn luyện nhanh hơn, mặc dù LSTM vẫn có thể vượt trội hơn chúng trên các tập dữ liệu lớn và phức tạp hơn.
• LSTM vs. Transformers: Kiến trúc Transformer, vốn dựa vào các cơ chế tự chú ý (self-attention) thay vì tính hồi tiếp, đã phần lớn thay thế LSTM trong các tác vụ NLP như những tác vụ được thực hiện bởi GPT-4. Transformers có thể xử lý toàn bộ các chuỗi song song thay vì tuần tự, cho phép huấn luyện nhanh hơn nhiều trên các tập dữ liệu khổng lồ. Tuy nhiên, LSTM vẫn duy trì sự liên quan trong các kịch bản có dữ liệu hạn chế hoặc các ràng buộc chuỗi thời gian cụ thể nơi chi phí vận hành của các cơ chế chú ý là không cần thiết.

Sự tiến hóa và Tương lai#

Mặc dù cơ chế chú ý đã chiếm vị trí trung tâm trong AI tạo sinh, LSTM vẫn tiếp tục là một lựa chọn vững chắc cho các ứng dụng nhẹ hơn, đặc biệt là trong các môi trường edge AI nơi tài nguyên tính toán bị giới hạn. Các nhà nghiên cứu vẫn đang tiếp tục khám phá các kiến trúc lai kết hợp hiệu quả bộ nhớ của LSTM với sức mạnh biểu diễn của các hệ thống phát hiện đối tượng hiện đại.

Đối với những ai đang tìm cách quản lý các tập dữ liệu để huấn luyện các mô hình chuỗi hoặc các tác vụ thị giác phức tạp, Ultralytics Platform cung cấp các công cụ toàn diện cho việc gán nhãn và quản lý tập dữ liệu. Hơn nữa, việc hiểu cách LSTM hoạt động cung cấp một nền tảng vững chắc để nắm bắt các mô hình tạm thời nâng cao hơn được sử dụng trong xe tự hành và robot học.