Hidden Markov Model (HMM)

Mô hình Markov ẩn (HMM) là model xác suất mô tả một chuỗi, trong đó hệ thống chuyển giữa các trạng thái không thể quan sát trực tiếp và mỗi trạng thái ẩn tạo ra một quan sát có thể quan sát được. Với một chuỗi quan sát, chẳng hạn các khung âm thanh hoặc chữ cái DNA, HMM tính xác suất của từng chuỗi trạng thái ẩn, ví dụ các âm vị đứng sau âm thanh hoặc các vùng gene đứng sau những chữ cái. "Markov" chỉ giả định cốt lõi của model: trạng thái tiếp theo chỉ phụ thuộc vào trạng thái hiện tại. Leonard Baum và các cộng sự phát triển lý thuyết này vào cuối thập niên 1960, và HMM sau đó được dùng trong nhận dạng tiếng nói suốt nhiều thập kỷ. Được xây dựng hoàn toàn từ các xác suất tường minh, HMM vẫn là công cụ tiêu chuẩn trong phân tích chuỗi thời gian và tin sinh học, đồng thời là ví dụ kinh điển về AI thống kê.

Các thành phần của HMM#

HMM có N trạng thái ẩn được xác định bởi ba tập xác suất:

• Xác suất ban đầu (π): Xác suất bắt đầu ở mỗi trạng thái ẩn.
• Xác suất chuyển trạng thái (A): Ma trận N × N có phần tử A[i, j] là xác suất chuyển từ trạng thái i sang trạng thái j trong một bước, khiến các trạng thái ẩn tạo thành một chuỗi Markov.
• Xác suất phát xạ (B): Xác suất của mỗi quan sát với trạng thái hiện tại đã biết. Quan sát rời rạc dùng bảng, còn quan sát liên tục, chẳng hạn đặc trưng âm học, dùng các phân phối như hỗn hợp Gaussian.

Hai giả định giúp model dễ xử lý hơn: mỗi trạng thái chỉ phụ thuộc vào trạng thái trước đó và mỗi quan sát chỉ phụ thuộc vào trạng thái hiện tại. Khi khai triển theo thời gian, model là một chuỗi trạng thái ẩn, mỗi trạng thái phát ra một quan sát:

Ba bài toán HMM kinh điển#

Bài hướng dẫn nổi tiếng năm 1989 của Lawrence Rabiner hệ thống hóa cách dùng HMM xoay quanh ba câu hỏi. Mỗi câu hỏi có lời giải bằng quy hoạch động, với chi phí tăng theo N² × T cho T quan sát, thay vì theo Nᵀ chuỗi trạng thái có thể có:

• Đánh giá: Chuỗi quan sát có khả năng xảy ra đến mức nào theo một model đã cho? Thuật toán xuôi tính tổng xác suất của mọi đường đi ẩn, nhờ đó bộ nhận dạng chọn model từ phù hợp nhất với một câu nói.
• Giải mã: Chuỗi trạng thái ẩn nào giải thích tốt nhất các quan sát? Thuật toán Viterbi, được Andrew Viterbi công bố năm 1967 để giải mã mã tích chập, tìm đường đi có xác suất cao nhất; thuật toán xuôi-ngược tính xác suất của từng trạng thái tại mỗi bước thời gian.
• Học: Bộ tham số nào khớp nhất với một tập chuỗi quan sát? Thuật toán Baum-Welch, một dạng của thuật toán kỳ vọng-tối đa hóa, ước lượng π, A và B từ các chuỗi chưa gán nhãn. Khi các chuỗi trạng thái đã được gán nhãn, chỉ cần đếm số lần chuyển trạng thái và phát xạ.

Giải mã Viterbi có thể viết gọn trong vài dòng NumPy. Trong model này, hoạt động của một người — đi bộ hay chạy — là trạng thái ẩn; một bộ theo dõi ghi nhận một lần đo tốc độ cho mỗi khung hình, và các hoạt động thường duy trì từ khung hình này sang khung hình tiếp theo:

import numpy as np

states = ["walk", "run"]
start = np.array([0.8, 0.2])  # # xác suất trạng thái ban đầu
trans = np.array([[0.9, 0.1], [0.1, 0.9]])  # # các hoạt động thường duy trì giữa các khung hình
emit = np.array([[0.7, 0.25, 0.05], [0.1, 0.3, 0.6]])  # # P(tốc độ | trạng thái) cho chậm, vừa, nhanh
obs = [0, 0, 2, 0, 0, 1, 2, 2, 1, 2]  # # số đo tốc độ theo từng khung hình

# # Viterbi: log-xác suất tốt nhất để đến mỗi trạng thái, cùng các con trỏ truy vết
logp = np.log(start) + np.log(emit[:, obs[0]])
back = []
for o in obs[1:]:
    scores = logp[:, None] + np.log(trans)  # # hàng: trạng thái trước, cột: trạng thái tiếp theo
    back.append(scores.argmax(axis=0))
    logp = scores.max(axis=0) + np.log(emit[:, o])

# # Truy vết ngược chuỗi trạng thái có khả năng cao nhất, bắt đầu từ trạng thái cuối tốt nhất
path = [int(logp.argmax())]
for pointers in reversed(back):
    path.insert(0, int(pointers[path[0]]))
print("Speeds: ", " ".join(["slow", "medium", "fast"][o] for o in obs))
print("Decoded:", " ".join(states[s] for s in path))

Thuật toán giải mã walk walk walk walk walk run run run run run. Số đo tốc độ nhanh ở khung hình 3 vẫn được gán là "đi bộ", vì chuyển sang chạy rồi quay lại sẽ cần hai lần chuyển trạng thái ít khả năng xảy ra; các số đo trung bình ở khung hình 6 và 9 được gán là "chạy" nhờ các khung hình nhanh xung quanh. Bộ phân loại theo từng khung hình bỏ qua chuyển trạng thái sẽ gán khung hình 3 là đang chạy.

HMM so với các model liên quan#

• Bộ lọc Kalman: Thực hiện cùng quy trình đệ quy dự đoán và cập nhật cho các trạng thái liên tục có động lực học tuyến tính và nhiễu Gaussian. Thuật toán xuôi của HMM là phiên bản tương ứng cho trạng thái rời rạc.
• Mạng Bayes: HMM là mạng Bayes động đơn giản nhất, với một biến ẩn và một biến quan sát ở mỗi bước thời gian.
• Quá trình quyết định Markov (MDP): Bổ sung hành động và phần thưởng vào chuỗi Markov có trạng thái quan sát được; đây là framework nền tảng của học tăng cường.
• Mạng neural hồi quy và transformer: Học các quan hệ phụ thuộc phi tuyến tầm xa từ tập dữ liệu lớn và đã thay thế HMM trong hầu hết tác vụ tiếng nói và ngôn ngữ. HMM cần ít dữ liệu hơn nhiều, và có thể đọc trực tiếp từng xác suất của HMM.
• Model không gian trạng thái (SSM): Các layer deep learning như Mamba chia sẻ ý tưởng không gian trạng thái từ lý thuyết điều khiển và cập nhật một vector ẩn liên tục bằng động lực học xác định đã học.

Ứng dụng thực tế#

• Nhận dạng tiếng nói: Từ thập niên 1980 đến đầu thập niên 2010, phần lớn bộ nhận dạng mô hình hóa mỗi âm vị bằng một HMM nhỏ với phát xạ hỗn hợp Gaussian. Sau đó, mạng neural sâu đảm nhiệm model phát xạ trong các hệ thống lai, rồi các model end-to-end thay thế hoàn toàn HMM.
• Tin sinh học: HMM profile mô tả các họ chuỗi protein hoặc DNA có quan hệ với nhau. HMMER dùng chúng để tìm kiếm các họ hàng xa trong cơ sở dữ liệu chuỗi và là nền tảng của cơ sở dữ liệu họ protein Pfam; các công cụ tìm gene cũng dùng HMM để gán nhãn những đoạn bộ gene là mã hóa hoặc không mã hóa.
• Gán nhãn từ loại: Các hệ thống xử lý ngôn ngữ tự nhiên thống kê đời đầu gán nhãn từ là danh từ, động từ và các từ loại khác bằng cách giải mã Viterbi trên chuỗi nhãn.
• Nhận dạng hoạt động: Chuỗi tư thế cơ thể hoặc số đo từ cảm biến đeo trên người được giải mã thành các hoạt động như đứng, đi bộ hoặc ngã. Giải pháp theo dõi bài tập của Ultralytics theo dõi chuỗi hai trạng thái như vậy: giải pháp gán nhãn mỗi người là "lên" hoặc "xuống" dựa trên góc khớp từ các keypoint ước tính tư thế của YOLO26 — mặc định là khuỷu tay — chuyển trạng thái khi góc vượt 145° hoặc nhỏ hơn 90°, và đếm một lần lặp mỗi khi chuyển từ lên sang xuống.