Statistical AI
AI thống kê xây dựng các hệ thống học quy luật và xác suất từ dữ liệu thay vì tuân theo các quy tắc được viết thủ công. Tìm hiểu lịch sử, phương pháp và code.
AI thống kê là cách tiếp cận trí tuệ nhân tạo xây dựng hệ thống bằng cách ước lượng mẫu hình và xác suất từ dữ liệu, thay vì mã hóa các quy tắc viết thủ công. Hệ thống thống kê biểu diễn rõ ràng sự bất định, khớp tham số với các ví dụ và được đánh giá dựa trên khả năng hoạt động với dữ liệu chưa từng thấy. Gần như toàn bộ AI hiện đại đều hoạt động theo cách này, từ bộ lọc thư rác và hệ thống nhận dạng giọng nói đến bộ phát hiện vật thể và model ngôn ngữ lớn (LLM), vốn gán xác suất cho mọi token tiếp theo có thể xảy ra. Thuật ngữ này chủ yếu được dùng để đối lập với AI biểu tượng, trường phái dựa trên quy tắc và logic từng thống trị lĩnh vực này trong những thập kỷ đầu.
Từ quy tắc đến xác suất#
Từ thập niên 1950 đến thập niên 1980, phần lớn nghiên cứu AI theo đuổi phương pháp biểu tượng: logic, tìm kiếm và hệ chuyên gia với tri thức được các kỹ sư tri thức ghi lại dưới dạng quy tắc nếu-thì. Những hệ thống này hoạt động trong các miền hẹp, được xác định rõ, nhưng thất bại với đầu vào nhiễu hoặc mơ hồ; mỗi tình huống mới đều cần quy tắc mới. Trong thập niên 1980 và 1990, phương pháp xác suất lần lượt chiếm ưu thế ở nhiều lĩnh vực. Model Markov ẩn trở thành nền tảng của nhận dạng giọng nói; cuốn sách năm 1988 của Judea Pearl về mạng Bayes giúp lập luận xác suất trở nên thiết thực, công trình sau này được ghi nhận bằng Giải thưởng Turing năm 2011; các nhà nghiên cứu IBM công bố phương pháp dịch máy thống kê năm 1990; và máy vector hỗ trợ xuất hiện năm 1995. Từ năm 2012, học sâu mở rộng cùng cách tiếp cận này từ đặc trưng được thiết kế thủ công sang pixel thô, âm thanh và văn bản.
Các ý tưởng cốt lõi#
- Model xác suất: Niềm tin được biểu diễn bằng phân phối xác suất, còn định lý Bayes cập nhật niềm tin tiên nghiệm bằng độ khả dĩ của bằng chứng mới để đưa ra xác suất hậu nghiệm. Cùng phép cập nhật này thúc đẩy bộ lọc thư rác, model chẩn đoán và bộ theo dõi vật thể.
- Học bằng ước lượng: Quá trình huấn luyện chọn các tham số khiến dữ liệu quan sát được có xác suất cao nhất; với hầu hết model, điều này tương đương với việc tối thiểu hóa hàm mất mát, thường bằng gradient descent.
- Khả năng khái quát hóa: Model linh hoạt có thể khớp cả nhiễu trong tập huấn luyện, vì vậy hiệu năng được đo trên dữ liệu giữ lại; đánh đổi bias-variance mô tả sự cân bằng giữa model quá đơn giản và quá linh hoạt so với dữ liệu.
- Độ tin cậy theo mức độ: Dự đoán đi kèm xác suất để các hệ thống phía sau có thể đặt ngưỡng, xếp hạng hoặc kết hợp với bằng chứng khác.
Bộ lọc thư rác Naive Bayes minh họa những ý tưởng này chỉ bằng vài dòng mã. Bộ lọc ước lượng tần suất xuất hiện của từng từ trong thư rác và thư bình thường, sau đó kết hợp các ước lượng bằng định lý Bayes để chấm điểm thư mới:
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.naive_bayes import MultinomialNB
# Labeled examples replace hand-written rules: 1 = spam, 0 = not spam
messages = ["win a free prize now", "claim your free cash reward", "limited offer, click now to win"]
messages += ["meeting moved to monday", "can you review my draft today", "lunch with the team on friday"]
labels = [1, 1, 1, 0, 0, 0]
# Count words, then estimate each word's probability under each class
vectorizer = CountVectorizer()
model = MultinomialNB()
model.fit(vectorizer.fit_transform(messages), labels)
for text in ["free prize inside", "draft for monday", "free lunch on friday"]:
spam_probability = model.predict_proba(vectorizer.transform([text]))[0, 1]
print(f"{text!r}: P(spam) = {spam_probability:.2f}")"free prize inside" có xác suất thư rác 0.86, còn "draft for monday" là 0.21; trong khi "free lunch on friday", kết hợp các từ thuộc cả hai lớp, đạt 0.29. Model học được rằng "free" báo hiệu thư rác chỉ từ sáu thư đã gán nhãn.
Các nhóm phương pháp thống kê#
AI thống kê bao gồm từ các model xác suất nhỏ đến mạng sâu có hàng tỷ tham số; các nhóm phương pháp đánh đổi cấu trúc có sẵn lấy dữ liệu. Model đồ thị mã hóa tường minh các quan hệ phụ thuộc và hoạt động với ít dữ liệu; các phương pháp cổ điển như k láng giềng gần nhất và cây tăng cường gradient như XGBoost và LightGBM học từ các bảng đặc trưng; còn mạng sâu tự học đặc trưng từ đầu vào thô:
AI thống kê và các thuật ngữ liên quan#
- AI biểu tượng: Biểu diễn tri thức bằng các ký hiệu và quy tắc tường minh, chẳng hạn các câu lệnh nếu-thì của hệ chuyên gia, rồi suy ra kết luận bằng suy luận logic. Quá trình lập luận có thể truy vết từng bước và không cần dữ liệu huấn luyện, nhưng thất bại với đầu vào nằm ngoài phạm vi quy tắc.
- Học máy: Lĩnh vực thực hành chính của AI thống kê. Hai thuật ngữ này gần như đồng nghĩa hoàn toàn; "AI thống kê" chủ yếu xuất hiện khi phân biệt phương pháp dựa trên dữ liệu với phương pháp biểu tượng.
- AI neuro-symbolic: Kết hợp model đã học với suy luận ký hiệu, chẳng hạn LLM gọi máy tính, truy vấn cơ sở dữ liệu hoặc trình chứng minh định lý.
- Logic mờ: Gán mức độ đúng trong khoảng từ 0 đến 1 cho các phát biểu mơ hồ như "căn phòng ấm áp"; đây là cách đo độ mơ hồ, khác với xác suất của một sự kiện.
Ứng dụng thực tế#
- Lọc thư rác: Bài luận Kế hoạch chống thư rác năm 2002 của Paul Graham phổ biến các bộ lọc Bayes học xác suất từ ngữ từ thư của từng người dùng; các bộ lọc ngày nay áp dụng cùng ý tưởng cho nhiều tín hiệu hơn.
- Dịch máy: Google Translate ra mắt năm 2006 với công nghệ dịch máy thống kê, học xác suất dịch cụm từ từ văn bản song song, rồi chuyển sang dịch máy nơ-ron vào năm 2016.
- Sinh văn bản: LLM tạo văn bản bằng cách lấy mẫu từ phân phối xác suất trên từ vựng ở mỗi bước; thiết lập nhiệt độ làm phân phối tập trung hoặc dàn đều hơn trước mỗi lần lấy mẫu.
- Thị giác máy tính: Bộ phát hiện vật thể là các model thống kê từ đầu đến cuối. Ultralytics YOLO26 học trọng số bằng cách tối thiểu hóa hàm mất mát trên ảnh có nhãn, trả về điểm số độ tin cậy cho từng bounding box và trong chế độ predict loại bỏ các box thấp hơn ngưỡng
conf, mặc định là 0.25.










