AI Factory

Nhà máy AI là một hệ thống tích hợp, liên tục chuyển đổi dữ liệu thành đầu ra AI hữu ích, chẳng hạn như dự đoán, đề xuất, nội dung được tạo hoặc quyết định tự động. Tương tự nhà máy sản xuất, hệ thống này kết nối đầu vào, các giai đoạn xử lý, bước kiểm tra chất lượng và khâu bàn giao thành một quy trình sản xuất có thể lặp lại. “Sản phẩm” của hệ thống là trí tuệ chứ không phải hàng hóa vật chất; phạm vi của hệ thống bao gồm cơ sở hạ tầng, phần mềm và nhân sự cần thiết để phát triển và vận hành AI một cách đáng tin cậy.

Thuật ngữ này mô tả cả hệ thống vận hành AI đầu cuối của một tổ chức lẫn hạ tầng tính toán được thiết kế chuyên dụng cho các workload AI quy mô lớn. Trong thị giác máy tính, điều này có nghĩa là kết nối các khâu thu thập hình ảnh, gán nhãn, huấn luyện, đánh giá, triển khai và phản hồi. Ultralytics Platform hỗ trợ các giai đoạn được kết nối này để xây dựng và vận hành ứng dụng Ultralytics YOLO.

Cách Nhà máy AI Hoạt động#

Nhà máy AI bắt đầu với một pipeline dữ liệu: quy trình có thể lặp lại để thu thập, làm sạch, sắp xếp và bảo vệ thông tin. Đối với các ứng dụng thị giác, chú thích dữ liệu bổ sung nhãn để xác định đối tượng hoặc vùng trong hình ảnh. Việc gán nhãn nhất quán và dữ liệu có tính đại diện tạo nền tảng hữu ích để các model học hỏi.

Tiếp theo, các nhóm huấn luyện hoặc điều chỉnh model, rồi đánh giá chúng trên dữ liệu được giữ riêng, không dùng trong quá trình huấn luyện. Theo dõi thử nghiệm ghi lại cấu hình, metric và artifact của model để các nhóm có thể so sánh các ứng viên và tái tạo kết quả. Các bước kiểm tra chất lượng xác định liệu một ứng viên đã sẵn sàng đưa vào production hay chưa.

Triển khai giúp ứng dụng có thể sử dụng model đã được phê duyệt. Trong quá trình inference, model xử lý đầu vào mới và tạo ra đầu ra. Sau đó, hoạt động giám sát theo dõi tình trạng dịch vụ và hành vi của model, trong khi các ví dụ thực tế đã được xem xét có thể cung cấp thông tin cho chu kỳ phát triển tiếp theo. Vòng lặp phản hồi này biến nhà máy thành một năng lực liên tục thay vì một dự án huấn luyện chỉ thực hiện một lần.

Trong Platform, các nhóm có thể sắp xếp dataset, sử dụng tính năng gán nhãn có AI hỗ trợ, huấn luyện model như YOLO26, kiểm thử dự đoán, đồng thời xuất hoặc triển khai các model đã được phê duyệt. Việc kết nối các giai đoạn này giảm bớt các bước chuyển giao giữa công cụ và giúp sắp xếp công việc phát triển.

Hạ tầng và các Khái niệm Liên quan#

Ở quy mô hạ tầng, nhà máy AI kết hợp năng lực tính toán tăng tốc, lưu trữ, mạng, phần mềm điều phối và bảo mật. GPU cung cấp khả năng tính toán song song, trong khi hệ thống lưu trữ và mạng phải truyền dữ liệu đủ nhanh để duy trì hiệu suất của tài nguyên tính toán. Nguồn điện và hệ thống làm mát cũng giới hạn công suất. Trong kiến trúc nhà máy AI doanh nghiệp, các thành phần này được thiết kế đồng bộ dựa trên workload mà chúng cần hỗ trợ.

Ba điểm khác biệt sau giúp làm rõ thuật ngữ này:

• Trung tâm dữ liệu: Cung cấp cơ sở vật chất và tài nguyên tính toán. Nhà máy AI bổ sung các quy trình hướng đến AI, biến những tài nguyên đó thành hoạt động sản xuất có thể lặp lại.
• MLOps: Các phương pháp kỹ thuật được sử dụng để quản lý vòng đời machine learning. MLOps hỗ trợ vận hành nhà máy AI; nhà máy còn bao gồm hạ tầng và quy trình kinh doanh.
• Nhà máy thông minh: Sản xuất sản phẩm vật lý bằng tự động hóa được kết nối. Nhà máy thông minh có thể sử dụng các dịch vụ AI do nhà máy AI tạo ra, nhưng hai thuật ngữ này mô tả các đầu ra khác nhau.

Nhà máy AI có thể bao gồm hệ thống tại chỗ, tài nguyên đám mây và thiết bị biên. Đặc điểm định nghĩa nhà máy AI là quy trình sản xuất được điều phối, chứ không phải quyền sở hữu một tòa nhà hoặc thương hiệu phần cứng cụ thể.

Ứng dụng trong Kinh doanh và Thị giác máy tính#

Nhà máy AI hỗ trợ dự đoán, nhận dạng mẫu và tự động hóa quy trình trong nhiều ngành. Các ứng dụng đã phổ biến gồm phiên đấu giá quảng cáo của Google, tình trạng sẵn có của dịch vụ gọi xe Uber và định giá sản phẩm của Amazon. Những ứng dụng này phụ thuộc vào việc xử lý liên tục dữ liệu biến động và đưa ra quyết định ở quy mô vận hành.

Một quy trình thị giác máy tính cụ thể được thể hiện trong các bản cập nhật model dựa trên edge của Scaleout. Hệ thống chọn các khung hình hữu ích từ video ghi tại hiện trường, hướng dẫn nhân viên gán nhãn, tinh chỉnh model YOLO trên phần cứng tại chỗ và phân phối lại các model đã cập nhật, đồng thời giữ video thô tại địa điểm ghi hình. Quy trình này minh họa một vòng lặp sản xuất phân tán, trong đó dữ liệu khó có thể tập trung về một nơi.

Chất lượng, Giám sát và Rủi ro Vận hành#

Nhà máy AI cần các bước kiểm tra riêng biệt cho độ tin cậy của hạ tầng và chất lượng dự đoán. Tính năng giám sát triển khai của Platform theo dõi số lượng request, độ trễ, lỗi và log. Các tín hiệu này cho thấy sự cố dịch vụ, nhưng để đo độ chính xác cũng cần có các ví dụ được gán nhãn nhằm đánh giá dự đoán.

Trong các hệ thống thị giác đã triển khai, data drift xảy ra khi hình ảnh đầu vào khác với dữ liệu được sử dụng trong quá trình phát triển. Những thay đổi về ánh sáng hoặc điều kiện vận hành có thể làm giảm chất lượng phát hiện ngay cả khi dịch vụ vẫn khả dụng. Các mẫu đã được xem xét, tập đánh giá có tính đại diện và quy trình huấn luyện lại có kiểm soát giúp các nhóm xử lý tình trạng suy giảm này.

Các nút thắt hạ tầng gây ra những hệ quả khác nhau: tốc độ lưu trữ chậm hoặc băng thông mạng không đủ có thể khiến GPU phải chờ dữ liệu, kéo dài thời gian xử lý và làm tăng chi phí. Vì vậy, hoạt động vận hành hiệu quả cần đánh giá cả chất lượng đầu ra hữu ích lẫn tài nguyên cần thiết để tạo ra đầu ra đó.