Lựa chọn nhà cung cấp thị giác máy tính: Hướng dẫn mua sắm doanh nghiệp

Model chỉ là phần dễ. Trong computer vision cấp độ doanh nghiệp, công việc thực sự nằm ở dữ liệu được gán nhãn (labeled data) đằng sau model và việc vận hành inference trên camera ở edge, và nửa vế sau đó chính là nơi hầu hết các chương trình lặng lẽ chững lại. Các cẩm nang mua sắm trong lĩnh vực này giờ đây đánh giá cao độ chính xác trên chính hình ảnh của bạn và tính thực tế của việc triển khai ở edge hơn là so sánh độ rộng của các tính năng pretrained mà các bản RFP cũ thường quá tập trung, bởi vì một API dạng quản lý (managed API) đã bao phủ các tính năng tổng quát rồi nhưng dự án vẫn thất bại ở các trường hợp khó, đặc thù và bị ràng buộc bởi độ trễ.

Cẩm nang này so sánh tám nhà cung cấp dựa trên hai quyết định quyết định kiến trúc: pretrained API hoặc custom model, và cloud hoặc edge. Chỉ so sánh các điều khoản thương mại sau khi các yêu cầu đó đã được chốt; nếu không, các báo giá sẽ mô tả những hệ thống khác nhau.

Hai quyết định quan trọng#

Trước khi so sánh các nhà cung cấp, hãy đặt chương trình của bạn lên hai trục này. Hầu như mọi sai lầm trong việc mua sắm ở lĩnh vực này đều là do chọn nhầm nhà cung cấp cho sai góc phần tư.

Pretrained API so với custom model. Nếu tác vụ của bạn mang tính tổng quát (đọc văn bản từ tài liệu, phát hiện đối tượng phổ biến, kiểm duyệt nội dung) thì managed API sẽ giải quyết được ngay lập tức mà không cần nhân sự ML. Nếu tác vụ của bạn đặc thù cho sản phẩm, linh kiện hoặc quy trình của mình, không một pretrained API nào đạt được độ chính xác khi đưa vào production và bạn thực sự đang mua một pipeline huấn luyện và dữ liệu.

Cloud so với edge. Nếu inference có thể chịu được độ trễ của việc khứ hồi đến data center, các nhà cung cấp cloud là con đường ít kháng cự nhất. Nếu không thể (một dây chuyền chạy tốc độ cao, một phương tiện di chuyển, một địa điểm có kết nối kém, hoặc dữ liệu không được phép rời khỏi cơ sở) thì việc triển khai ở edge là yêu cầu loại bỏ hầu hết danh sách rút gọn.

Một chương trình mua nền tảng nhưng bỏ qua công việc về dữ liệu và vòng đời (lifecycle) sẽ cho ra mắt một bản pilot không bao giờ chạm đến được production. Hãy dự trù ngân sách cho việc gán nhãn và MLOps như là nỗ lực chính, đồng thời chứng minh độ chính xác trên những hình ảnh khó nhất của bạn trước khi ký kết bất kỳ điều gì.

Các nhà cung cấp được liệt kê theo thứ tự bảng chữ cái, không xếp hạng. Ultralytics xuất bản cẩm nang này và có xuất hiện trong đó, vì vậy thứ tự được giữ trung lập một cách có chủ đích và mọi nhà cung cấp đều đi kèm một đánh đổi được nêu rõ.

AWS: Rekognition và SageMaker AI#

Nó là gì. Hai lớp: Amazon Rekognition làm vision API dạng quản lý, Amazon SageMaker AI làm nền tảng huấn luyện và triển khai custom.

Ưu điểm. Rekognition cung cấp tính năng phân tích hình ảnh và video hoàn toàn quản lý (kiểm duyệt nội dung, phát hiện nhãn và văn bản, phát hiện PPE) cùng với Custom Labels để huấn luyện model chuyên biệt cho tác vụ mà không cần nhân sự ML. Sự tích hợp sâu với S3, Lambda và Kinesis Video biến nó thành con đường ít kháng cự nhất cho các pipeline mang tính nguyên bản của AWS. Khi các yêu cầu vượt quá giới hạn của API, SageMaker AI hỗ trợ huấn luyện phân tán, điểm cuối tự động co giãn (autoscaling endpoints), cụm GPU và CPU, pipeline triển khai và theo dõi thử nghiệm trên các framework phổ biến.

Rekognition cũng cung cấp tính năng so sánh và tìm kiếm khuôn mặt. Hãy coi đó là một câu hỏi mua sắm riêng biệt thay vì một tính năng bổ sung: xử lý sinh trắc học đi kèm với rủi ro tuân thủ riêng, nghĩa vụ đồng thuận và, ở một số khu vực tài phán, các khoản bồi thường theo luật định. Nếu bạn không cần tính năng đó, hãy loại trừ nó một cách rõ ràng và lưu ý rằng hầu hết các trường hợp sử dụng vision gắn mác "bảo mật" đều không yêu cầu nó.

Điểm đánh đổi. Độ rộng là có thật nhưng công sức lắp ráp cũng vậy: Rekognition cộng với SageMaker cộng với lưu trữ cộng với điều phối là một kiến trúc, chứ không phải một sản phẩm. Edge yếu hơn so với nhóm tự xây dựng (build-your-own).

Phù hợp nhất cho. Các tổ chức thuần AWS muốn có vision dạng quản lý ngay lập tức và có tùy chọn xây dựng custom sau đó mà không cần thay đổi hạ tầng cloud.

Lưu ý khi mua sắm. Tính năng phát hiện PPE thực sự hữu ích cho việc giám sát an toàn và thường là tuyến đường nhanh nhất để đạt được thành công đầu tiên có thể bảo vệ được trước các bên liên quan.

Azure AI Vision#

Nó là gì. Ngăn xếp vision dạng quản lý của Microsoft, bao gồm các API làm sẵn và huấn luyện model custom.

Ưu điểm. Azure AI Vision cung cấp các API sẵn sàng sử dụng cho việc phân tích hình ảnh, OCR và trích xuất văn bản, phát hiện đối tượng và thông tin chi tiết về video, với việc triển khai và co giãn được xử lý mà không cần quản lý hạ tầng bên dưới. Đối với các đội ngũ cần các model phân loại hoặc phát hiện được huấn luyện riêng của họ, Azure Machine Learning, bao gồm cả khả năng AutoML, là lộ trình hiện tại và nó bao phủ toàn bộ vòng đời.

Lưu ý khi mua sắm: kiểm tra vòng đời dịch vụ, không chỉ danh sách tính năng. Microsoft đã đưa dịch vụ Custom Vision cũ vào lộ trình ngừng hoạt động và hướng dẫn khách hàng xây dựng model phân loại và phát hiện custom sang Azure Machine Learning thay thế. Bất kỳ thứ gì được xây dựng trên Custom Vision hiện tại đều mang theo một quá trình di chuyển (migration) trong lộ trình của nó. Đây là cách phổ biến nhất khiến việc đánh giá cloud vision đi chệch hướng: một dịch vụ trông có vẻ lý tưởng trong phần so sánh tính năng nhưng thực ra đã lỗi thời, và các bài viết so sánh đã cung cấp thông tin cho danh sách rút gọn lại chưa được cập nhật. Hãy yêu cầu bất kỳ nhà cung cấp hyperscaler nào cung cấp trạng thái hỗ trợ và khai tử (deprecation) của từng dịch vụ cụ thể được nêu trong đề xuất của họ, bằng văn bản.

Điểm đánh đổi. Giống như bất kỳ dịch vụ vision của hyperscaler nào, bài toán kinh tế dựa trên mức độ tiêu thụ, và chi phí có thể gây bất ngờ cho các đội ngũ ở quy mô lớn. Việc triển khai ở edge là khả thi nhưng không phải là trọng tâm thiết kế.

Phù hợp nhất cho. Các tổ chức đã tiêu chuẩn hóa trên Azure, cần OCR và khả năng thấu hiểu tài liệu mạnh mẽ, đồng thời muốn sử dụng các dịch vụ quản lý thay vì duy trì một đội ngũ ML.

Lưu ý khi mua sắm. Hãy mô hình hóa chi phí trên mỗi inference ở quy mô production, chứ không phải ở quy mô pilot. Định giá theo mức độ tiêu thụ chính là thứ đẩy một business case đã được phê duyệt rơi vào trạng thái lỗ.

Cognex#

Nó là gì. Một công ty dẫn đầu toàn cầu về machine vision, cung cấp phần cứng và phần mềm tự động hóa cho sản xuất và logistics.

Ưu điểm. Cognex là đơn vị đương nhiệm trong lĩnh vực industrial vision có lý do chính đáng: các sản phẩm của họ được triển khai rộng rãi trong việc phát hiện lỗi và kiểm soát chất lượng, xác nhận có/không có mặt sản phẩm, cùng với đọc mã vạch và khả năng truy xuất nguồn gốc trong logistics và đóng gói. Cognex VisionPro Deep Learning (kế nhiệm dòng sản phẩm ViDi) bổ sung deep learning cấp độ công nghiệp được xây dựng dành riêng cho tự động hóa nhà máy, bên cạnh các tùy chọn edge-learning cho các bài kiểm tra đơn giản hơn. Khi một chương trình cần vision tích hợp với PLC và tồn tại được trong môi trường nhà máy, đây là thiết bị đã được kiểm chứng thực tế thay vì một dịch vụ cloud hướng vào camera.

Điểm đánh đổi. Bạn đang mua vào một hệ sinh thái phần cứng công nghiệp, đi kèm với cấu trúc chi phí và việc trói buộc nhà cung cấp (vendor lock-in) mà nó hàm ý. Đây là lựa chọn sai lầm cho các đội ngũ cloud-native, hướng-phần-mềm.

Phù hợp nhất cho. Các chương trình sản xuất và logistics nơi hệ thống vision là một phần của dây chuyền sản xuất, chứ không phải một phần của nền tảng dữ liệu.

Lưu ý khi mua sắm. Hãy hỏi cách các model được cập nhật khi dây chuyền đang chạy. Nhịp độ huấn luyện lại (retraining rhythm) trên thiết bị nhà máy là một câu hỏi vận hành rất khác so với việc triển khai lại một điểm cuối cloud.

Encord#

Nó là gì. Một nền tảng tập trung vào dữ liệu, chuyên về gán nhãn và chất lượng tập dữ liệu.

Ưu điểm. Định vị của Encord là chất lượng dữ liệu, chứ không phải kiến trúc model, mới là yếu tố quyết định kết quả: với bộ công cụ dành cho gán nhãn, quản lý tuyển tập (curation) và quản lý chất lượng, cùng với các thế mạnh được nhắc đến trong y tế hình ảnh (medical imaging) và video.

Điểm đánh đổi. Nó giải quyết một nửa vấn đề về dữ liệu. Việc huấn luyện và triển khai vẫn cần một nơi chốn khác để thực hiện.

Phù hợp nhất cho. Các chương trình nơi chất lượng gán nhãn là nút thắt cổ chai, đặc biệt là trong các lĩnh vực được quản lý ngặt nghèo hoặc chuyên môn cao.

Landing AI#

Nó là gì. Một nền tảng kiểm tra trực quan trong sản xuất, do Andrew Ng sáng lập.

Lưu ý trước khi đưa vào danh sách rút gọn. Landing AI đã định vị lại xung quanh AI tài liệu và agentic AI, và dòng sản phẩm kiểm tra của họ đang được duy trì hơn là làm trọng tâm tiêu đề. ABB Motion Ventures đã đầu tư vào năm 2025 cụ thể để đưa vision AI của hãng này vào robot ABB, vì vậy khả năng này có hướng đi rõ ràng, nhưng hãy hỏi trực tiếp về các cam kết lộ trình cho việc kiểm tra nhà máy.

Ưu điểm. Landing AI nhắm đến một vấn đề cụ thể và thực sự khó: kiểm tra trực quan nơi các ví dụ về lỗi rất hiếm. Các kỹ thuật của hãng được thiết kế cho các tập dữ liệu nhỏ, vốn là trạng thái bình thường trong bối cảnh công nghiệp: bạn không thể thu thập hàng nghìn ví dụ về một lỗi chỉ xuất hiện hai lần một tháng.

Điểm đánh đổi. Sự tập trung đó làm hẹp đi phạm vi phù hợp. Đối với vision đa mục đích trên nhiều loại tác vụ, một nền tảng rộng hơn sẽ phục vụ tốt hơn.

Phù hợp nhất cho. Các nhà sản xuất gặp vấn đề phát hiện lỗi nhưng không đủ hình ảnh lỗi để huấn luyện một model thông thường.

Lưu ý khi mua sắm. Đây là nhà cung cấp nên được đưa vào danh sách rút gọn khi điểm nghẽn của bạn là sự khan hiếm dữ liệu chứ không phải năng lực model. Hãy chứng minh điều đó trên lớp lỗi hiếm nhất của bạn.

NVIDIA#

Nó là gì. Lớp tính toán và phần mềm đứng bên dưới phần lớn vision doanh nghiệp: phần cứng gia tốc, bộ công cụ model pretrained, và các framework triển khai cho phân tích edge và video.

Ưu điểm. Sự liên quan của NVIDIA trong việc mua sắm thường mang tính cấu trúc hơn là cấp độ ứng dụng: hãng cung cấp GPU để chạy huấn luyện và các mô-đun Jetson để chạy inference ở edge, cộng với lớp nền tảng Metropolis: DeepStream cho các pipeline phân tích video đa luồng và TAO cho việc huấn luyện và tối ưu hóa model. Đối với các chương trình triển khai vision trên nhiều luồng camera, câu hỏi về nền tảng và câu hỏi về NVIDIA thường là một.

Điểm đánh đổi. Nó là hạ tầng, không phải ứng dụng. Bạn vẫn cần pipeline dữ liệu, các model và công việc tích hợp, từ chính đội ngũ của bạn hoặc từ một nhà cung cấp khác.

Phù hợp nhất cho. Các chương trình chạy nhiều luồng camera ở edge, hoặc huấn luyện các custom model ở quy mô lớn.

Lưu ý khi mua sắm. Thời gian giao hàng phần cứng và hỗ trợ vòng đời phải nằm trong hợp đồng. Một đội ngũ thiết bị edge là cam kết 5 năm đối với một mô-đun mà bạn vẫn phải có khả năng mua được vào năm thứ ba.

Roboflow#

Nó là gì. Một nền tảng end-to-end hướng đến lập trình viên dành cho computer vision.

Ưu điểm. Roboflow phổ biến trong việc tạo mẫu nhanh (rapid prototyping), xử lý quản lý tập dữ liệu, tăng cường dữ liệu (augmentation) và huấn luyện model, với tính năng gán nhãn hỗ trợ bởi AI, huấn luyện không cần code (no-code training) và triển khai từ cloud đến edge. Đối với các đội ngũ lặp nhanh trên các trường hợp sử dụng mới, nó loại bỏ phần lớn công việc thiết lập.

Điểm đánh đổi. Công cụ hướng đến lập trình viên đòi hỏi phải có lập trình viên. Nó không phải là một dịch vụ quản lý cấp độ doanh nghiệp.

Phù hợp nhất cho. Các đội ngũ muốn chuyển từ ý tưởng sang một model hoạt động được chỉ trong vài ngày thay vì vài quý.

Ultralytics#

Nó là gì. Một nền tảng vision bao gồm gán nhãn, quản lý tập dữ liệu và huấn luyện, được xây dựng xung quanh các open models được áp dụng rộng rãi.

Ưu điểm. Ultralytics Platform hỗ trợ sáu tác vụ gán nhãn (phát hiện đối tượng, phân đoạn thực thể, phân đoạn ngữ nghĩa, phân loại, ước lượng tư thế và phát hiện đối tượng có định hướng) với tính năng gán nhãn thông minh hỗ trợ bởi SAM tạo ra mặt nạ (masks) và hộp bao (bounding boxes) trong một cú nhấp chuột cho các tác vụ phát hiện, phân đoạn, phân đoạn ngữ nghĩa và hộp định hướng: tác vụ ước lượng tư thế và phân loại được gán nhãn thủ công, điều này đáng để kiểm tra lại với danh mục tác vụ của bạn. Tính năng nhập và xuất trải dài qua YOLO, COCO và VOC, vì vậy nó phù hợp với các pipeline hiện có thay vì thay thế chúng, đồng thời tính năng đánh giá theo nhóm và quản lý phiên bản tập dữ liệu được tích hợp sẵn. Lợi thế mua sắm nằm ở tính liên tục và khả năng di chuyển: các model là mã nguồn mở và được triển khai rộng rãi, tập dữ liệu bạn gán nhãn chính là tập dữ liệu bạn huấn luyện, và không có cái nào bị mắc kẹt trong định dạng độc quyền.

Chi tiết mua sắm. Ultralytics Platform đạt chứng nhận SOC 2 Type I và ISO 27001:2022, với mã hóa khi đang truyền (in transit) và khi lưu trữ (at rest) cùng sự tuân thủ GDPR và CCPA. Hãy đọc kỹ chứng nhận Type I: nó chứng thực thiết kế kiểm soát tại một thời điểm nhất định, chứ không phải hiệu quả hoạt động trong một khoảng thời gian, đó là chứng nhận Type II: một số nhà cung cấp ở trên nắm giữ chứng nhận Type II, và nếu chính sách của bạn yêu cầu điều đó thì đó là một sự khác biệt thực sự chứ không phải chi tiết kỹ thuật. Vị trí lưu trữ dữ liệu (data residency) có thể được ghim cố định ở Mỹ, EU hoặc AP. Giá GPU trên cloud được công bố theo giờ thay vì báo giá riêng, và việc thanh toán theo hình thức pay-as-you-go, biến nó thành một trong số ít các tùy chọn trên trang này mà bạn có thể mô hình hóa chính xác trước khi có cuộc trò chuyện với bộ phận sales.

Cấp phép: hãy đọc phần này trước khi so sánh tính năng. Các model Ultralytics YOLO được phát hành theo giấy phép AGPL-3.0, một giấy phép copyleft mạnh mẽ. Việc triển khai thương mại hoặc độc quyền thường đòi hỏi giấy phép Ultralytics Enterprise, cũng bao gồm việc triển khai riêng tư (private deployment) và hỗ trợ nâng cao. Hãy tính chi phí của giấy phép đó vào bất kỳ sự so sánh nào với một nền tảng được cấp phép thương mại, và trình bày nó trước bộ phận pháp lý từ sớm: "mã nguồn mở" và "không tốn phí bản quyền" không phải là một câu nói giống nhau, và đây là cách phổ biến nhất khiến một business case vision vốn dĩ hợp lý lại bị đình trệ ở giai đoạn ký kết hợp đồng.

Điểm đánh đổi. Đây là một nền tảng dành cho các đội ngũ sẽ tự làm chủ model của họ. Các tổ chức muốn một dịch vụ quản lý mang lại kết quả hoàn chỉnh nên tìm đến các nhà cung cấp dịch vụ thay thế. Đây cũng là tùy chọn mới nhất ở đây: Ultralytics Platform ra mắt vào tháng 3 năm 2026, trong khi Azure, AWS, Cognex và NVIDIA có lịch sử mua sắm lâu đời, mạng lưới hỗ trợ được thiết lập và các khách hàng tham chiếu mà một hội đồng e ngại rủi ro sẽ yêu cầu. Khi độ dài lịch sử hoạt động hoặc chứng nhận Type II là yêu cầu bắt buộc, điều đó chỉ ra các lựa chọn khác.

Phù hợp nhất cho. Các doanh nghiệp muốn có các custom vision model do chính họ kiểm soát, được triển khai ở bất cứ đâu họ chọn: bao gồm cả trên hạ tầng của riêng họ, không phụ thuộc vào chi phí per-inference của một nhà cung cấp cloud. Lưu ý rằng bản thân nền tảng quản lý có tính phí cho giờ huấn luyện GPU và việc sử dụng endpoint; sự khác biệt là các model đã xuất (exported models) có thể chạy hoàn toàn trên hạ tầng thuộc sở hữu của bạn.

So sánh nhanh#

Bạn nên chọn nhà cung cấp nào?#

Sáu tình huống bao phủ hầu hết các chương trình doanh nghiệp. Hãy tìm tình huống của bạn.

Bạn cần OCR, thấu hiểu tài liệu hoặc phát hiện đối tượng tổng quát, và bạn đang dùng Azure. Hãy chọn Azure AI Vision. Các API sẵn sàng sử dụng, không cần nhân sự ML, và công việc tích hợp là tối thiểu. Hãy mô hình hóa chi phí trên mỗi inference ở quy mô production trước khi bạn cam kết: định giá theo mức độ tiêu thụ chính là thứ làm hỏng các business case đã được phê duyệt.

Bạn cần vision quản lý bên trong một pipeline thuần AWS. Hãy chọn AWS. Rekognition xử lý việc kiểm duyệt, tìm kiếm khuôn mặt, PPE và phát hiện nhãn ngay khi mở hộp, và SageMaker sẵn sàng khi bạn vượt quá giới hạn của nó mà không cần đổi cloud. Hãy chuẩn bị tinh thần lắp ráp một kiến trúc thay vì mua một sản phẩm.

Bạn đang kiểm tra các linh kiện trên một dây chuyền sản xuất. Hãy chọn Cognex nếu hệ thống vision phải nằm trên dây chuyền, tích hợp với PLC và sống sót trong môi trường nhà máy. Thay vào đó, hãy chọn Landing AI nếu điểm nghẽn của bạn là các lỗi quá hiếm để có thể huấn luyện theo cách thông thường. Đó là vấn đề về dữ liệu, không phải vấn đề về thiết bị, và nó cần một công cụ khác.

Bạn đang triển khai trên nhiều luồng camera ở edge. Hãy chọn NVIDIA làm lớp nền tảng, sau đó quyết định độc lập xem ai cung cấp các model và pipeline dữ liệu. Đây là quyết định hạ tầng không giải quyết quyết định ứng dụng.

Bạn cần di chuyển nhanh và chứng minh giá trị. Hãy chọn Roboflow để lặp nhanh, hoặc Ultralytics Platform nếu các model bạn làm mẫu cũng chính là các model bạn dự định chạy trong production. Sự khác biệt nằm ở việc bạn đang khám phá hay đang xây dựng.

Dữ liệu được gán nhãn là nút thắt cổ chai của bạn. Hãy chọn Encord nếu chất lượng gán nhãn và tuyển tập là ràng buộc, hoặc Ultralytics Platform nếu bạn muốn việc gán nhãn được kết nối trực tiếp với huấn luyện thay vì phải bàn giao qua lại giữa các công cụ.

Khi cả hai tùy chọn đều phù hợp, hãy chọn bên có chi phí rút lui rẻ hơn. Các định dạng model mở và tập dữ liệu dễ di chuyển không tốn gì khi mọi thứ suôn sẻ và tốn tất cả mọi thứ khi mọi chuyện trục trặc.

Những gì cần đưa vào bản RFP#

Các câu hỏi dưới đây phân loại các nhà cung cấp nhanh hơn bất kỳ ma trận tính năng nào, bởi vì chúng là những câu hỏi mà một bên không phù hợp sẽ không thể trả lời một cách rõ ràng.

Về độ chính xác. Độ chính xác được đo lường của bạn trên các hình ảnh proof-of-concept của chúng tôi là bao nhiêu, được chia nhỏ theo các lớp lỗi của chúng tôi thay vì gộp chung? Con số đó thay đổi như thế nào dưới điều kiện ánh sáng tồi tệ nhất của chúng tôi?

Về triển khai. Phần cứng chính xác nào chạy inference, độ trễ end-to-end bao gồm cả việc chụp ảnh là bao nhiêu, và hành vi hệ thống ra sao khi kết nối bị rớt? Ai là người trực tiếp cập nhật model trên một thiết bị đã được lắp đặt sẵn?

Về dữ liệu. Ai sở hữu dữ liệu được gán nhãn? Chúng ta có thể xuất dữ liệu ở định dạng mở bất cứ lúc nào không? Phần nào từ dữ liệu của chúng tôi được sử dụng để cải thiện sản phẩm của bạn, và chúng tôi có quyền từ chối tham gia không?

Về vòng đời. Mất bao lâu để huấn luyện lại và triển khai lại sau khi chúng ta phát hiện một lỗi mới? Hãy hướng dẫn chúng tôi quy trình đó theo trình tự các bước kèm theo người phụ trách cụ thể.

Về chi phí thương mại. Chi phí trong ba năm theo khối lượng dự kiến của chúng tôi là bao nhiêu, được chia nhỏ thành các khoản: giấy phép, điện toán, lưu trữ, nhân công gán nhãn và hỗ trợ? Điều gì kích hoạt việc thay đổi giá?

Về quyền rút lui. Nếu chúng ta chấm dứt hợp đồng vào năm thứ hai, chúng ta giữ lại được những gì: dữ liệu, model, hay không giữ lại gì cả?

Từ thử nghiệm (pilot) đến sản xuất#

Hầu hết các chương trình trong danh mục này không thất bại ở giai đoạn thử nghiệm. Chúng thất bại ở khoảng cách giữa một bản thử nghiệm hoạt động tốt và một hệ thống sản xuất không bao giờ thực sự thành hình.

Đặt ra tiêu chuẩn sản xuất trước khi giai đoạn thử nghiệm bắt đầu. Hãy quyết định mức độ chính xác, độ trễ và chi phí cho mỗi lần suy luận (inference) để biện minh cho việc triển khai rộng rãi, và ghi chép lại các tiêu chí đó. Một bản thử nghiệm không có điểm chuẩn để vượt qua thì luôn thành công, đó là lý do tại sao nó chẳng cung cấp cho bạn thông tin gì có giá trị.

Thử nghiệm tại địa điểm tồi tệ nhất, không phải địa điểm tốt nhất. Dây chuyền chủ lực với hệ thống chiếu sáng tốt và một giám sát viên nhiệt tình sẽ khiến bất kỳ nhà cung cấp nào trông cũng có vẻ năng lực. Địa điểm có vấn đề mới là nơi việc triển khai thực tế sẽ bị đánh giá.

Dự trù ngân sách cho model thứ hai. Model đầu tiên được xây dựng với sự tập trung của nhà cung cấp và một bộ dữ liệu sạch. Model thứ mười được xây dựng bởi đội ngũ của bạn vào một ngày Thứ Ba nào đó. Nếu model thứ hai không thể được xây dựng mà không có nhà cung cấp ngồi trực tiếp ở đó, thì chương trình đó không thể mở rộng quy mô.

Chỉ định người chịu trách nhiệm về chất lượng dữ liệu. Mọi chương trình thất bại trong danh mục này đều thiếu một vai trò giống nhau: một người chịu trách nhiệm về bộ dữ liệu được gán nhãn theo thời gian. Đó không phải là công việc làm thêm giờ của kỹ sư ML và cũng không thuộc về bộ phận mua sắm.

Các tiêu chí đánh giá vẫn đúng khi tiếp xúc với môi trường sản xuất#

Cân nhắc các yếu tố này dựa trên tác vụ của bạn và nơi quá trình suy luận (inference) phải chạy.

Độ chính xác trên hình ảnh của chính bạn, không phải trên bộ benchmark. Hãy kiên quyết yêu cầu thực hiện một bằng chứng khái niệm (proof of concept) bằng cách sử dụng những hình ảnh khó nhất của chính bạn: ánh sáng kém, vật bị che khuất, các trường hợp ngoại biên (edge cases) mà các vận hành viên của bạn thường phàn nàn. Một nhà cung cấp không sẵn sàng thực hiện việc này đang ngầm báo hiệu cho bạn điều gì đó.

Tính thực tế của việc triển khai ở biên (edge deployment). Hỏi cụ thể: phần cứng nào, độ trễ ra sao, điều gì xảy ra khi mạng bị rớt, và model được cập nhật như thế nào trên một thiết bị đã có sẵn ở hiện trường.

Tổng chi phí sở hữu (TCO). Bao gồm phí cấp phép, điện toán, lưu trữ, nhân công gán nhãn và việc duy trì model liên tục: chứ không chỉ là phí trả trước. Định giá đám mუშა theo mức tiêu thụ (consumption-based cloud pricing) là khoản mục thường khiến các đội ngũ ngạc nhiên nhất khi mở rộng quy mô.

Bề mặt tích hợp (integration surface). Trong môi trường công nghiệp, khả năng tương thích với PLC và MES quyết định hệ thống có sử dụng được hay không. Trong môi trường phần mềm, đó là API và các luồng dữ liệu (data pipelines). Những yếu tố này không thể thay thế cho nhau.

Quản治 dữ liệu (data governance). Mã hóa, kiểm soát truy cập, dấu vết kiểm toán (audit trails) và sự tuân thủ quy định. GDPR, HIPAA và các tiêu chuẩn đặc thù của ngành thường quyết định việc lựa chọn nền tảng trước khi bất kỳ sự so sánh kỹ thuật nào bắt đầu.

Cổng kiểm soát mua sắm mới: độ tin cậy của thiết bị và nguồn gốc dữ liệu#

Một sự dịch chuyển đáng chú ý, vì hiện tại nó đang chặn các thỏa thuận mà trước đây có thể đã được chốt.

Độ tin cậy của thiết bị (device trust), quyền đối với bộ dữ liệu và hồ sơ lưu giữ hình ảnh ngày càng mang trọng lượng thương mại tương đương với độ chính xác của model. Một computer vision model có thể vượt qua khâu kiểm định kỹ thuật nhưng vẫn thất bại ở khâu mua sắm, bởi vì không ai có thể chứng minh được những hình ảnh huấn luyện đến từ đâu, tổ chức có quyền sử dụng chúng hay không, hoặc thiết bị vật lý nào đã chụp lại một khung hình cụ thể.

Ba câu hỏi cần đưa vào bản yêu cầu báo giá (RFP):

• Quyền đối với bộ dữ liệu. Đối với mọi bộ dữ liệu được sử dụng trong huấn luyện, giấy phép là gì, và nó có cho phép sử dụng thương mại trong khu vực pháp lý của chúng ta không?
• Lưu giữ hình ảnh. Nhà cung cấp có thể xuất trình một bản ghi truy xuất ngược một lượt suy luận trong sản xuất về lại thiết bị đã chụp nó không?
• Độ tin cậy của thiết bị (device trust). Tính toàn vẹn của một thiết bị biên (edge device) được chứng thực như thế nào, và điều gì xảy ra nếu một thiết bị bị can thiệp trái phép?

Các nhà cung cấp không thể trả lời những câu hỏi này chưa chắc đã không an toàn. Tuy nhiên, họ sẽ làm quá trình đánh giá pháp lý của bạn chậm đi nhiều tháng.

Cách thức tiến hành đánh giá#

Lập danh sách rút gọn dựa trên biểu đồ góc phần tư (quadrant), không phải số lượng tính năng. Hãy quyết định mô hình huấn luyện sẵn (pretrained) hay tùy chỉnh (custom), và đám mây (cloud) hay biên (edge) trước tiên. Điều đó thường loại bỏ một nửa thị trường trước khi có bất kỳ bản demo nào.

Chạy một bằng chứng khái niệm (proof of concept) trên dữ liệu khó nhất của bạn. Cùng những hình ảnh đó, cùng các tiêu chuẩn chấp nhận đó, áp dụng cho mọi nhà cung cấp. Đo lường độ chính xác trên các trường hợp quan trọng thay vì độ chính xác tổng hợp trên một tập dữ liệu dễ.

Tính toán chi phí cho toàn bộ vòng đời. Xây dựng một mô hình chi phí trong ba năm bao gồm nhân công gán nhãn và việc huấn luyện lại. Hãy so sánh con số đó, chứ không phải phí cấp phép.

Kiểm tra lộ trình cập nhật. Triển khai một model, sau đó thay đổi nó. Mất bao lâu cho việc đó, và ai phải tham gia, chính là con số quyết định liệu hệ thống có cải thiện sau khi đưa vào vận hành chính thức (go-live) hay bị đóng băng ngay từ ngày đầu tiên.

Kiểm tra khâu rút lui. Bạn có thể xuất dữ liệu đã gán nhãn của mình ở định dạng mở và mang các model của mình đi nơi khác không? Nếu không, hãy tính toán chi phí của việc bị khóa chặt nền tảng (vendor lock-in).