Cách chọn đơn vị triển khai AI cho doanh nghiệp

Bắt đầu bằng quyết định kinh doanh, không phải demo AI

Một chatbot trả lời trôi chảy trong buổi demo chưa cho biết nó có tìm đúng tài liệu, giữ quyền truy cập, xử lý ngoại lệ hay tiết kiệm thời gian trong quy trình thật. Trước khi gặp nhà cung cấp, hãy chọn một công việc có người sở hữu, tần suất đủ lớn, đầu vào quan sát được và kết quả có thể kiểm tra. Ghi baseline về thời gian, tỷ lệ sửa, lỗi, chi phí và mức độ hài lòng hiện tại.

Yêu cầu đối tác viết use case dưới dạng ranh giới: ai sử dụng, dữ liệu nào được phép dùng, AI đề xuất hay được hành động, khi nào phải chuyển cho con người và hậu quả nếu sai. Nếu đề xuất bắt đầu bằng danh sách model, agent hoặc công cụ mà không trả lời các câu hỏi này, doanh nghiệp đang mua công nghệ trước khi hiểu quyết định cần cải thiện.

• ✓Một process owner có quyền thay đổi quy trình và nghiệm thu.
• ✓Baseline đủ để so sánh trước–sau trên cùng loại tác vụ.
• ✓Đầu vào, đầu ra, ngoại lệ và hậu quả được mô tả rõ.
• ✓Tiêu chí để tiếp tục, điều chỉnh hoặc dừng pilot được thống nhất trước.

Đối tác AI tốt không bán một mô hình cho mọi bài toán. Họ giúp doanh nghiệp tạo bằng chứng đủ rõ để mở rộng, điều chỉnh hoặc dừng.

Yêu cầu bộ đánh giá thay vì một vài ví dụ đẹp

AI tạo sinh có đầu ra biến thiên, vì vậy nghiệm thu không thể chỉ dựa trên cảm nhận. Đối tác cần giúp xây evaluation set đại diện cho trường hợp bình thường, dữ liệu thiếu, câu hỏi ngoài phạm vi, nội dung nhạy cảm và các lỗi có hậu quả cao. Mỗi use case cần thước đo phù hợp: độ chính xác theo trường, tỷ lệ dẫn nguồn đúng, tỷ lệ phải chỉnh sửa, thời gian xử lý, chi phí và số ngoại lệ.

Đánh giá phải chạy lại khi prompt, model, dữ liệu truy xuất hoặc workflow thay đổi. Hỏi cách lưu phiên bản, theo dõi regression và phân tích thất bại. Với chatbot RAG, câu trả lời cần dẫn về nguồn và tôn trọng quyền của tài liệu; với AI Agent, cần test riêng cho lựa chọn công cụ, tham số, giới hạn hành động và cơ chế xin duyệt.

• ✓Test set do ai tạo, có đại diện dữ liệu thật và ngoại lệ không?
• ✓Ngưỡng chất lượng nào áp dụng cho từng nhóm hậu quả?
• ✓Kết quả sai được phát hiện, sửa và đưa vào vòng đánh giá thế nào?
• ✓Chi phí, latency và thời gian human review được tính cùng chất lượng không?

Kiểm tra dữ liệu, tích hợp và lựa chọn triển khai

Giải pháp AI doanh nghiệp thường phụ thuộc nhiều vào dữ liệu, API và quyền truy cập hơn vào bản thân model. Yêu cầu sơ đồ nguồn dữ liệu, mục đích sử dụng, chủ sở hữu, thời hạn lưu, vùng triển khai và cách loại bỏ dữ liệu không cần thiết. Tài liệu mâu thuẫn, không có phiên bản hoặc phân quyền yếu sẽ làm hệ thống trả lời sai dù model mạnh.

Đối tác phải nói rõ lựa chọn cloud, private cloud hoặc on-premise giải quyết yêu cầu nào và đánh đổi về chi phí, hiệu năng, vận hành. Tích hợp cần có API contract, retry, timeout, idempotency, audit log và đường lui. Doanh nghiệp nên kiểm soát tài khoản, repository, dữ liệu cấu hình, evaluation set và khả năng xuất log cần thiết để tránh phụ thuộc không rõ ràng.

• ✓Data map, quyền truy cập và nguồn sự thật cho từng trường quan trọng.
• ✓Model và nhà cung cấp có thể thay đổi ở mức nào mà không viết lại toàn bộ workflow?
• ✓Cách xử lý timeout, lỗi API, dữ liệu lỗi thời và dependency ngừng hoạt động.
• ✓Quyền sở hữu repository, tài khoản model, vector store, prompt, eval và log.

Đánh giá quản trị và bảo mật theo vòng đời

NIST AI RMF tổ chức quản trị rủi ro thành bốn chức năng Govern, Map, Measure và Manage. Khi chọn đối tác, hãy hỏi ai sở hữu chính sách và trách nhiệm; bối cảnh, người bị ảnh hưởng và rủi ro được lập bản đồ ra sao; chất lượng và rủi ro được đo thế nào; biện pháp giảm thiểu, giám sát và phản ứng được vận hành sau launch bởi ai.

OWASP Top 10 for LLM Applications nêu các nhóm rủi ro như prompt injection, lộ thông tin nhạy cảm, supply chain, xử lý đầu ra không an toàn và excessive agency. Một đề xuất tốt phải nối những rủi ro liên quan với kiến trúc thật: xác thực, phân quyền, lọc dữ liệu, least privilege cho tool, phê duyệt hành động, rate limit, logging và kiểm thử. Chỉ ghi “dữ liệu được mã hóa” là chưa đủ để chứng minh hệ thống an toàn.

• ✓Ai có quyền thay đổi prompt, model, tool và nguồn tri thức production?
• ✓AI được phép đọc, ghi hoặc kích hoạt hành động nào theo từng vai trò?
• ✓Sự cố, nội dung sai và dữ liệu nhạy cảm được phát hiện và xử lý ra sao?
• ✓Có kill switch, rollback, audit trail và người trực phản ứng không?

Đọc báo giá theo tổng chi phí vận hành

Báo giá AI cần tách discovery, chuẩn bị dữ liệu, prototype, integration, evaluation, production hardening và hỗ trợ. Phí model chỉ là một phần; tổng chi phí còn gồm vector database, storage, observability, hạ tầng, kiểm duyệt, human review, bảo trì dữ liệu và xử lý regression. Hãy yêu cầu ước tính theo một đơn vị kinh doanh như mỗi tài liệu, cuộc hội thoại hoặc tác vụ hoàn tất.

Milestone nên gắn với bằng chứng: baseline và test set được duyệt; pilot chạy trên một workflow; báo cáo chất lượng, chi phí và ngoại lệ; quyết định production; runbook và bàn giao. Tránh cam kết ROI tuyệt đối khi chưa có dữ liệu. Một đối tác đáng tin phải chấp nhận kết luận pilot là thu hẹp hoặc dừng nếu giá trị không bù rủi ro và chi phí vận hành.

• ✓Chi phí cố định, biến đổi và bên thứ ba được tách riêng.
• ✓Giả định về volume, context, token, storage và human review.
• ✓Ngưỡng chất lượng, chi phí và adoption để chuyển sang production.
• ✓Support, monitoring, model change và đánh giá regression sau ra mắt.

Mười hai câu hỏi trước khi chọn đối tác AI

Chấm mọi nhà cung cấp trên cùng ma trận: hiểu bài toán, dữ liệu, evaluation, tích hợp, bảo mật, vận hành, chi phí và bàn giao. Cho ứng viên xem một mẫu dữ liệu đã làm sạch cùng ngoại lệ đại diện và yêu cầu họ thiết kế cách đánh giá trước khi trình bày giải pháp. Cách đội ngũ xử lý điều chưa biết là tín hiệu mạnh hơn tên model trong slide.

Friday Works bắt đầu dự án AI từ use case, baseline, dữ liệu và tiêu chí kiểm chứng; sau đó chạy pilot hẹp với human review trước khi mở rộng. Doanh nghiệp có thể dùng bộ câu hỏi này để đánh giá Friday Works như bất kỳ đối tác nào khác và yêu cầu mọi giả định, giới hạn cùng quyết định được ghi trong proposal.

• ✓1–3. Bài toán, owner và baseline hiện tại là gì?
• ✓4–5. Dữ liệu nào được dùng, ai được truy cập và lưu ở đâu?
• ✓6–7. Test set, metric và ngưỡng nghiệm thu được thiết kế thế nào?
• ✓8–9. AI tích hợp, xin duyệt, ghi log và phục hồi ra sao?
• ✓10–12. Tổng chi phí, quyền sở hữu và điều kiện mở rộng hoặc dừng là gì?