Tự host model hay dùng API: bài toán chi phí và vận hành

Đội kỹ thuật của bạn vừa họp xong và quyết định tự host model AI vì lý do bảo mật, dữ liệu khách hàng không thể gửi ra ngoài, nghe rất hợp lý. Nhưng ba tháng sau, hoá đơn GPU cộng với thời gian một kỹ sư ngồi canh hệ thống mỗi đêm lại khiến cả phòng tài chính lẫn CTO phải ngồi lại tính toán xem quyết định đó có thực sự tiết kiệm hơn việc gọi thẳng API hay không.

Vì sao câu hỏi này khó trả lời bằng cảm tính

Tự host hay dùng API là một trong những quyết định kỹ thuật hiếm hoi mà cả ba phòng ban đều có tiếng nói: kỹ thuật lo về độ ổn định và quyền kiểm soát, bảo mật lo về dữ liệu rời khỏi biên giới hệ thống, còn tài chính chỉ quan tâm một câu duy nhất là con số cuối tháng. Vấn đề nằm ở chỗ ba bên này thường nhìn vào ba loại chi phí khác nhau mà không ai gộp lại thành một bức tranh chung, nên cuộc tranh luận dễ rơi vào cảm tính thay vì số liệu.

Bài toán chi phí giữa tự host model và dùng API thật ra không có đáp án chung cho mọi doanh nghiệp, vì nó phụ thuộc vào lưu lượng gọi model mỗi ngày, mức độ nhạy cảm của dữ liệu, và năng lực đội kỹ thuật đang có sẵn hay phải tuyển thêm. Bài này sẽ giúp bạn dựng một mô hình tính toán đủ đơn giản để tự áp số liệu thật của công ty mình vào, thay vì so sánh chung chung theo cảm giác "tự làm chắc rẻ hơn" hay "dùng API cho lành".

Tổng chi phí sở hữu khi tự host: những khoản dễ bị bỏ sót

Khi nói đến chi phí tự host, phần lớn đội kỹ thuật chỉ tính giá thuê GPU theo giờ rồi nhân với 24 giờ và 30 ngày, trong khi đó chỉ là phần nổi của tảng băng. Tính đến tháng 9/2026, các nền tảng cloud GPU chuyên dụng như RunPod hay Lambda Labs công bố mức giá thuê một GPU H100 dao động khoảng 2-3 USD mỗi giờ, còn tại các nhà cung cấp đám mây lớn như AWS, Google Cloud hay Azure, mức niêm yết theo giờ thường cao hơn đáng kể, có thể rơi vào khoảng 4-8 USD tuỳ vùng và cam kết sử dụng dài hạn hay theo nhu cầu. Một số nhà cung cấp hạ tầng trong nước như Viettel IDC hay FPT Smart Cloud cũng đã có gói GPU cloud, nhưng mức giá thường được báo riêng theo cấu hình chứ không niêm yết công khai, nên bạn cần liên hệ trực tiếp để lấy báo giá chính xác trước khi lập ngân sách.

Nhưng con số thuê GPU chỉ là điểm khởi đầu, vì tổng chi phí sở hữu (TCO) của việc tự host còn cộng dồn từ rất nhiều khoản khác mà đội kỹ thuật hay quên tính vào bài toán ban đầu.

• Nhân sự trực hệ thống: model chạy 24/7 nghĩa là cần người xử lý sự cố lúc nửa đêm, không chỉ giờ hành chính.
• Công suất dự phòng: GPU cần chạy dư ra để chịu tải cao điểm, nghĩa là trả tiền cho phần công suất không dùng hết phần lớn thời gian trong ngày.
• Chi phí nâng cấp model: khi model mã nguồn mở mới ra tốt hơn, đội kỹ thuật phải tự tay đánh giá, tinh chỉnh cấu hình và triển khai lại, thay vì chỉ đổi tên model trong một dòng cấu hình API.
• Giám sát, logging và bảo trì: cần thêm công cụ theo dõi độ trễ, tỷ lệ lỗi, mức dùng GPU, và người phụ trách đọc các chỉ số đó thường xuyên.

Ghép các khoản này lại, một cấu hình tự host tối thiểu cho model cỡ trung (chạy quanh mức 2 GPU cao cấp phục vụ liên tục) có thể tiêu tốn từ vài nghìn đến hơn chục nghìn USD mỗi tháng khi cộng cả hạ tầng lẫn nhân sự bán thời gian, tuỳ quy mô đội ngũ và mức độ tự động hoá vận hành đã có sẵn. Đây là mức tham khảo mang tính minh hoạ, bạn nên tự dựng bảng chi phí theo cấu hình và mức lương thực tế của đội mình trước khi ra quyết định cuối cùng.

Chi phí khi dùng API: đơn giản hơn nhưng có giới hạn riêng

Ngược lại, dùng API của các nhà cung cấp lớn giúp doanh nghiệp trả tiền đúng theo lượng token thực sự dùng, không phải trả cho phần công suất dư thừa lúc vắng khách. Tính đến tháng 9/2026, một số nhà cung cấp model công bố mức giá phổ biến quanh khoảng 0,2-5 USD cho mỗi triệu token đầu vào và 1-30 USD cho mỗi triệu token đầu ra tuỳ dòng model cao cấp hay tiết kiệm, và các mức này thay đổi khá thường xuyên nên bạn cần đối chiếu lại trang giá chính thức của từng nhà cung cấp ngay trước khi lập ngân sách thay vì tin vào số liệu cũ.

Điểm cộng lớn nhất của hướng API là không phải lo chuyện hạ tầng, không cần đội DevOps canh GPU, và có thể đổi model mới gần như ngay lập tức khi nhà cung cấp phát hành phiên bản tốt hơn. Tuy chi phí mỗi token trông có vẻ nhỏ nhưng khi lưu lượng gọi tăng lên hàng chục triệu token mỗi ngày, hoá đơn API có thể phình to nhanh hơn dự kiến, nhất là với các tác vụ dùng ngữ cảnh dài hoặc gọi model cao cấp cho những việc không thực sự cần đến mức đó. Muốn hiểu rõ những khoản phí phụ dễ bị bỏ sót khi tính ngân sách API, bạn có thể tham khảo thêm bài Chi phí API model AI: các khoản dễ bị bỏ sót khi lập ngân sách.

Bảng so sánh trực diện: tự host và dùng API

Chọn tự host khi dữ liệu quá nhạy cảm để gửi ra ngoài, lưu lượng gọi model đã đủ lớn và ổn định để GPU chạy gần hết công suất phần lớn thời gian, và đội ngũ đã có kinh nghiệm vận hành hạ tầng. Chọn dùng API khi doanh nghiệp đang trong giai đoạn thử nghiệm, lưu lượng chưa ổn định, hoặc muốn tiếp cận các model mạnh nhất mà không cần đầu tư hạ tầng riêng.

Ngưỡng lưu lượng: khi nào tự host bắt đầu có lợi

Cách thực tế nhất để trả lời câu hỏi này là dựng một phép tính đơn giản: lấy chi phí cố định hằng tháng của phương án tự host (GPU cộng nhân sự) chia cho chi phí trung bình mỗi triệu token khi gọi API, ra được số triệu token hoà vốn mỗi tháng. Ví dụ minh hoạ, nếu tổng chi phí tự host của bạn rơi vào khoảng 5.000 USD/tháng và chi phí API trung bình cho tác vụ tương đương khoảng 5 USD/triệu token, thì bạn cần xử lý khoảng 1.000 triệu token mỗi tháng bằng API để hai phương án ngang chi phí nhau; vượt qua mức đó, tự host bắt đầu có lợi hơn về mặt tiền bạc thuần tuý.

Điều quan trọng là ngưỡng này khác nhau hoàn toàn giữa các doanh nghiệp, vì nó phụ thuộc vào giá GPU bạn thuê được, mức lương đội kỹ thuật, và loại tác vụ đang chạy. Muốn tự host mà không thất bại giữa chừng vì thiếu bộ nhớ GPU hay chọn sai kích cỡ model, bạn nên đọc thêm bài hướng dẫn chi tiết Model mã nguồn mở tự triển khai: cấu hình máy chủ và chi phí thật trước khi bắt tay vào làm.

Bài toán bảo mật: lý do nhiều công ty vẫn chọn tự host dù đắt hơn

Không phải lúc nào bài toán này cũng chỉ xoay quanh tiền bạc. Với các doanh nghiệp trong ngành tài chính, y tế hay xử lý dữ liệu khách hàng nhạy cảm, việc gửi dữ liệu ra một API bên ngoài, dù nhà cung cấp cam kết không dùng dữ liệu để huấn luyện lại model, vẫn có thể vướng quy định nội bộ hoặc yêu cầu tuân thủ của khách hàng lớn. Trong những trường hợp này, tự host không phải là lựa chọn để tiết kiệm mà là điều kiện bắt buộc để được phép triển khai dự án.

Tuy nhiên, cũng cần nhìn nhận thẳng thắn rằng tự host không tự động đồng nghĩa với an toàn hơn, vì một hệ thống tự vận hành thiếu kinh nghiệm bảo mật đôi khi còn lộ nhiều lỗ hổng hơn hạ tầng của các nhà cung cấp lớn vốn đã đầu tư rất nhiều vào chứng nhận và kiểm toán bảo mật. Nếu lý do chính khiến bạn nghiêng về tự host là bảo mật, bài Bảo mật dữ liệu khi gửi lên model AI: những gì cần khoá lại sẽ giúp bạn đánh giá đúng những rủi ro thực sự cần lo, thay vì lo lắng theo cảm tính.

Vậy nên chọn hướng nào cho doanh nghiệp của bạn

Nếu phải tóm gọn trong một câu, hầu hết doanh nghiệp Việt Nam vừa và nhỏ nên bắt đầu bằng API vì tốc độ triển khai nhanh, không cần đầu tư hạ tầng, và có thể đổi model dễ dàng khi nhu cầu thay đổi. Chỉ khi lưu lượng đã ổn định ở mức cao, có yêu cầu bảo mật nghiêm ngặt bắt buộc, hoặc đội kỹ thuật đã sẵn sàng vận hành hạ tầng GPU, thì tự host mới thực sự đáng để đầu tư công sức. Bạn cũng có thể tham khảo bài gốc của cụm chủ đề này, AI Model là gì và doanh nghiệp nên chọn model nào cho công việc, để có bức tranh tổng quan trước khi đi sâu vào quyết định hạ tầng.

Quyết định này không cần phải đưa ra một mình. Nếu đội của bạn đang phân vân giữa hai hướng và muốn có người cùng dựng bảng chi phí thực tế theo đúng lưu lượng và ràng buộc bảo mật của doanh nghiệp mình, đội ngũ BeelyWeb sẵn sàng ngồi lại phân tích cùng bạn trước khi đặt bút ký bất kỳ hợp đồng hạ tầng hay gói API nào.

Câu hỏi thường gặp