Tín hiệu: chi phí fine-tune một model ngôn ngữ cỡ nhỏ (1B–8B tham số) đã rơi xuống mức một freelancer làm được trên một card GPU 16GB. Công cụ kéo tốc độ và VRAM về mức “chạy được ở nhà” là Unsloth — repo Python phát hành theo giấy phép Apache License 2.0 (bản 2.0, ban hành 2004). Cùng lúc đó, thị trường Việt Nam có một khoảng trống rõ: phần lớn API model lớn xử lý tiếng Việt ở mức “tạm ổn” nhưng vấp ở văn phong địa phương, thuật ngữ ngành, và dữ liệu nội bộ của doanh nghiệp. Đây chính là chỗ một dịch vụ fine-tune model nhỏ cho ngách tiếng Việt có đất sống — không phải để đấu với GPT hay Gemini ở độ thông minh tổng quát, mà để thắng ở một tác vụ hẹp, rẻ hơn, chạy nội bộ được, và nói đúng giọng ngành.
Bài này không dịch README của bất kỳ repo nào. Mục tiêu là bóc tách xem cơ hội “làm dịch vụ fine-tune” thực sự nằm ở đâu, giấy phép cho phép bạn bán cái gì, và ba hướng đi có thể bắt đầu trong vài tuần.
Phân tích giấy phép trước khi bàn kiếm tiền
Sai lầm phổ biến nhất của người mới là nghĩ “công cụ mã nguồn mở thì bán gì cũng được”. Với dịch vụ fine-tune, bạn phải tách bạch hai lớp giấy phép: giấy phép của công cụ huấn luyện, và giấy phép của model gốc bạn đem đi fine-tune.
Lớp công cụ: Unsloth dùng Apache-2.0 — đây là giấy phép cho phép (permissive). Bạn được tự host, sửa đổi, nhúng vào pipeline nội bộ và bán dịch vụ dựa trên nó mà không phải mở mã sản phẩm của mình. Không có điều khoản copyleft buộc lây lan. Điều duy nhất cần giữ là thông báo bản quyền và file NOTICE. Nói cách khác, ở lớp công cụ, con đường thương mại gần như thông thoáng.
Lớp model gốc mới là chỗ dễ vấp. Mỗi họ model có ràng buộc riêng, và đây là phần bạn bắt buộc phải kiểm tra trước khi ký hợp đồng: các model họ Qwen và Mistral thường phát hành Apache-2.0 (thoải mái thương mại hoá trọng số fine-tune); họ Llama đi kèm “community license” riêng, có ngưỡng người dùng và một số điều khoản sử dụng cần đọc kỹ; họ Gemma có điều khoản sử dụng riêng của Google. Trọng số bạn tạo ra sau khi fine-tune kế thừa ràng buộc của model gốc, không phải của Unsloth. Vì vậy, một dịch vụ nghiêm túc luôn bắt đầu bằng câu hỏi: khách muốn giữ trọng số? Muốn self-host on-premise? Muốn bán lại cho bên thứ ba? Ba nhu cầu đó dẫn tới ba lựa chọn base model khác nhau. Trả lời sai lớp giấy phép này là rủi ro pháp lý thật, không phải chi tiết kỹ thuật.
Kết luận thẳng: bạn bán được dịch vụ và pipeline (thu thập dữ liệu, chuẩn hoá, huấn luyện, đánh giá, triển khai) một cách an toàn. Còn “bán lại trọng số” thì tuỳ base model — mặc định hãy chọn base Apache-2.0 nếu khách muốn toàn quyền.
Vì sao ngách tiếng Việt là điểm rơi hợp lý
Model lớn qua API mạnh về suy luận tổng quát nhưng có ba điểm yếu mà doanh nghiệp Việt cảm nhận rõ: (1) văn phong và thuật ngữ ngành hẹp (pháp lý, y tế, bảo hiểm, logistics) thường bị “dịch máy hoá”; (2) dữ liệu nội bộ không thể đẩy lên API vì lý do bảo mật; (3) chi phí token cho tác vụ lặp đi lặp lại số lượng lớn đắt hơn nhiều so với một model nhỏ chạy tại chỗ. Một model 3B–8B được fine-tune đúng cho một tác vụ hẹp có thể chạy trên hạ tầng khiêm tốn, phản hồi nhanh, chi phí biên gần như bằng không sau khi triển khai, và giữ dữ liệu trong tường lửa của khách. Đó là ba luận điểm bán hàng mà bạn khó có nếu chỉ gọi API.
Ba hướng triển khai: XÂY GÌ · BÁN CHO AI · VALIDATE
Hướng 1 — Model phân loại/trích xuất theo ngành (dễ nhất)
Xây gì: một model nhỏ fine-tune cho tác vụ phân loại hoặc trích xuất có cấu trúc — ví dụ phân loại email/ticket theo phòng ban, trích xuất trường từ hợp đồng, gắn nhãn phản hồi khách hàng. Đây là bài toán “đóng khung” rõ ràng nên dữ liệu huấn luyện dễ tạo và dễ đo. Bán cho ai: SME có luồng văn bản lặp lại (bảo hiểm, ngân hàng nhỏ, logistics, chăm sóc khách hàng). Ước lượng MVP: khoảng 2–3 tuần cho một tác vụ, phần lớn thời gian là làm sạch và gán nhãn 500–2.000 mẫu, không phải huấn luyện. Cạm bẫy: khách hay đưa dữ liệu bẩn và kỳ vọng 99% độ chính xác ngay; hãy chốt bộ tiêu chí đánh giá và tập test riêng ngay từ đầu, tính tiền theo cột mốc chất lượng đo được.
Hướng 2 — Model văn phong/giọng thương hiệu tiếng Việt
Xây gì: fine-tune để model viết đúng văn phong một ngành hoặc một thương hiệu — mô tả sản phẩm, tư vấn kịch bản, trả lời theo tông giọng công ty. Bán cho ai: agency nội dung, sàn TMĐT, đội marketing muốn giảm chi phí token và giữ giọng nhất quán. Hướng này bổ trợ tốt cho các bài toán chatbot chăm sóc khách hàng cho shop Việt mà nhiều đội đang làm. Ước lượng MVP: 3–4 tuần, vì đánh giá “văn phong” mang tính chủ quan, cần vòng lặp phản hồi với khách. Cạm bẫy: khó chứng minh giá trị bằng con số; hãy dựng A/B so sánh output model nền vs model fine-tune và để chính khách chấm điểm mù.
Hướng 3 — Model nhỏ chạy nội bộ cho dữ liệu nhạy cảm
Xây gì: gói “fine-tune + triển khai on-premise” cho tổ chức không được đẩy dữ liệu ra ngoài — kết hợp một model nhỏ với lớp truy xuất tài liệu nội bộ. Hướng này ăn khớp trực tiếp với nhu cầu dựng RAG tra cứu văn bản pháp luật cho doanh nghiệp: RAG lo phần tra cứu chính xác, fine-tune lo phần giọng và định dạng đầu ra. Bán cho ai: phòng pháp chế, phòng nhân sự, đơn vị y tế/tài chính nhỏ. Ước lượng MVP: 4–6 tuần vì thêm phần hạ tầng triển khai và bàn giao. Cạm bẫy: đây là bài toán vận hành, không chỉ huấn luyện — chi phí thật nằm ở bảo trì, cập nhật và hỗ trợ. Đừng báo giá như một dự án làm một lần; hãy đóng gói theo mô hình có phí duy trì hằng tháng.
Về cách định giá và bắt đầu
Với dịch vụ dạng này, giá trị nằm ở pipeline lặp lại được chứ không phải một lần huấn luyện. Một cách khởi động an toàn là bán “pilot có trả phí” trong 2–3 tuần để chứng minh model fine-tune vượt baseline trên tập test của chính khách, rồi mới chuyển sang hợp đồng triển khai và duy trì. Cách này giống tư duy dựng MVP hẹp mà builder Việt hay áp dụng cho trợ lý AI lọc CV cho công ty nhỏ: chọn một tác vụ đo được, thắng ở đó trước, mở rộng sau. Nếu bạn muốn hiểu nền tảng huấn luyện model nhỏ từ đầu, dự án nanochat là điểm tham chiếu tốt để nắm cơ chế trước khi bán dịch vụ.
Số liệu tham khảo để bạn định khung năng lực: model mục tiêu thường ở dải 1B–8B tham số; một tác vụ hẹp thường chỉ cần 500–2.000 mẫu chất lượng để có kết quả dùng được với kỹ thuật LoRA; và phần lớn thời gian dự án (ước lượng 60–70%) dồn vào dữ liệu chứ không phải GPU. Đây là các con số định hướng, không phải cam kết — mỗi ngách sẽ khác.
Câu hỏi thường gặp
Fine-tune model nhỏ có cần GPU đắt tiền không?
Không nhất thiết. Với kỹ thuật LoRA/QLoRA và công cụ như Unsloth, một model 3B–8B fine-tune được trên card 16GB VRAM. Chi phí lớn hơn nằm ở khâu chuẩn bị dữ liệu và đánh giá, không phải phần cứng.
Tôi có được bán trọng số model sau khi fine-tune không?
Tuỳ model gốc. Nếu base là Apache-2.0 (như nhiều model họ Qwen/Mistral) thì thoải mái hơn nhiều. Nếu base có community license riêng (như họ Llama) hoặc điều khoản riêng (như Gemma), bạn phải đọc kỹ ràng buộc trước khi bàn giao hoặc bán lại. Công cụ huấn luyện Apache-2.0 không xoá được ràng buộc của model gốc.
Fine-tune có thay thế được RAG không?
Không, hai thứ giải quyết vấn đề khác nhau. RAG lo phần “biết dữ kiện đúng và mới”; fine-tune lo phần “nói đúng giọng, đúng định dạng, đúng hành vi”. Ngách sinh lời nhất thường là kết hợp cả hai.
Làm sao chứng minh giá trị cho khách chưa tin AI?
Bán pilot có trả phí trên tập test của chính khách, so model fine-tune với baseline (API sẵn có hoặc model nền). Để khách tự chấm điểm mù. Con số cải thiện đo được thuyết phục hơn mọi lời quảng cáo.
Rủi ro lớn nhất của dịch vụ này là gì?
Nhận dự án khi chưa chốt tiêu chí đánh giá. Nếu không có tập test và ngưỡng chất lượng thoả thuận từ đầu, dự án dễ sa vào vòng chỉnh sửa vô tận. Chốt “đo bằng gì, đạt bao nhiêu là xong” trước khi viết dòng code đầu tiên.
— Đỗ Quang Huy, Agent Builder @ AIToEarn