Tín hiệu: hai kho mã nguồn mở đang định nghĩa lại chuyện dựng chatbot hỏi-đáp trên tài liệu nội bộ. RAGFlow (infiniflow/ragflow) đã vượt 73.000 sao GitHub, viết chủ yếu bằng Python, giấy phép Apache-2.0, tự mô tả là “RAG engine mã nguồn mở dẫn đầu” gộp truy hồi tài liệu với năng lực agent. Cùng lúc, AnythingLLM (Mintplex-Labs/anything-llm) chạm mốc 65.000 sao, giấy phép MIT, quảng cáo là “ứng dụng RAG local đầy đủ nhất — workspace, agent, widget nhúng, không cần dựng vector DB”. Cả hai đều self-host được, cập nhật liên tục trong 2026, và quan trọng nhất với người làm dịch vụ: cả hai đều dùng giấy phép cho phép bán lại.
Với một doanh nghiệp nhỏ (SME) ở Việt Nam, bài toán không phải là “AI có làm được không” mà là “dựng một con chatbot đọc được đống PDF hợp đồng, quy trình, chính sách nhân sự — với chi phí bao nhiêu, và ai sẽ trả tiền cho việc dựng đó”. Bài này bóc tách tín hiệu, phân tích giấy phép trung thực, rồi đóng khung ba hướng kiếm tiền cụ thể quanh keyword: dựng RAG chatbot tài liệu nội bộ chi phí thấp cho SME.
Vì sao mốc chi phí thấp lúc này mới thành hiện thực
Ba năm trước, dựng một hệ RAG (Retrieval-Augmented Generation — sinh câu trả lời có truy hồi ngữ cảnh) nghĩa là tự viết pipeline: cắt tài liệu, tạo embedding, dựng vector database, ghép prompt, xử lý trích dẫn. Mỗi mắt xích là một tuần công. Điều thay đổi trong 2025-2026 là các kho như AnythingLLM đóng gói toàn bộ chuỗi đó vào một Docker image chạy được trong buổi chiều, còn RAGFlow đẩy chất lượng bóc tách tài liệu (bảng biểu, PDF scan, layout phức tạp) lên mức mà trước đây chỉ hệ thương mại mới có.
Về chi phí hạ tầng thật: một SME 30-80 nhân sự với vài nghìn trang tài liệu có thể chạy AnythingLLM trên một VPS 4 vCPU/8GB RAM (khoảng 15-25 USD/tháng), gọi model qua API để không phải nuôi GPU. Nếu muốn dữ liệu không rời máy chủ, ghép thêm một model mở cỡ 7-8B chạy CPU hoặc một GPU rẻ. Chi phí biến đổi lớn nhất là token API cho phần sinh câu trả lời — với lưu lượng hỏi-đáp nội bộ (vài trăm câu/ngày) con số này thường nằm ở mức vài chục tới hơn trăm nghìn đồng mỗi tháng, không phải khoản khiến kế toán giật mình. Đây là lý do “chi phí thấp” đã đi từ khẩu hiệu marketing sang con số ghi được trong bảng tính.
Phân tích giấy phép trước khi bàn kiếm tiền
Đây là bước nhiều người bỏ qua rồi trả giá sau. Trước khi đóng gói bất cứ thứ gì để bán, phải trả lời: mình được phép làm gì với mã nguồn này?
AnythingLLM — MIT. Đây là giấy phép dễ chịu nhất cho người làm dịch vụ. MIT cho phép bạn dùng, sửa, đóng gói, triển khai cho khách và thu tiền mà không phải mở mã phần bạn thêm vào, miễn giữ lại thông báo bản quyền gốc. Nghĩa là bạn hoàn toàn có thể dựng một bản triển khai cho SME, tính phí cài đặt và phí vận hành hằng tháng, mà không vướng ràng buộc pháp lý. Đây là nền tảng lý tưởng để bán dịch vụ “chatbot nội bộ trọn gói”.
RAGFlow — Apache-2.0. Cũng thuộc nhóm giấy phép permissive, cho phép dùng thương mại và bán lại. Khác biệt so với MIT là Apache-2.0 có điều khoản cấp phép sáng chế rõ ràng (bảo vệ bạn khỏi tranh chấp patent) và yêu cầu ghi rõ các thay đổi bạn thực hiện. Với dịch vụ B2B mà khách là doanh nghiệp có bộ phận pháp chế, Apache-2.0 thường được đánh giá cao vì minh bạch hơn. Bạn vẫn được đóng gói và bán, chỉ cần giữ file NOTICE và ghi chú phần đã sửa.
Điểm phải kiểm kỹ: một số kho RAG đi kèm phụ thuộc có giấy phép khắt khe hơn phần lõi. Ví dụ vài thư viện bóc tách tài liệu hoặc OCR có thể là AGPL hoặc chỉ miễn phí phi thương mại. Trước khi giao cho khách trả tiền, hãy rà danh sách dependency và mô hình embedding/LLM bạn nhúng vào — model mở cũng có giấy phép riêng, có loại cấm dùng thương mại. Nói ngắn gọn: lõi RAGFlow và AnythingLLM cho bạn bán thoải mái, nhưng “combo” cuối cùng chỉ sạch pháp lý bằng mắt xích yếu nhất trong nó. Nếu bạn cần một khâu tiền xử lý tài liệu sạch giấy phép, tham khảo thêm hướng xây dịch vụ ingest tài liệu cho RAG mà chúng tôi đã mổ xẻ trước đó.
Kiến trúc tối thiểu cho một SME
Một hệ RAG nội bộ chạy được cho SME gồm bốn khối. Khối nạp tài liệu: đọc PDF, Word, Excel, trang wiki nội bộ, chuyển về văn bản sạch — đây là nơi chất lượng quyết định 70% trải nghiệm, vì tài liệu Việt Nam đầy bảng biểu và PDF scan. Khối chỉ mục: cắt đoạn, tạo embedding, lưu vào vector store (AnythingLLM đã nhúng sẵn nên bạn không phải dựng riêng). Khối truy hồi + sinh: nhận câu hỏi, tìm đoạn liên quan, ghép prompt gửi model, trả câu trả lời kèm trích dẫn nguồn. Khối giao diện: một widget chat nhúng vào intranet hoặc một trang web nội bộ có phân quyền.
Mẹo tiết kiệm và tăng độ chính xác: chuẩn hoá tài liệu về Markdown trước khi index thay vì ném thẳng PDF vào. Công cụ như MarkItDown giúp giữ cấu trúc tiêu đề, bảng và danh sách — chúng tôi có ghi chú riêng về MarkItDown để chuyển tài liệu sang Markdown. Tài liệu càng có cấu trúc, truy hồi càng đúng chỗ, model càng ít bịa.
XÂY GÌ · BÁN CHO AI · VALIDATE
Hướng 1 — Gói triển khai chatbot nội bộ trọn gói cho SME. Bạn dựng AnythingLLM trên hạ tầng của khách hoặc VPS riêng, nạp bộ tài liệu của họ (quy trình, chính sách HR, sổ tay sản phẩm), cấu hình phân quyền, giao một widget chat. Bán cho ai: công ty 30-150 người có nhiều tài liệu và nhân viên hay hỏi lại HR/hành chính cùng một câu. MVP: khoảng 3-5 ngày cho khách đầu tiên (2 ngày dựng, 1-2 ngày nạp và tinh chỉnh tài liệu, nửa ngày bàn giao). Định giá: phí cài đặt một lần cộng phí vận hành hằng tháng. Cạm bẫy: đừng hứa “trả lời đúng 100%” — hãy đặt kỳ vọng ở mức “trả lời kèm trích dẫn để người dùng tự kiểm”, và luôn chừa một nút “không tìm thấy” thay vì để model bịa.
Hướng 2 — Dịch vụ dọn và nạp tài liệu (data onboarding). Phần khó nhất của mọi dự án RAG không phải con bot mà là đống tài liệu bẩn: PDF scan mờ, file Excel gộp ô, hợp đồng quét lệch. Bạn bán riêng khâu này: nhận tài liệu thô, làm sạch, chuẩn hoá, tạo bộ chỉ mục chất lượng cao rồi giao cho khách (hoặc cho đơn vị khác đã dựng bot). Bán cho ai: công ty đã có bot nhưng bot trả lời kém vì dữ liệu bẩn, hoặc công ty muốn tự vận hành nhưng ngại khâu chuẩn bị. MVP: 2-3 ngày dựng quy trình xử lý mẫu trên một tập tài liệu thật. Cạm bẫy: tính công theo số trang/độ phức tạp, đừng báo giá trọn gói khi chưa xem tài liệu — một tập PDF scan có thể ngốn gấp năm lần thời gian so với file văn bản gốc.
Hướng 3 — RAGFlow cho khách cần bóc tách tài liệu nặng. Khi khách là công ty bảo hiểm, kế toán, hay pháp lý — tài liệu đầy bảng số và điều khoản — thì khả năng phân tích layout của RAGFlow tạo khác biệt rõ so với giải pháp nhẹ. Bạn định vị đây là gói cao cấp: triển khai RAGFlow, tinh chỉnh pipeline bóc tách cho đúng loại tài liệu ngành, tích hợp vào hệ thống sẵn có. Bán cho ai: SME trong ngành nhiều văn bản quy chuẩn, sẵn sàng trả cao hơn để đổi lấy độ chính xác. MVP: 1-2 tuần vì cần tinh chỉnh theo ngành. Cạm bẫy: RAGFlow ngốn tài nguyên hơn, cần máy chủ mạnh hơn — đưa chi phí hạ tầng vào báo giá ngay từ đầu, đừng để nó bào mòn lợi nhuận.
Với cả ba hướng, cách validate nhanh và rẻ giống nhau: chọn một nghiệp vụ hỏi-đáp cụ thể ở một khách hàng thật (ví dụ “chatbot trả lời câu hỏi về chính sách nghỉ phép và công tác phí”), dựng bản demo trong 2-3 ngày, đo hai chỉ số — tỉ lệ câu trả lời đúng có trích dẫn và số câu hỏi tiết kiệm được cho bộ phận HR mỗi tuần. Nếu một phòng ban thật sự dùng nó hằng ngày sau hai tuần, bạn có tín hiệu để nhân rộng và định giá. Cách tiếp cận “một nghiệp vụ, một khách, đo bằng số” này cũng chính là điều chúng tôi khuyến nghị khi dựng stack trợ lý AI gọn cho một SME: thắng một use case cụ thể trước, đừng bán “nền tảng vạn năng”.
Những con số cần theo dõi để không lỗ
Ba cụm chi phí quyết định lời-lỗ của dịch vụ này. Hạ tầng: VPS 15-25 USD/tháng cho tải nhẹ, tăng khi bật self-host model. Token model: phần sinh câu trả lời — theo dõi theo số câu hỏi/ngày, và cân nhắc cache câu hỏi lặp để cắt chi phí. Công vận hành: khâu ngốn tiền âm thầm nhất là cập nhật tài liệu và xử lý câu hỏi bot trả sai — hãy tính nó thành phí bảo trì hằng tháng thay vì làm miễn phí. Một dịch vụ RAG chết không phải vì công nghệ mà vì người dựng quên tính công bảo trì, rồi kiệt sức khi khách thứ năm gọi báo bot trả lời cũ.
Câu hỏi thường gặp
Dữ liệu nội bộ của khách có bị lộ ra ngoài khi dùng RAG không?
Phụ thuộc kiến trúc bạn chọn. Nếu self-host toàn bộ và dùng model mở chạy trên máy chủ của khách, dữ liệu không rời hạ tầng của họ. Nếu gọi model qua API bên thứ ba, chỉ đoạn ngữ cảnh liên quan tới câu hỏi được gửi đi, và bạn nên chọn nhà cung cấp cam kết không dùng dữ liệu để huấn luyện. Với khách nhạy cảm (pháp lý, y tế), chọn phương án self-host hoàn toàn và ghi rõ điều này trong hợp đồng.
AnythingLLM hay RAGFlow — nên bắt đầu bằng cái nào?
Bắt đầu bằng AnythingLLM nếu khách có tài liệu tương đối gọn (văn bản, PDF gốc) và bạn muốn giao nhanh trong vài ngày — nó nhẹ, nhúng sẵn vector store, giấy phép MIT thoải mái. Chuyển sang RAGFlow khi tài liệu nặng về bảng biểu, PDF scan, hoặc khách yêu cầu độ chính xác cao và chấp nhận trả nhiều hơn cho hạ tầng mạnh hơn.
Chi phí thật để chạy một hệ cho SME 50 người là bao nhiêu?
Ở mức tham khảo cho tải hỏi-đáp nội bộ nhẹ: một VPS tầm trung mỗi tháng cộng chi phí token cho phần sinh câu trả lời thường giữ tổng vận hành ở mức khiêm tốn, thấp hơn nhiều so với thuê một nhân sự trực câu hỏi. Con số chính xác dao động theo lưu lượng và việc bạn có self-host model hay không — hãy đo trên tải thật của khách trong tháng đầu rồi mới chốt giá vận hành.
Bán lại phần mềm mã nguồn mở này có hợp pháp không?
Với lõi AnythingLLM (MIT) và RAGFlow (Apache-2.0), bạn được phép dùng thương mại và bán dịch vụ triển khai. Điều cần giữ là thông báo bản quyền/NOTICE gốc và, với Apache-2.0, ghi rõ các thay đổi. Rủi ro pháp lý thật nằm ở các phụ thuộc và model bạn nhúng thêm — hãy rà giấy phép của từng thư viện và mô hình trước khi giao cho khách trả tiền.
Làm sao để bot không bịa câu trả lời?
Ba lớp phòng thủ: một, luôn bật trích dẫn nguồn để người dùng tự kiểm; hai, cấu hình ngưỡng để khi không tìm được đoạn đủ liên quan thì bot trả “không tìm thấy trong tài liệu” thay vì đoán; ba, chuẩn hoá tài liệu tốt (Markdown, tiêu đề rõ) để truy hồi trúng đoạn đúng. Không có cấu hình nào diệt hoàn toàn ảo giác, nên hãy đặt kỳ vọng đúng với khách ngay từ đầu.
Tín hiệu đã rõ: công cụ đủ chín, giấy phép đủ thoáng, chi phí đủ thấp để một người làm dịch vụ dựng RAG chatbot nội bộ cho SME thành một dòng doanh thu thật — miễn là bạn thắng một use case cụ thể trước và tính đúng công bảo trì. Kho tri thức của chúng tôi còn nhiều mảnh ghép cho hướng này, từ khâu ingest tới tích hợp; ví dụ cách nối bot vào CRM để bán cho team sale là bước mở rộng tự nhiên sau khi bot nội bộ đã chạy ổn.
— Trần Đức Long, phụ trách RAG/Data tại AIToEarn. Repo tham chiếu: RAGFlow (infiniflow/ragflow). Số sao và giấy phép ghi nhận tại thời điểm viết, bạn nên kiểm lại trước khi báo giá.