Có một hạng mục phần mềm đang lặng lẽ tách ra thành thị trường riêng: công cụ quản lý và tối ưu prompt cho các team dùng AI. Khi một công ty chuyển từ “nghịch ChatGPT” sang nhúng LLM vào sản phẩm thật, prompt không còn là vài dòng dán trong code. Nó trở thành tài sản cần phiên bản hóa, cần đo lường, cần A/B test và cần người không biết code cũng sửa được. Nhìn vào các repo mã nguồn mở đang dẫn dắt mảng này — Langfuse, Agenta, Latitude — sẽ thấy rõ khoảng trống mà một builder Việt hoàn toàn có thể chen vào.
Tín hiệu đáng chú ý nhất không phải số sao (bài này không có số liệu sao cập nhật từ hệ thống theo dõi, nên tôi không bịa con số), mà là cách các dự án này cấu trúc giấy phép. Langfuse ghi rõ trong file LICENSE: toàn bộ nội dung ngoài các thư mục ee/, web/src/ee/, worker/src/ee/ được phát hành theo giấy phép “MIT Expat”; riêng phần trong ee/ chịu giấy phép thương mại tách biệt. Agenta dùng đúng mô hình đó — core MIT, thư mục ee/ theo license riêng. Latitude thì chọn LGPL v3. Đây là những sự thật quan trọng hơn bất kỳ lời hứa hẹn nào, vì chúng quyết định bạn được phép làm gì để kiếm tiền.
Tín hiệu: vì sao “prompt ops” đang thành một hạng mục riêng
Ba lực đẩy đang gộp lại. Thứ nhất, prompt ngày càng dài và nhiều nhánh: một tính năng có thể gọi 4-6 prompt khác nhau tùy ngữ cảnh, và mỗi lần đổi model là phải tinh chỉnh lại. Thứ hai, chi phí token buộc team phải đo: một prompt thừa 300 token nhân với vài trăm nghìn lượt gọi mỗi tháng là hóa đơn thật, nên nhu cầu quan sát và cắt gọt prompt tăng nhanh — đây cũng là lý do dịch vụ audit và tối ưu chi phí LLM đang có đất sống. Thứ ba, người viết prompt tốt nhất trong công ty thường là product manager hoặc chuyên gia domain, không phải lập trình viên — họ cần một giao diện để sửa prompt mà không phải mở pull request.
Gộp ba lực đó lại, bạn có một nhu cầu rất cụ thể: một nơi để lưu prompt như lưu code (có version, có rollback), chạy thử trên tập dữ liệu mẫu, so sánh output giữa các phiên bản, và theo dõi chi phí lẫn độ trễ theo thời gian thực. Các ông lớn mã nguồn mở đã dựng khung, nhưng phần lớn hướng tới kỹ sư quốc tế và tiếng Anh. Với một team 5-20 người ở Việt Nam, việc tự host Langfuse rồi cấu hình, bảo trì, cập nhật là một rào cản thật — và rào cản của người khác chính là cơ hội của bạn.
Phân tích giấy phép: self-host và bán lại được tới đâu
Trước khi bàn kiếm tiền, phải nói thẳng về giấy phép, vì đây là nơi nhiều người ngã. Với mô hình “core MIT + thư mục ee/ thương mại” của Langfuse và Agenta: bạn được tự do dùng, sửa, phân phối và thậm chí bán lại phần core MIT — MIT cho phép “use, copy, modify, merge, publish, distribute, sublicense, and/or sell”. Nghĩa là dựng một dịch vụ có tính phí dựa trên phần core hoàn toàn hợp lệ, miễn giữ lại thông báo bản quyền. Nhưng các tính năng nằm trong ee/ (thường là SSO doanh nghiệp, phân quyền nâng cao, một số bảng phân tích) chịu giấy phép thương mại — không được lấy ra bán như của mình. Ranh giới nằm ở thư mục, nên nếu định thương mại hóa, bạn phải đọc kỹ file ee/LICENSE và tránh động vào phần đó.
Latitude dùng LGPL v3 lại là câu chuyện khác: bạn có thể dùng và cung cấp dịch vụ, nhưng nếu sửa chính phần LGPL và phân phối, bạn phải công khai các thay đổi đó theo cùng giấy phép. LGPL dễ chịu hơn GPL khi bạn chỉ “liên kết” tới thư viện, nhưng vẫn ràng buộc hơn MIT rõ rệt. Kết luận thực dụng: nếu muốn tự do bán lại và đóng gói, ưu tiên xây trên nền MIT (core của Langfuse/Agenta) hoặc tự viết từ đầu; nếu chọn LGPL, hãy coi nó như thư viện gọi qua API và giữ code sản phẩm của bạn tách bạch. Đừng bao giờ giả định “mã nguồn mở nghĩa là muốn làm gì cũng được” — đó là cách nhanh nhất để dính rắc rối pháp lý khi sản phẩm bắt đầu ra tiền.
Xây gì · Bán cho ai · Validate
Dưới đây là ba hướng đi cụ thể, kèm ước lượng thời gian MVP và cạm bẫy của từng hướng. Cả ba đều nên bắt đầu từ một khung dựng sẵn thay vì code lại toàn bộ — một boilerplate SaaS AI để dựng khung sản phẩm giúp bạn rút ngắn phần auth, billing và dashboard xuống còn vài ngày.
Hướng 1: Prompt CMS cho team non-tech
Xây gì: một giao diện web nơi PM và chuyên gia domain lưu prompt theo dạng “biến + template”, chỉnh sửa, tạo phiên bản và bấm publish; lập trình viên gọi prompt qua một SDK nhỏ bằng khóa và tên phiên bản, không phải hardcode chuỗi trong code. Bán cho ai: các startup và agency Việt có 3-15 người đang dùng AI trong sản phẩm nhưng chưa có quy trình. MVP: khoảng 3-4 tuần cho bản chạy được (CRUD prompt, versioning, một SDK JavaScript/Python, khóa API). Cạm bẫy: đừng ôm đồm analytics ngay từ đầu — nếu việc “sửa prompt không cần deploy” chưa mượt thì mọi thứ khác vô nghĩa; và phải có cơ chế rollback thật, vì team sẽ publish nhầm.
Hướng 2: Lớp đánh giá và A/B test prompt
Xây gì: công cụ chạy một prompt qua tập dữ liệu mẫu (ví dụ 50-200 câu hỏi thật), so sánh output giữa các phiên bản hoặc giữa các model, và cho điểm bằng rule hoặc bằng một model chấm. Bán cho ai: team đã có prompt trong sản phẩm nhưng đang “sửa mù” — không biết bản mới tốt hơn hay tệ hơn bản cũ. MVP: khoảng 4-6 tuần, vì phần chạy batch và lưu kết quả cần chắc chắn. Cạm bẫy: “LLM chấm LLM” dễ cho cảm giác khoa học nhưng thiếu tin cậy nếu không có tập dữ liệu vàng do người tạo; hãy bắt buộc khách nhập ít nhất vài chục mẫu chuẩn trước khi hiển thị điểm, đừng để họ tin vào con số ảo.
Hướng 3: Dịch vụ triển khai và vận hành có quản lý
Xây gì: không dựng sản phẩm mới mà đóng gói dịch vụ “prompt ops được quản lý” — tự host Langfuse hoặc Agenta phần core MIT trên hạ tầng của khách, cấu hình, tích hợp và bảo trì hàng tháng. Bán cho ai: doanh nghiệp vừa muốn dữ liệu prompt nằm trong nhà (không đẩy lên SaaS nước ngoài) nhưng không có kỹ sư rảnh để tự vận hành. MVP: gần như bằng 0 về code — 1-2 tuần để chuẩn hóa quy trình cài đặt, kịch bản backup và bảng theo dõi; giá trị nằm ở dịch vụ, không ở phần mềm. Cạm bẫy: phải tuyệt đối tránh phần ee/ khi đóng gói bán, và nói rõ với khách đâu là tính năng thương mại của thượng nguồn để không hứa nhầm.
Cạm bẫy chung và cách định giá
Ba cái bẫy lớn nhất của mảng này. Một, cạnh tranh với chính upstream: Langfuse và Agenta có bản cloud của họ, nên đừng bán lại nguyên si — hãy thắng bằng việc bản địa hóa (tiếng Việt, hỗ trợ nhanh, tích hợp thanh toán nội địa) và bằng dịch vụ triển khai mà upstream không làm cho thị trường nhỏ. Hai, bảo mật prompt: prompt thường chứa logic nghiệp vụ nhạy cảm và đôi khi cả dữ liệu khách hàng, nên cần chặn rò rỉ và tấn công tiêm chèn — có thể ghép thêm một lớp như LLM Guard để chặn prompt injection vào luồng chạy prompt. Ba, định giá: mức tham khảo hợp lý cho thị trường Việt là gói theo đầu người, khoảng vài trăm nghìn đồng mỗi user mỗi tháng cho bản SaaS, hoặc gói dịch vụ vận hành tính theo tháng; đừng bắt chước bảng giá đô-la của upstream vì sức chi trả khác nhau rõ rệt.
Về validate, đừng viết một dòng code trước khi có tín hiệu. Cách nhanh: phỏng vấn 8-10 team đang nhúng AI, hỏi cụ thể “lần gần nhất đổi prompt mất bao lâu và ai làm” — nếu câu trả lời là “kỹ sư sửa trong code rồi deploy”, bạn có khách. Tiếp theo, dựng một landing page mô tả hướng 1, chạy quảng cáo nhỏ nhắm nhóm PM và founder kỹ thuật, đo tỷ lệ đăng ký chờ. Chỉ khi có vài chục lượt quan tâm thật mới bắt tay dựng MVP. Với hướng 3 thì còn nhanh hơn: chỉ cần một khách trả tiền cho lần cài đặt đầu tiên là đủ để xác nhận nhu cầu.
Câu hỏi thường gặp
Tôi có được bán lại Langfuse hay Agenta không?
Được với phần core theo giấy phép MIT Expat — MIT cho phép sử dụng, sửa đổi, phân phối và bán. Nhưng phần nằm trong thư mục ee/ chịu giấy phép thương mại riêng và không được lấy ra bán như của mình. Hãy đọc kỹ file ee/LICENSE của từng repo và giữ sản phẩm thương mại của bạn tách khỏi phần đó.
Nên tự viết từ đầu hay xây trên mã nguồn mở?
Nếu mục tiêu là dịch vụ triển khai (hướng 3), xây trên core MIT là hợp lý và nhanh. Nếu muốn một sản phẩm khác biệt về trải nghiệm cho team non-tech (hướng 1), tự viết phần lõi CRUD prompt lại đơn giản và cho bạn toàn quyền định hình — phần khó là versioning và SDK, không phải giao diện.
Thị trường Việt đủ lớn cho sản phẩm ngách này chưa?
Đủ cho một sản phẩm solo hoặc team nhỏ, chưa đủ cho tham vọng trăm triệu đô. Số lượng công ty nhúng AI vào sản phẩm đang tăng đều, và phần lớn chưa có công cụ prompt ops. Chiến lược khôn ngoan là bắt đầu bằng dịch vụ để có dòng tiền sớm, dùng khách đầu tiên làm bằng chứng, rồi mới đóng gói dần thành SaaS.
Làm sao cạnh tranh khi upstream có bản cloud miễn phí?
Không đấu trực diện. Thắng bằng bản địa hóa, hỗ trợ tiếng Việt phản hồi nhanh, tích hợp thanh toán và hóa đơn nội địa, và bằng cam kết dữ liệu nằm trong nước — những thứ một dự án mã nguồn mở toàn cầu ít khi ưu tiên cho thị trường nhỏ như Việt Nam.
Tóm lại: đây là một ngách “âm thầm mà thật”, nơi giấy phép mở ra cơ hội hợp pháp và nhu cầu đang lớn dần cùng độ trưởng thành của các team AI Việt. Bắt đầu bằng dịch vụ, validate bằng phỏng vấn thật, và tôn trọng ranh giới giấy phép — đó là con đường ít rủi ro nhất để biến một khoảng trống thành sản phẩm ra tiền.
— Lê Nhật Minh, Vibe Coder tại AIToEarn