promptfoo là công cụ kiểm thử prompt, agent và RAG kèm khả năng red-team, pentest và quét lỗ hổng cho ứng dụng AI. Nó biến việc đánh giá chất lượng và bảo mật LLM thành các cấu hình khai báo chạy được trong CI/CD.
Ứng dụng
- Viết bộ test tự động so sánh GPT, Claude, Gemini trên cùng tác vụ để chọn model rẻ mà vẫn đạt yêu cầu.
- Chạy kịch bản tấn công prompt injection để tìm điểm yếu trước khi giao sản phẩm cho khách.
- Gắn cổng kiểm thử vào pipeline phát hành, chặn bản prompt kém chất lượng lọt ra production.
Hướng kiếm tiền: Bán dịch vụ audit và red-team ứng dụng LLM cho công ty, kèm báo cáo lỗ hổng và bộ test bàn giao.
⭐ 24.2k (ghi nhận) · nhóm: Kiểm thử & Red-team · license: MIT
Được nhắc trong bản tin
Đi tiếp: Xem Tổng hợp giải pháp để đóng gói repo này thành dịch vụ.