LLM Guard là bộ công cụ bảo mật cho tương tác với LLM: quét đầu vào và đầu ra để phát hiện prompt injection, rò rỉ dữ liệu nhạy cảm, nội dung độc hại và ẩn danh hoá thông tin cá nhân. Đây là lớp phòng vệ đặt trước và sau mô hình cho ứng dụng AI đưa vào sản xuất.
Ứng dụng
- Lọc và ẩn danh dữ liệu nhạy cảm trước khi gửi vào LLM
- Chặn prompt injection cho chatbot và agent nội bộ
- Kiểm duyệt đầu ra AI trong sản phẩm hướng người dùng
Hướng kiếm tiền: Builder chào gói kiểm soát an toàn LLM cho doanh nghiệp tài chính, y tế cần tuân thủ dữ liệu.
⭐ 3.2k (ghi nhận) · nhóm: Bảo mật AI · license: MIT
Được nhắc trong bản tin
Đi tiếp: Xem Tổng hợp giải pháp để đóng gói repo này thành dịch vụ.