L'outil CLI et de red teaming ultime pour évaluer et sécuriser vos applications LLM
Visiter le site officielPromptfoo est un outil CLI open-source sous licence MIT conçu pour l'évaluation et le red teaming d'applications LLM, d'agents et de pipelines RAG. Intégré aux flux CI/CD (GitHub Actions), il permet de tester la fiabilité des prompts, de détecter les vulnérabilités (OWASP, injections) et de comparer les performances de modèles comme GPT, Claude ou Gemini. Utilisé par Shopify et Anthropic, il propose une interface web locale et une version Enterprise pour les grandes organisations.