Exécutez les meilleurs modèles open-source sur votre propre infrastructure.
Le standard pour faire tourner des LLM localement avec une simple commande.
Moteur d'inférence haute performance pour le déploiement en production.
Les modèles LLM nécessitent des ressources garanties pour une inférence rapide.