LLMs Outils

Unsloth

Unsloth est un framework open-source qui vous permet d'accélérer le fine-tuning pour les LLMs.

Pezzo

Pezzo est une plateforme LLMOps open-source axée sur les développeurs, conçue pour rationaliser la conception rapide, la gestion des versions, la livraison instantanée, l'observabilité et bien d'autres choses encore.

Lunary

Lunary est une trousse à outils de production pour les LLMs. Observabilité, gestion rapide et évaluations.

Ludwig

Ludwig est un framework "low-code" pour la construction de modèles d'IA personnalisés tels que des LLM et d'autres réseaux neuronaux profonds.

AlpacaEval

Un évaluateur automatique pour les modèles de langage. Validés par des humains, de haute qualité, bon marché et rapide.

FastChat

FastChat est une plateforme collaborative pour les modèles de langage LLMs.

BigCode Eval

BigCode Evaluation Harness est un framework pour l'évaluation des modèles de langage de génération de code autorégressif.

Langdroid

Langroid est un framework Python intuitif, léger, extensible et basé sur des principes pour construire facilement des applications alimentées par LLM, développé par d'anciens chercheurs de CMU et UW-Madison.

Langchain

Langchain vise à aider au développement d'applications fusionnant à la fois les LLM et d'autres sources de connaissance.

LLMware

Llmware est un framework unifié pour développer des modèles d'application basés sur LLMs, y compris en génération augmentée de récupération (RAG).

LLM App

LLM App est un framework de production permettant de construire et de distribuer des applications d'intelligence artificielle et des pipelines de données en temps réel compatibles avec les LLMs.

Dify

Dify est une plateforme de développement d'applications LLM qui intègre BaaS et LLMOps, couvrant la pile technologique essentielle pour la création d'applications génératives natives d'IA, y compris un moteur RAG intégré.

Promptfoo

Testez vos invites, modèles et RAGs. Évaluez et comparez les LLMs, détectez les régressions et améliorez la qualité des invites.

NeumAI

Neum AI est une plateforme de données qui aide les développeurs à valoriser leurs données pour contextualiser les grands modèles de langage grâce à la génération augmentée de récupération (RAG).

DB-GPT

DB-GPT est une plateforme open-source conçue pour le domaine des grands modèles de langage (LLM) dans le domaine des bases de données.

Colossal AI

Optimisez les performances d'exécution de vos grands réseaux neuronaux avec les techniques distribuées de Colossal-AI.

Megatron LM

Megatron est un transformer puissant développé par l'équipe de recherche appliquée à l'apprentissage profond de NVIDIA.

DeepSpeed

DeepSpeed est une bibliothèque d'optimisation de l'apprentissage profond qui facilite l'entraînement et l'inférence distribués, de manière simple et efficace.

Flowise

Flowise est une interface utilisateur permettant de créer facilement et intuitivement votre flux d'automatisation LLM personnalisé grâce à la fonctionnalité Drag & Drop.