LLMs Entrainement

Colossal AI

Optimisez les performances d'exécution de vos grands réseaux neuronaux avec les techniques distribuées de Colossal-AI.

Megatron LM

Megatron est un transformer puissant développé par l'équipe de recherche appliquée à l'apprentissage profond de NVIDIA.

DeepSpeed

DeepSpeed est une bibliothèque d'optimisation de l'apprentissage profond qui facilite l'entraînement et l'inférence distribués, de manière simple et efficace.