Sarvam 105B

Notre lecture

Sarvam a entraîné ce modèle pour l'Inde : vingt-deux langues traitées comme prioritaires plutôt qu'en ajout, avec un tokeniseur et un mélange de données à l'avenant, publié en poids ouverts. Pour les produits en langues indiennes, il bat des modèles plusieurs fois plus grands, parce que les grands laboratoires n'allouent tout simplement pas leur budget d'entraînement de cette façon. En anglais, il est dans le peloton intermédiaire, et il n'essaie pas d'être autre chose.

Là où il brille

• Vingt-deux langues indiennes traitées en priorité, pas traduites
• Tokeniseur adapté aux écritures indiennes, ce qui réduit le coût par requête
• Poids ouverts, donc il peut être déployé en Inde

À savoir avant

• Dans le peloton intermédiaire en anglais face aux modèles de taille similaire
• Fenêtre de contexte courte