Sarvam 105B

評価

Sarvamはこれをインドのために作った。22言語を後付けではなく第一級として扱い、それに合ったトークナイザーとデータ構成を持ち、オープンウェイトで公開している。インド語プロダクトにおいては、何倍も大きいモデルを上回る。大手ラボはそもそもトレーニング予算をこのように配分しないからだ。英語では中位であり、それ以上を目指してもいない。

特に優れている点

• 22のインド語を翻訳ではなく第一級として処理
• インド文字向けにチューニングされたトークナイザーにより、リクエストあたりのコストを削減
• オープンウェイトのため、インド国内でデプロイ可能

先に知っておくべきこと

• 同サイズのモデルとの比較で英語は中位
• コンテキストウィンドウが短い