Mercury 2.5

評価

Mercuryは1トークンずつではなく下書き全体を一度に洗練させてテキストを生成する。9月にリリースされたバージョン2.5は、これを毎秒約1,100トークンまで押し上げた。InceptionはMercury 2から品質が大きく向上したと主張しているが、それを裏付けるベンチマーク表は公表しておらず、独立系インデックスでは今も小型モデルの位置にある。コード補完のようにレイテンシそのものがプロダクトである場面では、ここにあるどのモデルもこれほど速くない。

特に優れている点

• 毎秒約1,100トークンで、従来型モデルをはるかに上回る
• リリース価格は100万トークンあたり入力20セント・出力75セント
• 26万トークンのコンテキスト

先に知っておくべきこと

• このリリースのベンチマーク表は公表されていない
• 推論の深さは、速度で上回る従来型モデルに大きく劣る