エンタープライズAIでは特化型がスケールに勝る

Dharmaは、構造化OCRタスクにおいて、特殊な3億パラメータのモデルがテストされたすべての商用フロンティアAPIを上回る性能を示す論文とベンチマークを発表した。この発見は、品質のために利用可能な最大のモデルにデフォルトで切り替えるという、一般的なエンタープライズ調達戦略に異議を唱えるものである。特殊なモデルは、フロンティアの代替品と比較して約50倍低いコストで動作しながら、優れた結果を達成した。Dharmaは、この成功を、分布の整合性と、特定の展開タスクへのトレーニング履歴の近接性に起因すると考えている。