小規模モデルに賭けてLLMのハルシネーションを修正するため、Probablyが$9Mを調達
Probablyは、決定論的バリデータを使ってLLMのエラーを検出するシステムを構築するため、Andreessen Horowitzから$9Mを調達。高価なデータセンターではなくローカルハードウェア上で動作できるようにする。
スタートアップのProbablyは、アンドリーセン・ホロウィッツ（Andreessen Horowitz）がリードするシード資金調達で約900万ドルを調達し、永続的な大規模言語モデル（LLM）の幻覚（hallucination）問題に対処するために、新しい「Harness」エンジニアリング手法を開発した。 よりスマートなモデルに頼るのではなく、企業はデータセットに対して回答をチェックする決定論的バリデーターを使用し、出力が検証されるまでエラーをモデルに返すことで、99.99%の精度を実現した。 このアーキテクチャにより、システムはフロンティアモデルよりも大幅に小さいモデルで実行でき、データセンターのGPUではなくローカルデスクトップハードウェアでの操作を可能にし、トークンコストを削減できる。 同社は、データサイエンスツールを最初にローンチするが、将来的には会計や医療サービスにもエンジンを拡大する予定だ。