元OpenAI研究者、高速判断を可能にするAIモデル「Jev」を開発
type safe aiが、ソフトウェア内で高速な判断を下すモデル「jev」を発表。速度とコスト面の利点をうたうが、対応範囲は限定的。
元openaiのリサーチャーでinstructgptの著者であるdiogo almeida氏が設立したスタートアップtype safe aiは、ソフトウェア内で高速な判断を提供するaiモデル「jev」を発表しました。一般的なチャットボットとは異なり、jevはテキストを生成するのではなく、開発者が定義した選択肢を採点するよう設計されています。このモデルは1秒未満の応答時間を実現し、コストは100万入力トークンあたり$0.042という低価格です。jevのユースケースには、顧客リクエストの仕分け、購入意図の検出、人間が対応を引き継ぐべきタイミングの判断などが含まれます。このモデルはハルシネーションを起こすことはできませんが、事前に設定された選択肢の範囲内であっても、事実と異なる選択を出力する可能性は残されています。