シミュレーター、LLMのトークン速度を可視化

Mike Veermanは、1秒あたり5〜800トークンの大規模言語モデルの出力速度をシミュレートするオープンソースのHTMLアプリケーションをリリースした。このツールは、テキスト生成時に特定のレートがどのように表示されるかを視覚化することで、パフォーマンスメトリクスの抽象的な性質に対処する。このユーティリティは、Gemini 3.5 Flashなどのモデルに関してプロバイダーが行う主張を評価するための具体的なリファレンスを提供する。