rotative
simon willison · 2026年5月20日

模拟器可视化 LLM token 速度

mike veerman 發布了一個 html 應用,模擬從每秒 5 到 800 個 token 的 llm 輸出速度。

read in English · 繁體中文 · 日本語 · 한국어

Mike Veerman 发布了一款开源的 HTML 应用程序,可以模拟从 5 到 800 个 tokens/秒的大型语言模型输出速度。该工具通过可视化特定速率在文本生成过程中的表现,解决了性能指标的抽象性质。这个实用程序为评估 Gemini 3.5 Flash 等模型提供商的声明提供了一个有形的参考。

read at source ↗

← rotative