rotative
simon willison · 2026年5月20日

模擬器可視化 LLM token 速度

mike veerman 發布了一個 html 應用,模擬從每秒 5 到 800 個 token 的 llm 輸出速度。

read in English · 简体中文 · 日本語 · 한국어

Mike Veerman 發布了一個開放原始碼的 HTML 應用程式,模擬大語言模型的輸出速度,從每秒 5 到 800 個 token。該工具通過可視化特定速率在文字生成期間的表現,解決了性能指標的抽象性質。這個實用程式為評估提供商對 Gemini 3.5 Flash 等模型的聲稱提供了一個有形的參考。

read at source ↗

← rotative