시뮬레이터, LLM 토큰 속도 시각화
Mike Veerman이 초당 5개에서 800개 토큰에 이르는 LLM 출력 속도를 시뮬레이션하는 HTML 앱을 공개했습니다.
마이크 비어먼(Mike Veerman)이 초당 5 토큰에서 800 토큰까지의 대규모 언어 모델 출력 속도를 시뮬레이션하는 오픈 소스 HTML 애플리케이션을 출시했다. 이 도구는 성능 지표의 추상적인 특성을 다루며, 텍스트 생성 중에 특정 속도가 어떻게 나타나는지 시각화한다. 이 유틸리티는 Gemini 3.5 Flash와 같은 모델에 대해 제공업체가 주장하는 내용을 평가하기 위한 유형의 참조를 제공한다.