CS-4 使用與 CS-3 相同的晶片將速度翻倍
cerebras 推出了 CS-4 系統,透過增加功耗和散熱,在不更換 5nm WSE-3 晶片的情況下將推理性能翻倍至 4,400 tokens/sec。這對輝達在高速推理領域的主導地位構成了挑戰。
Cerebras 推出 CS-4 系統,通過激進地超頻現有的 5nm WSE-3 晶片和採用新的「背包」模組化設計,實現每秒 4,400 個 token 的運算能力,該設計允許每個機架容納三片晶圓。雖然記憶體仍為 44 GB,但該架構消除了外部網路瓶頸,提供據稱比 Nvidia GPU 設定快 30 倍的速度。該系統支持與 AMD 和 AWS Trainium 等合作夥伴的分離推理,標誌著優化整個系統堆疊而非僅晶片密度的轉變。這一更新可能會給傳統 GPU 製造商帶來壓力,並加速採用晶圓級引擎進行大規模推理。