Deepseek 透過 V4.1-Flash 模型大幅降低 AI 代理的記憶體需求
deepseek 發布新 ai 模型 v4.1-flash，降低記憶體需求和計算成本，針對 ai 代理. 這影響部署成本和模型性能。
deepseek 推出了其全新 ai 模型 v4.1-flash，透過縮減所需的緩衝區，大幅削減處理長文本的營運成本。該模型透過一種技術拆分，在讀取資訊時啟用較少的運算資源，從而將資料輸入所需的運算量減半。deepseek 的模型擁有 5520 億個參數，可處理長達一百萬個 token 的上下文。該公司將高速 gpu 記憶體中的緩衝區縮減至前代產品大小的約四分之一。這會影響部署成本與模型效能，尤其是對 ai 代理而言。