Deepseek 通过 V4.1-Flash 模型大幅降低 AI 代理的内存需求

deepseek发布了其新ai模型v4.1-flash，通过缩减所需的缓冲区，大幅削减了处理长文本的运营成本。该模型通过一种技术拆分方式，在读取信息时激活更少的算力，从而将数据输入所需的算力减半。deepseek的模型拥有5520亿个参数，可处理多达一百万个token的上下文。该公司将快速gpu内存中的缓冲区缩减至其前代产品大小的约四分之一。这会影响部署成本和模型性能，对ai智能体的影响尤为显著。