rotative
google ai blog · 2026年4月2日

谷歌为Gemini API推出Flex和Priority层级

谷歌为gemini api增加了flex和priority推理层级。flex通过降低关键性为后台任务节省50%成本,而priority为交互式应用提供高可靠性。两者均使用标准同步端点,无需异步批处理api管理。flex对所有付费用户开放,priority需要2级或3级项目。

read in English · 繁體中文 · 日本語 · 한국어

谷歌在Gemini API中引入了Flex和Priority推理层,允许开发者通过统一的接口优化成本和可靠性。Flex推理针对延迟可容忍的工作负载(如数据丰富或主动后台进程),与标准定价相比节省50%,使用同步接口绕过批量管理复杂性。Priority Inference针对面向用户应用的高可靠性需求,在超出限制时自动降级为标准层,确保流量在峰值负载期间不会被抢占。

read at source ↗

← rotative