OpenAI 推理成本减半 —— 为何 GPU 价格并未下降
openai 将访客用户的推理成本降低了逾50%， gpu 需求降至几百台。这种效率提升可能增加利润或扩大规模，但不会缓解芯片需求。
OpenAI工程师通知同事，他们将非登录ChatGPT用户的推理成本削减了**一半以上**，显著降低了对GPU的需求至仅需数百个。这种举措主要针对该产品最受限制的层级，但留下了关于扩展到整个平台的疑问。推理优化的关注点反映了行业趋势，例如DeepSeek新的开源方法，该方法可加速请求高达**85%**。这些效率的提高使实验室能够服务更多的用户并改善响应时间，而无需立即扩展硬件，从而在数据中心增长受限的情况下维持了对芯片的高需求。