OpenAI 开发人员采用“穴居人”模式，将 AI Token 成本削减 65%
开发人员正在采用一种“穴居人”插件，它能去除大语言模型输出中的对话填充词，节省 65% 的 token 并大幅降低 api 成本。
开发者們正在部署一款「原始人」插件，以應對飛速上漲的AI成本，方法是刪除模型輸出中的客套話和修辭，同時保留程式碼和技術細節。該工具減少了65-75%的token使用量，促使OpenAI和Legrand等企業巨頭的員工採用它，以在嚴格的新預算配額內運營。一名OpenAI的高級工程師甚至為該專案貢獻了程式碼，表明了公司內部對此方法的認可。這一趨勢凸顯了前沿模型的昂貴、冗長的特性與企業對成本效益高、確定性工具的需求之間日益增長的矛盾。