一家公司因未設置使用限額單月在Claude上燒掉5億美元
一家未透露名稱的公司因未對anthropic的claude設置使用限額,單月報告稱支出高達5億美元,凸顯了企業急需內部ai治理以防止預算超支的關鍵性。
據axios報導,一家未透露名稱的公司據稱因管理員未能對員工提示設置限制,單月為使用Anthropic的Claude支付了5億美元的費用。此事件凸顯了企業日益增長的危機,即固定價格計費模式導致員工將昂貴的大型語言模型(LLM)用於檢查天氣等瑣碎任務時,產生巨大的費用超支。微軟和Uber的高管指出,如果沒有專業的AI監管角色,公司會在不適當的模型上浪費資金,並遭受諸如輸出偏差等質量問題。組織必須培養內部專業知識,以區分需要生成式AI的任務和更適合傳統軟體的任務,以確保投資回報率(ROI)。