物理學家的方法:伊辛優化問題在LLM剪枝中的應用
研究人員將llm壓縮框架為伊辛優化問題,實現塊移除的約束二進位優化. 這影響ai模型效率.
一篇題為 'llm compression by block removal with constrained binary optimization' 的最新論文,提出了一種對大型語言模型進行剪枝的新穎方法。透過將該問題建構為 ising 最佳化問題,作者們得以運用受約束二元最佳化來移除 LLM 中的區塊。這項技術有潛力提升 AI 模型的效率。該論文於 6 月 17 日發表,可在 arxiv 上查閱,識別碼為 2602.00161。