PrismML 將 20 億參數 LLM 帶到高通智能眼鏡上
prismml 發布 20 億參數 llm，用於高通智能眼鏡，實現實時視覺和語言查詢。
prismml 由 caltech 研究人員創立，並由 uc berkeley 的 ion stoica 擔任顧問，該公司已為由 qualcomm snapdragon ar1 gen 1 平台驅動的智慧眼鏡開發出其小型語言模型的版本。該模型名為 1-bit bonsai llm，擁有 20 億個參數，專為視覺和語言任務而設計。它可在裝置上本地運行，讓佩戴者能夠即時詢問有關周遭環境的問題。prismml 的目標是實現可在裝置上運行的開放權重 AI，更好地利用裝置的運算能力。為 qualcomm 的晶片發布模型是朝著這一願景邁出的一步。