PrismML 将 20 億参数 LLM 带到高通智能眼镜上
prismml 发布 20 億參數 llm，用于高通智能眼镜，实现实时视觉和语言查询。
prismml 由 caltech 研究人员创立，并由 uc berkeley 的 ion stoica 担任顾问，该公司已为其微型语言模型开发了一个适用于由 qualcomm 的 snapdragon ar1 gen 1 平台驱动的智能眼镜的版本。该模型名为 1-bit bonsai llm，拥有 20 亿个参数，专为视觉和语言任务而设计。它可以在设备上本地运行，使佩戴者能够实时询问有关周围环境的问题。prismml 的目标是实现可在设备上运行的开放权重 AI，从而更好地利用设备的算力。为 qualcomm 的芯片发布一款模型是朝着这一愿景迈出的一步。