PrismML, 2B 파라미터 LLM을 Qualcomm 스마트 글래스에 탑재
prismml이 qualcomm 기반 스마트 글래스를 위해 20억(2B) 파라미터 LLM을 출시하며, 기기 내에서 실시간 비전 및 언어 쿼리를 로컬로 처리할 수 있게 함.
caltech 연구진이 설립했고 uc berkeley의 ion stoica가 자문하고 있는 prismml은 qualcomm의 snapdragon ar1 gen 1 플랫폼으로 구동되는 스마트 글라스를 위한 자사 초소형 언어 모델 버전을 개발했습니다. 1-bit bonsai llm이라고 불리는 이 모델은 20억 개의 파라미터를 갖추고 있으며 비전 및 언어 작업을 위해 설계되었습니다. 이 모델은 기기에서 로컬로 실행될 수 있어 착용자가 주변 환경에 대해 실시간으로 질문할 수 있습니다. prismml의 목표는 기기의 컴퓨팅 파워를 더 효과적으로 활용할 수 있도록 기기에서 실행되는 오픈 웨이트 AI를 실현하는 것입니다. qualcomm 칩용 모델의 출시는 그 비전을 향한 한 걸음입니다.