Pramaana, 수학으로 AI 환각을 잡겠다며 $27M 조달
pramaana labs는 khosla ventures가 이끈 $27m 투자 유치로 llms에 형식 검증을 적용하고자 하며, lean 코드를 사용해 세금·법률 같은 고위험 분야에서 결정론적 추론을 가능하게 만들려 한다.
프라마나 랩스(Pramaana Labs)는 코스라 벤처스(Khosla Ventures)가 주도하고 액셀(Accel) 및 볼드캡(BoldCap)이 참여한 2,700만 달러의 시드 펀딩을 유치하여 대규모 언어 모델에 형식 검증 방법을 통합하여 AI 신뢰성을 해결했다. 이 스타트업은 기존 LLM이 자연어 처리를 처리하는 반면 린(Lean)과 같은 언어를 사용하여 결정론적 검증 레이어가 출력을 수학적으로 증명하는 이중 레이어 아키텍처를 사용한다. 세법, 사이버 보안 및 약물 발견과 같이 코딩된 규칙이 있는 분야를 대상으로 프라마나는 전 IRS 위원장 대니 웰펠(Danny Werfel)과 IIT 델리 및 UC 버클리 교수 등 도메인 전문가와 협력하여 이러한 복잡한 시스템을 공식화하고 있다. 이 접근 방식은 현재 엔터프라이즈가 고위험 환경에 AI를 배포하는 것을 방해하는 환각 문제를 해결하려고 시도한다.