Thinking Machines의 Inkling Small, 12B 활성 파라미터로 거대 모델 제치다
Thinking Machines가 12B 활성 파라미터 오픈 웨이트 모델 Inkling Small을 공개했으며, 추론 벤치마크에서 더 큰 경쟁 모델들을 앞섰다. 효율성이 규모를 능가할 수 있음을 증명한 것으로, 작고 커스터마이징 가능한 모델로의 전환을 시사한다.
싱킹 머신즈는 아파치 2.0 라이선스 하에 120억 개의 활성 파라미터와 256k 컨텍스트 윈도우를 갖춘 오픈 웨이트 모델인 Inkling Small을 출시했다. 아티피셜 애널리시스는 인텔리전스 인덱스에서 40점을 부여했으며, 더 작은 오픈 모델 중에서는 성능이 더 좋은 모델이 없다는 점에서 주목할 만하다. 이 모델은 이전의 276b 파라미터 모델보다 인류의 마지막 시험과 GPQA 다이아몬드에서 더 좋은 성적을 거두었다. 또한 이 모델은 토큰 효율성이 매우 높아, 딥시크 V4 플래시 대비 45k, GPT-5.4 미니 대비 78k에 비해 작업당 평균 24k 출력 토큰을 생성한다. 이는 효율적인 추론 공간에서 개발자를 위한 비용 효율적인 미세 조정 가능한 AI 에이전트를 제공한다는 측면에서 싱킹 머신즈를 리더로 자리매김하게 한다.