Kimi K3, 2.8T 파라미터 달성 — 메모리가 새로운 컴퓨팅인가?
Moonshot AI가 원시 컴퓨팅 대신 메모리를 활용하는 2.8조 파라미터 모델 Kimi K3를 출시했습니다. 이는 서구 AI 개발을 지배해온 스케일링 법칙에 도전하는 움직임입니다.
문샷 AI는 7월 16일 출시된 2.8조 매개변수 오픈웨이트 모델인 키미 K3를 소개했다. '3T 클래스'로 분류되며, 2.8조개의 총 매개변수를 사용하는 전문가 혼합 아키텍처이지만, 각 추론당 약 6000억개의 매개변수가 활성화된다. 컴퓨팅보다 메모리 최적화에 집중함으로써, 더 큰 컴퓨팅 예산만이 AGI로 가는 유일한 길이라는 통념에 도전한다.