중국 AI 기업 Moonshot AI가 Kimi K3를 공개했다. Kimi K3는 총 2.8조 개의 파라미터를 가진 오픈웨이트 멀티모달 모델이다. 텍스트와 이미지를 처리하고, 최대 100만 토큰의 컨텍스트를 지원한다.
2.8조 개를 항상 사용하는 것은 아니다
Kimi K3는 Mixture-of-Experts, 줄여서 MoE 구조를 사용한다. 여러 전문 모델을 한 번에 모두 작동시키는 것이 아니라, 입력마다 필요한 일부만 골라 사용하는 방식이다.
전체 파라미터는 2.8조 개지만 한 토큰을 처리할 때 실제로 활성화되는 파라미터는 약 1,040억 개다. 896개의 전문가 중 16개를 선택해 작동시킨다. 모델의 전체 규모를 키우면서도 매번 모든 계산을 수행하지 않도록 설계한 것이다. 세부 구조와 모델 가중치는 공식 모델 카드에서 확인할 수 있다.
공식 벤치마크에서 공개한 성능
Moonshot AI는 추론, 코딩, 에이전트 작업, 비전 등 여러 평가 결과를 함께 공개했다. Terminal-Bench 2.1에서 Kimi K3는 88.3점을 기록해 GPT-5.6 Sol의 88.8점과 비슷한 결과를 보였고, BrowseComp에서는 91.2점으로 GPT-5.6 Sol의 90.4점을 앞섰다고 발표했다.
다만 이 수치는 Moonshot AI가 공개한 평가 결과다. 모델마다 Kimi Code, Claude Code, Codex 등 서로 다른 실행 환경을 사용했고, 추론 강도도 최대 수준으로 설정됐다. 공식 발표 역시 Kimi K3의 전체 성능이 Claude Fable 5와 GPT-5.6 Sol에는 아직 뒤처진다고 설명한다.
공개 범위와 이용 방법
발표 당시 Kimi K3는 Kimi 서비스와 Kimi Work, Kimi Code, API에서 먼저 제공됐다. 전체 모델 가중치는 7월 27일까지 공개할 예정이라고 안내됐으며, 현재는 Hugging Face에서 확인할 수 있다.
Kimi K3는 3조 파라미터에 가까운 규모와 멀티모달 기능, 장시간 코딩과 도구 사용 능력을 함께 공개했다는 점에서 주목받았다. 동시에 벤치마크 숫자는 평가 도구와 조건에 따라 달라질 수 있어, 특정 점수 하나만으로 모델 전체의 우열을 판단하기는 어렵다.