중국 문샷AI가 사전 예고 없이 공개한 키미 K3는 2.8조 파라미터와 100만 토큰 컨텍스트를 앞세운 오픈 모델입니다. 가중치 공개 일정과 성능 평가, 딥시크 V4와의 비교, 공공 AI 도입 시 검토 기준까지 정리했습니다.

키미 K3 완벽 정리, 2.8조 파라미터 오픈모델이 던진 질문 3가지

작성자:

안녕하세요! 성징어의 IT 잉크사이트(IT Ink-Sight) 성징어입니다.

2026년 7월 16일 오후 6시 58분(UTC), 그러니까 한국 시간으로는 7월 17일 새벽 3시 58분에 중국 문샷AI(Moonshot AI)의 공식 X 계정에 티저 영상 하나가 올라왔습니다. 보도자료도, 사전 예고 블로그 글도 없었습니다. 그런데 몇 시간 뒤 kimi.com 모델 선택란에 새로운 옵션 하나가 조용히 추가되어 있었습니다. 이름은 키미 K3. 2.8조 개의 파라미터와 최대 100만 토큰 컨텍스트를 갖춘, 문샷AI 표현을 빌리면 “세계 최초의 오픈 3T급 모델”이었습니다.

같은 주에 구글 딥마인드 CEO 데미스 허사비스가 AGI 임박을 경고하고 나섰던 만큼, 이번 신작의 등장을 그저 또 하나의 모델 출시로 넘기기는 아쉽습니다. 특히 딥시크가 지난 4월 화웨이 칩에 최적화한 V4를 내놓은 지 석 달도 안 돼, 중국의 두 번째 초대형 오픈 모델이 등장했다는 점에서 이 흐름을 조금 더 들여다볼 필요가 있습니다.

예고 없이 등장한 키미 K3, 무슨 일이 있었나

보통 대형 AI 랩이 플래그십 모델을 내놓을 때는 몇 주 전부터 티저를 흘리고, 벤치마크 자료를 미리 뿌리고, 발표 당일에는 라이브스트림까지 준비합니다. 키미 K3는 이 관례를 건너뛰었습니다. 개발자용 문서에 “Introducing Kimi K3″라는 페이지가 조용히 게재된 게 사실상 유일한 사전 신호였고, 정작 공식 발표문은 한국 시간 기준 새벽 시간대에 올라왔습니다.

이용자 입장에서는 발표 당일부터 곧바로 써볼 수 있었다는 점이 오히려 인상적입니다. 이 모델은 kimi.com 모델 선택란에 ‘K3 Max’로 추가됐고, 대규모 검색이나 배치 처리를 한 번에 처리하는 ‘K3 Swarm Max’도 함께 열렸습니다. 웹과 모바일 앱은 물론 팀 협업 도구인 Kimi Work 3.1 이상, 터미널 기반 코딩 에이전트 Kimi Code, 그리고 API 모델 ID kimi-k3까지 문샷AI 제품 전 라인업에 동시 배포됐습니다. API는 오픈AI SDK와 호환되도록 설계돼 있어서, 기존에 챗GPT API를 붙여 쓰던 코드의 엔드포인트만 바꿔도 큰 무리 없이 연결됩니다.

다만 요금제에 따라 접근 범위가 갈립니다. 100만 토큰 컨텍스트는 ‘Allegretto’ 이상 요금제에서만 전부 열리고, ‘Moderato’ 요금제는 256K 토큰까지만 제공되며, 가장 낮은 ‘Andante’ 요금제에서는 키미 K3 자체를 아예 쓸 수 없습니다. 추론 강도 옵션도 아직 ‘max’ 하나뿐이라, 가벼운 질문을 던져도 모델이 최대 강도로 추론하는 구조입니다. 문샷AI는 ‘low’와 ‘high’ 단계를 추후 업데이트로 추가하겠다고 밝혔습니다.

2.8조 파라미터, 그런데 진짜 알맹이는 100만 토큰이다

숫자만 보면 2.8조 파라미터가 가장 눈에 띄지만, 이 모델을 이해하려면 구조를 한 번 더 들여다봐야 합니다. 키미 K3는 모든 파라미터를 매번 사용하는 밀집 모델이 아니라 전문가 혼합(MoE) 구조입니다. ‘Stable LatentMoE’라는 라우팅 계층 안에 896개의 전문가가 있고, 토큰 하나가 들어올 때마다 그중 16개만 골라 활성화합니다. 문샷AI는 이 라우팅을 안정적으로 유지하기 위해 ‘Quantile Balancing’이라는 기법을 학습 단계에 적용했다고 설명합니다.

장문 처리는 ‘Kimi Delta Attention(KDA)’이라는 하이브리드 선형 어텐션이 맡고, 층과 층 사이 정보가 옅어지지 않도록 ‘Attention Residuals(AttnRes)’라는 구조를 새로 붙였습니다. 이 두 가지 조합 덕분에 이전 세대인 키미 K2 대비 스케일링 효율이 약 2.5배 높아졌다는 것이 문샷AI 측 설명입니다. 결과물이 바로 1,048,576토큰, 즉 100만 토큰 컨텍스트입니다. 방대한 코드베이스 전체나 여러 편의 논문, 몇 시간 분량의 회의록을 한 번에 밀어 넣고 처리할 수 있다는 뜻입니다.

여기서 한 가지 짚어야 할 오해가 있습니다. “16개 전문가만 쓰니 개인 PC에서도 돌릴 수 있겠다”는 기대입니다. 2.8조 파라미터를 4비트로만 저장해도 가중치 용량은 어림잡아 1.4테라바이트에 달합니다. 문샷AI 자체도 자사 인프라에서 이 모델을 서빙할 때 고대역폭으로 연결된 64개 이상의 가속기, 이른바 슈퍼노드 구성을 권장한다고 밝혔습니다. 활성 파라미터를 줄이는 것은 연산량을 통제하는 전략이지, 모델 전체를 보관하고 서빙하는 데 필요한 인프라 규모를 줄여주는 이야기는 아닙니다.

구조적으로 눈에 띄는 세부 요소도 몇 가지 더 있습니다. 문샷AI는 ‘Per-Head Muon’이라는 옵티마이저 변형과 ‘Sigmoid Tanh Unit(SiTU)’이라는 활성화 함수, 그리고 ‘Gated MLA’라는 어텐션 변형을 함께 적용했다고 밝혔습니다. 여기에 SFT 단계부터 MXFP4 가중치와 MXFP8 활성값을 함께 고려한 양자화 인식 학습을 적용해, 실제 서빙 시점의 정밀도 손실을 미리 학습 과정에 반영했습니다. 개별 기법 하나하나의 이름을 외울 필요는 없지만, 종합하면 “크게 만들고 나서 억지로 줄이는” 방식이 아니라 처음부터 저정밀·희소 연산을 염두에 두고 설계된 모델이라는 점은 기억해둘 만합니다.

코딩과 3D 게이밍에 최적화된 진짜 이유

문샷AI는 키미 K3를 코딩, 3D 게이밍, 그리고 장시간 지식 작업에 최적화했다고 소개합니다. 벤치마크 수치도 이 방향을 뒷받침합니다. 터미널 환경에서의 작업 수행력을 측정하는 Terminal-Bench 2.1에서 88.3점, 웹 탐색 능력을 보는 BrowseComp에서 91.2점, 대학원 수준 과학 문제를 다루는 GPQA Diamond에서 93.5점을 기록했다고 문샷AI는 밝혔습니다. 독립 평가 기관 Artificial Analysis의 종합 지표인 Intelligence Index에서는 57점으로, 측정 대상 189개 모델 가운데 4위에 올랐습니다.

다만 이 순위를 그대로 “모든 경쟁 모델을 이겼다”로 읽으면 곤란합니다. 문샷AI 스스로도 공식 발표문에서 이 모델이 “가장 강력한 비공개 모델인 클로드 페이블 5와 GPT-5.6 솔에는 여전히 못 미친다”고 인정하면서, 그럼에도 “평가 전반에서 프런티어급 성능을 보였다”고 덧붙였습니다. 자사 모델의 한계를 발표문에 스스로 명시한 셈인데, 마케팅 문구가 넘쳐나는 AI 업계에서는 오히려 드문 태도입니다.

속도 지표는 강점과 약점이 뚜렷하게 갈립니다. Artificial Analysis 측정에 따르면 키미 K3의 출력 속도는 초당 약 62토큰으로, 같은 가격대 모델 중앙값인 72.7토큰에 못 미칩니다. 반면 첫 토큰이 나오기까지 걸리는 시간은 약 1.99초로 오히려 평균보다 빠른 편입니다. 정리하면 답을 시작하는 속도는 빠르지만, 답을 끝까지 뽑아내는 속도는 느린 모델이라는 뜻입니다. 실제로 개발자 사이먼 윌리슨이 “자전거를 탄 펠리컨을 그려달라”는 비교적 단순한 SVG 생성 요청을 던졌을 때, 이 모델은 추론 토큰만 1만3241개를 쓰고 최종 응답에 3417개를 더 써서 총 0.25달러가 청구됐다고 자신의 블로그에 기록했습니다. 쉬운 작업에도 최대 강도로 추론하는 현재 설정 탓에 비용이 예상보다 불어날 수 있다는 사례입니다.

세부 벤치마크로 들어가면 강점이 갈리는 지점도 뚜렷합니다. 프런트엔드 코딩 선호도를 겨루는 Arena Frontend Code에서는 1,679점으로 공개 직후 1위에 올랐지만, 일반 대화 품질을 겨루는 Text Arena에서는 1위 자리를 차지하지 못했습니다. Artificial Analysis는 평가 과정에서 이 모델이 생성한 출력량이 약 1억3000만 토큰으로 동급 모델 중앙값의 두 배에 달했다는 점도 함께 짚었습니다. 정리하면 프런트엔드 코딩처럼 특정 작업에서는 선두권이지만, “모든 영역에서 클로드와 GPT를 이겼다”는 식의 단순화는 위험하다는 뜻입니다. 작업 종류에 따라 편차가 크다는 점을 감안해, 실제 도입 전에는 자신의 워크로드와 비슷한 유형의 벤치마크부터 확인하는 편이 안전합니다.

키미 K3의 빠른 첫 응답 속도와 상대적으로 느린 출력 속도를 비교한 인포그래픽

가격표를 보면 키미 K3의 전략이 보인다

키미 K3의 API 가격 구조를 뜯어보면 문샷AI가 어떤 시장을 노리는지 드러납니다. 100만 토큰 기준으로 캐시에 적중한 입력은 0.30달러, 캐시가 적중하지 않은 입력은 3달러, 출력은 15달러입니다. 캐시 적중과 미적중 사이에 무려 10배 차이가 나는 구조입니다. 문샷AI가 ‘Mooncake’라 부르는 분산 추론 시스템은 코딩 작업 기준으로 90% 이상의 캐시 적중률을 낸다고 알려져 있는데, 같은 코드 저장소나 긴 시스템 프롬프트를 반복해서 참조하는 에이전트형 코딩 작업이라면 실제 청구액이 표면적인 가격표보다 훨씬 낮아질 수 있다는 뜻입니다.

이 가격 구조는 반복적인 컨텍스트를 재사용하는 워크플로에 유리하도록 설계됐습니다. 캐시가 없는 입력 10만 토큰과 출력 2만 토큰을 한 번 처리하면 약 0.6달러가 드는데, 같은 입력이 캐시에 걸리면 총액이 0.33달러 수준으로 떨어집니다. 반대로 매번 새로운 컨텍스트를 던지는 일회성 질의응답에는 이 가격 구조의 이점이 크게 작용하지 않습니다. 결국 이 모델은 짧은 대화형 챗봇보다는 같은 코드베이스를 붙들고 반복 작업을 수행하는 에이전틱 코딩 워크로드를 겨냥해 설계된 모델이라고 볼 수 있습니다.

“오픈”이라는 말, 아직은 예약어에 가깝다

키미 K3를 둘러싼 가장 중요한 단서는 따로 있습니다. 문샷AI가 스스로 “오픈 3T급 모델”이라 부르고 있지만, 발표 시점에 실제로 다운로드할 수 있는 가중치는 하나도 없었습니다. 문샷AI는 전체 가중치를 7월 27일까지 공개하겠다고 예고했고, 그전까지는 웹과 API를 통한 이용만 가능합니다. 독립 평가 기관 Artificial Analysis가 발표 초기 이 모델을 ‘Proprietary model’, 즉 비공개 모델로 분류해뒀던 이유도 여기에 있습니다.

“오늘부터 쓸 수 있다”와 “오늘부터 내려받을 수 있다”는 전혀 다른 이야기입니다. 라이선스 형태도 아직 확정되지 않았습니다. 문샷AI는 앞선 모델인 키미 K2.6과 키미 K2.7 Code를 Modified MIT 라이선스로 공개해 온 이력이 있어서, 이번에도 비슷한 방식을 택할 가능성이 거론되지만 공식 확인은 나오지 않은 상태입니다. 개발자 입장에서는 7월 27일에 실제로 가중치가 풀리는지, 상업적 이용과 재배포를 어디까지 허용하는 라이선스인지, 그리고 모델 카드에 활성 파라미터 수 같은 세부 정보가 함께 공개되는지를 순서대로 확인해야 “세계 최초의 오픈 3T급 모델”이라는 문구가 마케팅 카피를 넘어 실제 생태계 자산이 될 수 있습니다.

실무적으로는 7월 27일 전후로 다섯 가지 항목을 순서대로 체크하는 편이 좋습니다. 전체 가중치가 예고대로 실제 공개됐는지, 상업적 이용·재배포·파인튜닝 조건을 담은 라이선스 문구가 무엇인지, 모델 카드와 기술 보고서에 활성 파라미터 수 같은 학습 정보가 함께 실렸는지, vLLM처럼 널리 쓰이는 추론 엔진이 이 모델의 어텐션 구조를 안정적으로 지원하는지, 그리고 제3자가 같은 조건에서 벤치마크와 장기 에이전트 작업을 재현했는지입니다. 이 다섯 가지가 모두 확인되기 전까지는, 사업 제안서나 기술 검토 보고서에 이 모델을 “검증된 오픈소스 대안”으로 단정해 쓰는 표현은 피하는 편이 안전합니다.

아직 완전히 공개되지 않은 키미 K3 가중치와 라이선스를 상징하는 이미지

딥시크 V4에서 키미 K3까지, 중국 오픈모델 두 달의 질주

키미 K3가 등장하기 석 달 전인 2026년 4월 24일, 딥시크는 화웨이 어센드 칩에 맞춘 플래그십 ‘딥시크-V4-프로’를 공개했습니다. 총 1조6000억 개 파라미터에 전문가 혼합 방식으로 활성 파라미터는 490억 개였고, 그때까지 등장한 오픈소스 모델 중 가장 큰 규모였습니다. 100만 토큰 컨텍스트, MIT 라이선스, 그리고 100만 토큰당 입력 1.74달러·출력 3.48달러라는 공격적인 가격까지, 당시로서는 파격적인 조합이었습니다. 딥시크-V4-프로는 44개 직종의 전문 업무 수행 능력을 측정하는 GDP밸(GDPval)에서 오픈소스 모델 중 1위를 차지했지만, 비공개 모델까지 포함한 전체 순위에서는 6위에 그쳤습니다.

키미 K3는 이 딥시크-V4-프로의 파라미터 규모 기록을 넘어섰습니다. 1.6조에서 2.8조로, 불과 석 달 사이에 중국 오픈 모델의 최대 규모가 다시 한번 경신된 셈입니다. 흥미로운 점은 두 모델의 접근 방식이 미묘하게 다르다는 것입니다. 딥시크-V4-프로는 발표 당일 허깅페이스에 가중치를 곧바로 올리며 “미리보기 출시”라는 표현을 썼던 반면, 이번 모델은 서비스부터 먼저 열고 가중치는 11일 뒤로 예고했습니다. 같은 ‘오픈’이라는 단어를 쓰지만 공개 속도와 순서에서는 차이가 있는 셈입니다.

가격 경쟁도 눈에 띕니다. 딥시크는 V4-프로 출시 이후에도 API 요금을 지속적으로 손질해 왔고, 7월 중순에는 피크 시간대 요금을 두 배로 올리는 대신 다른 시간대 요금은 낮추는 방식으로 가격 정책을 조정했습니다. 이 모델 역시 캐시 적중 여부에 따라 10배까지 벌어지는 가격 구조를 들고 나왔다는 점에서, 두 회사 모두 단순한 정가 경쟁보다는 사용 패턴에 따라 실질 단가를 차등화하는 방향으로 움직이고 있는 것으로 보입니다.

화웨이 어센드와 ‘AI 슈퍼노드’가 만드는 인프라 지형

딥시크-V4-프로가 출시되던 날, 화웨이는 “이제 어센드 슈퍼노드 제품군 전체가 딥시크-V4 시리즈 모델을 지원한다”고 공식 발표했습니다. 어센드 칩은 V4 모델 최적화 과정에 사용됐고, 이 엔지니어링 작업의 난이도 때문에 당초 예정보다 모델 출시가 늦어졌다는 이야기도 함께 전해졌습니다. 엔비디아 최신 칩 구매가 제한된 상황에서, 중국 AI 업계가 자국산 반도체와 소프트웨어 스택을 맞춰가는 과정 자체가 뉴스가 되고 있는 셈입니다.

이런 흐름은 2026년을 관통하는 더 큰 그림과 맞닿아 있습니다. 개별 칩 성능에서 아직 격차가 있는 중국 반도체 업계는, 수천 개의 칩을 하나로 묶어 시스템 전체의 성능을 끌어올리는 ‘슈퍼노드’ 아키텍처로 그 격차를 메우려 하고 있습니다. 화웨이와 ZTE, 중과서광을 비롯한 여러 기업이 올해 슈퍼노드 제품을 잇달아 내놓으면서, 업계에서는 2026년을 두고 중국 슈퍼노드 원년이라 부르기도 합니다. 키미 K3가 자체 서빙에 64개 이상의 가속기를 고대역폭으로 묶은 구성을 권장한다고 밝힌 것도 이와 같은 맥락에서 볼 수 있습니다. AI 경쟁의 축이 “단일 칩이 얼마나 빠른가”에서 “수천 개의 칩을 어떻게 하나처럼 묶을 것인가”로 옮겨가고 있다는 신호입니다.

이런 배경에는 최신 엔비디아 고성능 칩의 대중국 수출이 제한돼 온 사정이 자리하고 있습니다. 딥시크는 로이터 취재에 응하며 V4 모델 학습에 엔비디아 칩을 사용했다고 인정하면서도, 그 칩이 수출 금지 대상인 H200인지는 명확히 밝히지 않았습니다. 화웨이 어센드 슈퍼노드로의 최적화 작업 자체가 상당한 엔지니어링 난이도를 동반했고, 이 때문에 V4 출시가 당초 예상보다 늦어졌다는 이야기도 함께 전해집니다. 결국 중국 AI 기업들은 최고 성능의 개별 칩을 구하기 어려운 조건에서, 이미 확보한 칩을 더 촘촘하게 엮어 전체 성능을 끌어올리는 쪽으로 방향을 잡고 있는 셈입니다. 이 접근이 장기적으로 얼마나 지속 가능한 경쟁력이 될지는 아직 지켜봐야 하지만, 적어도 지금까지 나온 결과물만 보면 그 격차를 상당 부분 메우고 있는 것은 분명해 보입니다.

공공 AI 도입 사업에서 키미 K3를 어떻게 봐야 하나

제 업무는 공공 정보화 사업의 ISP·ISMP를 설계하는 일이라, 이런 오픈 모델 소식을 접할 때마다 자연스럽게 “그래서 이걸 공공 사업에 어떻게 반영해야 하나”를 먼저 따지게 됩니다. 결론부터 말하면, 키미 K3를 지금 당장 공공 시스템에 도입할 근거로 삼기는 이릅니다. 가중치와 라이선스가 아직 확정되지 않은 상태에서 모델 선정 근거로 인용하면, 사업 진행 중에 라이선스 조건이 바뀌거나 상업적 재배포가 제한되는 방향으로 확정될 경우 그대로 리스크가 됩니다.

다만 모델 선정 검토 문서에 오픈소스 대안의 흐름을 기록해두는 용도로는 충분히 가치가 있습니다. AI기본법 시행령의 ‘AI 제품·서비스 확인 제도’가 8월부터 조달 우대 혜택을 주기 시작하는 상황에서, 국산 모델이든 해외 오픈 모델이든 “왜 이 모델을 후보로 검토했고 왜 최종적으로 채택하지 않았는지”를 문서화해두는 습관은 이후 감리나 사업 재심의 과정에서 의외로 중요하게 작용합니다. 이런 오픈모델처럼 성능은 강력하지만 라이선스가 아직 불투명한 모델은, “성능은 확인했으나 조달 규정상 안전성·보안성 요건을 충족하는 근거가 부족해 이번 사업에서는 제외했다”는 식으로 검토 근거를 남겨두는 편이 실무적으로 안전합니다.

또 하나 짚을 부분은 데이터 거버넌스입니다. 100만 토큰이라는 넓은 컨텍스트는 방대한 행정 문서나 정책 보고서를 한 번에 요약·비교하는 데 매력적이지만, 컨텍스트 용량이 크다는 사실이 데이터 보관·학습 활용 정책을 대신해주지는 않습니다. 공공기관 문서를 해외 API로 전송하기 전에는 데이터가 어디에 저장되고, 학습에 재사용되는지, 국내 클라우드 보안 기준을 충족하는지부터 확인하는 절차가 선행돼야 합니다.

여기에 더해, 사업관리 담당자라면 감리 체크리스트에 오픈 모델 특유의 항목을 미리 추가해두는 것도 도움이 됩니다. 예를 들어 벤치마크 수치가 어떤 실행 환경과 도구 조합에서 측정됐는지, 활성 파라미터나 학습 데이터 구성처럼 회사가 아직 공개하지 않은 정보가 있는지, 그리고 라이선스가 확정된 이후에도 재배포·상업적 이용 조건이 사업 목적과 충돌하지 않는지를 표준 점검 항목으로 만들어두면, 이번처럼 발표와 동시에 전체 정보가 갖춰지지 않은 모델이 다시 등장했을 때도 판단 기준을 매번 새로 세울 필요가 없습니다. 오픈 모델의 발표 속도가 빨라질수록, 이런 표준화된 점검 절차를 미리 갖춰두는 조직과 그렇지 않은 조직 사이의 대응 속도 차이는 점점 벌어질 가능성이 큽니다.

한국 AI 사용자와 기업에게 남는 숙제

일반 사용자나 개발자 입장에서 키미 K3는 꽤 매력적인 선택지입니다. 방대한 계약서나 기술 문서를 한 번에 분석하는 업무, 레거시 코드베이스를 통째로 놓고 디버깅하는 작업에는 100만 토큰 컨텍스트가 실질적인 생산성 향상으로 이어질 수 있습니다. 다만 한국어 지원 수준은 아직 명확히 검증되지 않았고, 추론 강도를 ‘max’로만 쓸 수 있는 현재 상태에서는 간단한 질문에도 비용이 예상보다 많이 나올 수 있다는 점을 감안해야 합니다.

기업 입장에서는 두 갈래로 대응을 준비하는 편이 좋습니다. 하나는 7월 27일 가중치 공개 이후 실제 라이선스 조건과 기술 보고서를 확인하고 나서 자체 배포 가능성을 검토하는 시나리오이고, 다른 하나는 그때까지는 API 기반으로 소규모 파일럿을 돌려보며 캐시 적중률과 실제 청구액을 미리 가늠해보는 시나리오입니다. 딥시크-V4-프로 때도 그랬듯, 중국발 오픈 모델은 등장 초기의 화제성과 실제 도입 가능성 사이에 시차가 존재하는 경우가 많았습니다. 성급하게 도입을 결정하기보다, 이번에도 그 시차를 인정하고 단계적으로 검증하는 접근이 안전합니다.

파일럿을 설계할 때는 처음부터 전 부서에 확대 적용하기보다, 반복적인 컨텍스트를 많이 쓰는 업무 하나를 골라 좁게 시작하는 편이 낫습니다. 앞서 살펴본 캐시 적중 가격 구조를 고려하면, 같은 코드 저장소나 같은 정책 문서를 반복해서 참조하는 업무일수록 실제 청구액이 표면적인 요금표보다 낮게 나올 가능성이 큽니다. 반대로 매번 새로운 주제를 던지는 업무라면 캐시 적중률이 낮아 비용 이점이 줄어들 수 있으므로, 파일럿 단계에서부터 업무 유형별로 실제 토큰 사용량과 청구액을 기록해두는 습관이 이후 예산 산정에 큰 도움이 됩니다. 이런 식으로 소규모 실험에서 얻은 데이터를 쌓아두면, 나중에 라이선스가 확정되고 자체 배포를 검토할 때도 훨씬 근거 있는 의사결정을 내릴 수 있습니다.

실무자가 자주 묻는 질문들

이 모델을 실제 업무에 검토하려는 분들이 공통적으로 묻는 질문 몇 가지를 정리해봤습니다.

지금 개인 컴퓨터에 내려받아 쓸 수 있나요? 현실적으로 어렵습니다. 앞서 살펴봤듯 가중치 용량만 4비트 기준 약 1.4테라바이트이고, 문샷AI가 권장하는 서빙 구성도 64개 이상의 가속기를 고대역폭으로 묶은 슈퍼노드입니다. 개인 워크스테이션이나 소규모 온프레미스 서버로 감당할 수 있는 규모가 아니며, 이후 경량화·증류 버전이 별도로 나오는지를 지켜보는 편이 현실적입니다.

클로드나 GPT보다 좋은 모델인가요? 모든 작업에서 더 낫다고 단정할 근거는 없습니다. 문샷AI 스스로도 발표문에서 가장 강력한 비공개 모델들에는 아직 못 미친다고 밝혔고, 외부 평가에서도 항목별 편차가 뚜렷합니다. 프런트엔드 코딩처럼 강점을 보이는 영역이 분명히 있지만, 특정 벤치마크 몇 개로 전체 우열을 단정하기보다는 실제 업무 샘플로 비용·정확도·도구 호출 안정성을 함께 비교해보는 접근이 안전합니다.

100만 토큰을 항상 꽉 채워 써도 되나요? 입력 한도와 안정적인 작업 품질은 다른 개념입니다. 문맥이 길어질수록 비용이 늘어나는 것은 물론이고, 그 안에서 정말 필요한 정보를 정확히 짚어내는 난도도 함께 올라갑니다. 문서를 구조화하고 작업을 단계별로 나눠 던지는 방식이, 100만 토큰을 한 번에 밀어 넣는 방식보다 현재로서는 더 안정적인 결과를 낼 가능성이 높습니다.

마무리하며

예고 없는 발표, 비어 있는 가중치, 그리고 자사 모델의 한계를 스스로 인정하는 발표문까지, 키미 K3의 등장 방식은 여러모로 이례적이었습니다. 2.8조 파라미터와 100만 토큰이라는 숫자 자체보다, 저는 오히려 이 모델이 “오픈”이라는 단어를 어떻게 단계적으로 완성해가는지가 더 궁금합니다. 7월 27일 가중치가 실제로 풀리고 나면, 이 모델이 거대한 API 서비스에 머무를지 아니면 진짜 오픈 생태계의 새 기준점이 될지 판가름날 것입니다.

여러분은 이번 키미 K3 소식을 어떻게 보셨나요? 업무에서 오픈소스 LLM을 검토해보신 경험이 있다면, 어떤 기준으로 도입 여부를 판단하셨는지 댓글로 이야기해주시면 좋겠습니다.

참고한 글

함께 보면 좋은 글

댓글 남기기