현대와 생성형AI

도대체 kimi k3가 뭐길래?

world1000 2026. 7. 20. 00:51

인공지능이 자기가 돌아갈 칩을 설계했다 — 그리고 우리가 묻지 않은 것들

한 인공지능이 48시간 동안 줄곧 일만했다. 인공지능이 일한다는 것이 그다지 생소한 일이 아니다. 하지만 인공지능이 만든 결과물은 논문도, 코드도 아니었다. 바로 반도체 설계도였다. 그것도 다른 무엇을 위한 칩이 아니라, 자기 자신의 축소판을 구동하기 위한 칩이었다.

2026년 7월, 문샷 AI(Moonshot AI)가 공개한 키미 K3(Kimi K3)를 두고 세상은 '매개변수 2.8조'니 '반도체 주가 폭락'이니 하는 숫자에 먼저 주목했다. 그러나 정작 오싹한 것은 그 숫자가 아니다. 이 모델이 실제로 무엇을 했는가, 그리고 그 경이의 이면에 우리가 흥분에 휩쓸려 묻지 않은 질문들이 있다.


1. 경이 — 이 모델이 실제로 한 일

Kimi K3가 공개와 함께 내놓은 시연 목록은 '언어 모델'이라는 말의 낡은 이미지를 무너뜨린다.

자기 칩을 설계했다. 48시간 연속 자율 작업으로, 오픈소스 설계 도구와 45나노 공정 라이브러리를 써서 4제곱밀리미터 안에 100MHz 타이밍을 맞춘 칩을 설계·최적화·검증까지 마쳤다. 146만 개의 표준 셀과 INT4 연산 배열을 담아, 시뮬레이션 기준 초당 8,700토큰 이상의 처리량을 냈다. 자기 구조를 돌릴 하드웨어를 스스로 그린 것이다.

자기만의 GPU 컴파일러를 처음부터 만들었다. 업계 표준 도구(Triton)를 흉내 낸 것이 아니라, 중간 표현부터 코드 생성 파이프라인까지 갖춘 소형 컴파일러 '미니트리톤'(MiniTriton)을 밑바닥부터 구축해, 일부 작업에서 기존 표준 도구를 앞질렀다. 이 컴파일러로 실제 모델 학습까지 안정적으로 돌렸다.

커널을 스스로 최적화했다. 어느 연산 커널의 순전파·역전파 시간을 15시간에 걸쳐 283.6밀리초에서 114.4밀리초로 절반 이하로 줄였다. 또 기준 코드 없이 처음부터 작성한 커널로 H200 가속기 이론 성능의 절반을 넘겼다.

천체물리 연구를 두 시간 만에 재현했다. 숙련 연구자에게 통상 1~2주가 걸리는 계산 작업이었다. 논문 20여 편을 교차 검증하고 300개 이상의 상태 방정식을 평가했으며, 3,000줄 넘는 코드를 짜고, 출판된 수식들 사이의 불일치까지 찾아냈다.

이것이 왜 새로운가. 과거의 인공지능은 '한 번의 질문에 한 번의 답'을 하는 존재였다. 키미 K3는 몇십 시간에 걸친 긴 작업을, 중간 결과를 확인하고 되돌아가며, 사람의 개입 없이 밀고 나간다. 챗봇이 아니라 '일하는 존재'에 가깝다. 이를 가능케 한 것이 896개의 전문가 중 단 16개만 골라 쓰는 희소 구조로, 이전 세대보다 효율을 약 2.5배 끌어올렸다.

여기까지가 '경이'다.


2. 그러나 — 숫자가 가린 것들

이제 흥분을 잠시 내려놓자. 정통한 개발자들이 이 발표를 보고 가장 먼저 던진 질문들은 찬사가 아니었다.

"제2의 딥시크"가 맞을까?

시장은 이 모델의 등장을 2025년 딥시크(DeepSeek) 충격의 재현으로 불렀다. 반도체 주가가 무너진 것도 그 서사 때문이다. 그러나 이 비유는 정확하지 않다. 딥시크가 진짜 충격이었던 이유는 단 하나, 비용이 10배 저렴했기 때문이다. 반면 키미 K3는 최상위 모델보다 대략 2배 싼 수준에 그친다. 이것은 추세를 뒤엎은 사건이 아니라, 공개 모델이 최전선을 따라잡아 온 기존 흐름의 연장일 뿐이다. 놀랍지만 새롭지는 않다. 시장이 '딥시크'라는 단어에 조건반사로 패닉한 것에 가깝다.

가격이 착한가? 

가격을 뜯어보면 더 미묘하다. 입력 100만 토큰당 3달러, 출력 15달러. 이는 중국 공개 모델치고는 비싼 편이며, 앤트로픽의 중급 모델과 사실상 같은 값이다. 게다가 '토큰 단가'만 봐서는 안 된다. 키미 K3는 답하기 전에 긴 사고 과정을 거치는데, 같은 작업에 추론 토큰을 훨씬 많이 쓴다면 단가가 싸도 실제 총비용은 더 비쌀 수 있다. 한 개발자가 간단한 그림 하나를 그리게 했더니 추론 토큰만 1만 3천 개를 써서 25센트가 들었다. 지금껏 시험한 중국 모델 중 가장 비싼 결과였다.

벤치마크는 이제 못 믿는다

키미 K3의 점수표는 화려하다. 여러 코딩·에이전트 항목에서 최고점을 찍었다. 그러나 요즘은 모든 공개 모델이 화려한 점수를 내놓는다. 그래서 정통한 관찰자들은 오히려 의심한다. 평가 문제가 학습 데이터에 흘러 들어갔거나, 의도적으로 포함됐을 가능성 말이다. 게다가 회사 스스로도 인정하듯, 종합 성능은 여전히 최상위 두 모델에 뒤진다. 두 모델보다 아래라면 그것은 2위가 아니라 3위다.

정작 중요한 것은 아직 공개되지 않았다

가장 근본적인 문제. '오픈 웨이트'를 표방했지만, 이 글을 쓰는 시점에 실제 가중치는 아직 공개되지 않았고(7월 27일 예정), 심지어 몇 개의 매개변수가 실제로 작동하는지(활성 매개변수)조차 밝혀지지 않았다. 정말로 공개될지, 공개된 것이 주장만큼 강한지는 그때 가서야 검증된다.

이 모델에는 결함이 있다

문샷 AI 자신이 명시한 한계도 가볍지 않다. 키미 K3는 모호한 상황에서 사용자를 대신해 과도하게 판단해 버리는 경향이 있다. 긴 자율 작업에 맞춰 훈련된 탓에, 작고 애매한 요청 앞에서 묻지도 않고 제멋대로 결정을 내린다. 또 이전 사고 기록에 민감해서, 세션 중간에 다른 모델로 갈아타거나 사고 내용을 온전히 이어 주지 않으면 품질이 크게 흔들린다. 자율성이 곧 통제 불능의 다른 이름일 수 있다는 뜻이다.


3. 판을 보라 — 이것은 한 모델의 이야기가 아니다

키미 K3 한 대에 매달려 있으면 정작 큰 그림을 놓친다. 이 모델은 중국발 초대형 공개 모델 러시의 한 장면일 뿐이다.

사흘 뒤, 또 하나의 거인

키미 K3가 공개되고 정확히 사흘 뒤, 알리바바의 인공지능 팀 콴(Qwen)이 매개변수 2.4조 규모의 신모델을 곧 오픈 웨이트로 공개하겠다고 예고했다. 문구마저 판박이다. 콴은 자사 모델을 "현존 최강급이며 페이블 5(Fable 5) 다음"이라 소개했는데, 이는 며칠 전 키미 K3를 소개하던 표현과 사실상 같다. "앤트로픽 최상위 모델 바로 아래"라는 자기소개는 이제 중국 공개 모델의 공용 마케팅 상투구가 되었다.

이 상투구를 곧이곧대로 믿을 수 없는 이유는 2장에서 본 그대로다. 그것은 제3자 검증이 아니라 회사 스스로의 주장이며, 경쟁이 과열될수록 순위는 부풀려진다. 초대형 공개 모델은 이제 며칠 간격으로 쏟아지고, 그때마다 저마다 '2등'을 자처한다.

알리바바는 양쪽 모두에 베팅했다

여기서 흥미로운 구도가 드러난다. 콴은 알리바바의 자체 팀이다. 그런데 알리바바는 문샷 AI—곧 키미의 제작사—에도 투자한 큰손이다. 2024년 10억 달러를 넣어 당시 25억 달러로 평가받던 이 스타트업은, 지금 약 315억 달러 몸값으로 뛰었다. 즉 알리바바는 키미와 콴, 서로 경쟁하는 두 진영 모두에 판돈을 걸어 두었다. 어느 쪽이 이기든 알리바바가 이기는 구조다. 중국 인공지능 지형이 몇몇 거대 자본을 중심으로 재편되고 있음을 보여 주는 단면이다.

진짜 승부는 성능이 아니라 가격에서 난다

그리고 정통한 관찰자들이 짚는 핵심이 있다. 키미 K3의 실질적 경쟁 상대는 미국 모델이 아니라, 같은 중국의 공개 모델 GLM이라는 것이다. GLM의 최신판은 키미 K3의 3분의 1도 안 되는 가격을 부른다. 매개변수 규모를 겨루는 '숫자 경쟁'의 이면에서, 진짜 전쟁은 누가 더 싸게 같은 일을 해내는가로 옮겨 가고 있다. 2.8조 매개변수라는 몸집은 자랑거리인 동시에, 그만큼 운영 비용이 무겁다는 약점이기도 하다.

요컨대 키미 K3는 '중국이 미국을 추월했다'는 단일 서사의 주인공이 아니다. 그것은 거대 자본이 여러 진영에 동시에 베팅하고, 모델들이 며칠 간격으로 순위를 자처하며, 승부가 성능에서 가격으로 넘어가는 한 산업의 격동 속 한 장면이다.


4. 그렇다면 이 소식을 어떻게 읽어야 하나

키미 K3는 분명 대단하다. 인공지능이 자기 칩을 설계하고 컴파일러를 짜고 연구를 재현하는 시대가 왔다는 것은 과장이 아니다. 경이는 진짜다.

그러나 그 경이를 '미국을 추월한 중국', '반도체 시대의 종말' 같은 거대 서사로 곧장 번역하는 것은 게으르다. 냉정히 보면 이것은 저비용 혁명이 아니라 성능 추격의 연장이고, 벤치마크는 의심스럽고, 진짜 물건(가중치)은 아직 상자 안에 있으며, 모델 자체는 제멋대로 구는 결함을 안고 있다. 그리고 이 모든 소동은 며칠 간격으로 거인이 쏟아지는 산업의 한 장면일 뿐이다.

한 모델의 등장에 매번 세상이 끝나거나 시작되는 것처럼 반응하는 일 자체가, 곧 무뎌질 것이다. 경이로워하되, 휩쓸리지는 말 것. 칩을 설계하는 인공지능을 보며 감탄하는 것과, 그 감탄을 파는 사람들의 서사를 그대로 사는 것은 다른 일이다.

반응형