삼성전자·SK하이닉스, 키미 K3가 메모리엔 왜 호재인가

중국 문샷AI가 공개한 대형 언어모델 키미 K3를 두고, 반도체 시장에서는 두 가지 해석이 엇갈립니다. "효율적인 AI가 나오면 메모리 수요가 준다"는 단기 우려와, "오히려 전체 메모리 소비가 늘어난다"는 중장기 관점입니다. 왜 같은 뉴스가 반대로 읽히는지, 삼성전자·SK하이닉스와 연결해 정리했습니다.

키미 K3는 어떤 모델인가

문샷AI 공개 자료 기준으로 키미 K3는 전체 파라미터가 2.8조 개, 구조는 전문가 혼합(MoE) 방식입니다. 전문가 896개 중 토큰마다 16개만 활성화하고, 컨텍스트 길이는 최대 100만 토큰으로 소개됐습니다.

가중치는 파라미터 하나를 약 4비트로 저장하는 MXFP4 형식을 씁니다. 문샷AI는 고성능 추론 환경에 64개 이상의 가속기가 연결된 고대역폭 시스템을 권장한다고 밝혔습니다.

주 용도는 장시간 코딩, AI 에이전트, 문서·지식 작업 같은 무거운 추론입니다. 짧은 질문 하나에 답하는 챗봇과는 성격이 다릅니다.

효율적이라는데 왜 메모리를 더 쓰나

핵심은 계산과 저장이 다른 이야기라는 점입니다. MoE는 토큰마다 전문가 896개 중 16개만 골라 계산합니다. 비율로는 약 1.8%입니다.

MoE 구조: 계산은 일부, 저장은 전부 (자료: 문샷AI 공개 스펙)

직원 896명을 모두 고용해 두고 업무마다 16명만 부르는 구조로 비유할 수 있습니다. 일하는 사람은 16명이라 계산량은 줄지만, 어떤 전문가가 호출될지 미리 알 수 없어 896명 전체의 가중치를 메모리에 준비해 둬야 합니다.

정리하면 이렇습니다.

• MoE가 줄이는 것: 실제 계산되는 연산량
• MoE가 못 줄이는 것: 전체 모델을 저장할 메모리 용량
• 오히려 늘어나는 것: 전문가 호출에 따른 데이터 이동량

가중치만 1.4TB, 계산으로 확인해보면

2.8조 파라미터 정밀도별 저장 용량 (주식100억노트 계산)

2.8조 파라미터를 MXFP4 4비트로 저장하면, 순수 가중치 용량은 2.8조 × 4비트 ÷ 8로 계산해 약 1.4TB가 나옵니다. 스케일 값과 메타데이터, 일부 고정밀 가중치를 더하면 더 커집니다.

2.8조 파라미터를 MXFP4 4비트로 저장할 때 순수 가중치는 약 1.4TB로 계산되는데, 반도체 리서치 업체 세미애널리시스도 키미 K3 가중치가 HBM 용량 1.5TB 이상을 차지할 가능성이 높다고 분석한 것으로 전해집니다.

참고로 같은 파라미터를 8비트로 저장하면 2.8TB, 16비트면 5.6TB입니다. 4비트라는 저정밀 형식을 써도 용량이 이 정도라는 뜻입니다.

병목이 HBM에서 DDR5·SSD로 번진다

AI 서버의 메모리는 한 종류가 아닙니다. GPU 가까이에서 가중치를 담는 HBM, 그 뒤를 받치는 DDR5 서버 D램, 모델 파일과 데이터를 저장하는 NVMe 낸드 SSD가 계층을 이룹니다.

HBM의 상당 부분이 1.4TB 규모의 가중치로 차면, 긴 대화 기록을 담는 KV 캐시를 모두 HBM에 두기 어려워집니다. 결국 일부 데이터를 DDR5나 NVMe SSD로 내려보내는 오프로딩 구조가 필요해집니다.

세미애널리시스도 키미 K3 같은 초대형 모델을 대규모로 서비스하면 HBM뿐 아니라 DDR5와 NVMe 수요도 함께 커질 가능성을 제시한 것으로 전해집니다. 수요가 HBM 한 곳이 아니라 메모리 계층 전체로 번지는 셈입니다.

실제로 벌어진 일: 서버가 모자랐다

로이터 보도에 따르면 키미 K3는 출시 후 요청량이 예상을 크게 웃돌면서 문샷AI가 신규 유료 가입을 일시 중단했고, 기존 GPU 클러스터가 한계에 근접했다고 밝혔습니다.

이 사건이 방향을 보여줍니다. 하드웨어를 적게 써서 문제가 된 게 아니라, 수요가 몰려 하드웨어가 부족해진 상황입니다. 코딩·에이전트 작업은 한 번 답하고 끝나지 않고 계획·검색·작성·실행·수정을 반복해, 사용자 한 명의 작업에도 모델 호출이 수십에서 수백 번 일어날 수 있습니다.

제본스 역설이라는 오래된 논쟁

처리 비용이 낮아지면 한 번의 작업에 드는 반도체는 줄어들 수 있습니다. 그런데 비용이 낮아지면 AI를 쓰는 기업이 늘고, 사용자당 요청이 늘며, 더 긴 문서와 코드를 처리하고, 기업들이 자체 서버에 모델을 복제해 배포합니다.

그래서 단위당 메모리 사용량은 줄어도 전체 사용량은 늘어날 수 있습니다. 효율이 좋아질수록 소비가 늘어난다는 제본스 역설입니다.

2025년 초 딥시크 공개 때도 "효율적인 AI가 나오면 GPU 수요가 준다"는 우려가 있었지만, 저렴한 모델이 보급되며 오히려 추론 사용량과 인프라 투자가 늘 수 있다는 반론이 나왔습니다. 키미 K3가 같은 논쟁을 다시 불러온 것입니다.

그런데 왜 반도체주는 떨어졌나

시장이 처음 반응한 논리는 이랬습니다. 중국이 적은 비용으로 미국 최고 수준의 성능을 만들었으니, 미국 빅테크가 데이터센터 투자를 줄이고, 그러면 HBM·반도체 장비 수요가 감소할 수 있다는 흐름입니다.

실제로 키미 K3 공개 이후 미국 반도체주가 하락했고, 7월 20일 한국 시장에서도 삼성전자와 SK하이닉스가 4% 넘게 내린 것으로 전해집니다.

다만 이는 단기 주가 논리에 가깝습니다. 앞서 본 산업 논리는 반대 방향을 가리킵니다. 성능이 오르고 가격이 내려 사용량이 늘면, 추론 서버가 증설되고 HBM·DDR5·SSD 수요가 함께 커지는 구조이기 때문입니다.

메모리 업체에는 어떤 의미인가

수요 구조만 보면 HBM·서버 D램·낸드 전 계층에 걸쳐 긍정적 요인입니다. SK하이닉스는 HBM과 서버 D램, 삼성전자는 HBM·DDR5·낸드까지, 마이크론은 미국 내 수요에 각각 연결됩니다.

다만 짚어둘 변수가 있습니다. 중국 AI 기업이 중국산 가속기와 중국산 메모리 사용을 늘리면, 전체 메모리 시장이 커져도 국내 업체에 돌아오는 몫은 예상보다 작을 수 있습니다. 수요 증가와 수혜 배분은 다른 문제입니다.

아직 확인되지 않은 것들

이 관점에는 검증이 필요한 부분이 남아 있습니다.

첫째, 키미 K3의 전체 가중치는 2026년 7월 27일 공개 예정으로 알려져, 실제 성능과 메모리 사용량은 아직 독립적으로 확인되지 않았습니다. 문샷AI도 상세 기술 보고서를 추후 공개한다고 밝혔습니다.

둘째, 압축·양자화·캐시 기술이 예상보다 강력하면 같은 작업에 드는 HBM 용량이 크게 줄 수 있습니다. 기업들이 자체 구축 대신 문샷 API를 쓰면 서버가 복제되는 효과도 제한됩니다. 배포 후 1.4TB보다 훨씬 작은 메모리로 고성능·고동시성 서비스가 가능해지고 HBM 주문이 줄어든다면, 수요 확대 관점은 틀린 것이 됩니다.

예상 질문

Q. 효율적인 AI가 나오면 HBM 수요가 줄어드는 것 아닌가요?
A. 한 번의 작업에 드는 메모리는 줄어들 수 있습니다. 다만 MoE 구조상 전체 모델은 그대로 메모리에 저장해야 하고, 비용이 낮아지면 사용량 자체가 늘어나는 제본스 역설이 작동할 수 있습니다. 단위 소비와 전체 소비를 구분해서 봐야 합니다.

Q. 그러면 지금 반도체주를 사야 하나요?
A. 이 글은 특정 종목의 매수·매도를 권하지 않습니다. 수요 구조가 긍정적이라는 것과 주가가 지금 싸다는 것은 다른 문제입니다. 현재 반도체주는 기대와 밸류에이션이 높은 편이라, 좋은 산업 뉴스가 곧바로 단기 수익으로 이어진다고 보기는 어렵습니다. 판단과 책임은 본인에게 있습니다.

정리하면 키미 K3는 AI 메모리 수요를 훼손하는 기술이라기보다, 병목을 HBM에서 DDR5·NVMe까지 넓히는 쪽에 가깝습니다. 다음 확인 지점은 7월 27일 가중치 공개 이후의 실제 메모리 요구량, 그리고 삼성전자·SK하이닉스의 HBM 주문과 고객사 투자 흐름입니다.

⚠️ 본 글은 정보 제공 목적이며 특정 종목의 매수·매도 추천이 아닙니다. 스펙·수치는 문샷AI 공개 자료와 언론 보도 기준이며 일부는 추후 검증이 필요합니다. 투자 판단과 책임은 본인에게 있습니다.

#키미K3 #삼성전자 #SK하이닉스 #HBM #메모리반도체 #제본스역설 #AI반도체

함께 보면 좋은 글

• 삼성전자·SK하이닉스 메모리 투자, 왜 빨라졌나
• 삼성전자 목표주가 60만원, KB가 주목한 2027년