핵심 요약
AI 증류가 기술 용어에서 투자 변수로 올라왔다. 큰 모델의 출력을 교사처럼 활용해 작은 모델을 훈련하는 방식이 확산되면, 시장이 엔비디아와 AI 클라우드에 부여한 프리미엄은 더 이상 단순히 ‘모델은 커지고 GPU는 더 필요하다’는 한 줄 논리로 방어되지 않는다.
이 이슈의 핵심은 기술 유출 논란만이 아니다. 비용 곡선이 내려가면 AI 애플리케이션 기업에는 호재지만, 초대형 모델과 데이터센터 CAPEX에 묶인 밸류에이션에는 할인 요인이 된다.
무슨 일인가
CNBC는 실리콘밸리와 워싱턴이 AI 증류에 갑자기 집착하기 시작했다고 짚었다. 증류는 대형 AI 모델이 만든 답변과 추론을 활용해 더 작고 저렴한 모델을 만드는 방법이다. 오래된 기법이지만, DeepSeek가 이 방식을 활용해 미국 빅테크 중심의 AI 비용 구조를 흔들면서 정치 쟁점으로 커졌다.
DeepSeek는 올해 1월 시장을 흔들었다. 회사는 최종 훈련 단계 비용이 600만달러 미만이었다고 밝혔고, 이는 수십억달러 규모의 GPU 투자와 데이터센터 증설을 정당화해 온 미국 AI 진영의 설명과 충돌했다. CNBC 보도에 따르면 UC버클리 연구진은 8개의 엔비디아 H100, 19시간, 450달러 수준의 비용으로 OpenAI의 추론 모델에 근접한 실험 결과를 냈다.
워싱턴의 시선은 지식재산권과 국가안보로 향한다. 미국 대형 AI 연구소가 수년간 쌓은 모델 출력을 경쟁사가 대량 질의로 흡수할 수 있다면, 프런티어 모델의 경제적 해자는 얇아진다. 그래서 규제 논의는 오픈소스 모델 제한, API 이용 감시, 중국 AI 기업 통제까지 번지고 있다.
배경과 맥락
증류는 새 발명이 아니다. 제프리 힌턴이 구글 재직 시절 2015년 논문에서 큰 모델의 지식을 작은 모델로 옮기는 개념을 정리했다. 구글 역시 경량 Gemini 모델을 최적화하는 데 관련 기법을 써 왔다. 문제는 이 방법이 이제 모델 압축이 아니라 경쟁사의 추론 능력을 따라잡는 도구로 인식된다는 점이다.
AI 주식의 멀티플은 세 단계로 세워졌다. 더 큰 모델이 필요하고, 더 큰 모델에는 더 많은 GPU가 필요하며, 그 결과 클라우드 CAPEX가 장기간 증가한다는 가정이다. 증류가 확산되면 마지막 결론은 유지될 수 있어도 기울기는 낮아진다. GPU 수요가 사라지는 것이 아니라, 프리미엄 성장률에 대한 확률이 조정되는 국면이다.
시장·종목에 미치는 영향
- 엔비디아: H100 같은 고성능 GPU는 여전히 증류 실험과 프런티어 훈련의 기반이다. 다만 작은 모델이 특정 업무에서 충분한 성능을 내면 고객사의 GPU 구매 논리는 최대 성능에서 비용 대비 성능으로 이동한다.
- 마이크로소프트: OpenAI와 Azure를 묶은 모델 API 전략은 가격 방어력이 중요하다. 증류 모델이 싸게 확산되면 프리미엄 API 단가에는 압박이 생기지만, 기업 고객에게 낮은 추론비를 제공하는 클라우드 사업에는 방어 논리도 있다.
- 알파벳: 구글은 증류의 초기 연구 기반을 가진 회사다. Gemini 경량화가 실제 제품 단가를 낮추면 검색·워크스페이스 AI 기능의 마진 방어에 유리하다. 반대로 오픈 모델 확산은 폐쇄형 모델의 차별성을 약화시킨다.
- 아마존: AWS는 Anthropic Claude를 앞세워 기업 AI 수요를 흡수한다. 증류 규제가 강해지면 대형 모델 사업자 보호에는 유리하지만, 고객이 저비용 오픈 모델을 AWS 위에서 돌리는 선택지는 좁아질 수 있다.
- 메타: 오픈웨이트 전략은 증류 시대에 상대적으로 맞는 옷이다. 직접 API 과금보다 생태계 확산과 광고·서비스 효율 개선을 노리는 구조라, 폐쇄형 모델 사업자보다 가격 붕괴 리스크가 작다.
