AI 컴퓨팅 무게추 '추론'으로…2033년 학습 추월 전망

핵심 요약

AI 산업의 경쟁 축이 초거대 모델을 만드는 단계에서 만든 모델을 실제로 굴리는 단계로 옮겨가고 있다. 시장조사업체 ABI리서치는 2033년이면 AI 추론(Inference) 워크로드가 학습(Training) 워크로드를 처음으로 추월할 것으로 내다봤다. 이는 AI 투자 수요가 일회성 개발 비용에서 지속적인 운영 비용으로 무게중심을 옮긴다는 신호다.

무슨 일인가

ABI리서치는 최근 발간한 AI 클라우드 워크로드 시장 보고서에서, 클라우드 AI 인프라에서 발생하는 연산 부하 가운데 추론이 차지하는 비중이 학습을 넘어서는 시점을 2033년으로 제시했다. 그동안 AI 인프라 투자는 더 크고 똑똑한 모델을 만들기 위한 학습 단계에 집중됐다. 수만 장의 가속기를 묶어 수개월간 모델을 훈련시키는 작업이 데이터센터 수요를 견인해 왔다.

그러나 챗봇, 코드 보조, 이미지 생성, 검색 보강 같은 AI 서비스가 실제 사용자에게 확산되면서 상황이 달라지고 있다. 학습은 한 번 끝내면 되지만, 추론은 사용자가 질문을 던질 때마다 반복적으로 연산이 일어난다. 서비스 사용량이 늘수록 추론 부하는 누적되고, 결국 전체 AI 연산에서 운영 단계가 개발 단계를 압도하게 된다는 것이 보고서의 핵심이다.

중요한 점은 이 전환이 단순한 비중 변화가 아니라 산업 구조의 변화를 동반한다는 데 있다. 학습 시장이 소수의 빅테크와 프런티어 모델 기업에 집중된 반면, 추론 시장은 AI를 서비스에 얹는 모든 기업으로 수요 기반이 넓어진다.

배경과 맥락

지난 몇 년간 AI 인프라 투자는 학습 중심으로 설계됐다. 최고 성능의 가속기를 대량으로 확보하는 군비 경쟁이 벌어졌고, 가속기 공급사와 고대역폭메모리(HBM) 업체가 그 수혜를 독식했다. 학습은 최대한의 연산 집적도와 대역폭을 요구하기 때문에 최상위 칩에 수요가 쏠렸다.

추론은 경제성의 게임에 가깝다. 동일한 응답을 더 적은 전력과 비용으로, 더 낮은 지연시간으로 처리하는 능력이 경쟁력을 좌우한다. 따라서 추론 시대에는 단가 대비 처리량, 전력 효율, 메모리 용량과 비용 구조가 핵심 변수로 떠오른다. 최고가 칩 한 종류가 아니라 용도별로 분화된 다양한 가속기와 추론 전용 칩, 그리고 이를 효율적으로 운영하는 소프트웨어 스택의 가치가 함께 올라간다.

시장·종목에 미치는 영향

• AI 가속기 기업(엔비디아·AMD): 추론 수요는 학습보다 사용량에 비례해 꾸준히 늘어나는 구조여서, 가속기 판매가 일회성 특수에서 반복 수요로 안정화될 수 있다. 다만 추론 영역은 학습보다 경쟁사 진입 장벽이 낮아 점유율 경쟁이 치열해질 여지가 있다.
• 메모리 반도체(SK하이닉스·삼성전자·마이크론): 추론은 대용량 모델을 메모리에 상주시켜 빠르게 응답해야 하므로 HBM과 고용량 메모리 수요가 구조적으로 확대된다. 메모리 비중이 높은 업체에 우호적이다.
• 파운드리(TSMC·삼성전자): 추론 전용 칩과 맞춤형 반도체가 늘어날수록 첨단 공정 위탁생산 물량이 다변화된다. 고객사 저변이 넓어지는 효과가 있다.
• 클라우드·데이터센터 사업자: 추론은 상시 가동되는 서비스 부하여서 가동률과 매출이 사용량에 연동된다. 안정적 현금흐름 측면에서 긍정적이지만, 전력·냉각 등 운영비 관리가 수익성을 가른다.
• AI 서비스·소프트웨어 기업: 추론 비용이 곧 원가가 되므로, 추론 단가를 낮추는 최적화 기술과 효율적 모델을 가진 기업의 마진 경쟁력이 부각된다.

투자자 체크포인트

• 특정 기업의 매출이 학습용 일회성 수요에 의존하는지, 추론 기반의 반복 수요로 전환되고 있는지 구분해 살펴야 한다.
• 추론 시대의 핵심은 전력 효율과 단가 대비 처리량이다. 전성비와 메모리 비용 구조에서 우위를 가진 기업을 주목할 필요가 있다.
• 2033년은 장기 전망인 만큼, 단기 주가는 데이터센터 투자 사이클과 금리 환경에 더 크게 좌우될 수 있다는 점을 감안해야 한다.
• 추론 시장의 진입 장벽이 상대적으로 낮은 만큼, 가속기 시장의 경쟁 구도 변화와 신규 진입자의 점유율 추이를 지속 점검할 필요가 있다.

전망

낙관적으로 보면, 추론으로의 무게중심 이동은 AI 인프라 수요를 일회성 붐에서 지속 가능한 운영 수요로 바꾸는 전환점이 될 수 있다. 사용량이 늘수록 연산이 반복되는 구조는 가속기와 메모리, 클라우드 인프라 전반에 장기적이고 안정적인 수요 기반을 제공한다. 이는 AI 투자 테마의 지속성을 뒷받침하는 긍정적 신호다.

다만 리스크도 분명하다. 추론 단가 경쟁이 격화되면 가속기와 서비스의 마진이 압박받을 수 있고, 모델 효율화 기술이 빠르게 발전하면 같은 서비스를 더 적은 연산으로 처리하게 되어 하드웨어 수요 증가 속도가 예상보다 둔화될 가능성도 있다. 2033년이라는 시점은 그 사이의 기술·정책·경기 변수를 모두 통과해야 도달하는 장기 목표인 만큼, 투자자는 큰 방향성에 동의하더라도 단기 변동성과 경쟁 구도 변화를 함께 관리하는 균형 잡힌 시각이 필요하다.

본 글은 원문 기술 뉴스를 바탕으로 자동 요약·분석된 콘텐츠입니다. 원문 보기 (전자신문)