GPU가 아니라 메모리가 부족하다 — 젠슨황이 폭로한 AI 인프라의 진짜 아킬레스건.
당초 미·중 정상회담 방중 명단에서 제외되었던 엔비디아 CEO 젠슨 황은 도널드 트럼프 대통령의 직접 요청으로 대통령 전용기 에어포스원의 중간 급유지인 알래스카에서 극적으로 합류했습니다. 단순한 기업인 동행을 넘어, 미국 AI 기술 패권의 상징이 외교 무대에 직접 등장한 역사적 장면입니다.
이 배경에는 역설적인 상황이 존재합니다. 미국 정부는 대중국 반도체 수출 규제를 일부 완화하는 방향을 검토하고 있지만, 중국 정부가 오히려 자국 AI 기업들에 엔비디아 칩 사용을 자제하라고 압박하며 빗장을 걸어 잠그고 있습니다. 엔비디아가 추산하는 중국 시장의 잠재적 가치는 500억 달러(약 75조 원)이지만, 2026년 실제 중국 AI 매출 전망치는 사실상 0달러에 가깝습니다.
미국이 규제를 풀려 해도 중국이 자국 산업 보호를 위해 거부하는 구조. 화웨이·하이실리콘의 자체 칩 개발이 가속화되면서 중국은 엔비디아 의존에서 벗어나려는 전략을 택했습니다.
젠슨 황은 델 테크놀로지 월드 행사에서 전 세계 IT 산업이 주목해야 할 진짜 위기를 폭로했습니다. 대중들은 GPU 공급 부족만 염려하지만, 실제 전체 시스템 붕괴를 초래하는 아킬레스건은 '고대역폭 메모리(HBM, High Bandwidth Memory) 공급 부족'이라는 지적입니다.
연산 가속 칩이 슈퍼컴퓨터급으로 고속화되더라도, 데이터를 초고속으로 전송·처리해주는 HBM의 공급 속도가 이를 뒷받침하지 못하면 전체 하드웨어 시스템은 유휴 상태에 빠집니다. 수식으로 표현하면 이렇습니다:
Efficiency = min(Speed_Computing, Speed_Memory)
연산이 아무리 빨라도 메모리 전송 속도가 병목이면 전체 효율은 메모리 속도에 종속됩니다. 마이클 델(Dell CEO)도 "AI 에코시스템 확장을 가로막는 가장 큰 벽은 최첨단 메모리 칩 접근성"이라고 동조했습니다.
| 기업 | HBM 역할 | 현황 및 과제 |
|---|---|---|
| SK하이닉스 | HBM3E 글로벌 1위 공급자 | 엔비디아 H100/H200에 독점 공급, 생산 능력 확장 중 |
| 삼성전자 | HBM3E 엔비디아 퀄 승인 추진 | 수율 문제로 승인 지연, 2026년 재도전 |
| 마이크론 | HBM3E 후발주자 | 미국 정부 지원으로 빠른 추격 중 |
| 공통 과제 | 공급 확대 속도 | 팹 증설에 3~5년 소요, 수요 급증 속도 따라잡기 역부족 |
젠슨 황은 "글로벌 공급망이 AI 빌드업 수요를 충족하기 위해 최소 10년 동안 공급 부족과 사투를 벌여야 할 것"이라는 장기 전망을 내놓았습니다. 이는 현재의 AI 열풍이 단기 거품이 아닌, 향후 세대를 관통할 패러다임 인프라 구축의 초기 단계임을 의미합니다.
AI 에이전트 소프트웨어가 전 산업에 확산되면서 인프라 수요가 기하급수적으로 증가하고 있습니다. 자율적으로 판단하고 백그라운드 태스크를 수행하는 에이전트는 24시간 쉬지 않고 연산을 소비합니다. 이 수요 곡선을 공급이 즉각 따라잡기는 구조적으로 불가능합니다.
HBM 메모리 공급 부족이 10년 지속된다면, SK하이닉스·마이크론의 HBM 사업부는 구조적 성장 구간에 있습니다. GPU 제조사(엔비디아)뿐 아니라 메모리 공급자가 AI 인프라 투자의 핵심 수혜주로 부상합니다.
미·중 반도체 지정학은 엔비디아의 중국 매출을 막고 있지만, 그보다 더 근본적인 AI 인프라 위기는 HBM 메모리 공급 부족입니다. 젠슨황이 직접 경고한 이 병목은 10년짜리 구조적 문제입니다.
AI 투자에서 GPU(엔비디아)에만 집중하는 것은 절반의 그림입니다. HBM을 생산하는 SK하이닉스·마이크론, 그리고 전력·냉각 인프라까지 포함한 전체 AI 공급망을 보는 시각이 필요합니다.