엔비디아 점유율 86%, 정말 깨질까 — AI 반도체 판을 흔드는 도전자들과 한국의 위치

“엔비디아 독점이 곧 끝난다”는 말은 몇 년째 반복돼 왔다. 그러나 2025년 시점에도 엔비디아는
AI 가속기 시장의 약 85%, 그중 모델 학습(training) 영역에서는
90%를 넘는 점유율을 유지한다.¹ 이 글은
“차세대 반도체가 판을 뒤집는다”는 구호 대신, (1) 지금 격차가 실제로 얼마인지,
(2) GPU 외의 NPU·TPU·커스텀 실리콘이 왜 부상하는지, (3) 화웨이·한국 기업 같은 도전자의 실력과
한계를 수치의 출처와 함께 짚는다.

엔비디아는 지금 얼마나 앞서 있나?

먼저 “독점”의 크기를 숫자로 봐야 한다. 세그먼트별로 엔비디아의 위치는 조금씩 다르다.

핵심은 영역마다 벽의 두께가 다르다는 점이다. 학습용 대형 클러스터에서는
엔비디아의 지배가 거의 절대적이지만, 추론(inference) 쪽은 커스텀 칩과 CPU가
파고들며 이미 60~75% 수준으로 상대적으로 낮다.¹ 실제로 조사기관들은
엔비디아의 점유율이 2024년 약 87%에서 2026년 75% 부근으로 내려갈 것으로 전망한다.¹
독점이 ‘깨진다’기보다, 추론부터 서서히 얇아지는 그림에 가깝다.

왜 ‘GPU 독점’이 흔들린다고 하나?

엔비디아의 힘은 GPU라는 범용 병렬 연산기와, 그 위에서 도는 소프트웨어
생태계 CUDA에서 나온다. 도전은 두 방향이다. 하나는 특정 연산에 특화된
전용 칩(NPU·TPU·ASIC)으로 전력당 성능을 높이는 것, 다른 하나는 클라우드 기업이
자사 워크로드에 맞춰 칩을 직접 설계하는 커스텀 실리콘이다.

원문 등에서 화웨이 칩을 ‘MPU(Matrix Processing Unit)’로 부르기도 하는데, 화웨이 어센드는
다빈치(Da Vinci) 아키텍처 기반의 NPU 계열로 분류하는 것이 정확하다. 방향의
규모도 커지고 있다. 한 분석은 하이퍼스케일러의 커스텀 실리콘 비중이 현재 약 25%에서
2030년경 약 50%까지 늘 수 있다고 본다.² 다만 이는
전망치이며, 구글 TPU·아마존 트레이니엄 등을 합쳐도 현재 연산 용량 기준으로는 아직 한 자릿수
비중이라는 추정도 함께 존재한다.²

화웨이 어센드, 진짜 대안인가?

가장 자주 거론되는 도전자는 화웨이 어센드(Ascend) 910C다. 화웨이는 이 칩의
성능이 엔비디아 H100에 근접한다고 주장하며, 2025년 대량 출하를 시작해 바이두·
바이트댄스 등 중국 기업이 채택하고 딥시크(DeepSeek) 모델 구동에 쓰이는 것으로
보도됐다.³ 화웨이는 여러 칩을 묶는 ‘슈퍼팟(SuperPod)’ 구성으로
데이터 전송 속도가 엔비디아 차세대 제품보다 62배 빠르다고 내세우기도 했다.⁴

다만 균형 있게 볼 지점이 있다. 그 62배 같은 수치는 제조사 자체 주장이며 독립
검증이 제한적이다. 또 화웨이 전략은 개별 칩 효율보다 칩을 많이 쌓아 규모로 미는
방식이라 전력 소모와 시스템 크기가 커진다는 비판이 있고, 무엇보다 CUDA에 비해 소프트웨어
생태계 성숙도가 떨어진다는 평가가 지배적이다.³⁴
대체 가능성은 ‘중국 내수’라는 조건에서 더 크고, 글로벌 표준을 흔들 단계와는 구분해야 한다.

데이터센터 경쟁 — 칩만의 문제가 아니다

AI 경쟁의 무게중심은 칩 단품에서 대규모 인프라로 이동하고 있다. 미국은
OpenAI·오라클·소프트뱅크·MGX가 참여하는 스타게이트(Stargate) 프로젝트로
4년간 5,000억 달러를 투입해 10GW 규모의 AI 연산 인프라를
구축한다는 계획을 2025년 초 발표했다.⁵ 텍사스 애빌린 캠퍼스가
2025년 9월부터 일부 가동에 들어갔으나, 파트너 간 역할 분담을 두고 진통을 겪는 등 계획대로만
풀리지는 않고 있다는 보도도 있다.⁵

여기서 드러나는 사실은, 관건이 GPU 대량 구매만이 아니라 전력·냉각·고속 네트워크
같은 운영 기술이라는 점이다. 시장 전체로 보면 데이터센터·클라우드용 AI 칩 시장은
2030년 4,000억 달러를 넘어설 것이라는 전망이 있으며, 이는 2025년 대비 약 3배
규모다.⁶ 이런 파이 자체의 성장은 도전자들에게도 진입 여지를 준다.

한국의 위치 — 메모리는 앞서고, 연산 칩은?

한국의 강점과 약점은 명확히 갈린다. 강점은 메모리다. AI 가속기에 필수인
고대역폭 메모리(HBM)에서 SK하이닉스는 2025년 2분기 출하량 기준 약 62% 점유율로
시장을 주도하고, 차세대 HBM4 양산 준비에서도 앞서 있다.⁷ 삼성전자는
HBM에서는 마이크론 등에 밀린 상황이지만 설계·파운드리 역량을 함께 갖고 있다.⁷

약한 고리는 연산 칩 자체다. 다만 도전은 진행 중이다. 국내 AI 반도체 스타트업
리벨리온은 2025년 9월 Arm·삼성벤처스 등이 참여한 라운드에서 기업가치
약 14억 달러를 인정받으며 추론용 칩 개발을 이어가고 있다.⁸
정부는 K-클라우드 프로젝트로 국산 NPU와 데이터센터를 연계해 2023~2025년 총
약 1,000억 원을 투입하며, 리벨리온·퓨리오사AI·사피온과 네이버·KT·NHN클라우드가
참여한다.⁹ 관건은 예산 규모보다 실제 배치·양산 실적이다.

결론 — 독점 붕괴를 가늠할 관찰 지표

“5년 내 독점이 깨진다”는 단정 대신, 아래 지표들이 실제로 움직이는지를 추적하면 판의 변화를
더 정확히 읽을 수 있다.

1. 엔비디아 추론 점유율 — 60~75% 구간이 더 내려가는가(침식은 추론부터).¹
2. 커스텀 실리콘 비중 — 하이퍼스케일러 자체 칩이 25%→50% 경로를 실제로 밟는가.²
3. 화웨이 어센드 양산·채택 — 발표가 아니라 실제 출하량과 중국 밖 채택 여부.³
4. CUDA 이탈 — 주요 개발 프레임워크가 대체 생태계를 얼마나 지원하는가.
5. 한국 연산 칩 실적 — 리벨리온·퓨리오사의 상용 데이터센터 배치 사례.⁸⁹

요약하면, 엔비디아의 벽은 여전히 높지만 추론·중국 내수·커스텀 실리콘이라는
틈에서 균열이 시작되고 있다. 한국은 메모리(HBM)에서 앞서고 연산 칩에서 추격하는 비대칭
구조이며, 승부는 발표가 아니라 양산·배치·생태계에서 갈린다.