AI 반도체, 엔비디아 독주는 계속될까 — CUDA·CoWoS·ASIC로 보는 경쟁 구도

“엔비디아 하나가 다 먹는 시장”이라는 말과 “빅테크가 자체 칩을 만들어 엔비디아를 밀어낸다”는 말이
동시에 돈다. 둘 다 절반만 맞다. 이 글은 전망을 단정하는 대신, AI 반도체 경쟁을 읽는 데 필요한
(1) 빅테크가 왜 자체 칩(ASIC)을 만드는가, (2) 엔비디아 우위가 어디서 오는가, (3) 왜 결국
다들 TSMC를 거치는가, (4) 커스텀 칩 진영은 얼마나 빠르게 크고 어디에 한계가 있는가를
출처와 함께 구조적으로 정리한다.

빅테크는 왜 자체 AI 칩(ASIC)을 만드나?

구글(TPU), 아마존 AWS(트레이니엄·인퍼런시아), 마이크로소프트(마이아), 메타(MTIA) 등
대형 클라우드 사업자는 범용 GPU 대신 자사 워크로드에 맞춘 주문형 반도체(ASIC)를
직접 설계한다. 이유는 단순하다. GPU는 어떤 연산이든 소화하는 범용성이 강점이지만, 특정 모델을
대규모로 반복 실행하는 클라우드 입장에서는 불필요한 범용성이 곧 전력·비용 낭비가
된다. 용도를 좁힌 ASIC은 그만큼 전성비(전력 대비 성능)와 총소유비용에서 유리해질 여지가 있다.

실제로 이 흐름은 시장 규모로 나타나고 있다. JP모건은 커스텀 AI ASIC 시장이
2025년 약 300억 달러 규모에 이르고 이후 연 30%대로 확대될 것으로
추정했다.¹ 다만 여기서 짚을 점은, 이 커스텀 칩 대부분을 빅테크가
혼자 만드는 것이 아니라 브로드컴·마벨 같은 설계 파트너와 함께 만든다는 것이다.
브로드컴은 커스텀 AI 칩 시장의 절반 이상을, 마벨이 그 뒤를 차지하는 것으로 집계된다.¹

엔비디아 우위는 어디서 오나 — 성능과 CUDA라는 두 축

자체 칩이 늘어나는데도 엔비디아가 아직 밀리지 않는 이유는 하드웨어 성능과
소프트웨어 생태계 두 축이 함께 버티기 때문이다.

첫째는 성능이다. 모건스탠리 분석에 따르면, 1기가와트급 데이터센터를 엔비디아 블랙웰로 구축하는
비용은 구글 TPU나 AWS 트레이니엄으로 짓는 것보다 약 2배 비싸지만, 엔비디아 칩의
전력당 성능은 커스텀 ASIC 대비 약 2~8배 앞선다고 평가됐다.²
즉 “비싸지만 그만한 값을 한다”는 것이 프리미엄을 정당화하는 논리다. 원문에 돌던 “가격대비성능비 9.1”
같은 단일 지수는 공개 근거를 확인하지 못해 이 글에서는 사용하지 않는다.

둘째는 CUDA다. 엔비디아의 병렬 연산 플랫폼 CUDA는 십수 년간 축적된 라이브러리·개발자 생태계를
바탕으로 전환 비용(락인)을 만든다. ASIC이 칩 성능만으로 GPU를 대체하기 어려운 이유가
여기 있다. 소프트웨어 스택을 새로 얹고 검증하는 부담이 크기 때문이다. 다만 이 해자가 영구적이라고
보긴 어렵다. 추론(inference) 중심 워크로드가 커질수록 소프트웨어 요구가 표준화되어,
커스텀 칩이 파고들 여지도 함께 넓어진다.

왜 결국 다들 TSMC를 거치나 — CoWoS 병목

엔비디아든 커스텀 ASIC이든, 최첨단 AI 칩은 대부분 TSMC에서 제조·패키징된다.
특히 여러 칩(로직+고대역폭메모리)을 하나로 붙이는 CoWoS 첨단 패키징이 AI 칩 성능의
핵심 공정이 되면서, 이 capacity 자체가 공급 병목이 됐다. TSMC는 CoWoS 생산능력을
2024년 말 월 3만5천 장 수준에서 2026년 월 13만 장 안팎까지 늘리는 계획을 추진 중이지만,
그럼에도 수요를 다 못 맞춰 2026년 물량까지 사실상 매진 상태로 전해진다.³

이 병목의 최대 수혜·최대 점유자는 엔비디아다. 엔비디아는 CoWoS 생산능력의 약 60%를
확보한 것으로 추정되며,³ 그 결과 TSMC 매출에서 차지하는 비중도 빠르게
올랐다. 엔비디아의 TSMC 매출 비중은 2024년 약 12%에서 2025년 약 19%로 뛰며
애플을 제치고 TSMC 최대 고객이 된 것으로 집계됐다.⁴
(원문에 있던 “TSMC 매출의 63%” 수치는 공개 자료와 맞지 않아 실제 집계치로 바로잡았다.)

ASIC 진영은 얼마나 빠르게 크나 — 전망과 한계

시장의 성장 방향 자체는 뚜렷하다. 블룸버그 인텔리전스는 AI 가속기 시장이 하이퍼스케일러 투자와
ASIC 채택에 힘입어 2033년까지 6,000억 달러를 넘어설 수 있다고 전망했고,⁵
그 안에서 커스텀 ASIC 비중이 커진다는 시각이 지배적이다. 원문이 인용한 “연 91%·100% 성장률” 같은
특정 수치는 출처를 확인하지 못해, 방향성(추론·커스텀 칩 비중 확대)만 근거 있는 범위에서 남긴다.

다만 성장 전망이 곧 “엔비디아 몰락”을 뜻하진 않는다. 균형 있게 보면 커스텀 ASIC에는 분명한 한계도 있다:

• 워크로드 종속: 특정 모델·연산에 최적화한 만큼, 모델 구조가 바뀌면 이점이 줄어든다.
• 소프트웨어 격차: CUDA에 준하는 성숙한 개발 생태계를 갖추기까지 시간이 든다.
• 공급망 공유: 결국 같은 TSMC CoWoS를 놓고 엔비디아와 경쟁해야 해, 병목에서 자유롭지 않다.
• 집중 리스크: 커스텀 칩 설계가 브로드컴·마벨 소수에 몰려 있어, 이 역시 새로운 종속을 만든다.

결론 — 전망 대신, 이 지표들을 추적하라

AI 반도체 경쟁은 “누가 이긴다”는 예측보다 몇 개의 관찰 지표로 추적하는 편이 정확하다.
다음을 분기 실적·업계 리포트에서 확인해보자:

1. 엔비디아의 TSMC 매출 비중 — 12%(2024)→19%(2025) 추세가 유지·둔화되는가.
2. CoWoS 생산능력과 매진 여부 — 증설이 수요를 따라잡아 병목이 풀리는가.
3. 커스텀 ASIC 시장 규모 — 300억 달러(2025) 기반의 30%대 성장률이 유지되는가.
4. 추론 워크로드 비중 — 학습→추론 이동이 빨라질수록 ASIC 진영에 유리.
5. CUDA 대안 생태계 — 개방형 소프트웨어 스택이 실사용 채택으로 이어지는가.

이 다섯 지표가 같은 방향으로 움직이면 판이 재편되는 신호이고, 엇갈리면 현재의 엔비디아 우위가
더 오래 간다는 뜻이다. 특정일 주가·순위 전망보다 이 구조를 보는 편이 오래 유효하다.