Grok 3는 무엇이 다른가 — 추론 모드·Colossus·벤치마크로 뜯어본 xAI의 도전

일론 머스크의 xAI는 2025년 2월 17일 Grok 3를 공개하며 “지구상에서 가장 똑똑한 AI”라고
주장했다.¹ 핵심 근거는 두 가지다. 하나는 이전 버전 대비
약 10배의 연산량으로 학습했다는 점, 다른 하나는 답을 내기 전에 스스로 검토하는
추론(reasoning) 모드를 붙였다는 점이다. 이 글은 “성능이 좋다”는 홍보 문구를
옮기는 대신, (1) 무엇이 실제로 달라졌는지, (2) 그 근거인 벤치마크와 인프라를 어디까지
믿을 수 있는지, (3) 가격과 경쟁 구도는 어떤지를 출처와 함께 뜯어본다.

Grok 3가 실제로 바꾼 것은 무엇인가

Grok 2까지의 초점이 “빠르게 답하는 대화형 모델”이었다면, Grok 3의 방향은
추론이다. 질문을 받으면 즉답하는 대신 여러 단계를 거쳐 스스로 중간 과정을
점검하고 사실을 재확인한 뒤 답을 낸다.¹ 이 방식은 수학·코딩처럼
한 번의 실수가 최종 답을 무너뜨리는 작업에서 정확도를 끌어올리는 데 유리하다. 실제로 xAI가
전면에 내세운 성능 지표도 대부분 이 추론 과정을 켠 상태에서 측정한 값이다.

같은 시기, OpenAI·구글·앤트로픽이 모두 ‘추론형 모델’로 방향을 틀고 있었다는 점을 함께
봐야 한다. Grok 3의 등장은 독자적 혁신이라기보다, 업계 전체가 “더 오래 생각하는 모델”로
수렴하던 흐름 속의 한 수였다. 이 경쟁 구도는
오픈AI를 둘러싼 대규모 투자 흐름과도 맞물려 있다.

Think와 Big Brain — 추론 모드의 두 갈래

Grok 3는 사용자가 추론의 깊이를 선택하도록 두 가지 모드를 제공한다.

• Think 모드: 문제 해결 과정을 단계별로 펼쳐 보여준다. 사용자가 AI의
  추론 경로를 직접 확인할 수 있어, 어디서 판단이 갈렸는지 되짚기 쉽다.
• Big Brain 모드: 더 많은 연산 자원(test-time compute)을 투입해 복잡한
  문제를 다룬다. 답변 품질을 끌어올리는 대신 시간과 비용이 더 든다.

두 모드의 공통 전제는 “추론에 쓰는 연산을 늘리면 정답률이 올라간다”는
가설이다. 실제로 xAI가 공개한 수학 벤치마크(AIME)에서 응답을 여러 번 생성해 다수결로 고르는
방식(cons@64)을 쓰면 점수가 크게 뛰었다.² 다만 이는 그만큼
호출당 비용이 커진다는 뜻이기도 하다.

DeepSearch — 검색을 ‘보고서’로 바꾸는 시도

Grok 3와 함께 공개된 DeepSearch는 단순 키워드 검색이 아니라, AI가 여러 출처를 돌며 자료를
수집·정리해 출처(citation)가 달린 리포트 형태로 결과를 내놓는
기능이다.³ 답변에 이르는 추론 과정을 함께 설명한다는 점에서
‘에이전트형 검색’에 가깝다. 연구·시장분석처럼 여러 자료를 종합해야 하는 작업에서 유용할 수 있다.

다만 이런 자동 요약형 검색은 출처의 신뢰도를 스스로 걸러주지는 못한다는
한계가 있다. 인용이 붙어 있다고 해서 그 인용이 정확하다는 보장은 아니므로, 결과물은 초안으로
보고 원출처를 다시 확인하는 습관이 필요하다.

Colossus — ‘컴퓨트 확장’ 전략의 실체

Grok 3의 ’10배 연산’을 뒷받침한 것이 멤피스에 세운 슈퍼컴퓨터 Colossus다.
xAI는 옛 일렉트로룩스 공장을 개조해 약 122일 만에 Nvidia H100 GPU 10만 개
규모의 클러스터를 세웠고, 이후 92일 만에 이를 20만 개로 두 배 확장했다고
밝혔다.⁴ 이 속도는 통상 수년이 걸리는 규모라는 점에서 업계의
주목을 받았다.

확장은 여기서 멈추지 않았다. 2025년 하반기 기준으로 Colossus는 H100·H200에 차세대 GB200까지
더해 규모가 계속 커졌고, 전력 소비는 수백 MW급으로 늘어 테슬라 메가팩 배터리로
전력 변동을 흡수하는 구조까지 갖췄다.⁴ AI 경쟁이 사실상
전력·인프라 경쟁으로 옮겨가고 있음을 보여주는 대표 사례다. 이 관점은
AI 시대 에너지·인프라의 교차점을 다룬 글에서 더 깊이 살펴볼 수 있다.

벤치마크 성능, 어디까지 믿을까

xAI는 출시 시연에서 Grok 3(Think)가 수학·과학·코딩 지표에서 GPT-4o, DeepSeek V3,
Gemini-2 Pro, Claude 3.5 Sonnet을 앞섰다고 제시했다.⁵
공개된 수치는 다음과 같다.

영역	벤치마크	Grok 3 (Think)
수학	AIME 2025 (cons@64)	약 93.3%
과학	GPQA (대학원 수준)	약 84.6%
코딩	LiveCodeBench	약 79.4%

다만 이 수치는 제조사가 직접 발표한 값이라는 점을 감안해야 한다.
경쟁 모델의 최고 설정과 동일 조건에서 비교했는지, 최고 점수가 나온 cons@64처럼 비용이 큰
설정을 기준으로 삼았는지에 따라 체감 성능은 달라진다.⁶ 벤치마크는
순위를 가르는 ‘증거’가 아니라 참고용 스냅숏으로 보는 편이 안전하다. 또한
벤치마크 상위와 실제 사용성(응답 속도·환각 빈도·한국어 품질)은 별개다.

가격과 접근성 — 성능의 대가

Grok 3는 초기에 X의 최상위 구독인 Premium+ 사용자와 별도 구독
SuperGrok 가입자에게 열렸다.³ 이때 Premium+
요금은 기존 월 $22 수준에서 월 $40로 크게 올랐다.⁷
고성능 추론 모델의 운영 비용이 그만큼 크다는 신호이자, ‘더 똑똑한 AI’가 곧 ‘더 비싼 AI’임을
드러낸 대목이다.

참고로 이 요금 체계는 이후 여러 차례 개편됐다. 특정 시점의 가격보다는,
추론 모델일수록 구독료가 비싸지는 구조적 방향을 읽는 것이 실질적이다.
구매를 고려한다면 결제 시점의 공식 요금표를 반드시 다시 확인한다.

경쟁 구도 — DeepSeek·OpenAI·구글 사이에서

Grok 3의 등장 직전, 중국 DeepSeek이 적은 자원으로도 준수한 성능을 내는 오픈소스 모델을
공개하며 “고비용 대형 모델만이 답인가”라는 질문을 던졌다. 반대로 xAI는
대규모 연산 투입이라는 정반대 전략으로 응수한 셈이다. 이 두 노선 —
효율 대 물량 — 의 대결은 이후 AI 업계의 핵심 축이 됐다. 같은 시기 구글도 제미나이 계열
모델로 추격에 나섰고, 앤트로픽·오픈AI까지 가세하며 판이 다시 짜였다.

결국 Grok 3는 ‘단일 승자’라기보다, 연산·데이터·전력을 얼마나 빠르게 확보하느냐가
모델 성능을 좌우한다는 시대를 상징하는 제품에 가깝다. 실제로 xAI는 이후 후속 모델을
빠르게 내놓으며 Grok 3를 주력 자리에서 물려주었고, 이 빠른 세대 교체 자체가 경쟁의 속도를
보여준다.

결론 — Grok 3 이후, 이 지표들을 관찰하라

Grok 3는 “누가 가장 똑똑한가”라는 마케팅 논쟁보다, AI 경쟁의 무게중심이 어디로 이동했는지를
보여준다는 점에서 의미가 있다. 이 흐름을 따라가려면 다음을 관찰 지표로 삼는 편이 낫다.

1. 추론 연산 대 비용: 정답률을 올리려 test-time compute를 얼마나 쓰는가,
   그 비용이 구독료·API 단가에 어떻게 전가되는가.
2. 인프라·전력 확보 속도: GPU 규모 경쟁이 곧 전력·부지 경쟁으로 번지는 양상.
3. 효율 노선의 반격: DeepSeek류 저비용 모델이 물량 전략을 어디까지 따라잡는가.
4. 발표 벤치마크 대 실사용: 지표 우위가 실제 응답 품질·한국어 성능으로
   이어지는가.

새 모델이 나올 때마다 “역대 최고”라는 문구는 반복된다. 그 문구 대신 위 네 가지 숫자의
변화를 추적하면, 발표 이벤트의 소음과 실제 진전을 구분하기 쉬워진다.