애플 M4 맥스의 AI 연산 능력, 어디까지 사실일까 — TOPS·통합 메모리·로컬 LLM 기준

“애플 M4 맥스가 AI 연산의 판도를 바꾼다”는 문장은 흔하지만, 정확히 어떤 숫자가, 어떤 작업에서
의미가 있는지는 잘 정리돼 있지 않다. 이 글은 홍보 문구를 반복하는 대신 (1) M4 맥스의
실제 AI 관련 사양(Neural Engine·통합 메모리), (2) 그 사양이 로컬 LLM 같은 작업에서 갖는 강점과 한계,
(3) 한때 예고됐던 ‘M4 울트라’가 실제로 어떻게 됐는지를 애플 공식 자료와 출처를 붙여 순서대로
확인한다.

M4 맥스의 AI 연산 사양, 숫자로 먼저 보자

마케팅 표현을 걷어내면 AI 작업에서 중요한 지표는 두 가지다. Neural Engine의 연산량(TOPS)과
통합 메모리 용량·대역폭이다. M4 맥스의 공개 사양은 다음과 같다.²

여기서 TOPS(초당 조 단위 연산)는 Neural Engine이 초당 처리할 수 있는 정수 연산량을
가리키는 지표다. 38 TOPS는 M4 계열(M4·M4 프로·M4 맥스)이 공통으로 갖는 16코어 Neural Engine의
수치로,² 이미지 인식·음성 처리·온디바이스 AI 같은 상시 추론 작업을
CPU·GPU에 부담을 주지 않고 저전력으로 돌리는 데 쓰인다.

38 TOPS는 무엇을 의미하고, 무엇을 의미하지 않나

TOPS 숫자는 유용하지만, 그 자체로 “AI 성능 순위”를 정하지는 못한다. Neural Engine의 TOPS는 주로
낮은 정밀도(예: INT8)의 상시·경량 추론을 저전력으로 처리하는 데 최적화돼 있다.
반면 대형 언어 모델(LLM) 학습이나 대규모 병렬 연산은 GPU와 메모리 대역폭에 훨씬 더
의존한다. 즉 같은 칩 안에서도 어떤 작업이냐에 따라 병목이 Neural Engine이 아니라 GPU·메모리 쪽에
있을 수 있다.

또한 TOPS는 제조사마다 측정 조건(정밀도·연산 종류)이 달라 단순 대소 비교가 오해를 부르기
쉽다. 경쟁 플랫폼의 “몇 TOPS” 수치와 나란히 두고 우열을 단정하기보다는, 내가 돌리려는
작업이 저전력 상시 추론인지, 대형 모델 추론인지, 학습인지를 먼저 구분하는 편이 실용적이다.

128GB 통합 메모리가 로컬 LLM에서 갖는 진짜 강점은?

M4 맥스에서 AI 애호가들이 가장 주목한 부분은 TOPS보다 오히려 최대 128GB 통합 메모리다.
애플 실리콘의 통합 메모리 구조에서는 CPU와 GPU가 같은 메모리 풀을 공유하므로, 이론적으로 메모리
대부분을 모델 가중치에 할당할 수 있다. 이는 별도 그래픽 카드(디스크리트 GPU)의 VRAM이 보통
8~24GB 수준에서 나뉘는 것과 대비되는 지점이다.

실제로 커뮤니티 벤치마크에서는 128GB 구성의 맥에서 70B(700억 파라미터)급 모델을 4비트로
양자화(약 40GB 안팎)해 로컬 구동하는 사례가 보고된다. 관찰된 생성 속도는 대체로 초당
한 자릿수~십수 토큰 수준으로,³ 실험·개인용으로는 충분하지만
다수 사용자에게 실시간으로 서비스할 정도의 처리량은 아니다. 맥에서 실제로 대형 모델을 로컬 구동하는
구체적 사례는 젬마 4와 맥북으로 로컬 AI를 돌린 사례에서 더 구체적으로 확인할 수 있다.

애플 인텔리전스와 ‘최소 16GB’ 메모리 전환

M4 세대의 또 다른 변화는 칩 자체보다 기본 메모리 정책에 있다. 애플은 M4 맥 라인업의
기본 메모리를 오랫동안 유지해 온 8GB에서 16GB로 상향했다.⁴
이는 온디바이스 AI 기능 묶음인 애플 인텔리전스(Apple Intelligence)가 16GB를 사실상
최소 요구 사양으로 삼기 때문으로 알려져 있다.⁴

따라서 “M4가 AI에 강하다”는 이야기는 최상위 M4 맥스에만 해당하는 것이 아니라, 보급형 M4
기기의 기본 메모리가 올라가 온디바이스 AI 기능의 최소선을 맞췄다는 라인업 전반의 변화로 읽는
편이 정확하다. 다만 16GB는 어디까지나 애플 인텔리전스 같은 경량 온디바이스 기능의 기준이며, 앞서 본
70B급 로컬 LLM 구동과는 요구 사양의 층위가 다르다. 온디바이스 AI를 겨냥한 칩·메모리 경쟁의 흐름은
삼성의 온디바이스 AI 승부수 글과 함께 보면 업계 구도가 더 뚜렷해진다.

예고됐던 ‘M4 울트라’는 어떻게 됐나

M4 맥스를 다룬 초기 글 상당수가 “두 개의 M4 맥스를 결합한 M4 울트라가 곧 나올 것”이라
전망했다. 그러나 결과적으로 이 예측은 빗나갔다. 애플은 2025년 3월 새 맥 스튜디오를 공개하면서 최상위
구성에 M4 울트라가 아니라 이전 세대의 M3 울트라를 탑재했다.⁵
즉 2025년 시점까지 M4 울트라 칩은 출시되지 않았다.

애플은 M4 울트라를 내놓지 않은 이유를 공식적으로 밝히지 않았다. 이 대목은 발표되지 않은 제품의
성능을 단정하는 것이 왜 위험한지를 보여주는 사례다. 로드맵 소문을 기정사실처럼 서술한 글들은
결국 사실과 어긋났다. 미래 칩의 성능은 실제 발표·실측 이전에는 관찰 대상일 뿐, 확정된 수치가 아니다.

결론 — 사양표를 볼 때 점검할 항목

M4 맥스의 AI 능력을 판단할 때는 “혁신”이라는 단어 대신 내 작업에 맞는 지표를 본다.
다음을 순서대로 확인하면 홍보 문구에 휘둘리지 않는다.

1. 작업 유형 구분 — 온디바이스 경량 추론(Neural Engine·TOPS)인지, 대형 모델 로컬
   추론(GPU·메모리)인지, 학습인지.
2. 메모리 용량 — 돌리려는 모델의 양자화 후 크기(예: 70B 4비트 ≈ 40GB)에 여유가
   있는가. 애플 인텔리전스는 16GB가 최소선.
3. 생성 속도(토큰/초) — “구동 가능”과 “실용적 처리량”을 구분한다. 커뮤니티 실측치를
   확인.
4. TOPS 비교는 조건을 확인 — 정밀도·연산 종류가 다르면 숫자를 그대로 비교하지 않는다.
5. 미출시 제품은 소문으로 취급 — ‘M4 울트라’ 사례처럼 발표 전 사양은 확정치가 아니다.