맥 클러스터로 늘리면 큰 모델이 돌까 동시 작업이 늘까

여러 맥이 같은 모델을 각각 실행하며 서로 다른 요청을 맡는다면, 늘어나는 것은 모델 하나에 쓸 메모리가 아니라 동시에 일할 자리입니다. 맥 클러스터에서 큰 모델을 나눠 실행하는 구성과 여러 요청을 나눠 처리하는 구성은 이렇게 실행 단위부터 달라요. 애플의 RDMA 기반 분산 추론과 엔비디아 PAIR의 요청 분배를 볼 때도 이 차이를 먼저 잡아야 합니다.

RDMA 연결과 모델 배치는 서로 다른 역할입니다

애플은 2026년 9월 22일 발표에서 Mac Studio 여러 대를 Thunderbolt 5와 RDMA로 연결해 분산 AI 추론에 사용할 수 있다고 설명했습니다. RDMA는 원격 장치의 메모리와 데이터를 주고받을 때 CPU의 중개 부담을 줄이는 기술입니다.

이 연결 위에서 모델을 어떻게 실행할지는 추론 소프트웨어가 정합니다. 하나의 모델을 여러 장치에 나눠 배치하는 구성이라면, 각 장치는 자신이 맡은 연산을 수행하고 필요한 데이터를 다른 장치와 교환해야 해요. 케이블은 데이터를 오갈 길을 만들고, 소프트웨어는 어느 장치가 무엇을 계산할지 정하는 셈입니다.

따라서 맥 클러스터 메모리를 각 장치의 용량을 더한 숫자로만 읽으면 실행 조건을 놓칩니다. 모델을 나누는 방식, 장치마다 필요한 작업 공간, 장치 사이에 오가는 데이터가 함께 맞아야 합니다. RDMA 연결 자체가 여러 맥을 하나의 큰 통합 메모리 GPU로 바꿔 주지는 않아요.

애플이 발표한 지원 범위는 Mac Studio 클러스터의 분산 AI 추론입니다. 특정 모델을 어떤 방식으로 나누는지까지 확정하려면 해당 추론 소프트웨어의 지원 조건이 필요합니다. 이 발표를 근거로 모든 모델이 연결 즉시 분산 실행된다고 넓혀 읽을 수는 없습니다.

PAIR는 요청 하나를 한 장치에서 끝냅니다

엔비디아가 2026년 9월 3일 설명한 PAIR는 실행 위치를 고르는 라우터입니다. 이 기술 글 기준 PAIR는 베타이며, Apple M4 이상 실리콘을 포함한 지원 대상 macOS 시스템에서도 쓸 수 있습니다. 요청을 받으면 필요한 엔진과 모델을 확인하고, 조건에 맞는 장치 하나를 선택합니다. 선택된 장치가 요청을 처음부터 끝까지 처리해요. 모델 실행은 그 장치의 Ollama나 LM Studio가 담당합니다.

예를 들어 에이전트가 서로 독립적인 자료 검토 작업을 여러 개 만들었다고 가정해 보겠습니다. PAIR는 각 작업의 추론 요청을 서로 다른 준비된 장치로 보낼 수 있습니다. 사용자는 하나의 작업을 맡겼지만, 내부에서는 여러 요청이 동시에 실행될 수 있는 구조죠.

여기서 나누는 것은 모델의 일부분이 아니라 요청 전체입니다. PAIR는 GPU 메모리인 VRAM을 하나로 합치지 않고, 단일 모델이나 요청 하나를 여러 장치로 쪼개지도 않습니다. 한 장치에서 실행할 수 없는 모델을 PAIR 연결만으로 실행하게 되는 구조는 아닙니다.

연결된 장치가 모두 같은 모델을 가질 필요는 없어요. 다만 특정 요청을 받으려면 그 장치에 요청한 모델이 정확히 준비돼 있고, 필요한 엔진도 켜져 있어야 합니다. 같은 모델을 여러 장치에 준비하면 그 모델의 요청을 맡을 후보가 늘어납니다. 모델이 있는 장치가 하나뿐이라면 다른 컴퓨터가 연결돼 있어도 해당 요청의 실행 자리는 늘지 않습니다.

모델이 안 들어가는 상황과 요청이 밀리는 상황

한 장치의 자원으로 모델을 실행하기 어렵다면 필요한 것은 모델 배치를 바꾸는 방법입니다. 모델 분산을 지원하는 소프트웨어로 각 장치가 일부를 맡도록 구성할 수 있는지 살펴야 해요. 이때 분산 실행이 가능해지는 것과 응답이 빨라지는 것은 별개의 결과입니다. 나눠 맡긴 연산 사이에서 데이터를 주고받는 시간이 추가되기 때문입니다. 애플은 2026년 7월 자체 테스트를 근거로 Thunderbolt 5·RDMA로 연결한 Mac Studio 클러스터의 분산 AI 추론 성능이 단일 시스템 대비 최대 3배라고 발표했습니다.

반대로 모델은 각 장치에서 이미 실행되는데 여러 요청이 한 엔진 앞에 줄을 선다면, PAIR 같은 요청 분배가 맞는 문제를 다룹니다. 다른 준비된 장치가 일부 요청을 맡으면 대기를 줄일 여지가 생깁니다. 모델 하나의 실행 속도가 그대로여도 여러 작업을 모두 끝내는 시간은 줄어들 수 있어요.

비교 기준	모델을 나눠 실행하는 구성	PAIR 요청 분배
나누는 대상	모델의 배치와 연산	서로 독립적인 요청
요청 하나의 실행	여러 장치가 연산에 참여	선택된 장치 하나가 완료
필요한 조건	분산 실행을 지원하는 소프트웨어	요청 모델과 엔진을 갖춘 장치
기대하는 효과	단일 장치의 자원 한계 보완과 조건에 따른 성능 향상	동시 요청의 대기 감소

이 차이는 로컬 AI 장비를 추가했을 때 얻는 효용에도 연결됩니다. 큰 모델을 실행하려는 수요에는 모델 분산 지원이, 여러 에이전트를 동시에 돌리려는 수요에는 독립 요청을 받을 실행 자리가 직접적인 의미를 갖습니다. 같은 컴퓨터 증설이라도 해결하는 병목이 달라요.

PAIR에서도 앞선 요청의 결과가 나와야 다음 요청을 시작할 수 있는 작업은 동시에 나눠 보낼 일이 적습니다. 긴 요청 하나가 대부분의 시간을 차지한다면 그 요청은 선택된 장치에서 계속 실행됩니다. 반면 서로 기다릴 필요가 없는 요청이 함께 생기고, 해당 모델을 실행할 장치가 여럿 준비돼 있다면 요청 분배가 대기 시간을 줄일 수 있습니다.