SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전

AIXX 백과사전 › 기술 개념 › Scale-up과 Scale-out

Scale-up과 Scale-out

SCALE-UP / SCALE-OUT · 기술 개념 용어

개요OVERVIEW

Scale-up(수직 확장)과 Scale-out(수평 확장)은 AI 클러스터의 두 계층 상호연결 아키텍처입니다. Scale-up은 '랙 내 확장'으로, GPU 간 NVLink/NVSwitch 고속 풀 인터커넥트로 하나의 도메인을 구성하고(GB200 NVL72의 72-GPU 단일 도메인), Scale-out은 '랙 간 확장'으로, InfiniBand 또는 이더넷으로 여러 랙을 연결해 더 큰 클러스터를 만듭니다.

구매자 관점의 해석: Scale-up은 '랙 내 통신이 얼마나 빠른가'를 결정하고(NVLink 도메인 내 대역폭은 높지만 규모 제한), Scale-out은 '랙 간 통신이 얼마나 빠른가'를 결정합니다(InfiniBand/이더넷 대역폭은 낮지만 확장에는 사실상 제한이 없음). 대규모 모델 학습의 처리량 병목은 대개 Scale-out 계층에 있으며, 패브릭 설계(토폴로지/라우팅/혼잡 제어)가 시스템 통합 업체의 핵심 역량입니다.

핵심 수치KEY NUMBERS

항목수치 / 기준
Scale-up 인터커넥트NVLink / NVSwitch(랙 내)
Scale-out 인터커넥트InfiniBand / RoCE 이더넷(랙 간)
Scale-up 대역폭GB200 NVL72 도메인 내 130TB/s
Scale-out 대역폭ConnectX-8 카드당 800G

B300에서의 의미ON B300

B300 계열의 Scale-up은 NVLink 5(카드당 1.8TB/s·도메인 내 풀 인터커넥트), Scale-out은 ConnectX-8(800G·노드 간 패브릭)을 사용합니다. 완제품 구매 시 두 계층 모두 계획해야 합니다. 랙 내 NVLink 도메인의 규모가 '몇 장의 카드를 한 장처럼 쓸 수 있는가'를 결정하고, 랙 간 패브릭 설계가 '클러스터 확장 효율'을 결정하기 때문입니다.

경계와 주의점LIMITS

  • Scale-up 규모는 패키징의 제약을 받습니다. NVLink 도메인 내 GPU 수는 구리 케이블 거리와 스위치 칩 포트 수에 의해 제한되며, NVL72가 현재의 실용적 상한이고 NVL576은 로드맵 상의 목표입니다.
  • Scale-out의 지연 시간은 Scale-up보다 높습니다. 노드 간 통신은 네트워크 프로토콜 스택을 거치므로(RDMA를 사용하더라도) 지연 시간이 랙 내 NVLink보다 높고, 학습 병렬화 전략은 두 계층의 대역폭 비율에 맞춰야 합니다.

영상 해설VIDEO

참고 자료REFERENCES

  1. NVIDIA 공식 사이트 — Blackwell Ultra / HGX B300 제품 페이지 https://www.nvidia.com/en-us/data-center/hgx/
  2. 시세 및 유통 데이터:AIXX 거래소(본 데이터베이스 시세 밴드)
버전 및 정정|본 항목은 AIXX Pedia 편집부가 관리하며, AI 초안 작성 후 사람이 사실관계를 검증했습니다. 2026-10-30 업데이트 · 버전 v1.0 · 모든 수정 이력은 열람 가능합니다.
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 클라우드AIXX 거래소AIXX 시세AIXX 뉴스
시세 점검:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공