스펙 카드 SPEC CARD
NVIDIA B200 (Blackwell 데이터센터 버전, SXM 싱글카드/OAM 모듈 기준)
Blackwell 초대형 플래그십 단일 카드 — 듀얼 다이가 10TB/s 칩 간 상호연결로 단일 GPU로 통합, 카드당 FP4 밀도 9 PFLOPS + 180GB급 HBM3e, 추론 팩토리의 주력 기반; HGX B200 8카드 시스템(보드급 FP4 144 스파스)은 2025년 양산 이후 고밀도 학습/추론의 주력이자 GB200 NVL72 랙의 핵심 유닛; 2026년 시장은 대규모 기존 배치 + 현물 유통 주력 세대로 전환
개요
NVIDIA B200은 Blackwell 아키텍처의 데이터센터 플래그십 GPU로, 단일 카드에 듀얼 다이를 10TB/s 칩 간 상호연결로 하나의 통합 GPU로 묶는 설계를 채택했으며 TSMC 4NP 커스텀 공정과 CoWoS-L 패키징을 기반으로 한다. 현행 HGX B200 기준으로 카드당 180GB HBM3e 메모리를 탑재하며(발표 당시 192GB, GB200 내장 버전은 186GB), FP4 Tensor Core 밀도 연산력은 9 PFLOPS(스파스 18 PFLOPS)다. 카드당 최대 소비 전력은 1000W다. 대형 모델 추론 팩토리, 대규모 학습 클러스터, 그리고 GB200 NVL72 랙의 핵심 연산 유닛 등의 용도로 활용되며, 현재 고밀도 AI 연산 배치의 주력 기반 중 하나다.
핵심 스펙
| 아키텍처 | NVIDIA Blackwell |
| 메모리 | 3가지 기준이 공존 — 발표 기준 192GB HBM3e; HGX B200 현행판 180GB; GB200판 186GB(공식 GB200 NVL72 페이지 슈퍼칩 '372GB'÷2 직접 추론) — 구매 계약서에는 제품군(HGX/GB200)별로 기준을 명시해야 함 |
| 메모리 타입 | HBM3e |
| 메모리 버스 폭 | 8192bit |
| 메모리 대역폭 | 8TB/s(공식 기준: GB200 슈퍼칩 16TB/s÷2 직접 추론 + DGX B200 페이지 '64 TB/s'÷8 직접 추론, GB200판은 공식 직접 입증); OEM 현행 사양서 7.7TB/s(Lenovo LP2226) — 8TB/s와 7.7TB/s 두 기준이 공존하며, 대표값은 공식 8TB/s로 채택 |
| 연산 성능 | 단일 카드 기준: FP4 TC 18 PFLOPS 스파스/9 밀도(HGX B200 8카드 보드급 144|72 공식 직접 입증÷8); FP8/FP6 TC 9 스파스/4.5 밀도(보드급 72 스파스 공식 직접 입증, 공식 각주 Dense=½Sparse); FP16/BF16 TC 4.5 스파스/2.25 밀도(Lenovo OEM 단일 카드 직접 입증, 보드급 36); TF32 TC 2.25 스파스(보드급 18); INT8 TC 9 POPS 스파스(보드급 72); FP32 75 TFLOPS(보드급 600); FP64/FP64 Tensor Core 37 TFLOPS; FP4와 FP16에 OEM 단일 카드 직접 입증이 있는 것을 제외하고, 단일 카드 수치는 모두 공식 보드급 수치÷8로 추론한 것이며, 스파스 기준은 Dense의 절반 |
| 소비 전력 | 카드당 최대 1000W; GB200 랙 버전은 별도로 1200W 구성 가능 상한 기준 존재 |
| 인터커넥트 | NVLink 5세대 1.8TB/s 양방향/카드(공식 보도자료 직접 입증 '1.8TB/s bidirectional throughput per GPU'); HGX B200 8카드 풀 인터커넥트 NVLink 합계 14.4TB/s; PCIe Gen5 |
| 출시 연도 | 2024 |
| SM 및 CUDA 코어 | 18,432 FP32 CUDA 코어/576 Tensor Core |
| L2 캐시 | 불확실하여 채택하지 않음: 데이터센터 표에 60MB 기재(단일 다이 기준으로 추정), 업계에서는 듀얼 다이 합계 126MB로 자주 인용, 공식 단일 기재 없음 — 충돌을 그대로 기록하며 본 카드에는 확정값을 부여하지 않음 |
| 기밀 컴퓨팅 | 지원(공식 GTC 2024 보도자료 직접 입증 'Advanced confidential computing capabilities protect AI models and customer data'; RAS 전용 엔진 기재도 있음) |
| 코덱 | 미수록 |
| MIG 슬라이싱 | 미수록 |
| 폼팩터 | SXM 모듈 |
스펙은 공식 자료 기준으로 검증되었습니다(
공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준
적용 시나리오
- 대규모 대형 모델 추론 서비스: FP4 밀도 9 PFLOPS의 단일 카드 연산력과 180GB급 HBM3e 메모리는 긴 컨텍스트, 대량 배치 동시성 추론 팩토리 워크로드에 적합
- 고밀도 학습 클러스터: HGX B200 8카드 베이스보드를 유닛으로, 5세대 NVLink의 카드당 1.8TB/s GPU 간 인터커넥트와 합계 14.4TB/s 보드급 인터커넥트를 활용해 수천 카드급 이상 학습 작업 지원
- GB200 NVL72 랙 배치: 슈퍼칩 내 Blackwell GPU 유닛으로서 랙 전체 FP4 밀도 720 PFLOPS급 랙 단위 연산 풀링에 참여
- 혼합 정밀도 및 전통적 수치 계산: 보드급 FP64 296 TFLOPS, FP32 600 TFLOPS 기준으로 전통적 정밀도가 여전히 필요한 과학 계산 및 시뮬레이션 시나리오 커버 가능
동일 계열 모델
| 모델 | 메모리 | 소비 전력 |
|---|
| NVIDIA T4 비교 | 16GB GDDR6 with ECC (기본 활성화) | 70W (보드 전체 전력, 기본값) |
| NVIDIA A100 비교 | 40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재 | SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W |
| NVIDIA H20 비교 | 96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치) | 400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각) |
| NVIDIA GB300 비교 | 288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기) | TGP 최대 1400W |
| NVIDIA A30 비교 | 24 GB HBM2 | 165 W |
| NVIDIA GeForce RTX 4090 비교 | 24GB GDDR6X | 450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W) |
영상 해설 VIDEO
구매 및 검수 포인트
- 메모리 및 전력 기준 명확화: 해당 모델은 180GB(현행 HGX/OEM 사양서), 192GB(발표 기준), 186GB(GB200판) 세 가지 메모리 기준이 존재하므로 구매 계약서에 제품군별로 명시해야 함; 카드당 소비 전력 상한은 1000W(OAM/모듈 기준에도 1000W TGP 사양 존재), HGX B200 시스템 전체 최대 소비 전력은 약 14.3kW로, 데이터센터는 8카드 베이스보드에 대응하는 공랭 냉각 능력과 전력 이중화(DGX B200은 3.3kW 전원 6대, 5+1 이중화 채택 등)에 맞춰 랙 전력 밀도와 UPS 용량을 계획해야 함
- 폼팩터 및 인터커넥트 방식 확인: 해당 카드는 SXM/OAM 모듈 형태로 출하되며 일반 PCIe 슬롯 직접 장착을 지원하지 않으므로, HGX B200 8카드 베이스보드 또는 DGX B200 시스템을 통째로 구매해야 함; GPU 간 인터커넥트는 두 개의 5세대 NVLink 스위치 칩으로 14.4TB/s 보드급 집계를 구현하며, 랙 간 확장에는 해당 세대의 네트워크 솔루션이 필요하고, 검수 시 NVLink 토폴로지 완전성과 NVSwitch 상태를 확인해야 함
- 연산력 기준 대조 및 검수: FP4 등 연산력 지표는 스파스/밀도 이중 기준이 존재하며(예: 카드당 FP4는 18/9 PFLOPS, 스파스는 밀도의 두 배), 견적서와 테스트 보고서에 기준을 명시해야 함; 또한 수령 시 nvidia-smi로 카드당 소비 전력 상한 사양을 확인해야 함 — 전원 구성에 따라 1000W 또는 800W 사양이 표시되며, 800W 사양이라면 시스템 전원이 풀구성이 아니라는 뜻이므로 공급자와 구매 구성 부합 여부를 확인해야 함
자주 묻는 질문
B200 단일 카드 메모리는 180GB인가요, 192GB인가요?
두 가지 기준이 공존합니다: 192GB는 발표 당시 datasheet 기준이며, 현행 HGX B200 공식 플랫폼 페이지와 주류 OEM 완제품(8카드 합계 1440GB, 즉 카드당 180GB)은 현행 기준입니다; GB200 NVL72 내장 Blackwell GPU 버전은 186GB입니다. 구매 시에는 계약서에 명시된 구체적 제품군 사양을 기준으로 해야 합니다.
B200의 1000W 소비 전력은 고정값인가요? 데이터센터는 얼마로 계획해야 하나요?
1000W는 공식 사용자 가이드에 기재된 카드당 상한입니다(nvidia-smi 보고 기준, 전원 풀구성 사양에 해당); 시스템 전원 이중화가 부족할 경우(예: 일부 전원 오프라인) 800W로 강등됩니다. HGX B200 8카드 시스템을 예로 들면, 시스템 전체 최대 소비 전력은 약 14.3kW로, 데이터센터는 풀구성 사양에 맞춰 전력과 냉각을 계획하고 전원 이중화 방안을 확인해야 합니다.
B200 연산력이 9 PFLOPS로 표기된 것도 있고 18 PFLOPS로 표기된 것도 있는데, 어느 것이 맞나요?
둘 다 맞으며 차이는 기준에 있습니다: 9 PFLOPS는 FP4 Tensor Core의 밀도 연산력이고, 18 PFLOPS는 스파스 기준입니다(스파스는 밀도의 두 배). 마찬가지로 HGX B200 8카드 시스템의 보드급 FP4는 밀도 72 PFLOPS/스파스 144 PFLOPS입니다. 다른 제품과 비교하거나 견적을 검토할 때는 반드시 스파스 기준인지 밀도 기준인지 확인해야 합니다.
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는
편집 방침 프로세스