SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전
스펙 카드 SPEC CARD

NVIDIA B200 (Blackwell 데이터센터 버전, SXM 싱글카드/OAM 모듈 기준)

Blackwell 초대형 플래그십 단일 카드 — 듀얼 다이가 10TB/s 칩 간 상호연결로 단일 GPU로 통합, 카드당 FP4 밀도 9 PFLOPS + 180GB급 HBM3e, 추론 팩토리의 주력 기반; HGX B200 8카드 시스템(보드급 FP4 144 스파스)은 2025년 양산 이후 고밀도 학습/추론의 주력이자 GB200 NVL72 랙의 핵심 유닛; 2026년 시장은 대규모 기존 배치 + 현물 유통 주력 세대로 전환

개요

NVIDIA B200은 Blackwell 아키텍처의 데이터센터 플래그십 GPU로, 단일 카드에 듀얼 다이를 10TB/s 칩 간 상호연결로 하나의 통합 GPU로 묶는 설계를 채택했으며 TSMC 4NP 커스텀 공정과 CoWoS-L 패키징을 기반으로 한다. 현행 HGX B200 기준으로 카드당 180GB HBM3e 메모리를 탑재하며(발표 당시 192GB, GB200 내장 버전은 186GB), FP4 Tensor Core 밀도 연산력은 9 PFLOPS(스파스 18 PFLOPS)다. 카드당 최대 소비 전력은 1000W다. 대형 모델 추론 팩토리, 대규모 학습 클러스터, 그리고 GB200 NVL72 랙의 핵심 연산 유닛 등의 용도로 활용되며, 현재 고밀도 AI 연산 배치의 주력 기반 중 하나다.

핵심 스펙

아키텍처NVIDIA Blackwell
메모리3가지 기준이 공존 — 발표 기준 192GB HBM3e; HGX B200 현행판 180GB; GB200판 186GB(공식 GB200 NVL72 페이지 슈퍼칩 '372GB'÷2 직접 추론) — 구매 계약서에는 제품군(HGX/GB200)별로 기준을 명시해야 함
메모리 타입HBM3e
메모리 버스 폭8192bit
메모리 대역폭8TB/s(공식 기준: GB200 슈퍼칩 16TB/s÷2 직접 추론 + DGX B200 페이지 '64 TB/s'÷8 직접 추론, GB200판은 공식 직접 입증); OEM 현행 사양서 7.7TB/s(Lenovo LP2226) — 8TB/s와 7.7TB/s 두 기준이 공존하며, 대표값은 공식 8TB/s로 채택
연산 성능단일 카드 기준: FP4 TC 18 PFLOPS 스파스/9 밀도(HGX B200 8카드 보드급 144|72 공식 직접 입증÷8); FP8/FP6 TC 9 스파스/4.5 밀도(보드급 72 스파스 공식 직접 입증, 공식 각주 Dense=½Sparse); FP16/BF16 TC 4.5 스파스/2.25 밀도(Lenovo OEM 단일 카드 직접 입증, 보드급 36); TF32 TC 2.25 스파스(보드급 18); INT8 TC 9 POPS 스파스(보드급 72); FP32 75 TFLOPS(보드급 600); FP64/FP64 Tensor Core 37 TFLOPS; FP4와 FP16에 OEM 단일 카드 직접 입증이 있는 것을 제외하고, 단일 카드 수치는 모두 공식 보드급 수치÷8로 추론한 것이며, 스파스 기준은 Dense의 절반
소비 전력카드당 최대 1000W; GB200 랙 버전은 별도로 1200W 구성 가능 상한 기준 존재
인터커넥트NVLink 5세대 1.8TB/s 양방향/카드(공식 보도자료 직접 입증 '1.8TB/s bidirectional throughput per GPU'); HGX B200 8카드 풀 인터커넥트 NVLink 합계 14.4TB/s; PCIe Gen5
출시 연도2024
SM 및 CUDA 코어18,432 FP32 CUDA 코어/576 Tensor Core
L2 캐시불확실하여 채택하지 않음: 데이터센터 표에 60MB 기재(단일 다이 기준으로 추정), 업계에서는 듀얼 다이 합계 126MB로 자주 인용, 공식 단일 기재 없음 — 충돌을 그대로 기록하며 본 카드에는 확정값을 부여하지 않음
기밀 컴퓨팅지원(공식 GTC 2024 보도자료 직접 입증 'Advanced confidential computing capabilities protect AI models and customer data'; RAS 전용 엔진 기재도 있음)
코덱미수록
MIG 슬라이싱미수록
폼팩터SXM 모듈
스펙은 공식 자료 기준으로 검증되었습니다(공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준

적용 시나리오

동일 계열 모델

모델메모리소비 전력
NVIDIA T4 비교16GB GDDR6 with ECC (기본 활성화)70W (보드 전체 전력, 기본값)
NVIDIA A100 비교40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W
NVIDIA H20 비교96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치)400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각)
NVIDIA GB300 비교288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기)TGP 최대 1400W
NVIDIA A30 비교24 GB HBM2165 W
NVIDIA GeForce RTX 4090 비교24GB GDDR6X450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W)

영상 해설 VIDEO

심층 읽기 자료:B200 심층 항목(20절 심화판) · 심층 항목HGX B300 NVL16 랙 · 심층 항목

구매 및 검수 포인트

자주 묻는 질문

B200 단일 카드 메모리는 180GB인가요, 192GB인가요?
두 가지 기준이 공존합니다: 192GB는 발표 당시 datasheet 기준이며, 현행 HGX B200 공식 플랫폼 페이지와 주류 OEM 완제품(8카드 합계 1440GB, 즉 카드당 180GB)은 현행 기준입니다; GB200 NVL72 내장 Blackwell GPU 버전은 186GB입니다. 구매 시에는 계약서에 명시된 구체적 제품군 사양을 기준으로 해야 합니다.
B200의 1000W 소비 전력은 고정값인가요? 데이터센터는 얼마로 계획해야 하나요?
1000W는 공식 사용자 가이드에 기재된 카드당 상한입니다(nvidia-smi 보고 기준, 전원 풀구성 사양에 해당); 시스템 전원 이중화가 부족할 경우(예: 일부 전원 오프라인) 800W로 강등됩니다. HGX B200 8카드 시스템을 예로 들면, 시스템 전체 최대 소비 전력은 약 14.3kW로, 데이터센터는 풀구성 사양에 맞춰 전력과 냉각을 계획하고 전원 이중화 방안을 확인해야 합니다.
B200 연산력이 9 PFLOPS로 표기된 것도 있고 18 PFLOPS로 표기된 것도 있는데, 어느 것이 맞나요?
둘 다 맞으며 차이는 기준에 있습니다: 9 PFLOPS는 FP4 Tensor Core의 밀도 연산력이고, 18 PFLOPS는 스파스 기준입니다(스파스는 밀도의 두 배). 마찬가지로 HGX B200 8카드 시스템의 보드급 FP4는 밀도 72 PFLOPS/스파스 144 PFLOPS입니다. 다른 제품과 비교하거나 견적을 검토할 때는 반드시 스파스 기준인지 밀도 기준인지 확인해야 합니다.
심층 읽기:NVIDIA A10 · 심층 항목NVIDIA A100 · 심층 항목AIXX Pedia · 심층 항목
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는 편집 방침 프로세스
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공