SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전

AIXX 백과사전 › 기술 개념 › Tensor Core 텐서 코어

Tensor Core 텐서 코어

NVIDIA TENSOR CORE · 기술 개념 용어

개요OVERVIEW

Tensor Core는 NVIDIA Volta 아키텍처(2017)에서 도입된 전용 행렬 연산 유닛입니다. 각 Tensor Core는 한 클럭 사이클에 4×4 행렬 곱셈을 한 번 수행합니다. 해결하는 문제는 하나입니다. 딥러닝의 핵심 연산은 행렬 곱셈(GEMM)이고, 범용 CUDA 코어로 행렬 곱을 처리하면 효율이 낮기 때문에 Tensor Core가 이를 위해 전용으로 설계되었습니다.

세대마다 Tensor Core가 지원하는 정밀도는 계속 진화해 왔습니다. 1세대(Volta) FP16, 2세대(Turing) INT8/INT4, 3세대(Ampere) BF16/TF32, 4세대(Hopper) FP8, 5세대(Blackwell) FP4. 세대가 올라갈 때마다 새로운 정밀도는 '같은 면적에 더 많은 연산력을 담는 것'을 가능하게 했고, 이것이 B300의 FP4 연산력이 폭발적으로 증가한 근본적인 이유이기도 합니다.

핵심 수치KEY NUMBERS

항목수치 / 기준
5세대(Blackwell)FP4/FP6/FP8/FP16/BF16/TF32/FP64
FP4 연산력(B300)약 15 PFLOPS dense / sparse는 그 이상
FP8 연산력(H100)3,341 TFLOPS(sparse)
세대 수5세대(Blackwell)

B300에서의 의미ON B300

B300의 5세대 Tensor Core는 FP4와 FP6 정밀도를 네이티브로 지원합니다. 대규모 모델 추론은 FP4까지 양자화해도 정밀도 손실이 거의 없으며, 이는 같은 실리콘 면적에 FP8 대비 2배의 연산력을 담을 수 있다는 의미입니다. 구매자가 스펙을 볼 때 주의할 점은 NVIDIA가 표기하는 FP4 연산력은 sparse 기준이라는 것이며, dense 기준으로는 절반입니다. 실제 추론 처리량은 프레임워크의 양자화 지원 수준(TensorRT-LLM / vLLM 등)에 좌우됩니다.

경계와 주의점LIMITS

  • Tensor Core는 행렬 연산만 가속합니다. 비행렬 연산(스칼라/벡터 연산)은 여전히 CUDA 코어가 처리하므로, 모든 연산이 이점을 얻는 것은 아닙니다.
  • 저정밀도로 처리량을 얻는 트레이드오프: FP4 양자화는 모델 정밀도 손실을 일으킬 수 있습니다. 사용 가능 여부는 모델과 작업에 따라 다릅니다(분류/검색은 관용도가 높고, 생성형 작업은 관용도가 낮음).
  • 세대 잠금: 세대별 Tensor Core의 새로운 정밀도는 최신 버전의 CUDA/프레임워크 지원이 필요합니다. 구형 프레임워크에서 신규 카드의 정밀도 기능을 활용하려면 업그레이드가 필요합니다.

영상 해설VIDEO

참고 자료REFERENCES

  1. NVIDIA 공식 사이트 — Blackwell Ultra / HGX B300 제품 페이지 https://www.nvidia.com/en-us/data-center/hgx/
  2. 시세 및 판매 데이터:AIXX 거래소(본 데이터베이스 시세 밴드)
버전 및 정정| 본 항목은 AIXX Pedia 편집부가 관리하며, AI 보조 초안 작성 후 사람이 사실을 검증했다. 업데이트: 2026-10-21 · 버전 v1.0 · 모든 변경 이력은 추적 가능하다.
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공