SECTIONS
EDITIONS
NETWORK
AIXXPedia연산 분야의 백과사전
스펙 카드 SPEC CARD

NVIDIA GeForce RTX 3090

24GB 대용량 VRAM 소비자용 카드의 중고 시장 유통 강자: AI 추론 및 GPU 임대 시장에서 보유량이 매우 많은 단일 카드. 24GB VRAM + FP32 35.6 TFLOPS로 중소형 모델 추론과 대형 모델 양자화 추론을 커버하며, 중고 매물이 풍부하고 가격이 투명함. 30 시리즈 출시 당시 유일하게(이후 3090 Ti와 함께) NVLink 3.0 양방향 112.5GB/s를 유지해, 듀얼 카드 브리징으로 48GB VRAM 풀을 구성해 소규모 학습/대용량 VRAM 추론이 가능하며 임대 시나리오의 차별화 포인트. 350W 소비 전력으로 임대 서버실 전원 환경에도 무리가 없음. MSRP $1,499

개요

NVIDIA GeForce RTX 3090은 Ampere 아키텍처(GA102 코어) 기반의 플래그십 소비자용 그래픽카드로, 24GB GDDR6X VRAM과 384-bit 버스 폭을 갖추고 있으며 FP32 성능은 35.6 TFLOPS에 달하고 3세대 Tensor Core와 2세대 RT Core를 탑재했다. 24GB의 대용량 VRAM과 충분한 중고 시장 보유량 덕분에 AI 추론 및 GPU 임대 분야에서 널리 활용된다. 또한 30 시리즈에서 소수만 남은 NVLink 3.0(양방향 112.5 GB/s) 지원 모델로, 브리징을 통해 VRAM을 통합할 수 있어 중소형 모델 추론과 대형 모델 양자화 추론 등의 시나리오를 커버한다.

핵심 스펙

아키텍처Ampere (GA102-300, 82 SM)
메모리24GB GDDR6X
메모리 대역폭936GB/s (19.5Gbps x 384bit)
메모리 버스 폭384bit
연산 성능FP32 35.6 TFLOPS / Tensor 142 TFLOPS [284 스파스]
CUDA 코어10496 (82 SM) / Tensor Core 328 (3세대) / RT Core 82 (2세대)
소비 전력350W TGP (권장 시스템 파워 750W)
인터커넥트PCIe Gen4 x16 + NVLink 3.0 양방향 112.5GB/s (30 시리즈 출시 당시 NVLink를 유지한 유일한 소비자용 카드, 이후 3090 Ti 포함; 40 시리즈부터 제거)
출시 연도2020 (2020-09-01 발표, 2020-09-24 출시, MSRP $1,499)
클럭Base 1.40GHz / Boost 1.70GHz
공정Samsung 8N, 283억 트랜지스터, 628.4mm² (GA102 풀 버전 84SM:10752 CUDA, 3090은 82개 활성화)
미디어 엔진7세대 NVENC / 5세대 NVDEC
디스플레이 출력HDMI 2.1 + DP 1.4a x3, 4화면, HDCP 2.3, 7680x4320
폼팩터FE 3슬롯 313x138mm, 전원 2x8pin (1x12-pin 변환 케이블 포함), 750W 파워 필요
CUDA 컴퓨팅 능력 등급Compute Capability 8.6
스펙은 공식 자료 기준으로 검증되었습니다(공식 벤치마크, 2026-10-10 업데이트) · 실제 가격은 판매자 제시가 기준

적용 시나리오

동일 계열 모델

모델메모리소비 전력
NVIDIA T4 비교16GB GDDR6 with ECC (기본 활성화)70W (보드 전체 전력, 기본값)
NVIDIA A100 비교40GB HBM2 / 80GB HBM2e 듀얼 버전(80GB 버전은 2020-11-16 SC20에서 추가 공개), ECC 탑재SXM4 400W(40GB/80GB 공통); PCIe 버전 40GB 250W / 80GB 300W
NVIDIA H20 비교96GB HBM3(Flopper/VipraTech/텐센트 뉴스 3개 소스 일치)400W TDP(Flopper/VipraTech 사양표/텐센트 뉴스 '열설계전력 400W' 3개 소스; VipraTech 본문의 350W 상충 수치는 기각)
NVIDIA GB300 비교288GB HBM3e(단일 GPU 패키지 기준; 슈퍼칩 576GB; HGX 보드 레벨 2.1TB/랙 20TB 병기)TGP 최대 1400W
NVIDIA A30 비교24 GB HBM2165 W
NVIDIA GeForce RTX 4090 비교24GB GDDR6X450W TGP (평균 게이밍 315W, 권장 시스템 파워 850W)

영상 해설 VIDEO

구매 및 검수 포인트

자주 묻는 질문

RTX 3090의 24GB VRAM으로 대형 모델 추론이 가능한가?
FP16 정밀도 모델의 경우 24GB로 중소 파라미터 모델의 전체 추론을 커버할 수 있다. 더 큰 파라미터 모델은 일반적으로 INT8이나 INT4 등 양자화 방식으로 가중치를 압축한 뒤 배포해야 한다. 또한 이 카드는 NVLink 3.0(양방향 112.5 GB/s)을 유지하고 있어 듀얼 카드 브리징으로 VRAM 풀을 통합해 실행 가능한 모델 규모를 확장할 수 있다.
RTX 3090으로 듀얼 카드 NVLink 학습이 가능한가?
가능하다. RTX 3090은 30 시리즈에서 NVLink를 지원하는 모델 중 하나로, NVLink 3.0이 양방향 112.5 GB/s의 인터커넥트 대역폭을 제공한다. 브리징 후 두 카드의 VRAM을 통합 사용할 수 있어 소규모 학습 작업이나 단일 카드 VRAM 용량을 초과하는 추론 워크로드에 적합하다. 단, 별도의 NVLink 브리지가 필요하며 브라켓 간격이 맞는지 확인해야 한다.
중고 RTX 3090 검수 시 주의할 점은?
다음 사항을 중점 확인할 것을 권장한다. 첫째, GPU-Z 등의 도구로 사양이 정품과 일치하는지 확인(CUDA 코어 10,496, SM 82, 24GB GDDR6X, 384-bit 버스). 둘째, 지속적인 VRAM·코어 스트레스 테스트를 진행해 온도(상한 93°C) 이상 여부, 클럭 저하나 화면 깨짐 현상을 관찰. 셋째, 전원 커넥터(2x PCIe 8-pin)와 영상 출력 포트 상태, PCIe Gen 4 x16 링크 협상 정상 여부를 확인하라.
심층 읽기:NVIDIA A10 · 심층 항목NVIDIA A100 · 심층 항목AIXX Pedia · 심층 항목
자료 업데이트 2026-10-10 · 심층 항목 업그레이드는 편집 방침 프로세스
본 아카이브
편집 방침본 아카이브 소개 (이해관계 선언)정정 채널
편집 헌장 요약
모든 서술에 출처 명기단점 필수 기재 · 정정 이력 공개유료 항목 수락 안 함항목 내 유도·판매 요소 제로시세 데이터는 데이터 모듈 마운트 용도로만 사용
AIXX 패밀리
AIXX 백과사전AIXX 거래소AIXX 뉴스
시세 데이터 출처:AIXX 거래소 · © 2026 AIXX 백과사전 AIXX Pedia · AIXX 제공