AIXX 백과사전 › 모델 항목 › AMD Instinct MI355X

AMD Instinct MI355X AMD가 2025년 6월 12일 「Advancing AI」 컨퍼런스에서 발표한 데이터센터 AI 플래그십 가속 카드입니다: CDNA 4 아키텍처, 288GB HBM3E 대용량 메모리(마이크론/삼성 납품), 8TB/s 대역폭(8192-bit 버폭)과 1400W 수랭 소비 전력 — 공식 포지셔닝은 「대규모 AI 학습 및 추론을 위한 고밀도 컴퓨팅 플래그십」이며, NVIDIA B300과 정면 대응됩니다[1]。
가장 큰 강점은 메모리 용량과 저정밀 연산 성능입니다: 카드당 288GB로 B300과 동급이며, 이전 세대 MI325X(256GB) 대비 12.5% 증가; MXFP6/MXFP4 마이크로스케일 포맷(AMD 공식 명칭 FP4/FP6 데이터 타입은 추론 세대차 포인트[3]) 지원; 8카드 플랫폼 합계 2.3TB HBM3E서드파티 벤치마크(SemiAnalysis InferenceMAX, AMD Signal65 기준)에 따르면 대규모 모델 추론의 백만 토큰당 비용에서 B300 대비 경쟁력을 갖추었으며, TCO 기준으로는 오히려 우위에 있습니다[5]。
대중국 유통 경로는 먼저 분명히 해둘 필요가 있다:MI355X 대중국 수출 허가를 받지 못했습니다(2025년 4월 규제 강화 이후 AMD는 중국 시장 전용 모델 MI308으로 방향을 전환했고 2025년 말 허가를 취득[7]) — 중국 본토 정식 채널은 MI308/H20 및 컴플라이언스 파생 형태가 중심이며, MI355X는 해외 시장에서만 볼 수 있습니다. 이것이 구매 의사결정의 첫 번째 분기점입니다.
AIXX Index(0–100): 본 라이브러리는 공개 사양 기반 가중 산출——메모리 40% + 인터커넥트 30% + 에코시스템 30%, 시나리오별 가중치 조정. 90+ 플래그십급 · 75+ 우수 · 60+ 사용 가능 · 60 미만 부적합. 방법론이 투명하고 검증 가능하며, 성능 보장은 아니다.
2024년 10월, AMD는 Advancing AI 컨퍼런스에서 MI350 시리즈 로드맵(CDNA 4 아키텍처, 288GB HBM3E, 2025년 하반기 출시 계획)을 예고했으며, 당시 MI325X가 막 출시된 직후였습니다.
2025년 4월, 미국의 대중국 수출 규제가 강화됨: MI355X가 속한 MI350 시리즈는 대중국 허가를 받지 못했고, AMD는 공식 기준으로 약 15억 달러의 재고 평가손을 계상하고 중국 시장 전용 모델 MI308으로 전환[7]。
2025년 6월 12일, AMD 「Advancing AI」 컨퍼런스에서 MI350 시리즈(MI350X/MI355X) 정식 발표: 공식 발표 기준 추론 성능은 MI300X 대비 최대 40배 향상(MXFP4 기준[2]); 언론 보도에 따르면 MI355X 가격은 약 70% 인상되어 카드당 약 2만 5천 달러 (공개 보도 기준[6])。
2025년 8월, AMD와 NVIDIA가 잇달아 미국 정부와 대중국 칩 판매 수익의 15% 상납 합의를 통해 허가 연속성을 확보(공개 보도 기준[8]); MI308은 2025년 말 대중국 허가를 취득했습니다.
2026년, MI355X는 해외 클라우드 사업자 및 AI 인프라 고객에서 물량이 확대되었으며, 서드파티 기준 추론 비용으로 B300과 정면 대결[5]; 대중국 채널은 MI308/컴플라이언스 파생 형태를 유지합니다.
| 항목 | 사양(MI355X · AMD 공식 기준, 2026-10 검증[1]) |
|---|---|
| GPU 아키텍처 | AMD CDNA 4 (4세대 데이터센터 아키텍처, 공식 백서[3]) |
| 컴퓨트 유닛 | 256 CU(Compute Unit) · 16,384 스트림 프로세서(서드파티 스펙 DB 기준[10]) |
| 보드당 메모리 | 288GB HBM3E (마이크론/삼성, 8 스택) |
| 메모리 대역폭 | 8TB/s (8192-bit, 공식 기준[1]) |
| 저정밀 포맷 | MXFP6 / MXFP4 (CDNA 4 세대차 지원, 공식 기준[3]) |
| GPU 간 인터커넥트 | 4세대 Infinity Fabric · 1TB/s 이상(공식 표기 「over 1 TB/s」[1]) |
| 호스트 인터페이스 | PCIe Gen 5 |
| 소비 전력 | 1400W (수랭 OAM 형태 기본; 공식 기준[1]) |
| 폼팩터 | OAM (Open Accelerator Module) · 수랭 콜드 플레이트 |
| 8카드 플랫폼 | 2.3TB HBM3E 합계 메모리(공식 기준[1]) |
| 이전 세대 / 경쟁 제품 | MI325X (256GB, +12.5% 세대차) / NVIDIA B300 (288GB 동일 용량 대응) |
사양은 AMD 공식 제품 페이지 기준(2026-10 검증[1]); CU/스트림 프로세서 수는 서드파티 사양 데이터베이스 기준[10]; FP4/FP6 연산 성능은 공식 페이지에서 '세대차 지원'으로만 표기되고 단일 정밀도 TOPS 상세는 제시되지 않아, 구매 전 rocm-smi 실측 검증을 권장한다.
| 항목 | AMD MI355X | NVIDIA B300 |
|---|---|---|
| 보드당 메모리 | 288GB HBM3E | 288GB HBM3e |
| 단일 카드 대역폭 | 8TB/s | 약 8TB/s |
| GPU 간 인터커넥트 | Infinity Fabric · 1TB/s 이상 | NVLink 5 · 1.8TB/s |
| 소비 전력/냉각 | 1400W · 수랭 OAM | 약 1400W급 · NVL8 공랭/수랭 |
| 소프트웨어 생태계 | ROCm 7 (오픈소스 노선) | CUDA (사실상 표준) |
| 대중 판매 채널 | 허가 없음 (MI308 특공 대체) | H20/컴플라이언스 파생 유통 |
| 선택 한 줄 요약 | 추론 TCO 기준 다크호스 · 해외 시장 | 생태계 기본 선택지 · 플래그십 신규 구매 |
비교 대상은 공개 사양과 서드파티 벤치마크 기준[5]; 생태계 차이가 실무에 미치는 영향은 자체 모델을 ROCm/CUDA 이중 스택으로 시험 운영해 판단하기를 권한다.
MI350 시리즈는 냉각 형태와 대상 시장에 따라 세 갈래로 나뉩니다:
MI355X 기본 형태는 1400W 수랭 콜드 플레이트(OAM): 보드 소비 전력(TBP/TGP)만 해도 1400W에 달하며, 8카드 플랫폼 전체 소비 전력은 12kW+ 급에 달함 — 수랭 루프(CDU/콜드 플레이트/배관)가 배치의 필수 선행 조건이며, 공랭 서버실에서는 직접 수용할 수 없습니다. 수랭 여건이 없다면 MI350X 공랭 버전을 선택(성능은 그만큼 감소). 전원 공급은 OAM 플랫폼 사양에 따라 서버 OEM/시스템 인테그레이터가 일괄 제공하며, 카드별 별도 배선은 없습니다.
랙 수준: 8카드 OAM 플랫폼(UBB) + 수랭 배분 장치가 세트로 납품되며, 서버실에는 CDU 설치 공간과 1차측/2차측 배관을 확보해야 합니다. 수랭 개조의 선행 공사량과 비용은 반드시 구매 의사결정 시 카드 가격과 함께 산입하십시오(「구매 및 검수」 참조).
| 시나리오 | 카드당 288GB의 적합성 기준(추산: 가중치×정밀도+KV/프레임워크 오버헤드, 방법론 상세는 선택기 참조) |
|---|---|
| DeepSeek류 MoE 추론 | 수백 B급 희소 모델 전체 상주: 288GB 대용량 메모리 + 대역폭은 MoE의 자연스러운 무대(서드파티 기준[5]) |
| 풀스펙 DeepSeek FP8 추론 | FP8 가중치 ≈ 수백 GB급: 카드당 적재 후 여유분을 긴 컨텍스트와 동시성에 할당 |
| MXFP4 양자화 추론 | 모델 용량 2배 적재 또는 처리량 2배 (CDNA 4 세대차 포맷, 공식 기준[3]) |
| 대규모 모델 파인튜닝 | LoRA/QLoRA 대파라미터급 구동 가능; 전체 파라미터 학습은 8카드 플랫폼 시나리오 |
| FP64 HPC | 공식 페이지에 FP64 기준 명시(상세는 사양표 [1] 참조), HPC 애플리케이션은 ROCm 인증 목록 기준 |
기준: 메모리 사용량 ≈ 파라미터 수 × 파라미터당 바이트 수(FP16=2B / FP8=1B / FP4=0.5B), KV 및 프레임워크 오버헤드는 별도; 선택기의 「메모리 계산」과 동일한 출처로 검증 가능.

MI355X는 OAM 수랭 모듈 폼팩터로, 공개 렌더링 이미지가 제한적이다 — 시스템/클러스터 형태는 AMD CDNA 4 백서[3] 및 OEM 파트너 자료를 참조.
본 항목의 영상 해설은 제작 예정 중이다(중국어/다국어 버전 제작 절차는 영상 창 제작 일정 참조)——공개 후 이 블록은 자동 업데이트된다.
소프트웨어 스택은 ROCm 7(AMD 오픈소스 로드맵): PyTorch/TensorFlow/JAX 공식 지원, vLLM/SGLang 추론 프레임워크 네이티브 대응(서드파티 벤치마크 기준[5]), Triton 커널 포팅 가능. CUDA와의 생태계 격차는 솔직히 말해 가장 큰 할인 요인이다: 롱테일 프레임워크/연산자/상용 소프트웨어의 ROCm 커버리지는 아직 채워지는 중이며,구매 전 반드시 자사 모델 스택을 ROCm에서 시험 운행해 검증하십시오 — 이 항목이 카드 가격보다 인도에 더 큰 영향을 줍니다.
클러스터 관리는 AMD 키트(ROCm/SSO/AMDMonitor)로 운영하며, K8s 생태계에는 AMD Device Plugin이 있습니다. 대형 고객(해외 클라우드 사업자)은 이미 규모 배치 사례가 존재합니다. 기업용 지원 계약과 ROCm 버전 업그레이드 주기는 구매 계약에 명시하는 것을 권장합니다.
OAM 플랫폼의 고가 구매 시 제3자 검품 및 도착 후 실측 테스트를 도입하고, 검증 보고서와 시리얼 넘버의 일치 여부를 확인하는 것이 좋습니다.
AMD 진단 도구: 드라이버 기본 제공 rocm-smi(토폴로지/전력/온도), AMD 공식 rocminfo, 오픈소스 번인 테스트 gpu-burn (ROCm 버전), 실측 대역폭 rocm-bandwidth-test, 인터커넥트 스트레스 테스트 rccl-tests (ROCm 버전 nccl-tests). 공통 기준: 수랭 입수 온도가 기준을 충족하는 상태에서 번인 테스트 시 클러킹 없음, HBM 실측 대역폭이 공식 스펙인 8TB/s에 근접, ECC 오류 전 구간 없음.
NVIDIA 기기와의 가로 벤치마크는 SemiAnalysis InferenceMAX 공개 기준 참조[5]; 본 카드 전용 판례 콘텐츠는 제작 중이다.
| 단계 | 핵심 포인트 |
|---|---|
| 폼팩터와 무게 | OAM 수랭 모듈 · 8카드 UBB 평판 세트 단위로 납품; 모듈 중량은 플랫폼 제조사 실측 기준 |
| 포장 | 원청전 방지백 + 콜드플레이트 인터페이스 보호 캡; 수랭 퀵 커넥터는 운송 중 오염 및 충격 주의 |
| 국경 간 컴플라이언스 | 미국산 AI 가속 카드는 수출 통제의 민감 대상입니다. MI355X의 대중국 수출은 허가되지 않았으며, 크로스보더 이동 시 전 구간 컴플라이언스 문서가 필요합니다. |
| 보험 | 화물 가치 전액 보험 가입(카드당 약 2만 5천 달러 수준, 공개 보도 기준[6]); 수랭 인터페이스 누출 보험 특약 가입 권장 |
| 변형 / OEM | 폼팩터와 포지셔닝 |
|---|---|
| MI355X | 1400W 수랭 OAM · 시리즈 플래그십 (AMD 공식 설계, OEM 플랫폼 통합) |
| MI350X | 1000W급 공랭 OAM · 수랭 불가 서버룸 선택 (공식 기준[1]) |
| MI308 | 중국 시장 전용 모델 · MI300 라인 컴플라이언스 다운그레이드 · 대중국 허가 취득 (공개 보도 기준[7]) |
| OAM 플랫폼 완제품 | Supermicro / Dell / HPE / Lenovo 등 8카드 UBB 플랫폼 (공개 보도 기준[6]) |
| 날짜 | 유형 | 시장 | 가격대 | 기준 |
|---|---|---|---|---|
| 2026-10 | 채널 참고 | 해외 | 공개 보도 기준 카드당 약 $25,000 (가격 약 70% 인상 언론 보도 기준[6], 실제 가격은 판매자 제시가 기준) | AMD 공식 상시 정가 없음 |
| 2026-10 | 클라우드 임대 참고 | 해외 클라우드 | MI300X 약 $2.39/GPU·시간 (제3자 기준[5]) | MI355X 클라우드 출시 후 가격 추이 지켜볼 것 |
| 2026-10 | 마켓 상태 | 중국 본토 | 정식 채널 없음 · 해당 없음 | 대중국 허가 미취득, 마켓 검색 › |
기준: 본 데이터베이스에는 해당 모델의 실거래 데이터가 없습니다. '공개 보도 기준'은 언론이 전달한 요구 가격으로, 공식 정가도 실거래가도 아니며 어떤 거래 근거도 구성하지 않습니다. 데이터 출처:AIXX 거래소(수수료 0% 매칭, 거래에 참여하지 않음).
| 기간 | 주요 연혁 |
|---|---|
| 2024-10 | Advancing AI 컨퍼런스에서 MI350 로드맵 예고 (CDNA 4 · 288GB · 2025년 하반기) |
| 2025-04 | 대중국 규제 강화: MI350 시리즈 허가 미취득, AMD 약 15억 달러 대손충당금 인식 후 MI308으로 전환[7] |
| 2025-06-12 | Advancing AI 컨퍼런서에서 MI350 시리즈 공개 (MI350X/MI355X); 언론 보도 기준 가격 약 70% 인상되어 약 2.5만 달러[2][6] |
| 2025-08 | AMD/NVIDIA, 미국 정부와 대중국 판매 매출 15% 납부 협정 체결 (공개 보도 기준[8]) |
| 2025년 말 | MI308 대중국 허가 취득 및 공급 시작; MI355X 해외 시장 출하 확대[7] |
| 2026-01-15 | BIS, H200/MI325X 대중국 수출 심사를 건별 승인제로 전환 (공개 보도 기준[7]) |
| [1] | AMD 공식 · Instinct MI355X 제품 페이지 (사양: 288GB HBM3E / 8TB/s / 1400W / 2.3TB 8카드 / 1TB/s 초과 인터커넥트) · https://www.amd.com/en/products/accelerators/instinct/mi350/(2026-10 검증) |
| [2] | AMD Advancing AI 컨퍼런스 · MI350 시리즈 발표 (2025-06-12, 추론 성능 기준) · https://www.amd.com/en/events/advancing-ai(2026-10 검증) |
| [3] | AMD CDNA 4 아키텍처 백서 (MXFP6/MXFP4 및 아키텍처 세부) · https://www.amd.com/content/dam/amd/en/documents/instinct-te(2026-10 검증) |
| [4] | AMD 공식 · ROCm 7 문서 및 생태계 · https://rocm.docs.amd.com/(2026-10 검증) |
| [5] | SemiAnalysis · InferenceMAX 벤치마크 및 TCO 기준 (MI355X vs B300) · https://inferencex.semianalysis.com/chips/mi355x(서드파티 기준) |
| [6] | 언론 보도 · MI350 가격 약 70% 인상, 카드당 약 2.5만 달러 (2025, 공개 보도 기준) · https://www.tomshardware.com/pc-components/gpus(공개 보도 기준) |
| [7] | 공개 보도 · 대중국 수출 통제 및 MI308 허가 (2025-04 규제 강화 / 2025년 말 허가 취득 / 2026-01 BIS 건별 승인제) · https://www.reuters.com/technology/(공개 보도 기준) |
| [8] | 공개 보도 · AMD/NVIDIA 대중국 판매 매출 15% 납부 협정 (2025-08) · https://www.reuters.com/technology/(공개 보도 기준) |
| [9] | 셀렉터 · VRAM 산정 기준(파라미터 수 × 정밀도 + KV/프레임워크 오버헤드) · /wiki/xuanxing.html(본 사이트 기준) |
| [10] | 제3자 스펙 데이터베이스 · CU/스트림 프로세서 기준 (256 CU / 16,384 SP) · https://www.techpowerup.com/gpu-specs/instinct-mi355x.c4309(서드파티 기준) |
사양은 AMD 공식 페이지를 기준으로 하며, '공개 보도 기준' 항목은 언론/채널 전달 사항으로 본 데이터베이스는 그 진위를 보증하지 않습니다. 구매 결정은 공식 문서와 실측을 기준으로 하세요.