토큰 이코노믹스는 AI 추론 서비스 비즈니스 모델의 핵심이다. 토큰을 계량 단위로 수익(API 과금)과 비용(GPU 시간 + 전력 + 대역폭 + 운영)을 계산하며, 백만 토큰당 비용과 수익의 차이가 곧 이익이 된다. 토큰 이코노믹스의 핵심 공식: 마진율 = (API 단가 - 추론 비용) / API 단가. 추론 비용은 GPU 종류, 이용률, 배치 크기, 양자화 정밀도에 의해 결정된다.
구매자에게 의미하는 바: 토큰 이코노믹스는 GPU 구매 ROI 계산의 기초다. '이 카드로 백만 토큰 추론 비용이 얼마인가'가 '이 카드 가격이 얼마인가'보다 의사결정 가치가 더 높다. B300의 FP4 추론(9 PFLOPS dense)은 '토큰당 연산 비용이 더 낮다'는 의미이지만, 전제는 이용률이 충분히 높아야 한다는 것이다.
| 항목 | 수치 / 기준 |
|---|---|
| 수익 측면 | API 단가($/M tokens) |
| 비용 측면 | GPU 시간 × 이용률 + 전력 + 대역폭 + 운영 |
| 마진율 공식 | (단가 - 비용) / 단가 |
| 이용률이 왕 | 이용률 낮음 = 고정비 회수 불가 = 적자 |
토큰 이코노믹스에서 B300의 FP4 추론이 갖는 이점: FP4 양자화로 카드당 토큰 처리량이 두 배가 되어 '토큰당 연산 비용'이 낮아진다. 단, 전제는 이용률이 충분히 높아야 한다는 것이다. 이용률이 낮으면 아무리 뛰어난 가성비도 종이에 불과하다. AI 팩토리의 이용률 관리(로드밸런싱/탄력적 스케일링/멀티 모델 혼합 배치)가 진짜 수익 레버다.