NVIDIA GB10 AI 슈퍼컴퓨터 핵심 스펙과 구매 가이드
GB10은 Grace CPU와 Blackwell GPU, 128GB 통합 메모리를 한 시스템에 구성하여 로컬 AI 추론과 모델 파인튜닝에 활용하는 AI 전용 플랫폼이다.
GB10 핵심 스펙 4
| 구분 | 사양 | 설명 |
|---|---|---|
| AI 연산 성능 | 1 PFLOP | FP4 기준이며 1,000 AI TOPS 상당 |
| 통합 메모리 | 128GB | CPU·GPU 통합 LPDDR5X, 256비트 |
| GB10 칩 TDP | 140W | 가정용 콘센트로 구동 |
| 로컬 추론 | 최대 200B | 최대 파라미터 규모 |
1 PFLOP 수치는 FP4 정밀도와 희소성 적용 이론치이며 실제 성능은 모델과 소프트웨어에 따라 달라진다. 140W는 CPU와 GPU를 포함한 GB10 칩 기준 TDP이고, 시스템 전원 어댑터는 240W급이며 제품별로 다를 수 있다.
한 칩에 구성된 CPU와 GPU
GB10은 TSMC 3nm급 공정과 MediaTek 공동 설계를 바탕으로 Grace CPU와 Blackwell GPU를 하나의 패키지에 구성한다.
| 구성 요소 | 핵심 구성 | 세부 내용 |
|---|---|---|
| Grace CPU | 20코어 Arm | Cortex-X925 10코어, Cortex-A725 10코어, Armv9.2-A 저전력 설계 |
| NVLink-C2C | 칩 간 고속 연결 | CPU와 GPU가 메모리 일관성 구조로 데이터를 주고받는 NVIDIA 전용 통로 |
| Blackwell GPU | 5세대 Tensor 코어 | CUDA 코어 6,144개, 48 SM, 4세대 RT 코어, FP4 저정밀도 연산 지원 |
이미지 설명에 따르면 NVLink-C2C는 일반 PC의 PCIe 기반 CPU·그래픽카드 연결보다 5배 넓은 대역폭을 제공한다.
핵심 구조: 128GB 통합 메모리
| 구분 | 메모리 예시 | 모델 실행 특성 |
|---|---|---|
| 일반 그래픽카드 VRAM | 32GB | AI 모델을 VRAM에 탑재하며 용량을 초과하면 실행이 어렵거나 속도가 저하될 수 있음 |
| GB10 통합 메모리 | 128GB LPDDR5X | CPU와 GPU가 공동 사용하며 VRAM 구분 없이 모델을 탑재 |
GB10은 128GB 통합 메모리 안에서 모델을 구동하므로 개인 장비에서도 대형 모델을 한 대로 운���하는 구성을 목표로 한다.
GB10 활용 3가지
| 활용 분야 | 지원 범위 | 설명 |
|---|---|---|
| 로컬 AI 추론 | 최대 200B 파라미터 | 데이터를 외부로 내보내지 않고 로컬에서 처리 가능 |
| 모델 파인튜닝 | 최대 70B 파라미터 | 미세 조정과 학습은 추론보다 메모리 소요가 커 기준이 다름 |
| 2대 연결 확장 | 최대 405B 파라미터 | ConnectX-7 200Gb/s로 두 시스템 연결, 케이블 별도 |
두 대를 연결하면 합산 256GB 메모리로 최대 405B 파라미터 모델 처리를 지원하는 구성이다.
구매 전 체크리스트
Arm 기반 리눅스 환경
리눅스 기반 NVIDIA DGX OS로 구동하며 윈도우용 x86 프로그램은 설치하거나 실행할 수 없다.
AI 작업 전용 설계
게임이나 일반 사무용 PC가 아니라 AI 개발, 추론, 데이터 사이언스 작업에 특화된 시스템이다.
128GB 고정 메모리
메모리가 칩 패키지에 통합되어 구매 후 증설할 수 없으며, 128GB가 모델 크기의 상한선이 된다.
제품별 구성 확인
브랜드와 관계없이 GB10 칩 사양은 같지만 저장 용량, 어댑터, 냉각과 보증 조건은 제품별로 확인해야 한다.
전원 조건
GB10 칩 TDP는 140W이고 시스템 어댑터는 240W급으로 안내되어 있으나 제품에 따라 차이가 있다.
저장 용량
모델 파일 하나가 수십 GB에 이를 수 있으므로 여러 모델을 병행한다면 대용량 저장장치 구성을 권장한다.
NVIDIA GB10 추천 대상
적합한 용도
- 대형 언어모델의 로컬 실행과 개발
- 자체 데이터 기반 모델 파인튜닝
- 데이터 사이언스와 대용량 분석
- 로보틱스·비전 등 엣지 AI 개발
- 데이터 외부 반출이 어려운 보안 환경
다른 시스템을 함께 고려할 용도
- 게임 구동이 주목적인 경우
- 윈도우 전용 업무 프로그램이 필수인 경우
- 영상 편집 등 일반 크리에이터 작업이 중심인 경우
- 모델 크기보다 추론 속도가 최우선인 경우
- 향후 부품 업그레이드를 계획하는 경우
출처: 커넥트웨이브
