서비스 특징
여러 개의 고성능 연산을 동시에 처리할 수 있는 서버
대규모 병렬 연산 가능
고성능 GPU의 높은 활용도
간편한 설치 및 구성
자유로운 GPU 확장
연동 부가 서비스
상세 기능
Multi-GPU 기능
GPU Server를 Virtual Machine(VM)과 Bare Metal Server(BM), 두 가지 유형으로 제공합니다. VM과 BM모두 한 대 당 최대 8개의 GPU 자원을 제공하며 VM의 경우 고객이 원하는 시점에 자원의 성능을 자유롭게 조절할 수 있습니다. GPU 서버를 사용하면 고성능의 컴퓨팅 파워를 제공해 단시간에 원하는 결과를 얻을 수 있습니다.
GPU Clustering 기능
Fabric Cluster 기능을 통해 Cluster 1개당 최대 140개의 GPU 서버를 Clustering 할 수 있습니다. 같은 Cluster에 속한 서버 간에는 최대 400 Gbps의 고성능 네트워킹을 제공하여 일반적인 네트워크 인터페이스보다 더 빠르고 높은 성능을 자랑합니다. 이를 통해 서버별로 분산된 워크 로드를 쉽게 확장하고 효율적으로 처리할 수 있습니다.
※ Fabric Cluster 기능은 GPU A100만 사용 가능합니다.
GPU 사양 비교
네이버 클라우드 플랫폼이 제공하고 있는 P40은 K80 대비 성능이 약 30% 이상 우수합니다. (Single-Precision 기준)
비디오 트랜스 코딩(Trans coding), 머신러닝 추론, 캐드(CAD) 등 중소형 분석 및 추론 모델에 적합한 GPU T4를 제공합니다.
AI, 딥 러닝 트레이닝, 데이터 분석 등의 HPC에 적합한 GPU V100과 최신 GPU A100을 제공합니다.(Tesla A100: 2020년 출시 모델, Tesla V100: 2017년 출시 모델, Tesla T4: 2018년 출시 모델, Tesla P40: 2016년 출시 모델)
구분 | A100 | T4 | V100 | P40 |
|---|---|---|---|---|
Appearance |  |  |  |  |
CUDA Cores | 6,912 | 2,560 | 5,120 | 3,840 |
Tensor Cores | 3rd Gen / 432 | 320 | 640 | N/A |
GPU Memory | 80 GB (HBM2e) | 16GB | 32GB | 24GB |
Memory Bandwidth | 2039 GB/s | 346GB/s | 900GB/s | 346GB/s |
GPU boost Clock Speed | 1,410 MHz | 1,590 MHz | 1,530 MHz | 1,530 MHz |
Single-Precision | 19.5 TFLOPS | 8.1 TFLOPS | 14 TFLOPS | 12 TFLOPS |
INT8 | 624 TOPS | 130 TOPS | 224 TOPS | 47 TOPS |
Use Case | 데이터 분석, 딥 러닝, HPC/AI 등 | 머신러닝 추론, 동영상 트랜스코딩, 대화형 그래픽 등 | 딥 러닝, 유체 역학, DNA 배열, 내진 해석, 자율주행 차량, 신약 개발 등 | 교육, 유추, 신경망 모델 등 |
HBM2: High Bandwidth Memory (고대역폭 메모리)
HBM2e: High Bandwidth Memory 2 Extend (이전 HBM2 대비 처리 속도가 더 향상된 고대역폭 메모리)
상기 성능 수치는 NVIDIA에서 제공하는 자료로 사용하는 어플리케이션 및 구성 방식에 따라 측정값이 상이할 수 있습니다.
요금
실용적인 서비스 구성과 시간 단위 종량제 요금 제공
VPC
NVIDIA TESLA T4, V100, 최신 A100 모델을 이용한 GPU 서버 제공
운영체제 설치를 위한 기본 디스크가 제공되며, 추가 디스크는 디스크 당 최대 2,000GB 크기로 OS가 지원하는 개수만큼 직접 생성할 수 있습니다.
GPU A100은 Bare Metal Server과 Virtual Machine으로 제공하며 Bare Metal은 로컬 NVME 디스크를 지원하고 Virtual Machine은 Common Block Storage를 지원합니다.
월 또는 시간 단위로 서버를 사용할 수 있습니다. 월 단위 요금으로 서버를 1개월 미만으로 사용하면 이용 요금은 일할 계산돼 청구됩니다.
T4
서버스펙코드 | GPU | vCPU | 메모리 | 디스크 | 시간 요금제 | 월 요금제 |
|---|---|---|---|---|---|---|
gp1t4-g1-h50 | 1개 x 16GB | 4개 | 20GB | [HDD] 50GB | - | - |
gp1t4-g1-s50 | 1개 x 16GB | 4개 | 20GB | [SSD] 50GB | - | - |
gp1t4-g1-h100 | 1개 x 16GB | 4개 | 20GB | [HDD] 100GB | - | - |
gp1t4-g1-s100 | 1개 x 16GB | 4개 | 20GB | [SSD] 100GB | - | - |
gp1t8-g1-h50 | 1개 x 16GB | 8개 | 40GB | [HDD] 50GB | - | - |
gp1t8-g1-s50 | 1개 x 16GB | 8개 | 40GB | [SSD] 50GB | - | - |
gp1t8-g1-h100 | 1개 x 16GB | 8개 | 40GB | [HDD] 100GB | - | - |
gp1t8-g1-s100 | 1개 x 16GB | 8개 | 40GB | [SSD] 100GB | - | - |
gp2t8-g1-h50 | 2개 x 16GB | 8개 | 40GB | [HDD] 50GB | - | - |
gp2t8-g1-s50 | 2개 x 16GB | 8개 | 40GB | [SSD] 50GB | - | - |
gp2t8-g1-h100 | 2개 x 16GB | 8개 | 40GB | [HDD] 100GB | - | - |
gp2t8-g1-s100 | 2개 x 16GB | 8개 | 40GB | [SSD] 100GB | - | - |
gp1t16-g1-h50 | 1개 x 16GB | 16개 | 80GB | [HDD] 50GB | - | - |
gp1t16-g1-s50 | 1개 x 16GB | 16개 | 80GB | [SSD] 50GB | - | - |
gp1t16-g1-h100 | 1개 x 16GB | 16개 | 80GB | [HDD] 100GB | - | - |
gp1t16-g1-s100 | 1개 x 16GB | 16개 | 80GB | [SSD] 100GB | - | - |
gp2t16-g1-h50 | 2개 x 16GB | 16개 | 80GB | [HDD] 50GB | - | - |
gp2t16-g1-s50 | 2개 x 16GB | 16개 | 80GB | [SSD] 50GB | - | - |
gp2t16-g1-h100 | 2개 x 16GB | 16개 | 80GB | [HDD] 100GB | - | - |
gp2t16-g1-s100 | 2개 x 16GB | 16개 | 80GB | [SSD] 100GB | - | - |
gp2t32-g1-h50 | 2개 x 16GB | 32개 | 160GB | [HDD] 50GB | - | - |
gp2t32-g1-s50 | 2개 x 16GB | 32개 | 160GB | [SSD] 50GB | - | - |
gp2t32-g1-h100 | 2개 x 16GB | 32개 | 160GB | [HDD] 100GB | - | - |
gp2t32-g1-s100 | 2개 x 16GB | 32개 | 160GB | [SSD] 100GB | - | - |
(VAT 별도)
V100
서버스펙코드 | GPU | vCPU | 메모리 | 디스크 | 시간 요금제 | 월 요금제 |
|---|---|---|---|---|---|---|
gp1vs8-g1-h50 | 1개 x 32GB | 8개 | 90GB | [HDD] 50GB | - | - |
gp1vs8-g1-s50 | 1개 x 32GB | 8개 | 90GB | [SSD] 50GB | - | - |
gp1vs8-g1-h100 | 1개 x 32GB | 8개 | 90GB | [HDD] 100GB | - | - |
gp1vs8-g1-s100 | 1개 x 32GB | 8개 | 90GB | [SSD] 100GB | - | - |
gp2vs16-g1-h50 | 2개 x 32GB | 16개 | 180GB | [HDD] 50GB | - | - |
gp2vs16-g1-s50 | 2개 x 32GB | 16개 | 180GB | [SSD] 50GB | - | - |
gp2vs16-g1-h100 | 2개 x 32GB | 16개 | 180GB | [HDD] 100GB | - | - |
gp2vs16-g1-s100 | 2개 x 32GB | 16개 | 180GB | [SSD] 100GB | - | - |
gp4vs32-g1-h50 | 4개 x 32GB | 32개 | 360GB | [HDD] 50GB | - | - |
gp4vs32-g1-s50 | 4개 x 32GB | 32개 | 360GB | [SSD] 50GB | - | - |
gp4vs32-g1-h100 | 4개 x 32GB | 32개 | 360GB | [HDD] 100GB | - | - |
gp4vs32-g1-s100 | 4개 x 32GB | 32개 | 360GB | [SSD] 100GB | - | - |
(VAT 별도)
A100
서버스펙코드 | GPU | vCPU | 메모리 | 디스크 | 시간 요금제 | 월 요금제 |
|---|---|---|---|---|---|---|
gp8ap56-g3 | 8개 x 80GB | 56개 | 1.9TB | - | - | - |
(VAT 별도)
GPU A100은 Bare Metal Server도 함께 제공됩니다. 네이버 클라우드 플랫폼의 Services > Compute > Bare Metal Server 에서 GPU A100의 요금을 확인할 수 있습니다.
Classic
NVIDIA TESLA P40과 최신 NVIDIA TESLA V100 모델을 이용한 GPU 서버 제공
운영체제 설치를 위한 기본 디스크가 제공되며, 추가 디스크는 디스크 당 최대 2,000GB 크기로 OS가 지원하는 개수만큼 직접 생성할 수 있습니다.
월 또는 시간 단위로 서버를 사용할 수 있습니다. 월 단위 요금으로 서버를 1개월 미만으로 사용하면 이용 요금은 일할 계산돼 청구됩니다.
V100
서버스펙코드 | GPU | vCPU | 메모리 | 디스크 | 시간 요금제 | 월 요금제 |
|---|---|---|---|---|---|---|
GP8V1-g1 | 1개 x 32GB | 8개 | 90GB | [HDD] 50GB | - | - |
GP8V1-g1 | 1개 x 32GB | 8개 | 90GB | [SSD] 50GB | - | - |
GP8V1-g1 | 1개 x 32GB | 8개 | 90GB | [HDD] 100GB | - | - |
GP8V1-g1 | 1개 x 32GB | 8개 | 90GB | [SSD] 100GB | - | - |
GP16V2-g1 | 2개 x 32GB | 16개 | 180GB | [HDD] 50GB | - | - |
GP16V2-g1 | 2개 x 32GB | 16개 | 180GB | [SSD] 50GB | - | - |
GP16V2-g1 | 2개 x 32GB | 16개 | 180GB | [HDD] 100GB | - | - |
GP16V2-g1 | 2개 x 32GB | 16개 | 180GB | [SSD] 100GB | - | - |
GP32V4-g1 | 4개 x 32GB | 32개 | 360GB | [SSD] 50GB | - | - |
GP32V4-g1 | 4개 x 32GB | 32개 | 360GB | [SSD] 100GB | - | - |
(VAT 별도)
P40
서버스펙코드 | GPU | vCPU | 메모리 | 디스크 | 시간 요금제 | 월 요금제 |
|---|---|---|---|---|---|---|
GP4P1-g1 | 1개 x 24GB | 4개 | 30GB | [HDD] 50GB | - | - |
GP4P1-g1 | 1개 x 24GB | 4개 | 30GB | [SSD] 50GB | - | - |
GP4P1-g1 | 1개 x 24GB | 4개 | 30GB | [HDD] 100GB | - | - |
GP4P1-g1 | 1개 x 24GB | 4개 | 30GB | [SSD] 100GB | - | - |
GP8P2-g1 | 2개 x 24GB | 8개 | 60GB | [HDD] 50GB | - | - |
GP8P2-g1 | 2개 x 24GB | 8개 | 60GB | [SSD] 50GB | - | - |
GP8P2-g1 | 2개 x 24GB | 8개 | 60GB | [HDD] 100GB | - | - |
GP8P2-g1 | 2개 x 24GB | 8개 | 60GB | [SSD] 100GB | - | - |
(VAT 별도)
네트워크 요금
아웃바운드 트래픽에 대한 네트워크 사용량은 다음 요금표에 따라 과금합니다.
구분 | 사용량 구간 | 요금 (GB 당) |
|---|---|---|
인바운드 트래픽 | 전 구간 동일 | - |
아웃바운드 트래픽 (인터넷을 이용한 트래픽) | 20GB 이하 | - |
20GB 초과 ~ 5TB 이하 | - | |
5TB 초과 ~ 10TB 이하 | - | |
10TB 초과 ~ 30TB 이하 | - | |
30TB 초과 | - | |
아웃바운드 트래픽 (다른 존(Zone)이나 같은 존(Zone)에서 공인 IP를 이용한 트래픽) | 전 구간 동일 | - |
아웃바운드 트래픽 (같은 존(Zone)에서 비공인 IP를 이용한 트래픽) | 전 구간 동일 | - |
아웃바운드 트래픽 (다른 존(Zone)에서 비공인 IP를 이용한 트래픽) | 전 구간 동일 | - |
(VAT 별도)
제공하는 운영체제
일부 OS는 Classic 환경에서 이용 가능합니다. 빠른 시일 내에 VPC 버전에서도 제공될 예정입니다.
운영체제 설치를 위한 기본 디스크가 제공되며, 추가 디스크는 디스크 당 최대 2,000GB 크기로 OS가 지원하는 개수만큼 직접 생성할 수 있습니다.
운영체제 구분 | 요금 | |||
|---|---|---|---|---|
운영체제 | 버전 | 32비트/64비트 | 시간 | 월 |
Linux | CentOS 7.3(T4 미지원), CentOS 7.8 | 64비트 | 무료 | 무료 |
Ubuntu 16.04, Ubuntu 18.04(P40 제외) Ubuntu 20.04 | 64비트 | 무료 | 무료 | |
Windows | Windows Server 2016 | 64비트 | - | - |
Windows Server 2019 | 64비트 | - | - | |
Tensorflow on Linux | CentOS 7.3(Classic 환경만 제공), CentOS 7.8 | 64비트 | 무료 | 무료 |
Ubuntu 16.04 | 64비트 | 무료 | 무료 | |
서버 정지시 요금안내
GPU 서버는 정지 시 요금 할인이 적용되지 않으며 서버 정지 시에도 요금이 정상적으로 청구됩니다.
구분 | 세대 | 대상 서버 타입 |
|---|---|---|
서버 정지 시 요금 할인 적용 대상 | Classic 1세대 | Compact 서버, Standard 서버, CPU Intensive 서버 |
Classic 2세대 | Standard-g2 서버, High CPU-g2 서버, High Memory-g2 서버 | |
VPC 2세대 | Standard-g2 서버, High CPU-g2 서버, High Memory-g2 서버, CPU Intensive-g2 서버 | |
VPC 3세대 | Standard-g3 서버, High CPU-g3 서버, High Memory-g3 서버, CPU Intensive-g3 서버, Service Function Chaining-g3 서버 | |
서버 정지 시 요금 할인이 적용되지 않는 대상 | Classic 1세대 | Micro 서버, High Memory 서버, GPU 서버, Baremetal 서버 |
Classic 2세대 | - | |
VPC 2세대 | Micro서버, GPU 서버, Baremetal 서버 | |
VPC 3세대 | Micro서버, GPU 서버 |
