요즘 GPU서버 때문에 이것 저것 알아보고있습니다.
고수님들의 도움 부탁드립니다.
1. V100 이 현재 완전 하이엔드 모델인것 같은데 맞는지와 P6와의 성능차이가 얼마나 나는지 알고 싶습니다.
2.V100 스펙을 보면
Double-Precision Performance : 7TFLOPS
Single-Precision Performance : 14TFLOPS
Tensor-Precision Performance : 112TFLOPS
이게 무슨뜻이고 왜 차이가 나는지 궁굼합니다.
3. 타입을 보니 MXM, SXM2 이렇게 있던대 이것도 무슨차이인지 궁궁합니다.
GPU 고수님들의 도움 부탁드립니다.
즐거운 저녁 되세욤~~
Double-Precision Performance : 7TFLOPS
Single-Precision Performance : 14TFLOPS
Tensor-Precision Performance : 112TFLOPS
각각 배정밀도 단정밀도, 텐서정밀도 연산 속도고, 배정밀도는 2배의 정밀도로 계산하는 거니 단정밀도의 1/2 퍼포먼스가 나오는게 지극히 당연합니다. 또한 Tensor-Precision 은 GPU에 별도로 존재 하는 Tensor Core 가 담당해서 속도가 다르게 나옵니다.
Tesla V100 의 경우 인터페이스가 PCI-Ex 16배속과 NVlink 방식의 인터페이스가 있습니다.
Tesla P6 는 파스칼 아키텍처로 만들어진 이전세대 테슬라입니다. 파스칼 베이스의 테슬라의 경우 P100이 가장 하이엔드 버젼이며, 이 모델이 테슬라 V100과 비교할만한 GPU라고 생각은 됩니다.
현행은 볼타 아키텍처의 테슬라 V100이 가장 나은 선택이긴 한데, 이것도 이젠 거의 끝물이긴 한거 같네요.
p6 는 mxm 그러니까 노트북 인터페이스 형태로 나오는 모양입니다
p6 성능은
Double-Precision Performance : 192.8 GFLOPS
Single-Precision Performance : 6169 GFLOPS
v100 하고는 성능차이가 상당하네요
아시겠지만 1000GFLOPS = 1TFLOPS 입니다
p6 ebay에 6450불에 나와있습니다??? 뭐 이렇게 비싸지???
Tesla P100
두개를 비교하세요.. 위 두 제품도 차이가 많이 납니다..
하물며 P6 는 비교도 않되겠죠..
Processor SMs CUDA Tensor Frequency (double) (single) (Tensor) Cache Memory B/W
P100 PCIe 56 3,584 N/A 1.126 GHz 4.7Tf 9.3Tf 18.7 16 GB 720 GB/s
V100 PCIe 80 5,120 640 1.53 GHz 7.0Tf 14.0Tf 112 16 GB 900 GB/s
https://www.xcelerit.com/computing-benchmarks/insights/benchmarks-deep-learning-nvidia-p100-vs-v100-gpu/
https://videocardz.com/newz/nvidia-announces-a100-pcie-accelerator
댓글 보고 좀더 찾아보니 파스칼 볼타 암페어 순이고 앞글자 따서 P100 V100 A100 이렇게 가나봅니다.
A100은 전세대 V100 보다 30%정도 성능향상인것 같고욤.
그리고 텐서코어가 있어서 TPU라고도 부르나 보내요.