현재 우분투 시스템에는 GPU가 없는 관계로 GCP에서 실습중입니다.
윈도우의 경우 3d mark 돌리면 알아서 잘 나오는데, 우분투 환경에서는 어떤걸 써야하는지
어떤 값을 봐야하는건지 도통 이해가 안되네요
GCP 인스턴스 환경에서 T4 GPU를 하나 사용중입니다.
아래 제원의 값을 체크해보려고 벤치를 돌려봤습니다.
Turing Tensor 코어
320
NVIDIA CUDA® 코어
2,560
Single Precision Performance (FP32) 8.1 TFLOPS
Mixed Precision (FP16/FP32) 65 FP16 TFLOPS
INT8 정밀도 130 INT8 TOPS
INT4 정밀도 260 INT4 TOPS
사용한 툴입니다.
https://github.com/wilicc/gpu-burn
측정되는 값 Gflop/s 는 쿠다의 성능 지표라고 알고 있는데 (틀릴 수 있음)
-tc 옵션을 주지 않으면 T4 스펙상의 성능인 8.1에 절반 수준이고 -tc옵션을 줘야만 스펙과 가까운 성능이 측정됩니다.
-m 옵션으로 메모리 값 조정해 가면서 테스트 해 본 결과 스펙상의 메모리를 테스트할 수 있었습니다.
신규 GPU를 장착하고 정상적으로 작동하는지 테스트 하는것이 궁극적인 목표입니다.
쿠다, 텐서코어 그리고 GPU 성능을 측정할 수 있는 벤치마크를 어떤식으로 돌려봐야 할까요?
-----------------------------
메모리 테스트는 vulkan 이라는 것으로 진행했는데 이것도 t4스펙상의 속도 반밖에 체크가 안되네요
코드를 수정해봐야할까요
nvidia¿¡¼ Á¦°øÇÏ´Â °É ¾²´Â ¹ýÀÌ ÀÖÀ» °ÍÀÌ°í
https://github.com/NVIDIA/nvbench
À̱âÁ¾À» °í·ÁÇÑ´Ù¸é Á¤È®ÇÏÁø ¾Ê°ÚÁö¸¸ openCLÀ» ÅëÇÑ ¿¬»ê´É·ÂÀ» ºñ±³ÇØ º¸´Â°ÍÀÌ ¹æ¹ýÀÏ µí ÇÕ´Ï´Ù.
cpu¾ß specÀ¸·Î ÇÏÁö¸¸.. gpu´Â ¾î´ÀÁ¤µµ Á¤ÇüÈµÈ º¥Ä¡°¡ Á¸ÀçÇÏ´ÂÁö ¸ð¸£°Ú½À´Ï´Ù
https://openbenchmarking.org/tests/pts
https://www.howtoforge.com/tutorial/linux-gpu-benchmark/
Âü°í¿ä
Å×½ºÆ® ÈÄ ¼öÄ¡¸¦ ÀÚ½ÅÀÇ Spec ÆÛÆ÷¸Õ½º¿Í ºñ±³ ÇÏ½Ã¸é µË´Ï´Ù.
°¡»óÈ È¯°æ¿¡¼ ¼öÁö°¡ Àû°Ô ³ª¿Ã ¼öµµ ÀÖ½À´Ï´Ù.