DL380G10에서 A100 80GB GPU-Util 문의 사항

한중일   
   조회 1061   추천 0    

안녕하세요. 최근에 A100 80G를 


1) OS : ubuntu 22.04.4에서 설치 

2) Driver Version : 535.183.06

3) CUDA Version : 12.2

설치 했습니다. 

아무것도 사용하지 않는데 GPU-Util에서 사용율이 22% 나오는데 

왜 그런것인지 문의 드립니다. 

짧은글 일수록 신중하게.
제온프로 2024-08
93W => 22%

사용중이시네요..
Lorenz 2024-08
온도 문제가 있어보입니다 ..
     
dateno1 2024-08
+1

전력 겨우 1/3 먹고 있는데 75도면 저 3배 먹이면 절대 못 버텨요
제온프로 2024-08
온도가 너무 높네요..  이미 무지개 다리를 넘어가고 있을지도 모르니 조심...
열먹음 주의 !
열먹음 주의 !
박문형 2024-08
저 분은 보통 새 제품 셋팅하시다가 문제 생기시면 질문하시는 분인데 

(지금의 질문 내용을 볼 때 새 시스템인지 어느 정도 동작시간이 있는 고객의 시스템인지 모릅니다..)

열문제가 있다고 하면 서버가 셋팅되어 있는 사무실 자체가 덥다던지 아니면 시스템의 냉각능력이 떨어진다라고도 생각할 수 있겠네요..


서버의 펜이 아무리 세게 동작해도 들어오는 공기가 시원하지 않으면 서버내의 냉각은 재대로 되지 않습니다..
박문형 2024-08
https://www.nvidia.com/content/dam/en-zz/Solutions/Data-Center/a100/pdf/PB-10577-001_v02.pdf

여기 5페이지에 동작 온도는 55도가 안넘어야 되는게 맞을 듯합니다..


https://eehoeskrap.tistory.com/592

GPU 온도 체크 명령어

https://kyumdoctor.co.kr/11

Nvidia SMI 꼭 알아야 할 팁
박문형 2024-08
https://www.router-switch.com/media/upload/product-pdf/hpe-dl380-gen10-servers-datasheet.pdf?srsltid=AfmBOopUQdtLHjkYaDhVtC3UKwvGnXkPxQWitesYy0qmf59fePEUfvi1

HPE DL380 Gen10 의 스팩 자료 입니다.. 얼마나 최신인지는 모릅니다..

저 문서에서 A100 이란 문구는 아예 안보이고 GPU라는 문구는 4개인가 보이는데 GPU 지원하는 슬롯이 있다라는 것과 GPU 사용하려면 하이퍼포먼스 쿨링 킷트를

무조건 장착하라는 것이 있습니다..

문제는 여러가지 GPU중 어떤 모델의 GPU를 지원하는지 명시가 되어 있지 않습니다..

따라서 개인적으로 보기에는 GPU 서버로 사용하기에는 좀 무리가 있는 시스템 모델이 아닐까 생각합니다..

벤더 시스템은 거의 모두 어떤 모델의 시스템에서는 어디어디 파츠까지 지원한다라고 딱 명시가 되어 있는 것이 대부분입니다..

제가 인터넷에서 자료를 재대로 찾지 못해서일지도 모르겠지만 HP DL380 Gen10 이 Nvidia A100을 정식 적으로 지원한다고 보기 힘들 듯 합니다..

자세한 것은 HPE 기술지원팀에게 문의하셔서 해당 시스템이 A100을 지원한다라는 문서나 보증을 받아두는 것이 좋아 보입니다..
박문형 2024-08
http://cdn.cnetcontent.com/6c/a3/6ca30211-5e72-4c8d-8a00-bfcd1802cf73.pdf

여기에 GPU카드가 어디까지 지원되는지 나와 있네요..

검증된 것은 V100 까지입니다..

GPU 카드를 설치하려면 하이퍼포먼스 쿨러와 하이퍼포먼스용 히트씽크 그 외 전용 전원 케이블 라이져 카드등이 옵션으로 필요하고

GPU카드가 전력을 많이 먹는 제품을 설치 하려면 CPU는 전기를 낳이 먹는 고성능 CPU 설치가 불가능합니다..

시스템 셋팅하려면 이것저것 따져야 할 것이 많네요..

https://community.hpe.com/t5/proliant-servers-ml-dl-sl/gpu-for-hpe-proliant-dl380-gen-10/td-p/7206594

이것은 RTX6000 카드를 설치할때 어떤 옵션이 들어가야 하는지 예를 보여준다고 볼 수 있습니다..


QnA
제목Page 56/5698
2015-12   1576135   백메가
2014-05   5039686   정은준1
2024-08   1096   Rich
2024-08   1266   뉴진스
2024-08   1042   구차니
2024-08   913   마왕
2024-08   1228   뚜뚜김대원
2024-08   1149   Sakura24
2024-08   1627   롤백이
2024-08   1224   하키02
2024-08   1305   chotws
2024-08   953   블루스맨
2024-08   1452   화란
2024-08   1315   Rich
2024-08   979   아마데우쓰
2024-08   1053   개발네발
2024-08   1139   소주한병
2024-08   1200   무법자
2024-08   1027   아마데우쓰
2024-08   816   아마데우쓰
2024-08   1156   무법자
2024-08   800   무법자