안녕하세요. 최근에 A100 80G를
1) OS : ubuntu 22.04.4에서 설치
2) Driver Version : 535.183.06
3) CUDA Version : 12.2
설치 했습니다.
아무것도 사용하지 않는데 GPU-Util에서 사용율이 22% 나오는데
왜 그런것인지 문의 드립니다. 
안녕하세요. 최근에 A100 80G를
1) OS : ubuntu 22.04.4에서 설치
2) Driver Version : 535.183.06
3) CUDA Version : 12.2
설치 했습니다.
아무것도 사용하지 않는데 GPU-Util에서 사용율이 22% 나오는데
왜 그런것인지 문의 드립니다.
사용중이시네요..
전력 겨우 1/3 먹고 있는데 75도면 저 3배 먹이면 절대 못 버텨요
열먹음 주의 !
열먹음 주의 !
(지금의 질문 내용을 볼 때 새 시스템인지 어느 정도 동작시간이 있는 고객의 시스템인지 모릅니다..)
열문제가 있다고 하면 서버가 셋팅되어 있는 사무실 자체가 덥다던지 아니면 시스템의 냉각능력이 떨어진다라고도 생각할 수 있겠네요..
서버의 펜이 아무리 세게 동작해도 들어오는 공기가 시원하지 않으면 서버내의 냉각은 재대로 되지 않습니다..
여기 5페이지에 동작 온도는 55도가 안넘어야 되는게 맞을 듯합니다..
https://eehoeskrap.tistory.com/592
GPU 온도 체크 명령어
https://kyumdoctor.co.kr/11
Nvidia SMI 꼭 알아야 할 팁
HPE DL380 Gen10 의 스팩 자료 입니다.. 얼마나 최신인지는 모릅니다..
저 문서에서 A100 이란 문구는 아예 안보이고 GPU라는 문구는 4개인가 보이는데 GPU 지원하는 슬롯이 있다라는 것과 GPU 사용하려면 하이퍼포먼스 쿨링 킷트를
무조건 장착하라는 것이 있습니다..
문제는 여러가지 GPU중 어떤 모델의 GPU를 지원하는지 명시가 되어 있지 않습니다..
따라서 개인적으로 보기에는 GPU 서버로 사용하기에는 좀 무리가 있는 시스템 모델이 아닐까 생각합니다..
벤더 시스템은 거의 모두 어떤 모델의 시스템에서는 어디어디 파츠까지 지원한다라고 딱 명시가 되어 있는 것이 대부분입니다..
제가 인터넷에서 자료를 재대로 찾지 못해서일지도 모르겠지만 HP DL380 Gen10 이 Nvidia A100을 정식 적으로 지원한다고 보기 힘들 듯 합니다..
자세한 것은 HPE 기술지원팀에게 문의하셔서 해당 시스템이 A100을 지원한다라는 문서나 보증을 받아두는 것이 좋아 보입니다..
여기에 GPU카드가 어디까지 지원되는지 나와 있네요..
검증된 것은 V100 까지입니다..
GPU 카드를 설치하려면 하이퍼포먼스 쿨러와 하이퍼포먼스용 히트씽크 그 외 전용 전원 케이블 라이져 카드등이 옵션으로 필요하고
GPU카드가 전력을 많이 먹는 제품을 설치 하려면 CPU는 전기를 낳이 먹는 고성능 CPU 설치가 불가능합니다..
시스템 셋팅하려면 이것저것 따져야 할 것이 많네요..
https://community.hpe.com/t5/proliant-servers-ml-dl-sl/gpu-for-hpe-proliant-dl380-gen-10/td-p/7206594
이것은 RTX6000 카드를 설치할때 어떤 옵션이 들어가야 하는지 예를 보여준다고 볼 수 있습니다..