안녕Ȣ16;세요?
최근에 ESXI를 구축Ȣ16;고 특1221; 가상환ᅆ1;에 GPU를 2대 패스스루 해.160;었습니다.
딥러닝도1328; 할ƺ16; 사용1012;1328; 해보고1080;었lj16;데요
1060;상Ȣ16;,172; GPU1 번1004;/196; Ȣ17;습Ȣ16;Nj12; 도1473; GPU2에 특1221; 업무를 할NJ17;Ȣ16;니까 GPU11060; 멈춥니다.(1453;1648;lj16; 않습니다.)
1060;후 GPU2에 할NJ17;.108; 업무가 -149;나면 GPU11060; 다시 ᇼ1;1089;Ȣ16;기 시1089;합니다.
관/144;.108; 1060;슈를 찾아보/140;해도 뭔가 1096; 안나와서 1656;문드/140;봅니다.
ESXI에 gpu를 2대 패스스루Ȣ16;면 원래 병/148;처리가 안.104;lj16;,152;까요??
가상화지원 PCIe : SR-IOV 설정이 되어 있나 보세요..
델서버나 HP 서버는 기본값이 Enable 인데요..
ESXi support for Intel iGPU with SR-IOV
https://williamlam.com/2023/11/esxi-support-for-intel-igpu-with-sr-iov.html
게스트 입장에선 그냥 그래픽이 2개 있는것뿐입니다
특정 업무가 무엇인지는 모르지만, 병목 현상을 일으킬만한 무엇인가 있지 않을까요?
딥러닝 학습을 진행시킬때 model A를 gpu1번에, model B를 gpu2번에 학습을 시킨다 하면, gpu1에서 잘 학습되던것이 gpu2가 학습을 시작한시점부터 학습을 종료할때까지 아예 돌아가지 않습니다. (사용율 0%)
동일한 코드를 esxi가아닌 일반 pc에서 돌리는경우 문제없이 두대의 gpu에서 잘 동작하기 때문에 코드문제는 아니지않을까 싶습니다.
https://octo.vmware.com/enable-compute-accelerators-vsphere-6-5-machine-learning-hpc-workloads/
덤으로 반드시 uefi부팅 설정도 되어있어야 합니다.