ESXI + 패스스루한 GPU로는 병렬처리가 불가능한가요?

쓰기

ESXI + 패스스루한 GPU로는 병렬처리가 불가능한가요?

sam0712

03-27

2024-03-27 17:17:09

조회 1374 추천 0

안녕하세요?

최근에 ESXI를 구축하고 특정 가상환경에 GPU를 2대 패스스루 해두었습니다.

딥러닝도좀 할겸 사용을좀 해보고있었는데요

이상하게 GPU1 번으로 학습하던 도중 GPU2에 특정 업무를 할당하니까 GPU1이 멈춥니다.(죽지는 않습니다.)

이후 GPU2에 할당된 업무가 끝나면 GPU1이 다시 동작하기 시작합니다.

관련된 이슈를 찾아보려해도 뭔가 잘 안나와서 질문드려봅니다.

ESXI에 gpu를 2대 패스스루하면 원래 병렬처리가 안되는걸까요??

짧은글 일수록 신중하게.



sam0712 03-27 좀 더 찾아보니 다들 된다는것 같네요.. 다른문제인가봅니다.. 연구해보겠습니다. 좀 더 찾아보니 다들 된다는것 같네요.. 다른문제인가봅니다.. 연구해보겠습니다.



제온프로 03-27 가장 중요한 것은 메인보드 인데..정보가 없네요.. 가상화지원 PCIe : SR-IOV 설정이 되어 있나 보세요.. 델서버나 HP 서버는 기본값이 Enable 인데요.. ESXi support for Intel iGPU with SR-IOV https://williamlam.com/2023/11/esxi-support-for-intel-igpu-with-sr-iov.html 가장 중요한 것은 메인보드 인데..정보가 없네요.. 가상화지원 PCIe : SR-IOV 설정이 되어 있나 보세요.. 델서버나 HP 서버는 기본값이 Enable 인데요.. ESXi support for Intel iGPU with SR-IOV https://williamlam.com/2023/11/esxi-support-for-intel-igpu-with-sr-iov.html



sam0712 03-27 패스스루를 끄고 SR-iOV로 가상장치화 한다음 사용해보라는 말씀이신것이죠~? 패스스루를 끄고 SR-iOV로 가상장치화 한다음 사용해보라는 말씀이신것이죠~?



송주환 03-27 NVAIE 라이센스를 구매했다면 맞는 말이지만, 아니라면 그렇지 않아요 NVAIE 라이센스를 구매했다면 맞는 말이지만, 아니라면 그렇지 않아요



sam0712 03-28 NVAIE라이센스라 하심은 vGPU용 라이센스를 말씀하시는게 맞으실까요? NVAIE라이센스라 하심은 vGPU용 라이센스를 말씀하시는게 맞으실까요?



송주환 03-28 NVAIE와 vGPU는 서로 다른 라이센스입니다. Compute Profile을 사용하려면 NVAIE를 구매해야 합니다. NVAIE와 vGPU는 서로 다른 라이센스입니다. Compute Profile을 사용하려면 NVAIE를 구매해야 합니다.



dateno1 03-27 딱히 큰 문제 없었습니다 게스트 입장에선 그냥 그래픽이 2개 있는것뿐입니다 딱히 큰 문제 없었습니다 게스트 입장에선 그냥 그래픽이 2개 있는것뿐입니다



sam0712 03-28 그럴거같은데 왜 자꾸 동시에 일하라고하면 한명이 싫다고 안하고있을까요ㅠㅠ 그럴거같은데 왜 자꾸 동시에 일하라고하면 한명이 싫다고 안하고있을까요ㅠㅠ



트니아빠 03-27 멈춘다는 것은 처리 속도가 현저하게 늦어진다는 것일까요? 특정 업무가 무엇인지는 모르지만, 병목 현상을 일으킬만한 무엇인가 있지 않을까요? 멈춘다는 것은 처리 속도가 현저하게 늦어진다는 것일까요? 특정 업무가 무엇인지는 모르지만, 병목 현상을 일으킬만한 무엇인가 있지 않을까요?



sam0712 03-28 아예 처리가 멈추는듯 합니다. 딥러닝 학습을 진행시킬때 model A를 gpu1번에, model B를 gpu2번에 학습을 시킨다 하면, gpu1에서 잘 학습되던것이 gpu2가 학습을 시작한시점부터 학습을 종료할때까지 아예 돌아가지 않습니다. (사용율 0%) 동일한 코드를 esxi가아닌 일반 pc에서 돌리는경우 문제없이 두대의 gpu에서 잘 동작하기 때문에 코드문제는 아니지않을까 싶습니다. 아예 처리가 멈추는듯 합니다. 딥러닝 학습을 진행시킬때 model A를 gpu1번에, model B를 gpu2번에 학습을 시킨다 하면, gpu1에서 잘 학습되던것이 gpu2가 학습을 시작한시점부터 학습을 종료할때까지 아예 돌아가지 않습니다. (사용율 0%) 동일한 코드를 esxi가아닌 일반 pc에서 돌리는경우 문제없이 두대의 gpu에서 잘 동작하기 때문에 코드문제는 아니지않을까 싶습니다.



서울I김동수 03-28 vram 이 16gb 넘어가나요? 그러면 별도로 세팅해줘야 하는것들이 있습니다. https://octo.vmware.com/enable-compute-accelerators-vsphere-6-5-machine-learning-hpc-workloads/ 덤으로 반드시 uefi부팅 설정도 되어있어야 합니다. vram 이 16gb 넘어가나요? 그러면 별도로 세팅해줘야 하는것들이 있습니다. https://octo.vmware.com/enable-compute-accelerators-vsphere-6-5-machine-learning-hpc-workloads/ 덤으로 반드시 uefi부팅 설정도 되어있어야 합니다.



sam0712 03-28 답글 감사합니다. 해당설정을 하지않는경우 GPU를 사용할수가없어서 모두 해둔상태입니다! 답글 감사합니다. 해당설정을 하지않는경우 GPU를 사용할수가없어서 모두 해둔상태입니다!



민호양 03-28 nvlink나 nvswitch말하시는거 아니겠지요? 단순히 2개인데 안돈다는건가요? 각각 python process를 할당하면 두개는 독립적으로는 도나요? nvlink나 nvswitch말하시는거 아니겠지요? 단순히 2개인데 안돈다는건가요? 각각 python process를 할당하면 두개는 독립적으로는 도나요?

로그인 하시면 댓글을 남길 수 있습니다

쓰기

QnA

쓰기

108/5681

번호	제목Page 108/5681	글쓴이	날짜	조회	추천
	(광고) 단통법 시대의 인터넷가입 가이드(ver2.0) (228)	백메가	2015-12	1487271	25
(광고) 단통법 시대의 인터넷가입 가이드(… (228) 2015-12 1487271 1 백메가
	[필독] 처음 오시는 분을 위한 안내 (726)	정은준1	2014-05	4950600	0
[필독] 처음 오시는 분을 위한 안내 (726) 2014-05 4950600 1 정은준1
111478	3중 5중 7중 면도기 추천 부탁 드립니다. (13)	Rich	03-30	1214	0
3중 5중 7중 면도기 추천 부탁 드립… (13) 03-30 1214 1 Rich
111477	삼성 NT NC10 노트북 바이오스 업데이트.. (6)	박문형	03-30	2135	0
삼성 NT NC10 노트북 바이오스 업데이트.. (6) 03-30 2135 1 박문형
111476	z840에다가 nvme 어댑터를 하나 달려고 하는데 nvme 몇개 다는걸 사야할지 궁금합니… (11)	강한구	03-30	1840	0
z840에다가 nvme 어댑터를 하나 달려고 하… (11) 03-30 1840 1 강한구
111475	z840에다가 nvme 어댑터를 하나 달려고 하는데 nvme 몇개 다는걸 사야할지 궁금합니…	LUNA	04-02	881	0
z840에다가 nvme 어댑터를 하나 달려고 하… 04-02 881 1 LUNA
111474	동영상이 재생 가능한지 검사하는 프로그램도 있나요? (34)	어훕	03-30	1426	0
동영상이 재생 가능한지 검사하는 프로그… (34) 03-30 1426 1 어훕
111473	윈도우 노트북 발열을 제어하고 배터리를 오래 쓰기위한 솔루션에는 무엇이 있을까요? (12)	뭐든팔아요	03-30	1459	0
윈도우 노트북 발열을 제어하고 배터리를 … (12) 03-30 1459 1 뭐든팔아요
111472	노트북 키보들 케이블을 전원 켜진 상태에서 연결한다고 바로 맛이 가버릴 수도 있을… (4)	신은왜	03-30	1168	0
노트북 키보들 케이블을 전원 켜진 상태에… (4) 03-30 1168 1 신은왜
111471	에버노트 레거시 사용하시는 분 ... 동기화 잘 되시나요? (2)	블루2014	03-30	1187	0
에버노트 레거시 사용하시는 분 ... 동기… (2) 03-30 1187 1 블루2014
111470	옥수 에서 남춘천 가는데요.... (9)	정은준1	03-30	971	0
옥수 에서 남춘천 가는데요.... (9) 03-30 971 1 정은준1
111469	잘 작동하던 콜드 스토리지가 이상합니다. (17)	Nicoffeine	03-30	1800	0
잘 작동하던 콜드 스토리지가 이상합니다. (17) 03-30 1800 1 Nicoffeine
111468	[질문] Proxmox 가상화된 헤놀로지에 PCIe 패스스루 어떻게 하나요? (6)	신우섭	03-29	1320	0
[질문] Proxmox 가상화된 헤놀로지에 PCIe… (6) 03-29 1320 1 신우섭
111467	Loop 관련 문의 드립니다. Cisco WS-C2960L-16TS-LL (6)	과암	03-29	1037	0
Loop 관련 문의 드립니다. Cisco WS-C2960… (6) 03-29 1037 1 과암
111466	[질문] Windows 10 PC를 유선 LAN 없이 WiFI로 1:1 연결이 가능한가요? (1)	신우섭	03-29	1149	0
[질문] Windows 10 PC를 유선 LAN 없이 Wi… (1) 03-29 1149 1 신우섭
111465	renew 하드디스크 (5)	미담	03-29	986	0
renew 하드디스크 (5) 03-29 986 1 미담
111464	h610보드 우분투 시리얼 확인방법 (8)	metaljw	03-29	1247	0
h610보드 우분투 시리얼 확인방법 (8) 03-29 1247 1 metaljw
111463	DNS TTL 값 관련 문의 (7)	L2스위치	03-29	1232	0
DNS TTL 값 관련 문의 (7) 03-29 1232 1 L2스위치
111462	qnap 강제 초기화 방법이 있을까요? 리셋버튼도 해봤습니다. (5)	정진관	03-29	1511	0
qnap 강제 초기화 방법이 있을까요? 리… (5) 03-29 1511 1 정진관
111461	해외 직구 오배송 반품.. (11)	이희주	03-29	1071	0
해외 직구 오배송 반품.. (11) 03-29 1071 1 이희주
111460	USB to HDMi 컨버터 (10)	뭐든팔아요	03-29	1404	0
USB to HDMi 컨버터 (10) 03-29 1404 1 뭐든팔아요
111459	AMD Threadripper pro VS Epyc (8)	제로원소프트	03-29	1518	0
AMD Threadripper pro VS Epyc (8) 03-29 1518 1 제로원소프트