RTX A6000 2대를 NV Link/196; 연결Ȣ16;면 1대에 비해 Ǻ12;lj12; 1221;도 성능 향상1012; 기대할 수 1080;1012;까요?
마침 1109;터에 RTX A6000 2대가 나와서 1116;Ǻ12;보고 1080;lj16; 1473;1077;니다.
1060;왕 1652;도를 나가lj16; 김에 가lj16; 만큼 가보/140;고 합니다.
감사합니다.
RTX A6000 2대를 NV Link/196; 연결Ȣ16;면 1대에 비해 Ǻ12;lj12; 1221;도 성능 향상1012; 기대할 수 1080;1012;까요?
마침 1109;터에 RTX A6000 2대가 나와서 1116;Ǻ12;보고 1080;lj16; 1473;1077;니다.
1060;왕 1652;도를 나가lj16; 김에 가lj16; 만큼 가보/140;고 합니다.
감사합니다.
프로그램 특성상
GPU 상대편의 메모리를 아주 아주 대용량으로 요구하고 필요시
NL-link 의 효용성이 나오겠고.
이런 내용은 연구자가 더 잘 것으로 보입니다.
1번 GPU가 2번 GPU 메모리를 PCIe 3.0 16x 대역폭 이상으로 정보요청이 빈번한가요 ??
그럼 NV-Link가 필요하겠군요..
** 빨라지는 것이 아니구.. 느려지지가 않는 것이죠.
대안으로 PCIe 4.0 16X 도 있습니다.
RTX A6000 이 가격이 가격인지라 사용자가 적고 따라서 LV LINK 조합에 의한 성능 리뷰나 자료는 거의 나오지는 않습니다..
단지 쿼드로용 NV LINK 제품이 판매가 되기는 하는데 가격이 생각에 비해 후덜덜하다 정도..
https://www.nvidia.com/content/dam/en-zz/Solutions/design-visualization/quadro-product-literature/proviz-print-nvidia-rtx-a6000-datasheet-us-nvidia-1454980-r9-web%20(1).pdf
RTX A6000 데이터 쉬트 자료 링크입니다..
전원을 CPU 8핀을 사용합니다.. VGA용 (GPU용) 8핀과 틀린 것입니다..
3090, 2080ti 등 제가 nvlink로 실사용해본 경험 상 한 대에 두개 gpu넣는거 보단 컴 두대를 이용하거나 아님 nvlink없이 각자 gpu 개별로 작업하시는게 효율적입니다.
일단 1개로 돌려봐야 어느 정도의 정보를 얻을 수 있을 것 같습니다.
64-core 256-GB gen4 slot 컴이 2대라서 각각 사용도 가능하니 일단 돌려보고, 필요하면 NV Link로 2대 붙여 보아도 될 것 같습니다.
몇 가지 가능한 조합이 있을 것 같습니다.
A6000 두 개 정도면 파워가 1200W정도면 될 것 같아서, 2000W짜리 대신 1200W으로 바꾸었습니다.
https://velog.io/@boom109/deeplearningenv