두개를 nvlink 로 연결 시 한개 사용 시 대비 최대 2배에 근사해지는데 라이브러리와 코드 따라 다릅니다.
3090, 2080ti 등 제가 nvlink로 실사용해본 경험 상 한 대에 두개 gpu넣는거 보단 컴 두대를 이용하거나 아님 nvlink없이 각자 gpu 개별로 작업하시는게 효율적입니다.
좋은 정보를 알려 주셔서 감사합니다.
일단 1개로 돌려봐야 어느 정도의 정보를 얻을 수 있을 것 같습니다.
64-core 256-GB gen4 slot 컴이 2대라서 각각 사용도 가능하니 일단 돌려보고, 필요하면 NV Link로 2대 붙여 보아도 될 것 같습니다.
몇 가지 가능한 조합이 있을 것 같습니다.
A6000 두 개 정도면 파워가 1200W정도면 될 것 같아서, 2000W짜리 대신 1200W으로 바꾸었습니다.
프로그램 특성상
GPU 상대편의 메모리를 아주 아주 대용량으로 요구하고 필요시
NL-link 의 효용성이 나오겠고.
이런 내용은 연구자가 더 잘 것으로 보입니다.
1번 GPU가 2번 GPU 메모리를 PCIe 3.0 16x 대역폭 이상으로 정보요청이 빈번한가요 ??
그럼 NV-Link가 필요하겠군요..
** 빨라지는 것이 아니구.. 느려지지가 않는 것이죠.
대안으로 PCIe 4.0 16X 도 있습니다.
RTX A6000 이 가격이 가격인지라 사용자가 적고 따라서 LV LINK 조합에 의한 성능 리뷰나 자료는 거의 나오지는 않습니다..
단지 쿼드로용 NV LINK 제품이 판매가 되기는 하는데 가격이 생각에 비해 후덜덜하다 정도..
https://www.nvidia.com/content/dam/en-zz/Solutions/design-visualization/quadro-product-literature/proviz-print-nvidia-rtx-a6000-datasheet-us-nvidia-1454980-r9-web%20(1).pdf
RTX A6000 데이터 쉬트 자료 링크입니다..
전원을 CPU 8핀을 사용합니다.. VGA용 (GPU용) 8핀과 틀린 것입니다..
3090, 2080ti 등 제가 nvlink로 실사용해본 경험 상 한 대에 두개 gpu넣는거 보단 컴 두대를 이용하거나 아님 nvlink없이 각자 gpu 개별로 작업하시는게 효율적입니다.
일단 1개로 돌려봐야 어느 정도의 정보를 얻을 수 있을 것 같습니다.
64-core 256-GB gen4 slot 컴이 2대라서 각각 사용도 가능하니 일단 돌려보고, 필요하면 NV Link로 2대 붙여 보아도 될 것 같습니다.
몇 가지 가능한 조합이 있을 것 같습니다.
A6000 두 개 정도면 파워가 1200W정도면 될 것 같아서, 2000W짜리 대신 1200W으로 바꾸었습니다.
https://velog.io/@boom109/deeplearningenv