NVLINK 관련 질문

   조회 4032   추천 0    

 안녕하세요

현재 쓰레드리퍼에 RTX2080Ti 4-way로 딥러닝 학습에 사용하고 있는 서버가 있습니다. 그러던중 NVLINK에 관련하여 알게되었는데

이게 2개는 연결은 되는데 2080Ti의 경우 4개 동시연결은 안되는거 같더군요. 그렇다면 2개짜리로 2개씩 묶어서 사용하여도 괜찮을까요?

관련정보가 많이 없어 검색에도 어려움이 많네요 ㅠㅠ 

짧은글 일수록 신중하게.
김준연 2019-11
SLI 자체가 이제는 2Way로만 가능합니다. 하지만 딥러닝이라면 굳이 SLI로 묶을 필요는 없지 않는지요?
     
흥선대원군 2019-11
출장중이라 답이 늦었습니다... 2-way만 가능하군요... nvlink를 사용시 GPU메모리를 묶어서 쓸수있다는 말을 어디서 주워들어서 한번 여쭈어 보았습니다..
anti2cpu 2019-11
3개짜리 4개짜리 커넥트는 어디 쳐박혀있는거 같은데
그것도 이제 쓰레기 된건가요?
     
흥선대원군 2019-11
SLI랑 NVLINK랑 완전 다르더군요...ㅠㅠ
이규섭 2019-11
딥러닝은 링크가 필요하지 않죠.
게임이나 3D랜더링용으로만 필요합1니다.
     
악마라네 2019-11
nv-link는 좀 달라졌습니다.
찬이 2019-11
비슷한 질문이 있네요
https://amp.reddit.com/r/nvidia/comments/9smifl/4_x_rtx_2080_ti_for_deep_learning/

NVLink SLI라고 불리지만 과거의 SLI랑은 다른가 봅니다.
NVLink 사용시 Tensorflow성능이 증가(정확히는 메모리 복사 속도)하며 SharedVRAMPool을 사용할 수 있는거 같습니다.
https://www.pugetsystems.com/labs/hpc/RTX-2080Ti-with-NVLINK---TensorFlow-Performance-Includes-Comparison-with-GTX-1080Ti-RTX-2070-2080-2080Ti-and-Titan-V-1267/
     
흥선대원군 2019-11
흠... 과거의 SLI와는 생각보다 많은 부분이 다르더군요 ㅠㅠ 감사합니다. 좋은 팁이되는 링크인거같습니다.
악마라네 2019-11
nv-link로 두개씩 묶으면 gpu 메모리를 gpu 2개의 메모리를 한개의 메모리 처럼 쓸수 있는 장점이 있습니다.

필요없지는 않구요. 메모리를 많이 요구 하는 딥러닝모델에는 확실히 도움이 됩니다.

2개씩 묶느냐 4개로 쓰느냐는 사용하는 딥러닝 모델에 따라 어느게 더 유리할지 테스트 해보시고 결정 하시는게 좋겠습니다. 다만, 브리지가 모드 하드로 나오는데다가, 2slot 간격 nv link 브릿지는 국내에서 구하는게 난망이라...
     
흥선대원군 2019-11
그러네요....보니깐 3slot 4slot은 보여도 2slot짜리가 하늘의 별따기네요 ㅠㅠ
          
악마라네 2019-11
PNY 에서 나온 Quadro RTX  용이 잇긴 한데 200불 가까이. 게다가 직구해야.


QnA
제목Page 1208/5732
2015-12   1794110   백메가
2014-05   5269031   정은준1
2023-06   3681   씨퓨지퓨
2010-02   6808   아승무적
2016-01   3922   재마
2019-04   4132   파렌하잇
2014-10   5980   2c장규식
2018-02   3433   Qsup
2014-10   7237   두리안
2023-07   1589   겨울나무
2020-07   2070   네이쳐
2016-12   4363   LINKINPARK
2020-07   2949   오준호5
2010-03   10881   박병희
2023-07   2432   다두
2010-03   26658   spinball
2013-04   36776   정의석
2017-01   6696   피아로
2019-04   3189   이원재K
2023-07   2286   이얌
2010-04   9993   최봉준
2013-05   12380   스카이