NVLINK 관련 질문

   조회 3976   추천 0    

 안녕하세요

현재 쓰레드리퍼에 RTX2080Ti 4-way로 딥러닝 학습에 사용하고 있는 서버가 있습니다. 그러던중 NVLINK에 관련하여 알게되었는데

이게 2개는 연결은 되는데 2080Ti의 경우 4개 동시연결은 안되는거 같더군요. 그렇다면 2개짜리로 2개씩 묶어서 사용하여도 괜찮을까요?

관련정보가 많이 없어 검색에도 어려움이 많네요 ㅠㅠ 

짧은글 일수록 신중하게.
김준연 2019-11
SLI 자체가 이제는 2Way로만 가능합니다. 하지만 딥러닝이라면 굳이 SLI로 묶을 필요는 없지 않는지요?
     
흥선대원군 2019-11
출장중이라 답이 늦었습니다... 2-way만 가능하군요... nvlink를 사용시 GPU메모리를 묶어서 쓸수있다는 말을 어디서 주워들어서 한번 여쭈어 보았습니다..
anti2cpu 2019-11
3개짜리 4개짜리 커넥트는 어디 쳐박혀있는거 같은데
그것도 이제 쓰레기 된건가요?
     
흥선대원군 2019-11
SLI랑 NVLINK랑 완전 다르더군요...ㅠㅠ
이규섭 2019-11
딥러닝은 링크가 필요하지 않죠.
게임이나 3D랜더링용으로만 필요합1니다.
     
악마라네 2019-11
nv-link는 좀 달라졌습니다.
찬이 2019-11
비슷한 질문이 있네요
https://amp.reddit.com/r/nvidia/comments/9smifl/4_x_rtx_2080_ti_for_deep_learning/

NVLink SLI라고 불리지만 과거의 SLI랑은 다른가 봅니다.
NVLink 사용시 Tensorflow성능이 증가(정확히는 메모리 복사 속도)하며 SharedVRAMPool을 사용할 수 있는거 같습니다.
https://www.pugetsystems.com/labs/hpc/RTX-2080Ti-with-NVLINK---TensorFlow-Performance-Includes-Comparison-with-GTX-1080Ti-RTX-2070-2080-2080Ti-and-Titan-V-1267/
     
흥선대원군 2019-11
흠... 과거의 SLI와는 생각보다 많은 부분이 다르더군요 ㅠㅠ 감사합니다. 좋은 팁이되는 링크인거같습니다.
악마라네 2019-11
nv-link로 두개씩 묶으면 gpu 메모리를 gpu 2개의 메모리를 한개의 메모리 처럼 쓸수 있는 장점이 있습니다.

필요없지는 않구요. 메모리를 많이 요구 하는 딥러닝모델에는 확실히 도움이 됩니다.

2개씩 묶느냐 4개로 쓰느냐는 사용하는 딥러닝 모델에 따라 어느게 더 유리할지 테스트 해보시고 결정 하시는게 좋겠습니다. 다만, 브리지가 모드 하드로 나오는데다가, 2slot 간격 nv link 브릿지는 국내에서 구하는게 난망이라...
     
흥선대원군 2019-11
그러네요....보니깐 3slot 4slot은 보여도 2slot짜리가 하늘의 별따기네요 ㅠㅠ
          
악마라네 2019-11
PNY 에서 나온 Quadro RTX  용이 잇긴 한데 200불 가까이. 게다가 직구해야.


QnA
제목Page 1200/5724
2015-12   1761994   백메가
2014-05   5235889   정은준1
2015-08   3753   아름다운노을
2024-09   944   Rich
2012-03   4878   미수맨
2014-04   3970   박현근
2018-12   3268   twopaik
2020-02   6237   heck
2012-03   10540   미수맨
2017-09   5253   윌라멧
2023-01   2075   LevinF
2014-04   3876   회원K
2015-08   4805   박성만
2024-09   1489   negoist
2012-04   6404   blueshout
2012-04   6453   김건우
2014-04   3552   박성만
2017-09   3280   Win31
2016-09   4120   주용훈
2012-05   5711   최창현
2014-04   4005   매쓰TM
2019-01   4529   2c장규식