[VGA] 2°³ÀÇ RTX 3090 NVlink È°¼ºÈ­ Çϱâ @ Ubuntu 22.04

TubeAmp   
   Á¶È¸ 1669   Ãßõ 0    

 2CPU 장터에서 2개의 RTX 3090을 중고로 구입하였습니다.

구입한 이유는 NVLINK 를 이용하여 비디오 메모리를 48GB로 하고 큰 LLAMA 양자화 모델을 돌려 보기 위해서 입니다.

4 슬럿 NVLINK 정품을 구입해 기가바이트 X299 보드에서 2개의 RTX 3090에 연결한 후 우분투 22.04에서 확인해 보니 NVlink가 inactive 상태로 나옵니다. 원도우 11에서는 NVlink가 작동 하는지 확인하기 위하여 원도우 11로 부팅해 확인해 봅니다.

아래 그림과 같이 SLI가 활성화 되어 있습니다.




우분투 22.04에서는 왜 안되는지 구글 검색해 봅니다.

https://forums.developer.nvidia.com/t/two-dual-geforce-rtx-3090s-and-nvlink-ubuntu-support-at-least-blender-has-support-for-nvlink/160561/14 에서 해답을 발견합니다.

아래 명령어로 GPU를 persistent 모드로 변경 후 리부팅 해야합니다.

sudo nvidia-smi -pm 1

sudo reboot

부팅 후 nvidia-smi topo -m 명령어로 확인해 보니 NVlink 가 잘 작동됩니다.





스스로 만들자.
ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
¿À¿ì¾ß.~~~
ħÀÌ ÁúÁú³ª¿À³×¿ä.
ÀÏ¹Ý À¥¿¡¼­ »ç¿ëÇϴ°Ŷû
·ÎÄ÷Πµ¹¸®´Â°Å¶û °¡Àå Å«Â÷ÀÌ ¹»±î¿ä?
¸®¸¶°°Àº°Å µ¹¸®½Ã´Â°ÅÁÒ?
     
TubeAmp 10-30
LLAMA¸¦ ·ÎÄÿ¡¼­ µ¹·Á º¸·Á°í Çϴµ¥ Àú´Â È°¿ë º¸´Ù´Â ¹è¿ì´Â Àǹ̷Π½ÃµµÇØ º¸·Á°í ÇÕ´Ï´Ù.
A6000 ÀÌ º¥Ä¡¸¶Å©¿¡¼­ ÃÊ´ç 45 ÅäÅ« ó¸® ´É·ÂÀÌ ÀÖ°í 3090 2°³ NVlink´Â ÃÊ´ç 18 ÅäÅ« Á¤µµ ¼º´ÉÀÌ ³ª¿Â´Ù°í ÇÕ´Ï´Ù. LLAMA ¸¦ µ¹¸®±â À§Çؼ­´Â A6000ÀÌ ¾ÆÁÖ ÁÁÀº ¼±ÅÃÀÌÁö¸¸ ¹è¿ì´Â ÀÔÀåÀ̶ó 3090 2°³ NVlink¸¦ ¼±ÅÃÇØ º¸¾Ò½À´Ï´Ù.
Àú´Â LLAMA º¸´Ù´Â 3Â÷¿ø ÇǺΠÁÖ¸§ µ¥ÀÌŸ¸¦ pytorch ¸¦ ÀÌ¿ëÇÑ wavelet ºÐ¼®À» ÇØ¾ß Çϱ⿡ 3090 ȤÀº 4090 GPU ¿©·¯ °³¸¦ ÀÌ¿ëÇÑ ºÐ¼®ÀÌ ÀúÀÇ °æ¿ì¿¡´Â ´õ ÀûÇÕÇÕ´Ï´Ù.
¼ö¶ó 11-05
3090ÀÌ ±×·¡µµ Àú·ÅÇÏ°Ô ·¥»¡ ¶¯±â±â¿¡ ÁÁ¾Æ¼­ ·ÎÄà aiµ¹¸®½Ã´Â ºÐµéÀÌ ¸¹ÀÌ »ç´õ¶ó±¸¿ä aiµ¹¸®´Â°Ô °ÔÀÓº¸´Ü ±×·¡µµ Àü±âµµ »ì¦ ´ú¸Ô±âµµ ÇÏ°í


Á¦¸ñPage 1/282
2014-05   4962135   Á¤ÀºÁØ1
2015-12   1498527   ¹é¸Þ°¡
2009-11   8581   ¿ì¿ì¾¾¾¾¾¾
2010-06   6579   ¿ì¾ß³ë
2009-12   5541   ¤§¤¡
2010-05   5968   ±¸°æÇÏÀÚ
2019-09   6046   ¸É¸Å¸Â´Â¾Ö±â
2020-01   5505   ÅÊ°í
2021-03   5726   ³²°æ¸²
2009-03   7067   Â÷Æò¼®
2009-06   6235   ±è¼±±Ô
2010-04   8710   ¿À¼º±â
2023-12   5137   ¹Ú¹®Çü
2021-11   5196   ±ºÀÌ
11-14   1100   ¿Ð»ç
2009-07   8638   ÀÌÁ¾Çöoph
2021-03   6453   ¶°³ª°£³Ê
2022-05   6533   Àß»ì¾Æº¸¼¼
2023-01   24718   ÇöÁø
2010-09   6904   2CPUÃÖÁÖÈñ
2009-12   6105   ¤§¤¡
2011-03   6547   ¿¹°ü½Å±Ô½Ä