[VGA] 2°³ÀÇ RTX 3090 NVlink È°¼ºÈ­ Çϱâ @ Ubuntu 22.04

TubeAmp   
   Á¶È¸ 1679   Ãßõ 0    

 2CPU 장터에서 2개의 RTX 3090을 중고로 구입하였습니다.

구입한 이유는 NVLINK 를 이용하여 비디오 메모리를 48GB로 하고 큰 LLAMA 양자화 모델을 돌려 보기 위해서 입니다.

4 슬럿 NVLINK 정품을 구입해 기가바이트 X299 보드에서 2개의 RTX 3090에 연결한 후 우분투 22.04에서 확인해 보니 NVlink가 inactive 상태로 나옵니다. 원도우 11에서는 NVlink가 작동 하는지 확인하기 위하여 원도우 11로 부팅해 확인해 봅니다.

아래 그림과 같이 SLI가 활성화 되어 있습니다.




우분투 22.04에서는 왜 안되는지 구글 검색해 봅니다.

https://forums.developer.nvidia.com/t/two-dual-geforce-rtx-3090s-and-nvlink-ubuntu-support-at-least-blender-has-support-for-nvlink/160561/14 에서 해답을 발견합니다.

아래 명령어로 GPU를 persistent 모드로 변경 후 리부팅 해야합니다.

sudo nvidia-smi -pm 1

sudo reboot

부팅 후 nvidia-smi topo -m 명령어로 확인해 보니 NVlink 가 잘 작동됩니다.





스스로 만들자.
ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
¿À¿ì¾ß.~~~
ħÀÌ ÁúÁú³ª¿À³×¿ä.
ÀÏ¹Ý À¥¿¡¼­ »ç¿ëÇϴ°Ŷû
·ÎÄ÷Πµ¹¸®´Â°Å¶û °¡Àå Å«Â÷ÀÌ ¹»±î¿ä?
¸®¸¶°°Àº°Å µ¹¸®½Ã´Â°ÅÁÒ?
     
TubeAmp 10-30
LLAMA¸¦ ·ÎÄÿ¡¼­ µ¹·Á º¸·Á°í Çϴµ¥ Àú´Â È°¿ë º¸´Ù´Â ¹è¿ì´Â Àǹ̷Π½ÃµµÇØ º¸·Á°í ÇÕ´Ï´Ù.
A6000 ÀÌ º¥Ä¡¸¶Å©¿¡¼­ ÃÊ´ç 45 ÅäÅ« ó¸® ´É·ÂÀÌ ÀÖ°í 3090 2°³ NVlink´Â ÃÊ´ç 18 ÅäÅ« Á¤µµ ¼º´ÉÀÌ ³ª¿Â´Ù°í ÇÕ´Ï´Ù. LLAMA ¸¦ µ¹¸®±â À§Çؼ­´Â A6000ÀÌ ¾ÆÁÖ ÁÁÀº ¼±ÅÃÀÌÁö¸¸ ¹è¿ì´Â ÀÔÀåÀ̶ó 3090 2°³ NVlink¸¦ ¼±ÅÃÇØ º¸¾Ò½À´Ï´Ù.
Àú´Â LLAMA º¸´Ù´Â 3Â÷¿ø ÇǺΠÁÖ¸§ µ¥ÀÌŸ¸¦ pytorch ¸¦ ÀÌ¿ëÇÑ wavelet ºÐ¼®À» ÇØ¾ß Çϱ⿡ 3090 ȤÀº 4090 GPU ¿©·¯ °³¸¦ ÀÌ¿ëÇÑ ºÐ¼®ÀÌ ÀúÀÇ °æ¿ì¿¡´Â ´õ ÀûÇÕÇÕ´Ï´Ù.
¼ö¶ó 11-05
3090ÀÌ ±×·¡µµ Àú·ÅÇÏ°Ô ·¥»¡ ¶¯±â±â¿¡ ÁÁ¾Æ¼­ ·ÎÄà aiµ¹¸®½Ã´Â ºÐµéÀÌ ¸¹ÀÌ »ç´õ¶ó±¸¿ä aiµ¹¸®´Â°Ô °ÔÀÓº¸´Ü ±×·¡µµ Àü±âµµ »ì¦ ´ú¸Ô±âµµ ÇÏ°í


Á¦¸ñPage 11/282
2014-05   4962303   Á¤ÀºÁØ1
2015-12   1498716   ¹é¸Þ°¡
2022-09   13000   ¼ÛÁÖȯ
2022-09   13148   ÇÏÇÏĵµð
2022-08   13929   ÁÒ½´¾Æ
2022-08   14306   ¸ð¾îÄð
2022-08   13976   Mar77
2022-08   13817   thescream
2022-08   14436   js1225xd
2022-08   12620   »ç¼ö
2022-08   11659   mdman
2022-08   36151   »ç¶ûÇ϶ó
2022-08   11977   ´ó´óÀÌ
2022-08   15538   ´ö½ºÅÏÆ®
2022-07   9726   ±ºÀÎ1
2022-07   12748   Ä«ÀÌÁ¦¸°
2022-07   12607   ¼ÛÁÖȯ
2022-07   11998   ¼ÛÁÖȯ
2022-06   18716   ¹ÌÄ£°¨ÀÚ
2022-06   17063   ÅëÅë9
2022-06   17919   2CPUÃÖÁÖÈñ
2022-06   14893   ÅëÅë9