질문 사항이 있어 이렇게 QnA 작성하게되었습니다.
서버의 GPU 호환이 되는지 확인하기위해서
제조사측 SpecSheet나 공식적으로 테스트 후 호환성확인된것이 아니라면
직접 테스트 해보는 방법 밖에 없는지 궁금하여 질문드립니다.
추가적으로 CPU 사양에따라 GPU 사용이 달라지는것인지 말씀드려요
GPU 관련 아는내용이 많지 않다보니 전문가들의 답변 기다립니다. ㅠㅠ
질문 사항이 있어 이렇게 QnA 작성하게되었습니다.
서버의 GPU 호환이 되는지 확인하기위해서
제조사측 SpecSheet나 공식적으로 테스트 후 호환성확인된것이 아니라면
직접 테스트 해보는 방법 밖에 없는지 궁금하여 질문드립니다.
추가적으로 CPU 사양에따라 GPU 사용이 달라지는것인지 말씀드려요
GPU 관련 아는내용이 많지 않다보니 전문가들의 답변 기다립니다. ㅠㅠ
==> 네 직접 테스트 해보아야 합니다.. 공식자료나 호환성이 보증이 되어도 혹시나 문제가 발생할 수 있기에 다시 테스트 하는 것이 맞습니다..
그런데 테스트 후에 문제가 발생하면 해결해야 하는데 사용자가 해결할 수 있는 일은 거의 없을 것으로 생각됩니다..
판매하는 사람의 입장에서는 문제가 발생하면 피곤하기에 어느 정도 기술 영업하시는 분들은 아마도 1순위로 호환성에 관한 자료를 챙길 겁니다..
거기에서 어긋나서 문제가 발생하면 제조사도 보통 그 문제를 일일히 다 해결하지 못합니다..
문제 해결이 말이 문제해결이지 당장에 해결이 안되는 경우도 많고 몇달씩 문제 해결한다고 하다가 결론이 문제 해결 못함으로 가는 경우도 많습니다..
실질적인 테스트는 진행하여 사용까지는 하였으나, 시간 지나 꺼짐 증상이 있어서
별도의 온도상승이나 파워 문제는 아닌거같고, 절전모드도 disabled 시켰음에도 동일 증상이네요
답변 감사합니다
심한 말로 GPU 서버는 단종되면 가따 버려야 할만큼 수리나 유지보수가 하기 힘듭니다..
개인적으로는 일종의 돈지랄로 보고 있지만 GPU 서버에서 돌아가는 프로그램들이 하는 일이나 결과가 그 GPU 서버 밖에 못하기에
다른 방법이 없는 것도 알고는 있습니다..
GPU 자체가 열이 마니 나고 전기를 많이 먹기에 GPU 자체를 하나 하나 테스트 해보아가면서 어디가 문제인지 확인해야 할 것입니다..
그리고 제조사마다 틀리지만 제조사에서의 기술지원이 어떠냐에 따라 상황이 많이 달라질 수 있습니다..
문제가 풀로드 걸고 돌렸는데 시스템이 자동으로 꺼져 버리거나 리셋이 된다면
에러로그 확인해보시고 GPU 카드가 다 정상이다라고 한다면 각 GPU 카드들을 전력제한 시킨 후에 풀로드 테스트 해보세요..
https://www.ddengle.com/board_FAQ/2719454
GPU 카드들은 보통 풀로드 걸면 그 카드 제조사에서 나오는 풀로드시 전기 먹는 양(스펙에 명시된 양)보다 최소 10% 이상 더 먹는 경우가 많은데
이것을 nvidia-smi 의 내부 명령으로 각 카드를 전력제한을 걸어서 풀로드 해보시던지 GPU 카드를 1~2개 빼서 사용 전력양을 줄여서 테스트 해보세요..
테슬라/쿼드로와 같은 GPU 전문가용 카드로만 호환성을 이야기 합니다..
GPU가 최대로 성능을 내려면 CPU와 연결된 통로인 PCIe 가 맞아야 합니다..
그래서 어떤 최신 GPU의 PCIe GEN 이 4.0 이다라고 하면 CPU의 PCIe GEN도 4.0 이여야 합니다..
실제로 PCIe GEN 4.0 때에서는 NVidia 오리지날 GPU 서버인 DGX 서버의 CPU는 그때 인텔 제온 CPU 가 PCIe GEN 4.0을 지원하지 못해서
AMD EPYC 을 사용했습니다..
기술적으로 참고가 많이 될거같네요 !
해당 테스트 서버는 Supermicro 제품입니다만, GTX 1080 Ti 8장에서 RTX 3090 3장으로 테스트 해봤습니다.
GPU 카드를 뽑았을떄는 장비 자체 Shutdown 현상이 없어서, GPU 호환성 결함으로 판단되어 원복시켜서 사용하고있어요
PCI Express 의 설계와
공급파워 분배. 그리고 충분한 냉각 성능등과
관련이 있습니다.
또 CPU는 PCIe 레인을 몇 레인까지 공급가능한지.. 이런점이 중요합니다.
뻔히 아시겠지만 바이오스에서 각종 디바이스를 지원 못하면 말짱 꽝입니다..
https://www.supermicro.com/products/system/4u/4028/sys-4028gr-tr.cfm
이 제품으로 supermicro 사이트에서 어떤 GPU와 호환되는지 검색해보아도 자료가 잘 나오지 않습니다..
그리고 그 다음 윗단계인 SYS-4029 ( 스케일러블 제온 1/2세대) 씨리즈 제품은 그나마 GPU 호환 리스트가 있기는 하네요..
가지고 계신 장비가 SYS-4028 (E5-2600 V3/V4) 씨리즈 제품 이라면 바이오스와 BMC 펌웨어를 최신으로 구해서
업데이트를 하고 테스트를 해보시던가 RTX 2080 같은 RTX 2000 씨리즈 카드 구해서 테스트 해보던가 해보는 것이 다 입니다..
RTX 2000 GPU가 사용하시는 시스템과 재대로 동작한다는 보장은 없습니다..
참고로 RTX 2000 씨리즈 카드는 스케일러블 제온 1/2세대 GPU 서버(슈퍼마이크로 말고 다른 제조사)에서는 동작했던 것으로 기억을 하고 있습니다..
아무래도 장비가 오래된 것이라 ( 대략 E5-2600 V3 CPU 출시일이 2014년도 / E5-2600 V4 CPU 출시일이 2016년도) 만지다가 고장나면 고치는 것이
쉽지 않습니다..
안전하게는 그냥 셋팅되어 있는 RTX 1080으로 사용하는게 재일 무난하리라고 생각됩니다..
맞아요 4028GR-TR 모델입니다.
해당장비는 EOL 된 장비로 NVIDIA 와 SuperMicro 측에서도 제공되는 GPU 정보가
테슬라 제품 GPU 들만 나오더라고요
답변 감사합니다.
SYS-4027
SYS-4028
SYS-4029
그 외에 CPU 타입에 따라 더 모델이 존재합니다..
GTX 1080 사용하신다는 말에 그 때쯤 나온 CPU에 맞는 GPU 서버 모델을 찍어 보았습니다..
파워는 어느 정도 검증되어 있지만 보드와 GPU카드 간의 호환성 문제가 있는 것 같아 보입니다..
그리고 국내 대학교 연구실에서 벤더를 구매할 만큼 자금력이 안되면 그 다음으로 구매되는 제품이 슈마 제품입니다..
비스무리한 것이 검색되네요..
OS 단 절전모드도 아니고, GPU 카드 탈거시 정상작동 판단되니 GPU 카드측 문제로 밖에 판단이 안서네요
그래도 일단락 해결되서 사용하려고합니다 ㅎㅎㅎㅎ 감사합니다!!