GPU 서버 구성 조언 부탁 드립니다.

leesh2143   
   조회 2631   추천 0    

안녕하세요.^^

GPU 서버 구성을 진행하려는 중에 어떻게 해야할지 감이 잡히지 않아서,

고수님들께 의견 여쭙고자 이렇게 문의를 남기게 되었습니다.

현재 약 250Gb수준의 이미지 데이터를 이용한 이미지 분류 인공지능 모델을 만들려고 하는 중 입니다.

근데 환경이 너무 열악해서 어찌해야할지 고민입니다.

현재 고민 거리는 4090 24g GPU를 장착할 PC를 한대 구성하는 방안과

클라우드를 이용하는 방안을 고려중인데..

아무래도 클라우드 이용료도 만만치 않아 보이고, PC를 맞추면 차라리 실물이라도 남지 않겠나 싶어서,

장비 구매 쪽으로 가닥을 잡고 있는 중입니다.

원래 중고 워크스테이션같은거 구매해서,

4090만 장착해볼까 싶었습니다.

그런데 https://pc-builds.com  이 사이트 들어가서 xeon 계열 CPU를 입력했더니..

그래픽 카드 성능을 못따라가서 병목현상이 발생된다고 합니다..

어떤 xeon이던 다 그렇게 나옵니다.

반면 i9-13900KF로 하면 병목이 거의 없는걸로 나옵니다

그냥 i9 CPU로 PC를 한대 맞추는게 나을까요??

하드웨어 파트에는 무지하다보니 이런 상황에 결론이 나지가 않습니다..

염치 없지만 조언 부탁 드립니다.
leesh2143
짧은글 일수록 신중하게.
SiCMOS 2023-08
병목이라니 아직도 그런 되도않은 소리가...
     
leesh2143 2023-08
잘은 모르지만.. 가격대 차이가 좀 나도.. 코어 수, 클럭펄스, 캐시 메모리 이런거 비슷한 서버용 CPU들의 CPU벤치마크 정보 확인 했을때도 저런 결과가 나오기 어렵지 않을까 싶긴 했습니다.. 답변 감사합니다.
김준연 2023-08
게임용 PC나 조물딱거리는 정보나 대충 제공해주는 사이트의 내용을 워크스테이션이나 서버에 그대로 반영하여 믿으시면 안 됩니다.
     
leesh2143 2023-08
CPU모델 몇개 넣어보니 점점 의심이 생기더라구요.. 그래서 고수님들께 조언을 듣기 위해 질문을 올렸습니다. 답변 감사합니다.
죠슈아 2023-08
선택한 CPU core와 클럭 주파수의 차이로 인한 차이를 배제하기 위해서 graphic intensive task 조건으로 결과를 확인 했습니다.

Intel Xeon Platinum 8168 is too weak for NVIDIA GeForce RTX 4090 on 2560 × 1440 pixels screen resolution for Graphic Card Intense Tasks.
NVIDIA GeForce RTX 4090 is too weak for AMD Ryzen Threadripper PRO 5995WX on 2560 × 1440 pixels screen resolution for Graphic Card Intense Tasks.

NVIDIA GeForce RTX 4090는 pcie 4.0x16 인데 반해서
해당 사이트에는 pcie 4.0 이상의 xeon 이 없어서 그렇게 나오는 것 같군요

pcie4.0 인 AMD Ryzen Threadripper PRO 5995WX을 선택하면 반대로 NVIDIA GeForce RTX 4090 이 weak 라고 나옵니다

그래서 pcie 4.0 이상 지원하는 xeon 을 사용하시면 병목? 이슈가 없을 것 같군요

해당 사이트 결과가 틀린 내용 이라면 근거를 들어서 반대 의견을 말해야 하지 않을까요?
믿지말아야 한다거나 말이 않된다거나 하는식의 의견은 더 신빙성이 없군요
     
leesh2143 2023-08
제가 H/W에 대한 지식이 많지 않다보니.. 그런 부분까지 생각을 못했던것 같습니다. 소프트웨어만 다루다 보니, 그냥 AI 학습하려면 GPU가 필요하다... 너무 막연하게 접근했던것 같습니다. 소중한 조언 대단히 감사합니다.
이준용 2023-08
pcie 4.0 이 지원되어야 제 성능이 나옵니다.
특히 인공지능 분야에서는요..
     
leesh2143 2023-08
PCI-E 4.0 지원되는 스펙으로 PC를 맞추던 중고 워크스테이션을 구해봐야겠습니다. 소중한 조언 감사합니다.
미친감자 2023-08
정신건강상 직접 조립 보다는
벤더 GPU 서버 (DELL, HP, 슈마) 구입을 권합니다.
로그인 하시면 댓글을 남길 수 있습니다


QnA
쓰기
제목Page 636/5714
2014-05   5186943   1 정은준1
2015-12   1720005   1  백메가
2020-04   2574   1 최동현
2021-03   2574   1 엠브리오
2022-04   2574   1 머라카는데
2019-11   2574   1 negativete
2020-09   2575   1 슬루프
2022-05   2575   1 굴렁쇠
2023-03   2575   1 제온프로
2019-03   2575   1 낙원전자
2019-03   2575   1 sbg2005
2020-01   2575   1 정의석
2020-09   2575   1 전설속의미…
2021-01   2575   1 VSPress
2022-01   2575   1 VSPress
2021-12   2575   1 SDG6038
2021-01   2575   1  션한맥주
2019-03   2576   1 가빠로구나
2020-09   2576   1 반성만
2020-05   2576   1 SecondToNone
2020-03   2576   1 송진현
2023-03   2576   1 나우마크
목록
쓰기