[Server] 멀티GPU로 검색서버 세팅하고자 합니다. 고수님들의 도움 부탁드립니다.

   조회 3045   추천 0    

 

회사내 프로젝트로 멀티 GPU 를 활용한 검색서버를 구현하려고 합니다.

이런 시스템쪽은 다들 처음이라  회원님들의 도움을 구하고자 글을 씁니다. 


CPU : 인텔 코어X-시리즈 i9-9820X (스카이레이크) 

MB : GIGABYTE MW51-HP0 피씨디렉트

RAM : 삼성전자 DDR4 16G PC4-21300 * 8ea 

VGA : MSI 지포스 RTX 2080 Ti 벤투스 D6 11GB * 7ea 

이정도 스펙으로 구성하려 합니다.


질문1. E-ATX보드와 위 7개의 그래픽카드 설치 가능한 서버랙형태의 케이스가 있을까요?

마이닝케이스중에 E-ATX보드 설치가능한 제품을 찾을수가 없네요.


질문2. 2080ti 7대를 돌리려면 파워는 어느정도급을 2개를 사야할까요?


질문3. CUDA 코어만 사용한다면, 가성비 2080 vs 2080Ti 중에 어떤게 더 나을까요?

(현재 1080TI까지 테스트까지 했으나, 2080은 CUDA코어가 적어서... 딥러닝쪽이 아니라면 2080ti로 가야할까요?)


질문4. 라이저카드도 중요할거 같은데, 추천부탁드려도 될까요?


감사합니다.

짧은글 일수록 신중하게.
박문형 05-20
여기는 하드웨어 갤러리란입니다..

질문란이 아닙니다..
     
엠스토리 05-20
앗 죄송합니다. 오늘 처음 가입하고 글쓰느라... 카테고리를 잘 숙지 못했습니다.
행복하세 05-20
7개요??7개면 일반 보드론 힘듭니다.
멀티gpu로 검색서버를 어떻게 만드는지는 모르겠지만
채굴같은 구조라면 라이져카드 어찌어찌 연결해서 상관없지만
gpu가 만든 데이터양이 많다면 gen3 8배속 성능저하 일어날겁니다.

관련이 있을지 모르지만 게임벤치에서 1080ti 이상급부터는 gen3 8배속으로 연결하면 성능저하가 일어난다고 알고 있습니다
슬롯이 8개지만 4개만 16배속이고 4개는 8배속인데 아마도 좀 걸리적거릴것 같습니다

이정도면 8개 연결가능한 슈마 베어본 쓰시는것도 괘찮을것 같습니다
전에 어느회원분께서 글올리신거 봤는데 검색한번 해보셔야 할것 같습니다.
그리고 절대로 블로워팬달린놈으로 구성하셔야 됩니다.

멀티 gpu 구성하신분들 거의다 온도 스로틀링 나서 제 성능안나온다고 기억나네요.
행복하세 05-20
금방검색해보니 이런모델이 나오네요.
 Supermicro 4028GR-TRT
     
엠스토리 05-20
정말 감사합니다.
다시 처음부터 고민해야겠습니다.
사내 프로젝트라 간단하게 조립해서 구축해보려 했으나, 생각이 짧았습니다.
박문형 05-20
http://www.2cpu.co.kr/deep/695

참고 자료..

조립 서버에서는 GPU 4개도 안됩니다..

파워는 2000~3000와트는 되어야 하는데 그런게 조립용으로는 없습니다..

전용으로 나와 있고 각종 GPU에 검증되어 있는 베어본을 찾아야 합니다..
     
엠스토리 05-20
참고자료 주신 링크 정독하고 왔습니다.
정말 도움이 많이 되었습니다.

내일 팀원들과 다시 상의하고
하드웨어는 처음부터 다시 고민을 해야겠습니다.
정말 감사합니다.
박문형 05-20
뻔히 아시겠지만 돈이 한두푼하는게 아니라서요..

쉽게 억대도 넘깁니다..

https://www.supermicro.com/products/nfo/gpu.cfm

https://www.tyan.com/EN/solution/HPC

https://www.nvidia.com/ko-kr/data-center/dgx-systems/


진짜 투자 가능하시고 재대로 지원 받으시고 싶으시면 엔비디아코리아의 컨설팅이 필요하긴 합니다..
(그쪽도 돈 많이 들어가긴 합니다만 정식지원은 중요한 것인지라..)

http://www.2cpu.co.kr/hardware_2014/37391?&sfl=wr_subject&stx=gpu&sop=and
jang 05-20
조립을 고수해야한다면 빅타워  케이스에 수냉으로 개조하면 7way  가능은 합니다.
빅타워케이스에  파워 두개들어가는거 선택
그래픽 카드는 아수스 블로워팬 모덜중에 1슬롯으로 적용가능한 모덜로 ek수냉킷 적용하면 가능합니다

보드는 아수스 x299 시리즈 7슬롯짜리

수냉으로 검색하면 나옵니다

돈이 넉넉하면 슈퍼마이크로가 시끄러워도 갑
DDDIE 05-22
저정도 스펙에 투자금이면...

대기업 서버 영업팀쪽에ㅠ연락하셔서 컨설팅받으시는 편이...
리얼홀릭 05-30
x299 ws 보드가 7개 pci 3.0이 있어요. 근데 2080 이라면 안될것 같은데요 왜 꼭 7개를 붙이셔야하는지?
gpu연산이라면 쿼드로로 가시는게 맞을텐데요. cpu도 9980xe로 가시구요. 저도 9980xe 구매하긴했는데요.
그런데 gpu로 이미지 검색을 하시는건가요? 궁금하네요 어떤 프로젝트인지.. 네이버나 구글의 이미지서치 같은개념인지 ㅎㅎㅎ
xeonpt 06-03
gpu연산 하실거면 k80 수냉시스템 추천합니다. 가성비 최고입니다. quadro는 opencl 쪽이라 연산은 잼뱅입니다. 가상화쪽이 어울리겠죠!
수냉구성 어려우시다면 supermicro 제품을 구입하시거나 , gpu전용서버를 구입하셔서 실내온도 25도 이하의 환경에서 가동하시면 쓰로틀링없이 쾌적하게 사용하실수있습니다. 연산=ecc 메모리기본입니다.  non ecc 메모리 제품들은 결과값의 오차범위가 있어서 정확한 결과를 얻으실수 없습니다.




제목Page 1/251
2014-04   2473112   회원K
2014-05   2770107   정은준1
06-15   283   냐미냐미
06-12   696   프로게이머
06-10   1357   2CPU최주희
06-08   1002   맑은부철
06-04   1589   모어쿨
06-01   1979   이천풍
05-29   2253   스캔
05-29   2067   디아고수
05-28   2033   스캔
05-28   1969   스캔
05-26   2448   냐미냐미
05-20   2789   린드버그
05-20   3046   엠스토리
05-20   3139   juaha
05-17   3209   알파고
05-13   3713   eugeneshin
05-13   3424   eugeneshin
05-13   3507   eugeneshin
05-09   3954   연이랑진
05-02   4824   연이랑진