박문형 2020-03

돌릴려고 하는 프로그램이 GPU 자원만 사용하는지 (이때는 CPU는 단지 데이터의 통로 역활)

CPU 자원과 GPU 자원을 얼마대 얼마로 사용하는지 어느 정도는 알아야 합니다..

보통은 GPU 서버에서 돈이 되면 CPU는 가장 빠른 것을 놓으려고 하는 경향이 있습니다..
(개인이 저런 장비를 사는 것은 무리인 경우가 많고 보통 연구비 / 국책과재비 등등으로 많이 구매하기에)


쿼드로 6000이라고 불리는 제품도 종류가 있으니 돌리는 프로그램에 맞는 모델을 찾으셔야 할 것입니다..
(6000 , P6000 ,K6000 등등 자세한 것은 나무위키나 구글링 하면 나오며 각 세대에 따라 퍼포먼스 지원 능력 차이가 있습니다..)

GPU 서버는 여러개의 GPU를 (PCIe 16x 라인을) CPU에 연결시킨 것입니다..

CPU 1개인 경우 보드 레이아웃에 따라서 PCIe 16x 슬롯은 여러개이지만 실제동작은 모든 PCIe 슬롯이 16x로 동작하지 못하는 경우도 있습니다..

그 외 파워 용량 문제 및 GPU 냉각 문제가 있기에 GPU 서버는 보통 조립으로 하지 않으며 GPU 서버로 검증된 베어본이나 완제품 서버를 사용합니다..

김썬더 2020-03

친절한 설명에 감사드립니다.
리소스 소모 비율을 체크하면서 신중하게 선택을 해야겠네요.
조언 감사드립니다.

제온프로 2020-03

딥러닝은 주로 OpenCL로 작업을 하니..
GPU 연산 능력이 필요하겠군요.
GPU 3장을 사용한다면..
선택의 여지 없이 CPU는 2개가 필요할 겁니다..
PCI 16 Lane x 3장
기본 48 Lane 이상이 필요합니다..
여기에 기타 Nic 나 Raid controller , PCIe NVMe 도 생각을 해줘야죠..

현재로의 성능이야 8코어 3.0 이 좋겠지만.. 추가 장비도 생각해줘야죠..

CPU는 2개가 필요합니다...

정확한 스펙은 주지 않으셔서 추정치로만 계산해 봅니다...

아마도 위 CPU는 PCIe Lane 40 Lane을 지원할 것으로 보입니다..... 이것 때문에...

김썬더 2020-03

친절한 답변 감사드립니다.
Lane 갯수도 고려하여 GPU 3장정도라면 CPU 2개는 필수겠군요.
GPU 2장으로 꽂는 것을 가정한다면 CPU 1개로는 아슬아슬한 정도인지요?

제온프로 2020-03

설치 하시려는 CPU의 인텔 Spec을 보시면 지원하는 PCIe Lane 수가 나옵니다..
이것에 기준하여.. 시스템을 구축하셔야 겠죠....

아마도 Pcie 40 Lane 를 지원하는 CPU가 아닐까.. 생각해 보는데요..

그래도 ...아슬하슬하죠.......

궁금합니다.. cPU가 뭔가요 ??

극비 인가요 ???

김썬더 2020-03

답변 감사드립니다. CPU x2개 위주로 고려해야겠네요.

위의 첫 번째 예시는 xeon gold 5217 (3.0GHz, 8cores) x1개이며,
현재는 xeon Gold 5122 (3.6 GHz , 4 cores) x2개도 고려하고 있습니다.
위의 두 번째 1.8GHz의 예시는 Bronze 3204 (1.9 GHz, 6 cores)입니다.

코어 수는 합계 8코어면 충분할지요?
간간이 CPU를 이용한 연산도 할 것 같습니다만, 역시 GPU를 메인으로 사용할 것 같습니다.

제온프로 2020-03

CPU 연산을 고려할 시에는
AVX-512 FMA 유닛 수 : 1 or 2
를 중요하게 고려해야 합니다...
딥러닝 연산 가속기로써.. 골드와 플레티넘은 2개
브론즈와 실버는 1개씩 입니다..
브론즈와 실버는 고려하지 마세요..


Xeon Gold 5122
https://ark.intel.com/content/www/kr/ko/ark/products/120475/intel-xeon-gold-5122-processor-16-5m-cache-3-60-ghz.html

Xeon Bronze 3402
https://ark.intel.com/content/www/kr/ko/ark/products/193381/intel-xeon-bronze-3204-processor-8-25m-cache-1-90-ghz.html