안녕하세요. 딥러닝 워크스테이션에 GPU 쿼드로6000으로 3개 꽂는 것을 고려 중입니다.
단일 / 듀얼 CPU와 파워 성능에 대하여 궁금한 사항이 있어 질문드립니다.
1) GPU 3장, CPU는 intel xeon 기준,
1 x CPU (8코어 3.0GHz, 혹은 6코어 3.4GHz)와
2 x CPU (하나의 CPU당 6코어에 1.8GHz 동일모델)
이라고 가정할 시, 다양한 분야에서 딥러닝 모델들을 돌릴 경우에는 그 성능차이가 심할지요?
2) GPU 3장 기준 파워성능은 1400W로 충분할지요?
제가 이쪽분야에 대하여 지식이 부족한 점, 다소 엉뚱한 질문일 수 있습니다. 감사합니다.
본인입니다.
CPU 자원과 GPU 자원을 얼마대 얼마로 사용하는지 어느 정도는 알아야 합니다..
보통은 GPU 서버에서 돈이 되면 CPU는 가장 빠른 것을 놓으려고 하는 경향이 있습니다..
(개인이 저런 장비를 사는 것은 무리인 경우가 많고 보통 연구비 / 국책과재비 등등으로 많이 구매하기에)
쿼드로 6000이라고 불리는 제품도 종류가 있으니 돌리는 프로그램에 맞는 모델을 찾으셔야 할 것입니다..
(6000 , P6000 ,K6000 등등 자세한 것은 나무위키나 구글링 하면 나오며 각 세대에 따라 퍼포먼스 지원 능력 차이가 있습니다..)
GPU 서버는 여러개의 GPU를 (PCIe 16x 라인을) CPU에 연결시킨 것입니다..
CPU 1개인 경우 보드 레이아웃에 따라서 PCIe 16x 슬롯은 여러개이지만 실제동작은 모든 PCIe 슬롯이 16x로 동작하지 못하는 경우도 있습니다..
그 외 파워 용량 문제 및 GPU 냉각 문제가 있기에 GPU 서버는 보통 조립으로 하지 않으며 GPU 서버로 검증된 베어본이나 완제품 서버를 사용합니다..
리소스 소모 비율을 체크하면서 신중하게 선택을 해야겠네요.
조언 감사드립니다.
GPU 연산 능력이 필요하겠군요.
GPU 3장을 사용한다면..
선택의 여지 없이 CPU는 2개가 필요할 겁니다..
PCI 16 Lane x 3장
기본 48 Lane 이상이 필요합니다..
여기에 기타 Nic 나 Raid controller , PCIe NVMe 도 생각을 해줘야죠..
현재로의 성능이야 8코어 3.0 이 좋겠지만.. 추가 장비도 생각해줘야죠..
CPU는 2개가 필요합니다...
정확한 스펙은 주지 않으셔서 추정치로만 계산해 봅니다...
아마도 위 CPU는 PCIe Lane 40 Lane을 지원할 것으로 보입니다..... 이것 때문에...
Lane 갯수도 고려하여 GPU 3장정도라면 CPU 2개는 필수겠군요.
GPU 2장으로 꽂는 것을 가정한다면 CPU 1개로는 아슬아슬한 정도인지요?
이것에 기준하여.. 시스템을 구축하셔야 겠죠....
아마도 Pcie 40 Lane 를 지원하는 CPU가 아닐까.. 생각해 보는데요..
그래도 ...아슬하슬하죠.......
궁금합니다.. cPU가 뭔가요 ??
극비 인가요 ???
위의 첫 번째 예시는 xeon gold 5217 (3.0GHz, 8cores) x1개이며,
현재는 xeon Gold 5122 (3.6 GHz , 4 cores) x2개도 고려하고 있습니다.
위의 두 번째 1.8GHz의 예시는 Bronze 3204 (1.9 GHz, 6 cores)입니다.
코어 수는 합계 8코어면 충분할지요?
간간이 CPU를 이용한 연산도 할 것 같습니다만, 역시 GPU를 메인으로 사용할 것 같습니다.
AVX-512 FMA 유닛 수 : 1 or 2
를 중요하게 고려해야 합니다...
딥러닝 연산 가속기로써.. 골드와 플레티넘은 2개
브론즈와 실버는 1개씩 입니다..
브론즈와 실버는 고려하지 마세요..
Xeon Gold 5122
https://ark.intel.com/content/www/kr/ko/ark/products/120475/intel-xeon-gold-5122-processor-16-5m-cache-3-60-ghz.html
Xeon Bronze 3402
https://ark.intel.com/content/www/kr/ko/ark/products/193381/intel-xeon-bronze-3204-processor-8-25m-cache-1-90-ghz.html