2개의 pc에서 딥러닝 모델 학습 테스트했습니다..
2개의 pc사양은
========================================================
pc1 (서버pc)
CPU : 제온 E5-2620 v4 * 2개
RAM : DDR4-2400(1200 MHz) 16Gb * 8개 (128Gb)
그래픽카드(GPU) : ZOTAC NVIDIA GeForce GTX 1080 Ti * 1개
메인보드 : SuperMicro X10DRG-OT +-CPU
pc2
CPU : i7 7700
RAM : DDR4-2400(1200 MHz) 16Gb * 2개 (32Gb)
그래픽카드(GPU) : ZOTAC NVIDIA GeForce GTX 1080 Ti * 1개
메인보드 : 아수스 B250M-A
==========================================================
동일 조건은 OS, tensorflor-gpu, CUDA, CuDNN 등 버전 모두 동일하고
학습 모델도 같은 상황, 이미지도 같은 이미지 입니다.
그래서 비교는 학습 진행할때 STEP당 시간을 보기로했는데
pc2에서는 step당 0.3, 0.2초가나온 반면 pc1에서는 0.7, 0.8초까지 나오네요...
딥러닝 학습 속도, 성능에 가장 영향을 많이 주는게 CPU GPU로 아는데
제논 2개인 pc보다 i7 7700인 pc가 더 빠르게 나오는데 어떻게 된걸까요???
pc1이 느린 이유가 있을까요?
good
단일 명령에서는 코어 클럭속도가 높은것이 좋습니다.
E5-2620V4 2.1Ghz 8core.
프로그램이 코어보다는 클럭에 더 반응을 하는 듯합니다..(코어를 다 사용하지 못할수도 있습니다.)
클럭을 같이 해 놓으면 아마도 학습 속도가 비슷하지 않을까 추측해봅니다..
클록 높은거 쓰셔야 할거 같습니다
e5-1630 v3 같은...
대신 단일 작업(부하)가 아닌 수많은 부하에서는 제온이 PC보다는 속도가 떨어지지 않고 더 버팁니다..
즉 네트워크를 통해 유저 100명이 부하를 준다고 하면 제온시스템이 코어랑 캐쉬가 더 많기에 그런 멀티 부하에 더 잘 버팁니다..
그리고 작업이 대단위작업이 되어서 1달 이상 혹은 1년 내내 돌리게 되면 PC베이스는 못 버티는 경우가 있습니다..
메모리가 ECC가 아니라서 메모리에서 에러나면 데이터가 오염되거나 데이터가 날라가거나 하겠죠..
전적으로 gpu에서 운용됩니다
속도가 차이가 있는 것은 CUDA가 작용하지 않는 부분에서의 차이로 보입니다
i7의 경우 dual 코어 3.6g짜리 cpu를 사용해도 비슷한 혹은 조금 모자란 결과일 것이라 생각합니다
openCL의 경우는 cpu, gpu 코어 모두 사용합니다만 현상황에서는 텐서 플로가 CUDA만 사용하기 때문에...
제 생각은 cpu는 코어 수 적고 클럭 높은 놈이 좋을 것이라 생각합니다 (싸면 더 좋을 것이구요)
제온의 경우는 서버용 cpu라 멀티 프로세스에 적당한 프로세서이구요
만일 딥러닝 전담 시스템이라면 제온이 그다지 영향이 없을 수도 없습니다
만일 안정성이 문제가 되면 ups같이 전원 공급을 안정적으로 해주는 것이 더 좋지 않을까 생각합니다
램이 크면 좋을 거 같았는데 그런 것도 아니네요
요사이 램 가격이 어마하니까 적절히 테스트해서 너무 많이 쓸 필요는 없을 거 같습니다
이 결과는 흥미롭네요
최근 딥러닝들 보면 대부분 CUDA로만 연산해서,
CPU 개수 많은건 크게 영향도를 못주는듯합니다.
그래서 보면 딥러닝 머신들 보면 1080Ti 2~4WAY 시스템을 쓰는 경우를 봅니다.
os 가 windows 의 경우 내장그래픽을 사용해서 그래픽 처리하고 외장 그래픽카드는 온전히 계산에 투입된게 아닐까요?