CFD해석분야에서 공부하고있는 대학원생입니다.
조금 늦은 감이 있지만 지금 하고있는 연구에 머신러닝 연계해서 공부할 겸 미래에 대한 대비를 하려합니다.
제온시스템에 빅타워 조립으로 전면, 상단 메쉬로 열 흡배기가 원할하게 구성했습니다.
가장 중요한 GPU가 고민되네요
RTX titan 24GB 단일카드 (360만원) 또는 RTX 2080ti 11GB 2way (블로워) (합계 310만원)
어떤 작업을하냐에따라 성능차이가 다르겠지만
해외 벤치자료들은 2080ti 2way 가 2배에 가까운 성늘을 보여주고 있는데.
아무래도 2080ti 2way로 가는게 가격이나 성능면에서도 낫지않을까요?
고수님들의 의견이 궁금합니다..
중요한 변수는 메모리의 양이거든요...
메모리가 모자라면..... 퍼포먼스가 나지 않는 것 때문입니다...
두개의 GPU도 병렬로 돌린다고 해도, 같은 모델을 두개의 GPU에 다 돌리고,
training하는 데이터 batch를 각각 GPU에다 주는 방식이 일반적입니다.
즉, 2080ti의 11Gbyte에 돌리려는 모델이 다 들어가고, training 속도를 유지하는데 부족함 없는 batch size를 한번에 로드할 수 있느냐.... 가 선택의 기준이라고 하겠습니다.
어떤것을 하시려는지는 모르겠습니다만, 웬만하면 11Gbyte로 충분하실겁니다.
image classification하는 resnet 정도는 11G로 충분합니다.
더군다나 RTX 시리즈에서는 16bit half precision 연산을 할 수 있으니
1080ti 의 경우보다 메모리가 두배인것 처럼 간주 할 수도 있습니다.
다만 NLP쪽 모델, BERT나 GPT 같은것을 돌리시려면, sequence lenght를 길게 하면 모델 크기가 꽤 커지기 때문에
메모리 용량이 큰 쪽을 선택하는것이 좋습니다. titan rtx가 2080 ti 보다 50%정도는 빠르다고는 하니
2080ti 두개 대비 아주 떨어지지는 않습니다.
https://www.pugetsystems.com/labs/hpc/TensorFlow-Performance-with-1-4-GPUs----RTX-Titan-2080Ti-2080-2070-GTX-1660Ti-1070-1080Ti-and-Titan-V-1386/
요약하자면, 11G에 모델이 다 들어가면 2080ti x2, 아니면 titan rtx.