그래픽 카드 중 3090 2개와 4090 1개를 비교해서 yolov5로 객체인식 ai 학습시 어느 것이 속도와 가성비 부분에서 더 좋나요?
아니면 비슷한 가격대에 더 나은 제품이 있으면 알려주시면 좋을꺼 같습니다!
그래픽 카드 중 3090 2개와 4090 1개를 비교해서 yolov5로 객체인식 ai 학습시 어느 것이 속도와 가성비 부분에서 더 좋나요?
아니면 비슷한 가격대에 더 나은 제품이 있으면 알려주시면 좋을꺼 같습니다!
여기 딥러닝 게시판에 가셔서 글들 읽어 보시면 GPU 카드 밴치마크한 외국 사이트 링크를 보실 수 있을 겁니다..
그리고 전반적인 엔비디아 추세는 GPU 카드의 갯수를 줄이고 있는 상황입니다..
현재 게임용 카드에서 NVLINK 지원이 거의 없어지다 시피해져 버렸습니다..
그리고 부품의 갯수가 많아지면 사용하다가 고장 날 확률도 조금은 높아집니다..
지금은 GPU 1개로 하고 그것도 부족하면 아예 머신을 2개 구축해서 하는 방향으로
선회한거 같습니다. 전성비도 전성비려거니와, 일반적인 전력 사정 문제도 있을거 같구요.
예를들면 만약 4090 4개를 꽂았다면, 일반 연구실이나 회사에서 2KW 이상의 라인을 독립된
배전으로 끌고 오기 쉽지 않을테니까요.
아마도 그런 추세여서 그렇게 된거 같습니다.
그러나 인공지능 파일이 높거나 학습할 데이터가 너무 많다든지, 학습 속도 높히기 위해서 배치 사이즈(행렬 연산이 n³인걸로 아는데, 배치 사이즈 줄이는 것은 행렬 계산할 사이즈가 줄일 수 있어 학습 속도가 높아지는걸로 압니다.) 를 높혀야한다면 무조건 VRAM(행렬 계산해야하는 개수가 늘어나기 때문에 그 데이터를 저장할 VRAM이 필요한 것으로 압니다.)이 많으면 좋습니다.
그러나 그래픽카드 병렬 연결 하는 경우는 따로 코드를 입력해야했던걸로 기억하네요(물론 지금은 아닐수도 있으니 정보를 찾을 필요가 있네요.)
각자 장단점 있으니 사용 용도에 따라서 선택하시면 좋을 듯 싶습니다
다만 가성비를 애기하면 글세요?
일단 제품 가격도 문제지만 발열, 전력같은게 너무 차이가 나서 투자해야할게 추가되니 도입 비용부터 비싸고, 30시리즈 중고가 너무 붕괴해버려서 너무 차이가 큽니다