ai 학습용 글카를 구매 할려고 하는데 속도와 가성비 부분에서 어느 것이 더 좋나요?

Jack01   
   조회 3118   추천 0    

그래픽 카드 중 3090 2개와 4090 1개를 비교해서 yolov5로 객체인식 ai 학습시 어느 것이 속도와 가성비 부분에서 더 좋나요?
아니면 비슷한 가격대에 더 나은 제품이 있으면 알려주시면 좋을꺼 같습니다!

짧은글 일수록 신중하게.
박문형 2023-04
잘은 모르지만

여기 딥러닝 게시판에 가셔서 글들 읽어 보시면 GPU 카드 밴치마크한 외국 사이트 링크를 보실 수 있을 겁니다..

그리고 전반적인 엔비디아 추세는 GPU 카드의 갯수를 줄이고 있는 상황입니다..

현재 게임용 카드에서 NVLINK 지원이 거의 없어지다 시피해져 버렸습니다..

그리고 부품의 갯수가 많아지면 사용하다가 고장 날 확률도 조금은 높아집니다..
     
맞습니다. 요즘 전반적인 추세가 예전엔 1080 4개씩 꽂아서 하는 추세였다면
지금은 GPU 1개로 하고 그것도 부족하면 아예 머신을 2개 구축해서 하는 방향으로
선회한거 같습니다. 전성비도 전성비려거니와, 일반적인 전력 사정 문제도 있을거 같구요.
예를들면 만약 4090 4개를 꽂았다면, 일반 연구실이나 회사에서 2KW 이상의 라인을 독립된
배전으로 끌고 오기 쉽지 않을테니까요.
아마도 그런 추세여서 그렇게 된거 같습니다.
오후 2023-04
Gpu 라이센스또한한목할거같아요.
NotInt 2023-04
학습속도가 중요하다면 최신 아키텍처 그래픽카드를 사용하는 것이 정신건강면에서 이롭습니다.(학습 속도 면에서는 CUDA 코어나 VRAM이 중요하죠, 물론 그 성능 효과는 모델이 엄청 클때 체감이 됩니다.)
그러나 인공지능 파일이 높거나 학습할 데이터가 너무 많다든지, 학습 속도 높히기 위해서 배치 사이즈(행렬 연산이 n³인걸로 아는데, 배치 사이즈 줄이는 것은 행렬 계산할 사이즈가 줄일 수 있어 학습 속도가 높아지는걸로 압니다.) 를 높혀야한다면 무조건 VRAM(행렬 계산해야하는 개수가 늘어나기 때문에 그 데이터를 저장할 VRAM이 필요한 것으로 압니다.)이 많으면 좋습니다.
그러나 그래픽카드 병렬 연결 하는 경우는 따로 코드를 입력해야했던걸로 기억하네요(물론 지금은 아닐수도 있으니 정보를 찾을 필요가 있네요.)

각자 장단점 있으니 사용 용도에 따라서 선택하시면 좋을 듯 싶습니다
dateno1 2023-04
일단 단순 성능에선 4090이 당연히 낫습니다

다만 가성비를 애기하면 글세요?

일단 제품 가격도 문제지만 발열,  전력같은게 너무 차이가 나서 투자해야할게 추가되니 도입 비용부터 비싸고, 30시리즈 중고가 너무 붕괴해버려서 너무 차이가 큽니다
Jack01 2023-04
모두 좋은 의견 감사합니다.


QnA
제목Page 355/5724
2014-05   5237436   정은준1
2015-12   1763121   백메가
2023-04   4241   NaN
2023-04   2414   Kongz
2023-04   3518   장동건2014
2023-04   4187   개발네발
2023-04   3246   catstyle
2023-04   3377   엠브리오
2023-04   2762   Fentanest
2023-04   3119   Jack01
2023-04   1731   프로게이머
2023-04   2800   최재영
2023-04   1703   cho609495
2023-04   2108   2CPU최주희
2023-04   2568   미도리
2023-04   2018   osthek83
2023-04   2557   NUXE
2023-04   4002   류류류
2023-04   1875   서울l승용
2023-04   2432   흑기사
2023-04   1912   VSPress
2023-04   1912   청춘