박문형 2023-04

잘은 모르지만

여기 딥러닝 게시판에 가셔서 글들 읽어 보시면 GPU 카드 밴치마크한 외국 사이트 링크를 보실 수 있을 겁니다..

그리고 전반적인 엔비디아 추세는 GPU 카드의 갯수를 줄이고 있는 상황입니다..

현재 게임용 카드에서 NVLINK 지원이 거의 없어지다 시피해져 버렸습니다..

그리고 부품의 갯수가 많아지면 사용하다가 고장 날 확률도 조금은 높아집니다..

비가내리는 2023-04

맞습니다. 요즘 전반적인 추세가 예전엔 1080 4개씩 꽂아서 하는 추세였다면
지금은 GPU 1개로 하고 그것도 부족하면 아예 머신을 2개 구축해서 하는 방향으로
선회한거 같습니다. 전성비도 전성비려거니와, 일반적인 전력 사정 문제도 있을거 같구요.
예를들면 만약 4090 4개를 꽂았다면, 일반 연구실이나 회사에서 2KW 이상의 라인을 독립된
배전으로 끌고 오기 쉽지 않을테니까요.
아마도 그런 추세여서 그렇게 된거 같습니다.

오후 2023-04

Gpu 라이센스또한한목할거같아요.

NotInt 2023-04

학습속도가 중요하다면 최신 아키텍처 그래픽카드를 사용하는 것이 정신건강면에서 이롭습니다.(학습 속도 면에서는 CUDA 코어나 VRAM이 중요하죠, 물론 그 성능 효과는 모델이 엄청 클때 체감이 됩니다.)
그러나 인공지능 파일이 높거나 학습할 데이터가 너무 많다든지, 학습 속도 높히기 위해서 배치 사이즈(행렬 연산이 n³인걸로 아는데, 배치 사이즈 줄이는 것은 행렬 계산할 사이즈가 줄일 수 있어 학습 속도가 높아지는걸로 압니다.) 를 높혀야한다면 무조건 VRAM(행렬 계산해야하는 개수가 늘어나기 때문에 그 데이터를 저장할 VRAM이 필요한 것으로 압니다.)이 많으면 좋습니다.
그러나 그래픽카드 병렬 연결 하는 경우는 따로 코드를 입력해야했던걸로 기억하네요(물론 지금은 아닐수도 있으니 정보를 찾을 필요가 있네요.)

각자 장단점 있으니 사용 용도에 따라서 선택하시면 좋을 듯 싶습니다

dateno1 2023-04

일단 단순 성능에선 4090이 당연히 낫습니다

다만 가성비를 애기하면 글세요?

일단 제품 가격도 문제지만 발열,  전력같은게 너무 차이가 나서 투자해야할게 추가되니 도입 비용부터 비싸고, 30시리즈 중고가 너무 붕괴해버려서 너무 차이가 큽니다

Jack01 2023-04

모두 좋은 의견 감사합니다.