박문형 03-06

최신 GPU 일수록

1개의 GPU 카드의 메모리 용량이 클수록 좋습니다..

문제는 메모리 용량이 큰 GPU 카드는 가격이 비쌉니다..


GPU 카드가 여러개면 관리 및 셋팅도 힘들고 재대로 하고 싶은 작업이 안될 수도 있습니다..

오임 03-06

감사합니다
어떻게 해서든 하이엔드 gpu 하나씩 올리겠습니다
3090 ti가 100만이나 하네요
많이 참고가 되었습니다

찬이 03-06

우선 사용하시려는 모델로 필요한 사양을 검색해보셔야 할거 같습니다. 용량이 부족하다면 양자화를 해서 맞춰볼수도 있구요.

김제연 03-06

rag 하실꺼 같은데 rag는 일반 모델 쓰고 학습 시키는거라 3090 이면 충분 하실껄요?