안녕하세요LLM 관련질문이에요

오임   
   조회 123   추천 0    

안녕하세요LLM 관련질문이에요

초보구요

텍스트 머신러닝돌리고 하는데

4개1080ti 가 좋을가요?

3090ti  가 좋을가요?

기초데이터는 하둡에 적재되어 있구요

돈이 많이 없어서 이리저리 찾이보고있어요

고수님들 자문을구해봐요
짧은글 일수록 신중하게.
박문형 03-06
최신 GPU 일수록

1개의 GPU 카드의 메모리 용량이 클수록 좋습니다..

문제는 메모리 용량이 큰 GPU 카드는 가격이 비쌉니다..


GPU 카드가 여러개면 관리 및 셋팅도 힘들고 재대로 하고 싶은 작업이 안될 수도 있습니다..
     
오임 03-06
감사합니다
어떻게 해서든 하이엔드 gpu 하나씩 올리겠습니다
3090 ti가 100만이나 하네요
많이 참고가 되었습니다
찬이 03-06
우선 사용하시려는 모델로 필요한 사양을 검색해보셔야 할거 같습니다. 용량이 부족하다면 양자화를 해서 맞춰볼수도 있구요.
김제연 03-06
rag 하실꺼 같은데 rag는 일반 모델 쓰고 학습 시키는거라 3090 이면 충분 하실껄요?
로그인 하시면 댓글을 남길 수 있습니다


QnA
쓰기
제목Page 1/5712
2015-12   1703210   1  백메가
2014-05   5169054   1 정은준1
03-06   124   1 오임
03-06   99   1 듀얼cpu
03-06   135   1 장동건2014
03-06   259   1 Sakura24
03-06   241   1 뭐든팔아요
03-06   113   1 failsafe
03-06   124   1 galaxyfamily
03-06   167   1 신은왜
03-06   83   1 신은왜
03-06   202   1 galaxyfamily
03-06   144   1 이원재K
03-06   288   1 galaxyfamily
03-05   304   1  모자란트
03-05   314   1 김지철
03-05   243   1 뉴진스
03-05   271   1 galaxyfamily
03-05   326   1 아마데우쓰
03-05   306   1  블루영상
03-05   223   1 현준이
03-05   252   1 홀릭0o0
목록
쓰기