|
|
[필독] 처음 오시는 분을 위한 안내 (737) |
정은준1 |
2014-05 |
5230579 |
0 |
|
2014-05
5230579
1 정은준1
|
|
|
(광고) 단통법 시대의 인터넷가입 가이드(ver2.0) (234) |
 백메가 |
2015-12 |
1757362 |
25 |
|
2015-12
1757362
1 백메가
|
|
114189 |
a 레코드와 cname 레코드 설정 질문 (7) |
 witbox |
02-28 |
431 |
0 |
|
02-28
431
1 witbox
|
|
114188 |
롬바이오건으로 문의 드립니다. (5) |
디브이 |
02-28 |
521 |
0 |
|
02-28
521
1 디브이
|
|
114187 |
한국 음성 지원되는 AI 앱이 있나요? (4) |
민경열 |
02-28 |
429 |
0 |
|
02-28
429
1 민경열
|
|
114186 |
나스용으로 7200rpm 은 소음때문에 비추인가요? (13) |
osthek83 |
02-28 |
703 |
0 |
|
02-28
703
1 osthek83
|
|
114185 |
하드 딸깍딸깍 소음, 전원 부족일까요 하드 고장일까요? (17) |
Setila |
02-27 |
752 |
0 |
|
02-27
752
1 Setila
|
|
114184 |
4개월 방치된 전기자전거 배터리 살릴수 있을까요? (25) |
lvn1 |
02-27 |
811 |
0 |
|
02-27
811
1 lvn1
|
|
114183 |
파워 서플라이 소음 질문 (11) |
langrisser |
02-27 |
561 |
0 |
|
02-27
561
1 langrisser
|
|
114182 |
i7-10700 내장그래픽으로 4k 영상 무리없이 잘 돌아가나요? (9) |
이유종 |
02-27 |
629 |
0 |
|
02-27
629
1 이유종
|
|
114181 |
장기 드라이브 Self-Test 가 뭔가요??? (4) |
 시도니 |
02-27 |
400 |
0 |
|
02-27
400
1 시도니
|
|
114180 |
중고거래하는데 구매자분이 매입계산서를 발행해야 한다네요. (12) |
뭐든팔아요 |
02-27 |
691 |
0 |
|
02-27
691
1 뭐든팔아요
|
|
114179 |
tuf b460 usb 먹통 (11) |
가성비가좋다 |
02-27 |
367 |
0 |
|
02-27
367
1 가성비가좋다
|
|
114178 |
혹시 synolgoy docker -> container manager 로 업그레이드 해보신분 계신가요? (4) |
김제연 |
02-27 |
438 |
1 |
|
02-27
438
1 김제연
|
|
114177 |
웍스에 프로그램을 설치하고 다른 컴퓨터에서 접속하여 쓸수있나요? (10) |
리아레네트 |
02-26 |
576 |
0 |
|
02-26
576
1 리아레네트
|
|
114176 |
네이버 아이디 해킹 (14) |
langrisser |
02-26 |
637 |
0 |
|
02-26
637
1 langrisser
|
|
114175 |
오픈 프레임 서버 랙 어떨까요? (10) |
GoverZG |
02-26 |
514 |
0 |
|
02-26
514
1 GoverZG
|
|
114174 |
서버컴퓨터 판매 어떻게 하면 좋을까요? (8) |
수킴킴 |
02-26 |
619 |
0 |
|
02-26
619
1 수킴킴
|
|
114173 |
libgen 과 같은 개인 저장소를 갖추려면? (12) |
GoverZG |
02-26 |
627 |
0 |
|
02-26
627
1 GoverZG
|
|
114172 |
pc 소리 관련 (6) |
lovemiai |
02-26 |
395 |
0 |
|
02-26
395
1 lovemiai
|
|
114171 |
벤더 데탑의 'sata emulation'의 용도 (4) |
 딸긔꼬마 |
02-25 |
546 |
0 |
|
02-25
546
1 딸긔꼬마
|
|
114170 |
오픈마켓과 다나와 최저가 차이 큰 노트북은 어느 경우인가요? (4) |
흑기사 |
02-25 |
537 |
0 |
|
02-25
537
1 흑기사
|
nVidia DGX 서버는 부르는게 값인데 견적 받아봐야 알지만 모델에 따라 1억에서 10억 정도 합니다.. 그 이상도 될 수 있고요..
싸도 3억 근처가 부터 시작됩니다., .ㅎㅎㅎ
가벼운(7B 모델) LLM 하나 돌리실 것이면 그냥 6세대?정도에 1070 붙이면 됩니다.
파스칼로 갈꺼면 비됴램 조금이라도 넉넉한 80 TI나 Titan이 나을꺼라 봅니다
혼자 쓰는 용도로 추론시킬거면 테슬라란 선택지도 있다고 봅니다
그럴바엔 차라리 AMD가 나을 수 도 있어요 (삽질은 필요하겠지만)
그냥 조금(?) 더 보테서 3060 중고 가면 12기가 + RT 있습니다
AI 종류에 따라 구분해서 알려 주실 수 있으면 감사요~~
https://www.2cpu.co.kr/deep/1405
링크 제일 밑에 보시면 회사 주소가 나올겁니다..
이 회사가 대략 5년전쯤부터인가 GPU에 꼽혀서 GPU 서버를 자기 IDC에 임대 사업하고 그랬었습니다..
이 회사 사이트 들어가셔서 밴치마크 해보시면 조금 도움이 되지 않을까 생각되네요..
https://www.2cpu.co.kr/deep/3004
옛날에 나라에서 이런 사업도 했었고요..
재대로 된 GPU 서버는 새것 기준 가격이 비싸기도 하지만 전기도 무지 먹어 대고 열도 엄청나게 나기에 일반 사무실에 대여 랜탈은 거의 불가능합니다..
실제 사용하는 사용자도 무상 AS기간이 끝나서 고장이 나면 대체 GPU 부품 같은 것을 구하기 힘들어서 고생하는 경우가 많습니다..
중고 GPU는 잘 안보이지만 가끔 나오면 중국사람들이 냄새 맏고 웃돈주고 다 끌어가버리는 경우도 있습니다..
국내에서 조립 GPU 서버 하시는 분들도 전용 PCIe GPU카드든 고성능 게임용 GPU 카드든 GPU 카드 자체를 구하지 못해서
시스템 조립이 재대로 안되는 경우가 꽤 있습니다..
보통 이런 거 많이 씁니다.
다만 LLM같은 경우 너무 메모리 요구량이 커서 A100/H100같은 걸 여러 개 임대하거나 하기도 합니다.
유튜브는 다 믿지 않지만 현실이 저래서 쉽지 않고
개인적으로 생각하기에
GPU는 전기 많이 먹고 열을 많이 받기에 고장나면 수리가 보통 불가능하고 (비싼 돈들여 고쳐 와도 또 금방 고장나고) 새로 사야 합니다..
몇억짜리 GPU 서버도 무상수리 기간 지나고 워런티 연장해서까지 사용하면 끝이라고 봐야 합니다..
기간으로 보면 3~5년 정도 입니다..
조립 GPU 서버 만들다가 조립 실수나 불량으로 비싼 GPU 카드 태워먹는 일이 흔치는 않지만 발생을 하기는 합니다..
GPU 공급자 (리셀러/총판) 이나 GPU 제조사 , 엔비디아 까지 쫒아가도 만든사람/소비자 실수라고 해서 끝나는 경우가 대부분입니다..
옛날에 GPU 8개 들어가는 서버 조립하다가 잘못되어 GPU 카드 3개가 불나서 GPU 서버까지 덤탱이를 쓴 이야기도 들어본 적이 있습니다..
순식간에 몇천만원 날라가고 고객은 놓치고 손해가 크지요..
https://www.2cpu.co.kr/sell/631836
아이디시스템 이라고 용산에서 GPU서버쪽만 전문으로 해온 업체입니다..
엔비디아 정식 리셀러라고 들었습니다..