쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다
현재 취미로 하고 있는데 너무 재밌네요.
3way 로는 Vram이 너무 부족합니다.
llava 34b 올리면 4비트 양자화를 한다하더라도 21GB 나 잡아먹는데,
이런 모델을 최대한 많이 올리는 게 목표입니다.
현재는 빅타워 케이스에 4060ti 16gb 3way 를 돌리고 있는데
발열 관리도 애매하고 해서
앗싸리 이런 채굴케이스로 바꿀까 고민중입니다.
혹시 저처럼 꾸미신 분이 계신가해서요. 라이저 카드를 이용하면 어찌저찌 해결이 되는 게 아닌가 싶기도.. 하구요.
어차피 4060ti 16gb 8개 달거라서
발열은 그렇게 심하진 않으니 밀폐형으로 가려 합니다.
보드는 쓰레드리퍼 3955wx 달려있는거 pcie 4.0 8슬롯짜리를 이용하려고 하네요.
이거 좀 괜찮을까요 ?
PC용보드를 저런 케이스에 박고 GPU여러개 꽂을거면 3.0/4.0의 PCIE스위치보드와 라이저를 달면 됩니다. 4.0부터는 가격이 억소리나는 수준이니 모델에 지장이 없다면 3.0이 좋을겁니다. 서버용 보드는 x8 또는 x16라이저만 있으면 되는데 2.0 x1처럼 길게 뽑을 수 있는 수준이 아니라서 적은 수량으로 테스트를 해봐야할겁니다.
저런케이스에 PCIE 2.0 x1라이저로 쓸만한 용도는 블렌더같은 한번 VRAM에 로드되면 렌더링만 열심히하다 나중에 결과만 램과 디스크로 출력해주는 어플리케이션 같은 종류에만 이득이 있습니다. 실시간으로 PCIE슬롯을 통해 대량의 대역폭을 쓰게되는 용도로는 어울리지 않다보니 제한된 조건에서 벤치해보고 도입 판단하는 게 좋습니다.
8개 꽂을 방법은 결국 gpu 서버밖엔 없나 싶네요..
비트코인 머신 GPU 쿨러가 자주 부러지거나 쿨러가 동작 안하는데 그냥 마이너 돌리더라구요...
맨날 하는게 쿨러교체... 에어건으로 먼지 청소... 토나올정도로 했어요 파워도 2개나 장착하고...
그 이상 GPU 8개나 10개는 전용 베어본의 영역입니다..
문제는 그만큼 전기도 많이 먹고 열도 많이 나고 열을 잘 식혀 주어야 하기에 이래저래 쉽지 않습니다..
그 외 트루AI (이진 대표)에서 GPU 서버 개발하는 것이 있으니 제품 혹은 솔류션 알아보시기 바랍니다..
취미의 영역인데 좀 곤란하더라구요..
바로 실행 go to
CPU는 128 레인 cpu 이니까요..
PCIe에 대략 80레인정도 배정 했을 것 같아요.
그분들을 참고하여 계획하세요.
좋은 생각이고 한번 이전 해 보시죠..
좀더 통홥 관리가 편하겠네요.
예전에 3.0 x16 케이블로 4장 써서 만들어본적있는데 온도 관리 확실하게 되더군요. 성공 관건은 케이블의 길이 입니다. 당시 국내에서는 20cm이상을 구하는게 불가능해서 타오바오에서 따로 주문했엇습니다.
https://www.ebay.com/itm/194601554300?
https://www.ebay.com/itm/375174163775?
으로 PCIE 슬롯을 라이져로 사용하면 슬롯에 빼곡하게 꼽지 않아도 되니...
발열에 도움이 될것 같습니다.
이 카드는 PCIE를 확장? 연장 하는 목적으로 사용 하므로 단순한 라이져 케이블의 불안정을 회피할 수 있습니다.
이런 물건이 안정적이긴 할 거 같습니다.
3.0 라이저 사용해서 RTX Titan 채굴기 캐이스에 세팅해서 씁니다.
이유는.... 일반 케이스에선 발열 해결이 안나서요.
https://prod.danawa.com/info/?pcode=6045951&cate=11347397
케이스 안사셨고 꼭 랙마운트 해야하는거 아니면 이거 추천합니다. GPT 최대 6개까지 가능합니다.
감사합니다.