제가 썬더볼트 16GPU 박스를 설계 해볼라고 합니다.양면으로 대부분 업무용 그래픽은 패시브 쿨링이라 문제없고 12v 파워만 충분하면 까이꺼 투슬롯 16개는 껌이죠.. 각각 썬더볼트4 포트 있는걸루다가..보통 개당 300w 가 맥스니 16개면 총 4800와트 간단히 2400와트 서버파워 두개로 해결됩니다. 물론 3개달아야 리던던트가 될테지만.. 거기다가 포트당 비용이 전원포함 30정도 예상 합니다.
음 제가 뭘 추구하는지 이해를 못하시니 계속 비용과다를 주장하시는 거겠지만...저는 제가 수년을 진행해온 프로젝트가 있습니다.
미니피씨에 PCIe 포트가 있을리도 없으니 라이저카드 다는거 자체가 불가능하고(M.2방식이라도 케이블 처리도 문제고 병목도 더합니다), 눈앞에 두고 쓸 목적도 아니니 적당히 거리두고 쓰는것도 아니죠..
랙에 100대 이상의 NUC 를 장착하고 남는공간에 그래픽전용 케이스 5U당 16개 씩 고성능 그래픽카드를 장착하고 썬더볼트4로 고성능을 원하는 사용자의 NUC 에만 연결하면 일반 사용자는 그냥 NUC 만 쓰고 고성능 그래픽이 필요한 사용자(캐드나 그래픽 작업, 기타)도 수용할수 있어진다는 의미입니다. www.NUCserver.com 생각하시는 개인용이 아닙니다. 물론 리뷰에는 개인도 효과가 있다라는 겁니다. 비싸다? 라는건 상대적입니다. 업무용으로 효율이 높아진다면 안할 이유도 없지요.
NVMe에서 뽑는다고 병목 생기진 않습니다 (시험해본적 있음) (오히려 응답속도때문에 썬더볼트가 조금 더 느림) (다만 케이블은 좀 문제되죠)
그런식으로 RDI 서비스하실꺼라면 그게 정답이겠네요 (추가 요금 주는 고객에게는 eGPU붙이는식으로 서비스하면 되니까요) (다만 썬더볼트3라도 딱히 문제는 없으니 4라도 성능 조금 오르는것빼면 차이 없고, 처음에 적으신 3090의 발열이랑 전력 소비 애기하는 애기에서 이런식으로 쓰실꺼란걸 추론하는건 불가능합니다)
예 그러신거 같아서 적어봤습니다. 제 글로만 추론하긴 어렵죠.
아주조금의 성능향상은 분명 아닙니다. PCI-E 16Gbps 와 32Gbps 는 두배차이고. 인텔에서도 그렇다고 이야기 하더군요.
PCI-e 연장은 할 상황이 아닙니다. 아니 할수는 있겠지만 케이블링은 복잡한 문제고 대량으로 운영하기엔 관리상 문제도 있습니다.
16개가 한 케이스에 있을뿐 16개의 각각 썬더볼트 케이블로 연결하는거고 파워만 리던던트로 공유합니다. 발열은 데이터센터니 되려 큰문제는 아닌데. 전력소비 와 안정성 때문에 전용 랙케이스는 제작해야겠지요.
MikroTik이진
윈도우즈쪽에도 하나 둘씩 나오나 보네요..
많은 장비들이 나왔으면 좋겠습니다..
이상하죠?
누가 얼마나 호환성 노가다를 많이 했느냐의 차이 정도로 저는 생각합니다..
그리고 그 뒤에는 얼마나 실력있는 엔지니어가 있느냐도 문제가 되겠지요..
문젠 보급율이란 측면에서는 맥쪽 특히 작업용 컴에서 높죠
오히려 소형 데스크탑에서는 괜찮은 선택이 되겠네요.
그리고 일반 게이밍용은 몰라도 딥러닝등의 연산용경우 보통 아무리 좋은 그래픽 써도 아직은 (3080쯤 써도) 4배속이면 충분합니다
그나마 Intel NUC는 냉각 신경 써놔서 i7 아닌 이상 주구장창 갈구어도 견딥니다
일반 업무용으론 i5 에 eGPU 없이 쓸테구요..
다만 전통적으로 i7 NUC는 뜨거워요 (갈구면 90도쯤 가버리거나 함)
딥러닝의 경우에도 종류에 따라 대역폭이 중요한 것과, 그렇지 않은 게 나뉘나요?
기본적으로 연산용 그래픽은 게임할때만큼 높은 대역폭 요구 안 해요
심지어는 x4/x16의 차이가 10%도 안 될정도니 할말 다 했죠 (이런 상태니 파워만 허락한다면 차라리 x4*4로 나누어서 그래픽 4개 다는게 횔씬 빠름)
애초에 클러스터라도 구성할게 아니라면 해당 용도에서 NVLINK 쓸일 있긴한가요?
어쩌면 클러스터 구성을 염두에 둔 것일지도 모르겠네요.
안 그래도 RTX3090의 전력 소모와 발열 문제 때문에 골치가 좀 아픈데, 차라리 TB4 기반 eGPU 샤시를 줄줄이 달아버리는걸 고려하는 편이 나을지도 모르겠습니다.
좋은 의견 감사합니다.
그냥 적당한 채굴기용 샤시같은걸로 줄줄이 박아버린후 고급형 x4-x16 라이저 사서 안정성 확보 (케이블 짧은것 사세요!)하는게 현실적입니다
썬더볼트 박스자체가 수십만원이고, 보통 트리플 슬롯 그래픽따위 고려 안 되어있어서 장착 문제도 있고, 애초에 썬더볼트=PCIe x4라서 1:1로 썬더볼트 카드가 필요하니 그걸 다 넣으면 비용 낭비가 극심합니다 (1대 장착할 비용이면 3060Ti 1대는 살 돈)
한마디로 1개의 확장 카드에 몇개를 연결해도 전부 1개의 x4를 공유하게 됩니다 (4포트용 카드도 있지만, 현실은 이꼴)
결국 너무 심각한 성능 하락을 막을려면 1:1 매칭해야하므로 비용이 매우 과다해요
발열이 심하다고 해봤자 결국 케이스밖으로 빼서 거리 좀 두고, 공간 좀 비우면 끝입니다
미니피씨에 PCIe 포트가 있을리도 없으니 라이저카드 다는거 자체가 불가능하고(M.2방식이라도 케이블 처리도 문제고 병목도 더합니다), 눈앞에 두고 쓸 목적도 아니니 적당히 거리두고 쓰는것도 아니죠..
랙에 100대 이상의 NUC 를 장착하고 남는공간에 그래픽전용 케이스 5U당 16개 씩 고성능 그래픽카드를 장착하고 썬더볼트4로 고성능을 원하는 사용자의 NUC 에만 연결하면 일반 사용자는 그냥 NUC 만 쓰고 고성능 그래픽이 필요한 사용자(캐드나 그래픽 작업, 기타)도 수용할수 있어진다는 의미입니다. www.NUCserver.com 생각하시는 개인용이 아닙니다. 물론 리뷰에는 개인도 효과가 있다라는 겁니다. 비싸다? 라는건 상대적입니다. 업무용으로 효율이 높아진다면 안할 이유도 없지요.
NVMe에서 뽑는다고 병목 생기진 않습니다 (시험해본적 있음) (오히려 응답속도때문에 썬더볼트가 조금 더 느림) (다만 케이블은 좀 문제되죠)
그런식으로 RDI 서비스하실꺼라면 그게 정답이겠네요 (추가 요금 주는 고객에게는 eGPU붙이는식으로 서비스하면 되니까요) (다만 썬더볼트3라도 딱히 문제는 없으니 4라도 성능 조금 오르는것빼면 차이 없고, 처음에 적으신 3090의 발열이랑 전력 소비 애기하는 애기에서 이런식으로 쓰실꺼란걸 추론하는건 불가능합니다)
아주조금의 성능향상은 분명 아닙니다. PCI-E 16Gbps 와 32Gbps 는 두배차이고. 인텔에서도 그렇다고 이야기 하더군요.
PCI-e 연장은 할 상황이 아닙니다. 아니 할수는 있겠지만 케이블링은 복잡한 문제고 대량으로 운영하기엔 관리상 문제도 있습니다.
16개가 한 케이스에 있을뿐 16개의 각각 썬더볼트 케이블로 연결하는거고 파워만 리던던트로 공유합니다. 발열은 데이터센터니 되려 큰문제는 아닌데. 전력소비 와 안정성 때문에 전용 랙케이스는 제작해야겠지요.
이조차 게이밍처럼 대역폭에 민감한 경우고, 딥러닝이나 채굴등 연산만 갈구는 경우 10%이하입니다
20% 성능올리자고 크로스파이어니 sli 니 하기도 하는걸요.. 성능하락을 줄여주는것도 충분한 메리트가 됩니다.
GPU 박스 같은 것은 PCIe 보다는 NVlink 가 더 깔끔하다고 생각합니다..
PCIe GPU카드들은 6핀 8핀 전원 소켓 때문에 불이 날 위험이 존재합니다..
( 소문이 거의 나지는 않지만 비싼 GPU 카드 실제로 불나서 해먹은 곳도 몇군데 있습니다..)
상당히 쓸만했습니다 (패스 오브 엑자일)
클라이언트 노트북과 데스크탑 서버로 돌려봤는데
전송 레이턴시를 최소화 시키는 방법을 찾아서 적용한다면
그것도 개인적인 용도로는 괜찮을 것 같더라구요
어제는 스팀링크를 활용해서 엑스컴류 턴제 게임을 TV에서 즐겼는데 아주 쾌적하게 놀았습니다
요즘 인텔 노트북은 evo 인증되면 다 썬볼 4 들어가 있죠