SiCMOS 2023-05

일반적인 서버 유통업체는 어디를 얘기하시는 것인가요?
소개시켜드리는건 가능합나다..

piloteer 2023-05

답변 감사합니다.
견적 혹은 입찰을 통해 서버를 한 대만 구매하는 것이 가능한 업체라면 어디라도 상관은 없습니다.

박문형 2023-05

서버도 종류가 있습니다..

웹서버 같은 것은 메모리나 코어 갯수가 적어도 가능한 1U 급들이 많이 쓰이고

DB서버 같은 것은 메모리와 코어 갯수가 우선은 많아야 하기에 옛날에는 4U 4way 같은 제품이 사용되었습니다.. 요즘은 1~2U급에서 어찌 되는 듯

몇 년전 부터 추가된 것이 GPU 서버군입니다..

이것은 우선 GPU카드를 여러장 꼽아야 하기에 전원이 크고 냉각능력이 좋습니다.. (전기를 엄청 먹습니다..)

그리고 보통은 어떤 GPU 모델에 대하여 서버가 특화됩니다..

우선 어떤 GPU를 몇장 사용할 지부터 생각해보시는 것이 좋아 보입니다..

GPU 서버들은 많은 연산을 GPU에서 하고 CPU는 단지 그 GPU들을 PCIe로 연결시켜 데이터 전송역활을 하기에

CPU파워는 최고가 아니여도 됩니다.. 대신 PCIe 레인 갯수나 GEN 이 중요합니다..

piloteer 2023-05

답변 감사합니다.

GPU가 많이 장착가능한 (4개 - 8개) 서버를 찾고 있습니다. 하지만 CPU상에서 복잡한 전처리를 돌릴 때도 있어서 CPU 파워도 중요하곤 합니다. 그래서 가능하면 CPU도 좋은 것을 쓰고 싶은 상황입니다.

박문형 2023-05

보통 GPU 서버 GPU 8개 급을 구매하면 돈 단위가 쉽게 억~10억 합니다..

GPU가격 때문에 그런 것인데

GPU가격에 비해 메모리나 CPU의 가격은 상대적으로 저렴한 경우가 많기에 최고사양의 CPU와 메모리를 꼽아 버리는 경우가 은근히 있습니다..


개인적으로는 최신 CPU 나 GPU가 발표되고 나서 최소 6개월에서 1년은 기다려야 한다고 생각합니다..

그동안 어느 정도 알려지지 않은 버그 같은 것을 바이오스나 펌웨어 업데이트를 통해  걸러내야 한다고 생각하기 때문입니다..


그리고 최고와 표준(?)의 GPU 서버를 생각하신다면 엔비디아 오리지날 GPU 시스템인 DGX 시스템을 생각하면 됩니다..

문제는 가격이 아마도 GPU 서버 중에서 재일 비싸고 무상 AS기간이 끝나면 거의 아무것도 지원받지 못한다는 것인 듯합니다..

https://bbs.ruliweb.com/pc/board/300006/read/2275729?cate=67


GPU 8개 정도 설치할 수 있는 GPU 서버 제조사는 의외로 몇군데 안됩니다..

그리고 반도체 대란이 아직 계속 되고 있기에 서버쪽은 발주하고 나서 최소 4개월 이상 기다려야 물건을 받는 경우가 흔합니다..


다나와에 DDR5 레지스터 메모리와 최신 4세대 서버 CPU가 등록되는 시점이 리테일 조립서버들이 어느 정도 준비되어 판매 시작되었다고 보시면 됩니다..

아직은  DDR5 레지스터 메모리와 최신 4세대 서버 CPU가 다나와에 등록되지 않은 것으로 알고 있습니다..

인텔 스케일러블 제온 1세대도 인텔이 발표하고 나서 거의 6개월이 넘어서야 다나와에 등록되었습니다..

이것은 인텔 스케일러블 제온 CPU 자체가 그 전 제온(E5-2600 V4)보다 소비자나 판매자가 생각하는 가격보다 많이 비쌌었기에 인기가 없었기 때문입니다..

piloteer 2023-05

답변 감사합니다. 참고하겠습니다.

풀로드시스템 2023-05

안녕하세요, 풀로드시스템입니다.
제가 알고 있는 범위 내에서 말씀드리면 지금 기준으로 CPU 단품 구매는 쉽지 않을 것 같습니다. 밴더사에서 완제품 서버를 주문하면
쉽게 주문 가능합니다. 납기는 대략 8~10주 정도 예상하시면 맞을 것 같습니다.

ASROCKRACK, 기가바이트, ASUS 브랜드 모두 GPU 서버 주문 가능한 것으로 알고 있습니다.

piloteer 2023-05

답변 감사합니다. 완품을 알아보고 있기는 합니다. 업체 하나 잡고 좀 물어봐야겠네요..

dateno1 2023-05

나온지 얼마 안 되서 아직까지는 벤더에서 나오는 제품 주문하는것말곤 선택지가 없어보입니다

piloteer 2023-05

답변 감사합니다. 그런 방향으로 알아보겠습니다.

제온프로 2023-05

CPU로 딥러닝을 한다고요..
돈이 더 들턴데요.

CUDA 나 OPEN-CL로 많이 하고 돈이 덜 드는데.
CPU로 무장하려면 RTX 4090을 이기려면
CPU 8개는 달아야 할텐데요..
EPYC CPU도 코어 많으면 1개에 1천만원이 넘을 건데요..

PS/ 알아보니 출시가가
The $11,805 EPYC 9654
국내 들어오면, 1700만원이 넘네요..2개만 달아도 3400만원인데..
 4090 이 더 싸게 먹힐 것 같습니다.

piloteer 2023-05

답변 감사합니다. 일반적으론 GPU로 돌리는 게 맞지만 그게 전부일 수는 없습니다. 전처리 루틴을 GPU로 밀어넣기 복잡한/곤란한 경우도 있고, 그게 아니라도 새로운 걸 시도해보고 싶은 상황에서 일반적인 데이터 엔지니어들에게 쿠다 커널을 짜오라고 시킬 수는 없는 법이니까요. CPU도 필요한 상황이 있습니다.

sbg2005 2023-05

대형 벤더사의 리셀러한테 주문 하면 2달 정도 걸립니다.

xeon의 특화 가속기능을 이용하지 못 하는 소프트웨어 라면 같은 가격대에서 사파이어래피즈는 에픽 제노바에 확실히 밀리는 성능 입니다.

실제로 HPC 등지의 깡CPU 성능이 중요한 분야에서는 EPYC CPU들이 상당히 많은 지분을 가져가고 있습니다.

거부감 없으시면 고민 한번 해보세요.

dateno1 2023-05

가속 못하면 밀린다랄까 가속해도 그닥 압도하지 못한다는게 현실입니다

그러면서 전력은 더 많이 쓰죠;

piloteer 2023-05

두분 다 답변 감사합니다. 저도 개인적으론 제노아쪽으로 마음이 기울고 있습니다.