안녕하세요,
서버를 새로 맞춰야 하는데, 어떻게든 신형 CPU를 구해봐야할지 아니면 타협보고 한 세대 전 제품을 사야할지 잘 모르겠어서 질문 올립니다. 주된 용도는 딥러닝입니다.
최근에 나온 CPU인 에픽 제노아나 인텔 사파이어래피즈는 현재 한국에 많이 유통이 되고 있는 상황일까요? 아니라면, 언제쯤 되어야 쉽게 구할 수 있을까요 (일반적인 서버 유통업체로부터 쉽게 구매 가능할까요)?
감사합니다.
안녕하세요,
서버를 새로 맞춰야 하는데, 어떻게든 신형 CPU를 구해봐야할지 아니면 타협보고 한 세대 전 제품을 사야할지 잘 모르겠어서 질문 올립니다. 주된 용도는 딥러닝입니다.
최근에 나온 CPU인 에픽 제노아나 인텔 사파이어래피즈는 현재 한국에 많이 유통이 되고 있는 상황일까요? 아니라면, 언제쯤 되어야 쉽게 구할 수 있을까요 (일반적인 서버 유통업체로부터 쉽게 구매 가능할까요)?
감사합니다.
소개시켜드리는건 가능합나다..
견적 혹은 입찰을 통해 서버를 한 대만 구매하는 것이 가능한 업체라면 어디라도 상관은 없습니다.
웹서버 같은 것은 메모리나 코어 갯수가 적어도 가능한 1U 급들이 많이 쓰이고
DB서버 같은 것은 메모리와 코어 갯수가 우선은 많아야 하기에 옛날에는 4U 4way 같은 제품이 사용되었습니다.. 요즘은 1~2U급에서 어찌 되는 듯
몇 년전 부터 추가된 것이 GPU 서버군입니다..
이것은 우선 GPU카드를 여러장 꼽아야 하기에 전원이 크고 냉각능력이 좋습니다.. (전기를 엄청 먹습니다..)
그리고 보통은 어떤 GPU 모델에 대하여 서버가 특화됩니다..
우선 어떤 GPU를 몇장 사용할 지부터 생각해보시는 것이 좋아 보입니다..
GPU 서버들은 많은 연산을 GPU에서 하고 CPU는 단지 그 GPU들을 PCIe로 연결시켜 데이터 전송역활을 하기에
CPU파워는 최고가 아니여도 됩니다.. 대신 PCIe 레인 갯수나 GEN 이 중요합니다..
GPU가 많이 장착가능한 (4개 - 8개) 서버를 찾고 있습니다. 하지만 CPU상에서 복잡한 전처리를 돌릴 때도 있어서 CPU 파워도 중요하곤 합니다. 그래서 가능하면 CPU도 좋은 것을 쓰고 싶은 상황입니다.
GPU가격 때문에 그런 것인데
GPU가격에 비해 메모리나 CPU의 가격은 상대적으로 저렴한 경우가 많기에 최고사양의 CPU와 메모리를 꼽아 버리는 경우가 은근히 있습니다..
개인적으로는 최신 CPU 나 GPU가 발표되고 나서 최소 6개월에서 1년은 기다려야 한다고 생각합니다..
그동안 어느 정도 알려지지 않은 버그 같은 것을 바이오스나 펌웨어 업데이트를 통해 걸러내야 한다고 생각하기 때문입니다..
그리고 최고와 표준(?)의 GPU 서버를 생각하신다면 엔비디아 오리지날 GPU 시스템인 DGX 시스템을 생각하면 됩니다..
문제는 가격이 아마도 GPU 서버 중에서 재일 비싸고 무상 AS기간이 끝나면 거의 아무것도 지원받지 못한다는 것인 듯합니다..
https://bbs.ruliweb.com/pc/board/300006/read/2275729?cate=67
GPU 8개 정도 설치할 수 있는 GPU 서버 제조사는 의외로 몇군데 안됩니다..
그리고 반도체 대란이 아직 계속 되고 있기에 서버쪽은 발주하고 나서 최소 4개월 이상 기다려야 물건을 받는 경우가 흔합니다..
다나와에 DDR5 레지스터 메모리와 최신 4세대 서버 CPU가 등록되는 시점이 리테일 조립서버들이 어느 정도 준비되어 판매 시작되었다고 보시면 됩니다..
아직은 DDR5 레지스터 메모리와 최신 4세대 서버 CPU가 다나와에 등록되지 않은 것으로 알고 있습니다..
인텔 스케일러블 제온 1세대도 인텔이 발표하고 나서 거의 6개월이 넘어서야 다나와에 등록되었습니다..
이것은 인텔 스케일러블 제온 CPU 자체가 그 전 제온(E5-2600 V4)보다 소비자나 판매자가 생각하는 가격보다 많이 비쌌었기에 인기가 없었기 때문입니다..
제가 알고 있는 범위 내에서 말씀드리면 지금 기준으로 CPU 단품 구매는 쉽지 않을 것 같습니다. 밴더사에서 완제품 서버를 주문하면
쉽게 주문 가능합니다. 납기는 대략 8~10주 정도 예상하시면 맞을 것 같습니다.
ASROCKRACK, 기가바이트, ASUS 브랜드 모두 GPU 서버 주문 가능한 것으로 알고 있습니다.
돈이 더 들턴데요.
CUDA 나 OPEN-CL로 많이 하고 돈이 덜 드는데.
CPU로 무장하려면 RTX 4090을 이기려면
CPU 8개는 달아야 할텐데요..
EPYC CPU도 코어 많으면 1개에 1천만원이 넘을 건데요..
PS/ 알아보니 출시가가
The $11,805 EPYC 9654
국내 들어오면, 1700만원이 넘네요..2개만 달아도 3400만원인데..
4090 이 더 싸게 먹힐 것 같습니다.
xeon의 특화 가속기능을 이용하지 못 하는 소프트웨어 라면 같은 가격대에서 사파이어래피즈는 에픽 제노바에 확실히 밀리는 성능 입니다.
실제로 HPC 등지의 깡CPU 성능이 중요한 분야에서는 EPYC CPU들이 상당히 많은 지분을 가져가고 있습니다.
거부감 없으시면 고민 한번 해보세요.
그러면서 전력은 더 많이 쓰죠;