달광이 2023-10

반문해 보고 싶네요..
Gpu를 언제 쓰시나요?

Nvidia-docker(? Docker-nvidia 였던가?)를 설치하시나요?
Gpu를 쓰는 라이브러리가 없다면 gpu는 낭비죠

박문형 2023-10

보통 GPU 서버는 주 계산이 GPU에서 행해지며 CPU는 각 GPU를 연결하는 연결통로 정도로 밖에 사용되지 않습니다..

약간의 계산을 요구하는 코딩을 하는 연구 ==> 이 계산이 GPU 없이 CPU 만으로 잘 동작하면 위의 사양에서 조금만 보완하면 될 듯하고 (3060도 필요하지 않을수 있음)

그렇지 않고 GPU를 써야 계산이 빨라진다면 GPU 쪽에 투자를 해야겠지요..

저는 GPU쪽은 잘은 모르지만 GPU 전용 프로그램도 단일 GPU에서만 돌아가는 것이 있고 멀티 GPU 도 지원하는 프로그램이 각기 따로 있는 것으로 알고 있습니다..

그리고 CPU만 따졌을때도 사용하는 프로그램이 단일 코어에서 혹은 몇개의 코어에서만 돌아가는지 아니면 모든 코어를 다 사용해서 계산하는지도

알고 있어야 CPU 모델을 고를때 조금은 편해집니다..

프로그램이 단일코어나 4개의 코어만 사용할수 있는 프로그램이라면 코어가 40개 80개씩 되는 CPU에서는 코어 4개만 사용되기에 시스템 낭비가 되는 것이죠..

금액이 한정되어 아마도 조립시스템이 될 확률이 높습니다만 파워는 넉넉히 하시던지 리던던트 파워로 해주면 좋습니다..

Skhfk 2023-10

gpu는 개인용 pc에서 3080 수준의 사양을 쓰고 있고 nvidia 도커는 사용하지 않습니다! Cpu는 Intel Xeon Silver 4210R Processors (10cores, 2.4GHz, 13.75MB cache)를 생각하고 있습니다!

박문형 2023-10

현재 인텔 스케일러블 4세대까지 나와 있습니다만 코로나 /반도체 대란등으로 스케일러블 1세대/2세대 CPU를 사용한 시스템도 판매가 되고 있기는 합니다..

원하시는 CPU와 시스템이 아직 새 제품이 판매가 가능한지부터 알아보세요..

(제가 느끼기에는 스케일러블 1/2세대는 단종으로 보이며 가끔 중고제품도 나옵니다..)


학교 연구소라면 아마도 새 제품만 납품 가능할 것 같은데 만일을 위해서 GPU 4개 아니면 2개까지는 설치가능한 시스템으로 알아보시고

우선 GPU 3060 하나로 셋팅해서 운영해보시고 GPU 파워가 모자르면 그 때 GPU만 늘려나가면 될 듯합니다..


자금에 여유만 있다면 DELL 이나 HP의 벤더 완제품이 검증도 되어 있고 좋기는 합니다.. (문제는 옛날보다는 많이 싸졌지만 역시나 가격)

그 외 대학교쪽에서는 슈퍼마이크로 베어본 시스템이 많이 사용됩니다.. (벤더 제품 보다는 싸지만 품질이 괜찮음 가성비 좋음)

어느 정도 사양과 모델이 정해지면 여기 견적란에 견적 문의를 해보세요.. (견적란에 글 올리면 글 하나당 포인트 200 점이 차감될 겁니다..)

Skhfk 2023-10

소중한 답변 감사합니다!!

dateno1 2023-10

정확하게 어느정도 수준의 데이터로 뭘 얼마나 돌리실껀지 안 적어두셨으니 충분하냐고 물어도 대답하기 곤란하네요

기본적으로 40개나 돌린다는 시점에서 램 128기가는 적다고 봅니다 (단순하게 128/40하면 개당 3기가밖에 못 줍니다)

거기다 40개가 일시적이라지만 GPU를 호출해야한다면 1개밖에 없으면 병목 현상이 생길지도 모르겠네요

또한 디스크 용량도 뭘 얼마나 저장하실껀지 전혀 언급 안 하셨으니 패스합니다

일단 지금 가지신 컴으로 몇개 돌려서 리소스 사용량부터 체크해보시고, 데이터 저장 용량이 얼마나 필요한지도 산출해보시는게 먼저라고 봅니다

리소스 사용량 모니터링해보면 필요 스팩이 산출되니 그걸 기준으로 조금 넉넉하게 잡아서 (하루이틀 쓸게 아닌 이상 작업하다보면 40개가 50개가 될 수 도 있고, 처리해야할 데이터가 늘어날 수 도 있고, 인원이 늘어날 수 도 있습니다) 시스템 구성하시는걸 추천합니다