연구실 서버 구축을 하려고 하는데 전혀 몰라서 질문드려요
10인 정도로 구성된 연구실이며 영상, 이미지와 관련한 AI 전공 연구실은 아니므로 높은 사양의 서버는 필요하지 않지만 도커를 40개 정도 실행하는 작업과 약간의 계산을 요구하는 코딩을 하는 연구를 진행하고 있어요.
CPU - 인텔 제온 실버
GPU - 3060 한 개
메모리 - 128 GB
SSD - 1TB
HDD - 4TB
예산 - 300만원 중후반
이 스펙으로 서버 장만해도 괜찮을까요? 아니면 GPU가 여러개 필요할까요?
Gpu를 언제 쓰시나요?
Nvidia-docker(? Docker-nvidia 였던가?)를 설치하시나요?
Gpu를 쓰는 라이브러리가 없다면 gpu는 낭비죠
약간의 계산을 요구하는 코딩을 하는 연구 ==> 이 계산이 GPU 없이 CPU 만으로 잘 동작하면 위의 사양에서 조금만 보완하면 될 듯하고 (3060도 필요하지 않을수 있음)
그렇지 않고 GPU를 써야 계산이 빨라진다면 GPU 쪽에 투자를 해야겠지요..
저는 GPU쪽은 잘은 모르지만 GPU 전용 프로그램도 단일 GPU에서만 돌아가는 것이 있고 멀티 GPU 도 지원하는 프로그램이 각기 따로 있는 것으로 알고 있습니다..
그리고 CPU만 따졌을때도 사용하는 프로그램이 단일 코어에서 혹은 몇개의 코어에서만 돌아가는지 아니면 모든 코어를 다 사용해서 계산하는지도
알고 있어야 CPU 모델을 고를때 조금은 편해집니다..
프로그램이 단일코어나 4개의 코어만 사용할수 있는 프로그램이라면 코어가 40개 80개씩 되는 CPU에서는 코어 4개만 사용되기에 시스템 낭비가 되는 것이죠..
금액이 한정되어 아마도 조립시스템이 될 확률이 높습니다만 파워는 넉넉히 하시던지 리던던트 파워로 해주면 좋습니다..
원하시는 CPU와 시스템이 아직 새 제품이 판매가 가능한지부터 알아보세요..
(제가 느끼기에는 스케일러블 1/2세대는 단종으로 보이며 가끔 중고제품도 나옵니다..)
학교 연구소라면 아마도 새 제품만 납품 가능할 것 같은데 만일을 위해서 GPU 4개 아니면 2개까지는 설치가능한 시스템으로 알아보시고
우선 GPU 3060 하나로 셋팅해서 운영해보시고 GPU 파워가 모자르면 그 때 GPU만 늘려나가면 될 듯합니다..
자금에 여유만 있다면 DELL 이나 HP의 벤더 완제품이 검증도 되어 있고 좋기는 합니다.. (문제는 옛날보다는 많이 싸졌지만 역시나 가격)
그 외 대학교쪽에서는 슈퍼마이크로 베어본 시스템이 많이 사용됩니다.. (벤더 제품 보다는 싸지만 품질이 괜찮음 가성비 좋음)
어느 정도 사양과 모델이 정해지면 여기 견적란에 견적 문의를 해보세요.. (견적란에 글 올리면 글 하나당 포인트 200 점이 차감될 겁니다..)
기본적으로 40개나 돌린다는 시점에서 램 128기가는 적다고 봅니다 (단순하게 128/40하면 개당 3기가밖에 못 줍니다)
거기다 40개가 일시적이라지만 GPU를 호출해야한다면 1개밖에 없으면 병목 현상이 생길지도 모르겠네요
또한 디스크 용량도 뭘 얼마나 저장하실껀지 전혀 언급 안 하셨으니 패스합니다
일단 지금 가지신 컴으로 몇개 돌려서 리소스 사용량부터 체크해보시고, 데이터 저장 용량이 얼마나 필요한지도 산출해보시는게 먼저라고 봅니다
리소스 사용량 모니터링해보면 필요 스팩이 산출되니 그걸 기준으로 조금 넉넉하게 잡아서 (하루이틀 쓸게 아닌 이상 작업하다보면 40개가 50개가 될 수 도 있고, 처리해야할 데이터가 늘어날 수 도 있고, 인원이 늘어날 수 도 있습니다) 시스템 구성하시는걸 추천합니다