안녕하세요. 기계공학부 대학원생입니다.
현재 연구실에서 사용 할 워크스테이션을 구매하기 위해 여러가지 알아보고 있습니다.
예산 안에(2000~2500) 최대 스펙(RTX 3090, 4way)을 맞추려고 하고, 주로 딥러닝을 할 예정입니다.
또한, 최대 3~4명의 사용자가 동시에 접속하여 사용하고자 합니다.
이에, windows connection license를 구입하여 서버를 구축하고자 하는데,
- 여러명이 동시에 접속하여 연산을 처리할 때에 각자가 원하는 만큼의 GPU를 할당(?)해서 연산하는 것이 가능한가요?
- 또한, 동시에 연산처리를 했을때 발생할 수 있는 이슈가 있을까요?
처음 관련 정보를 알아보게 되어 미숙한 질문 올리는 점 양해 바랍니다.
감사합니다!
김동주
보통 3090 4way 워크스테이션은 대개 커스텀수냉빌드를 많이 합니다.
서울권에 전문 업체에 맡기시는걸 추천드리구요. 양컴 추천드립니다.
여기가 워크스테이션 잘 하더라구요
위에 머신러닝용 워크스테이션은..
4명이서 윈도우서버나 우분투서버에 동시에 접속하여 동시에 4가지 일을 같이 하는 구조입니다.
그 가계가 연구용 워크스테이션을 그렇게 설계하면.. 이말은 실력이 없다는 뜻입니다.. 잘 하는게 아닌거구요..
내부 트렌젝션 양이 4배라는 뜻입니다.. 게임할 때와의 상황이 달라요...
윈도우즈 어떤 것을 사용 예정이신가요??
windows connection license ===> 보통 CAL 이라고 부르는 것인가요??
사용할 딥러닝 프로그램이 무엇인가요??
- 저도 처음 알아보는 것이라 확신은 없으나, 'CAL'이 맞는 것 같습니다.
- 주로 Anaconda를 이용해 Python으로 코드를 짤 예정입니다.
CAL은 한서버에 동시접속자 수를 정하는 라이센스입니다..
모자르면 사야 합니다..
- 여러명이 동시에 접속하여 연산을 처리할 때에 각자가 원하는 만큼의 GPU를 할당(?)해서 연산하는 것이 가능한가요?
- 또한, 동시에 연산처리를 했을때 발생할 수 있는 이슈가 있을까요?
이런 것은 OS단에서 처리되는 것이 아니고 응용프로그램단에서 처리되는 것으로 알고 있으며 사용하실 프로그램인 Anaconda 가
우선 3090 같은 GPU도 지원되는지 아니면 본래 전용인 쿼드로/테슬라만 지원되는지 알아보시고 그 다음 위의 두가지 항목에 대해 알아보시기 바랍니다..
참고로, Anaconda를 이용한다기 보다, Spyder를 이용한다가 더 올바른 답변이겠군요.
아무튼 말씀해주신 부분 알아보도록 하겠습니다.
다시한번 감사드립니다.
이것은 os와 어플모두 지원해야 가능한 것으로 알고 있습니다
cpu같은 경우는 os가 지원하면 어느 정도는 가능한 것으로 알고 있는데
딥러닝에서 사용하는 CUDA는 이런 기능이 없는 것으로 알고 있습니다
그러니까 일단 CUDA 적용 어플을 작동시키면 gpu 갯수를 모두 인식하고
모두 사용합니다 사용량이 1% 미만이라도 말입니다
로드 밸런스 같은 옵션이 있어야 하는데 이런거 없는 것으로 압니다
다른 방법으로 가상화를 생각할 수 있는데 게스트에 따라 gpu를 1개 혹은 2, 3개
자유롭게 정의할 수 있으면 좋을텐데 이런 것도 없는 것으로 압니다
만일 4명이 gpu 4개 사용한다면 1개씩 있는 시스템 4개를 구성하는 것이
좋을 거 같습니다
말씀하신 것처럼 할당이 불가하다면, 4대로 나누거나, 서버를 포기하는게 방법이겠군요...
1cpu+1gpu 컴 4개를 클러스터로 만들 수 있다는 것이죠
용도에 따라서 1cpu+1gpu 컴 4개로 사용할 수도 있고
1cpu+1gpu 2개 클러스터 2세트로 만들 수도 있고
1cpu+1gpu 3개 클러스터, 1cpu+1gpu 1개 컴으로
또 마지막으로 1cpu+1gpu 컴 4개를 단일 클러스트도 가능합니다
그러니까 1cpu+1gpu 컴 4개를 만들어서
클러스터링을 통해서 원하는대로 구성을 할 수 있다는 것이죠
오픈소스 개념이면 해당 홈페이지에 질문해 보는게 최선이겠네요..
또한 RTX 3090 수냉 빌드는 유지보수상 추천드리지 않습니다.
여러명이 접속해서 이용하실려면 리눅스 (우분투) 계열을 추천드립니다. 윈도우는 추천드리지 않습니다.