클라우드 상에서 클러스터 이용

   조회 25885   추천 1    

안녕하세요


클라우드 서비스를 어떻게 싸게 사용할까

하고 찾다 보니 클러스터 개념으로 사용하는게 있어서 소개드립니다.


http://star.mit.edu/cluster/


메인이 되는 컴퓨터 하나에서 spot instance가격을 체크해서

하위 instance를 활성화 해주는 개념인데요

현재는 $0.43 정도에 GPU 4개짜리 인스턴스를 사용 할 수 있네요

GPU를 40개 돌려도 한시간에 $4.3 밖에 안되네요

(생각해 보니 많이 쓰면 가격이 올라가서 인스턴스가 끊어 질 수 도 있겠습니다)


과거에 이미지 분류 머신러닝 대회에서 우승한 팀이 GPU 8개로 2주동안 돌려서

학습한 모델로 우승했다는 기사를 봤었는데요 (몇년 전 일 입니다.)

단순 계산으로 $288.96 정도면 위의 학습량을 할 수 있겠네요



써 놓고 보니 이걸 쓰는게 좋을지 GPU4개 붙인 컴퓨터를 조립해야 할지

고민이 됩니다.


짧은글 일수록 신중하게.
강영준2C 2016-08
유연성 + 통제를 위해 저는 하드웨어를 구축해서 씁니다...
클라우드는 입맞대로 하는거에 대해서 제약이 있는거 같에서요... (물론 클라우드 써보지않아서 모르는 추측성 발언입니다...)
     
nshhsn 2016-08
하드웨어는 어떻게 구성하셨나요?
Gpu를 4개 정도 달고 싶은데
집에 놓자니 소리랑 전기가 걱정이 되네요

돈보다 시간이 중요할 경우에는
클라우드도 괜찮은 선택이 될것 같습니다
마음대로 늘일 수 있으니까요
          
강영준2C 2016-08
저도 GPU 서버 집에 놔두는 사람입니다만
GPU 관련해서 이것저것 고민해봤습니다.

2cpu를 사용해서
16배속 4개를 쓸지
아님 1cpu를 사용해서
8배속 4개를 쓸지

전자의 경우는 2cpu 사이에 QPI가 있어서 GPU간 통신시 레이턴시 차이로 문제가 생길수도있습니다.
후자의 경우는 레이턴시는 일정하지만 16배속이 아닌 8배속이라는 거구요

일단 저 같은경우는
2670 하나로 16배속 두개 씁니다.
그리고 이후에 8배속 4개로 갈예정입니다.

16배속 급의 대역폭이 필요한 작업은 아닌거 같고
레이턴시가 더 중요할거 같에서입니다...

전 에어컨 24시간 틀어 놓는지라
소리는 별로 신경안쓰긴합니다만 (풀로드 해도 의외로 조용합니다.. RX480블로워쓰는데...)

문제는 전기네요
하이엔드 4개 돌리실려면
최소... 1200W급 파워는 있으셔야 겠네요 
저는 일단 두개 돌리는지라
1050W 파워로 돌리고 있습니다...




제목Page 1/1
2015-12   9905   백메가
2014-05   2519448   정은준1
2017-04   31739   gusanaki
2017-02   41274   김규성
2017-02   48379   epowergate
2017-01   41393   컴박
2016-12   60855   왕머슴
2016-10   54077   perls
2016-11   27745   낙원전자
2016-10   30355   perls
2016-10   28573   강물처럼
2016-09   42146   백만스물하나
2016-08   29626   쌍cpu
2016-08   25886   백만스물하나
2016-08   25008   백만스물하나
2016-08   21961   컴박
2016-08   19825   Midabo
2016-08   14178   전직단백질…
2016-08   14225   김성훈
2016-07   18164   유동훈
2016-07   22396   유동훈
2016-07   25347   유동훈
2016-06   32333   DoubleSH
2016-04   38269   inter6
2016-03   47875   izegtob
2016-03   29070   izegtob
2016-03   27058   izegtob
2016-03   18845   izegtob
2016-03   11011   izegtob
2016-03   9892   izegtob
2016-03   8904   izegtob
2016-03   10347   1CPU지창훈
2016-02   13218   Midabo
2016-02   11440   이규섭
2016-01   13697   임진욱
2016-01   15472   권오준
2016-01   12427   izegtob
2016-01   11621   허진형ALpha
2016-01   9074   송지만
2016-01   8189   izegtob
2016-01   6919   izegtob
2016-01   7029   izegtob
2016-01   7650   회원K
2016-01   8166   캔위드
2016-01   7103   유정호샤콘느
2016-01   8129   정은준1
2016-01   6928   영업과철학
2016-01   8049   회원K
2016-01   11177   MikroTik이진
2015-12   7538   안형곤
2015-12   7917   김준연
2015-12   7529   Curix김경수
2015-12   8554   허진형ALpha
2015-12   9186   회원K
2015-12   7238   임진욱
2015-12   7511   회원K
2015-12   6546   문광화
2015-12   6975   조재형3
2015-12   6518   정은준1