학습시키다가 느끼는 어려운 점

   조회 3725   추천 2    

100만개 정도 되는 데이터 셋을 준비해서

이렇게도 연결 해 보고 저렇게도 연결 해 보고

해 보고 있는데 하다 보니

네트워크 하나를 시험하는데 12시간 정도는 들어가는 것 같습니다.


그런데 하다 보면 시험 해 보고 싶은 연결도 종류가 많고

파라메터들도 바꿔 볼 수 있는 조합이 많은데

한번 결과를 보려고 하니 오래 걸려서 답답합니다.


알려진 유명한 네트워크들 Lenet 이라든지 googLenet 이라든지

Alphago에 사용된 네트워크들 같은것들을 처음 들었을 때는

그냥 아 좋은 컴퓨터로 한달 돌려서 결과를 얻었구나 했는데


실제로 만들어 보니 결과가 나온 학습 시간 보다

그런 구조를 만들어 내기 까지

얼마나 많은 노력과 시간이 들었을지 조금 짐작이 됩니다.


현실은 Ram이 부족해서 tfrecord로 데이터를 만들어서 Batch로 불러가며 쓰고 있는데

Ram을 늘여서 다 불러 놓고 쓰면 좀 빨라지려나요


장님이 코끼리 다리 만지듯이 하다보니

전문적으로 이론을 다 알고 네트웍을 척척 조립해서 만들어 보면

좋겠다는 생각을 하게 되네요

박문형 2017-07
덩치 큰 작업은 램 빨 무시 못합니다..

좀 다르지만 제가 아는 사람은 캐드데이터가 커서 CPU 4개 메모리 1테라 짜리 컴퓨터를 생각했었습니다..

그 외 사용하시는 네트웍이 기가비트인터넷인가요? 인피니벤드인가요??

인터넷과 인피니밴드는 많이 다릅니다..
     
제 모델은 그렇게 복잡하지은 않아서
PC 한대에 gtx1080ti 하나로 그냥 그냥 돌리고 있습니다.
한대로 돌리다 보니 네트워크는 쓰지 않고요

램이 128G 만 되도 될것 같은데
보드를 갈아야 하는 귀찮음에 그냥 하고 있습니다

써 놓고 보니 보드를 갈아야 겠네요!
          
무아 2017-08
세상의 대부분의 알고리즘을 보면 레퍼런스 알고리즘이 있고 그와 동일한 결과를 내는 fast 알고리즘도 있습니다.
당분간 미래에 사람이 할 일은 이러한 fast 알고리즘, 가성비를 높이는 구성을 개발, 구축하는 쪽이 아닐까 싶습니다.
     
황순환052 2017-08
어떻게 cpu를 네 개를 쓰죠? 2cpu 마더보드를 이더넷으로 연결해서 클러스터 컴퓨터처럼 쓰는 건가요? 그리고 pcie같은걸로 램을 확장하나요? 옜날에 램 디스크처럼요.
          
cpu 4개가 꽂히는 메인 보드도 있더라고요
제 글 중에 보시면 사서 올렸던 글이 있습니다
램도 서버 중에는 1tb 지원 하는게 있고요
               
황순환052 2017-08
답글 감사합니다. 기업용 제품군을 엔터프라이즈라고 하나요? 그 끝은 알 수가 없군요... 백만스물하나님의 4cpu 마더보드가 판매가 됐다는 것에 또 한번 놀랐습니다...
                    
저 서버는 cpu 4개 해서 64thread 였는데 새로 나온 amd epic 최고 사양은
하나에도 64thread 더라고요
2 way 도 되니 듀얼로 128thread 까지 되네요
군침만 흘립니다
                         
황순환052 2017-08
개인용도로 쓰시는 건가요? 딥러닝은 말만 들어봤지 아는 게 없어서요;;
                         
예 개인 용도 입니다
한병준 2017-08
데이터셋 모두를 다 학습시키지 마시고
우선은 1% 정도에 대해서만 성과를 확인해보신 후
점차로 데이터량을 옮겨가세요.
실험은 효율입니다.
     
예 감사합니다.
작은 데이터에서 되는 걸 보는게 먼저 인 것 같습니다.
박현문 2017-11
학습용 Class를 구분짓는 것이 우선입니다. 그냥 데이터셋을 모두다 밀어넣으면, 어마어마한 시간이 걸리고요. (이건 구글이나 할수 있는짓), 이런류는 대부분 Class 셋을 구분짓은 알고리즘을 돌려서 class 셋을 짓고 연결하고 학습시키는 것입니다.
..그냥 Big Data를 밀어넣는 경우가 없으면 좋겠습니다...




제목Page 1/3
2014-04   1901764   회원K
2015-12   8974   백메가
12-26   734   sephiroce
12-05   933   백만스물하나
2017-11   1337   Kams6052
2017-10   1568   까치98
2017-09   2936   날개
2017-07   3726   백만스물하나
2017-06   3790   백만스물하나
2017-06   3956   백만스물하나
2017-06   2831   노형석
2017-05   2793   김황중
2017-05   2366   백만스물하나
2017-05   2219   띠껑
2017-05   2270   승후니도쿄
2017-05   4451   승후니도쿄
2017-05   3456   blueMango
2017-04   3400   하셀호프
2017-04   2776   베리파잉
2017-04   3110   하셀호프
2017-04   2209   신현준
2017-04   2778   임은천