쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다
안녕하십니까.
현재 딥러닝 용도의 100TB 이상의 용량이 장착된 GPU 서버가 필요한 상황입니다.
이 상황이면 보통 스토리지 서버(DAS, NAS, SAN)와 GPU 서버를 분리한다고 하더라고요.
증설이나 관리하기는 나누는 게 편할 것 같긴 해서 스토리지 서버를 나누려는데, 비용 상 DAS와 NAS 중에 선택을 해야 할 상황입니다.
증설은 2,3년 내로 스토리지 서버, GPU 서버 각각 1대 이상으로 늘어날 것 같습니다.
1. DAS를 사용한다면
큐냅 DAS를 사용하면 Raid 지원 + NAS에 연결 가능이고
2cpu에 검색해본 결과, 다른 분들이 딥러닝에서 nas를 사용하면 I/O 이슈가 있을 거라고 DAS, SAN을 추천하시더라고요.
2. NAS를 사용한다면
속도는 상대적으로 빠를 것 같긴 한데, 저희 네트워크가 가끔 멈춤 현상이 있습니다.
다만, 공용으로 사용하는 네트워크가 하나 있는데 이것은 그런 현상이 없어서 여기에 연결해서 보안만 추가적으로 신경쓰면 어떨지 생각중이고요.
혹시 이런 상황이라면 DAS, NAS 중에 어떤 것이 더 나을까요?
제가 이쪽 지식이 부족해서 알려주신다면 감사하겠습니다.
저의 용도는 GPU 서버 1대에 nfs를 이용하여 로컬하드처럼 사용하고 싶은 것이고요.
그냥 검토 대상 조차 아닙니다
그렇다면 DAS를 사용하라는 말씀이실까요?
회사 자체적으로 진행하신다면 관련 업체를 부르시는게 나을겁니다.
NAS(Network Attached Storage)와 DAS(Direct Attached Storage)의 기본적인 개념부터 확인을 하셔야 할 듯 합니다...
물론 DAS라고 해도 물리적인 형태로는 네트워크로 연결되는 경우도 있지만 (예를 들면 SAN) 근본적인 용도나 프로토콜이 다르죠..
GPU 서버는 어느 회사 제품을 사용하시려고 하시나요??
그 제조사에 문의하여 스토리지를 추천 받음이 좋습니다..
그 제조사에서 솔류션이 없으면 엔비디아 코리아까지 올라가야 하실 듯합니다..
https://www.youtube.com/watch?v=L4AKeW0Y-F0
PURE STORAGE 라는 제품입니다..
동영상 보시면 아시겠지만 엔비디아 GPU 서버쪽 파트너라고 합니다..
가격은 상황에 따라 틀리지만 사용하시려는 GPU 서버보다 비쌀 수 있습니다..
PURE STORAGE 찾아보면 아시겠지만 국내지사도 있고 랜탈서비스도 하는 듯합니다..
확장성을 고려해서 데이터 공유가 필수여야 한다면,
성능을 끌어올리는 작업을 엄청해야하는데...
비용과 시간에 비례하고, 튜닝기술및노하우가 있어야 시도는 해볼수 있습니다.
비용접근으로 그냥 편하게 가시려면, 억단위로 가야될것 같구요.
시간접근으로 가시면 엄청공부하고 삽질 많이 해야 하는데,
나중에 데이터 복구기술 확보안되면 안하시는게 좋습니다. 평생 A/S 발목
그냥 학습용으로 느려도 사용하시겠다면 기성품 노멀 NAS 제품을 사용하셔도 되는데 비추입니다.
그 속도를 받쳐 줄 수 있는 스토리지여야 하고 그렇지 못하면 시스템 전체가 느려지거나 알게 모르게 데이터 망실도 일어날 수 있습니다..
그것(속도)을 알아야 어느 정도의 솔류션이 필요한지 아니면 구현이 가능한지 불가능한지를 알 수 있습니다..
cpu : amd 5975WX
ram : 1TB
ssd : 2TB
gpu : rtx 4090 * 2
여기서 hdd 120TB를 그대로 넣을지, 스토리지를 따로 분리할지가 고민이고요...
만약 nas로 하려면 ssd 2TB 정도를 캐시용으로 추가장착 할 계획입니다.
조립 시스템에 케이스만 크면 HDD는 때려 박을수 있지만 거기에 맞는 파워와 케이블링이 쉽지 않습니다..
그리고 스토리지용 파워는 12V는 좀 용량이 작아도 되지만 5V와 3.3V는 용량이 커야 합니다..
요즘 나오는 파워들은 GPU용이라고 봐야 하기에 5V와 3.3V가 옛날 파워 만큼 크지 못합니다..
(옛날 [10~15년전] 파워는 5V와 3.3V가 30~35A까지 제품이 있었지만 요즘 나오는 파워는 최대가 25A 수준입니다..)
그리고 위의 시스템은 4090 이 2개 들어가기에 시스템 파워가 2000와트 급이 아니면 시스템이 버티지를 못할 것입니다..
국내에서 구할 수 있는 재일 큰 ATX 파워가 2000와트 정도 입니다..
18TB 하드 8개 정도 설치해보면 아시겠지만 개인적 생각으로 파워부족으로 파워가 버티지를 못해서 동작하면 다행이고
동작해도 오랫동안 동작하기는 힘들어 보입니다..
GPU 서버는 아마 계산 시간 때문에 24시간 1년 365일을 켜두고 써야 할듯한데요..
하드 많이 꼽았다가 시스템이 전체적으로 불안해져 버리면 그것 나름대로 문제입니다..
그렇기에 하드와 파워를 분리해서 밖으로 빼는 방법을 생각하는 것이고 그 방법이 DAS아니면 NAS 입니다..
바로 밑의 검은콩님의 딜레마도 거의 같은 문제입니다..
.
NAS ---> SAN ---> DAS 순으로 적용 해보세요^^