스토리지 서버 구성에 대해서 질문이 있습니다

D0111   
   조회 1925   추천 0    

안녕하세요. 처음으로 질문을 올립니다. 해당 분야에 전문적인 지식은 인터넷으로 주어들은 정도입니다.


영상제작을 하는 팀으로 기존 벤더사 제품을 사용하고 있습니다만 

벤더제품이 안정성이나 좋다는 것은 알고있지만 

이 부분에 대해 평소 공부해 보고 싶은 마음이 커서 스토리지 서버를 구축해보고 싶습니다.



색보정 작업자 포함 약 8명 정도가 서버에 있는 클립을 작업할 수 있었으면 하는데

일단 제작하는 영상은 4k 60p로 대역폭은 아래와 같습니다.

4096 x 2160 (30P 기준)

Apple ProRes 422 - 78.63 MB/s

편집할때 비디오 트랙은 4트랙 정도 사용합니다.


네트워크는 10G로 셋팅되어 있습니다.


작업PC는 i9에 GPU는 듀얼된 구성이라

다빈치와 프리미어를 주로 사용하는데 GPU가속이 되는 다빈치에서 4K영상은 무리없이

플래이백이 가능하지만 스토리지 구성을 생각해 보면 대역폭이 엄청 많이 필요할 것 같은데 감이 잘 잡히지 않아 질문드립니다.


질문1

읽기 속도가 어느정도 나와야 원활하게 사용가능한 서버를 만들 수 있을까요? 

Apple ProRes 422 - 78.63 MB/s X 2 (60p) X 8(사용자8명)  X 4(사용자당 트랙수) =  5,032MB/s 단순히 이런게 대역폭을 계산해야 하는건가요?

숫자가 무시무시한데... 아니면 한대로는 안될까요?



질문2

레이드의 읽기 속도는 정직하게 올라가나요?

100MB 읽기속도 하드 두개를 Raid0 으로 했을때 200/MBs 된다는 건데

10개 묶었을때 1GB/s 이렇게 몇개를 묶던 정직하게 계속 상승하나요 아니면 일정 수준 이상이면 더이상 올라가지 않나요?

사타3 8TB 24개를 Raid 10 으로 묶고 싶은데 하드 읽기 속도가 200이라 했을 때 2.2GB/s 정도 라고 생각해도 되는 건가요?

컨버팅용 PC에 8tb 4개를 스트라이프로 묶었을 때는 예상한 정도의 읽기 속도가 나왔는데

개수가 많아져도 이 계산법이 맞는지 궁굼해요.


질문3

아답텍에 최신 레이드 카드를 보면  12g 제품이 있던데 사타하드 쓸꺼면 12g로 보는 이득은 없는 걸까요?


질문4

레이드 카드를 두개를 달 수 도 있나요?? 그렇다면 그걸로 하나의 볼륨을 만들 수 있나요??

24포트 짜리를 안쓰고 16포트 두개를 달아서 하시는분들도 계신것 같은데 동일하게 24개 하드를 쓴다고 했을 때 장점이 있나요?


질문5

제온 계열이 아니여도 좀 괜찮은 PC면 무리없이 레이드 카드 사용할 수 있나요??

편집실이다 보니 그래도 좀 괜찮은 PC가 남아서요~!


질문6

SMB 공유로 이런것들을 무리없이 할 수 있을까요?

아니면 다른 포트를 이용해야 하나요?


긴들 읽어 주셔서 감사합니다.

영상편집 서버 구축경험이 있으시다면 팁 좀 부탁드립니다. 


박문형 2020-11
1. 4K는 4K 검증된 전용 장비로 하는 것이 좋습니다만 아무래도 가격이 후덜덜해집니다..

  http://www.accusys.com.tw/kr/ExaSAN/SW16-G3/

2. 레이드 카드 자체도 대역폭이 있는지라 어느 정도 갯수가 되면 퍼포먼스는 떨어집니다..
    말씀 하시는 것은 이론치라고 보시면 됩니다..

3. SATA HDD가 아직은 6G 밖에 없기에 전체적으로는 6G로 동작하지만 12G 레이드 카드의 프로세서는 6G 보다는 빠릅니다..

4. 레이드 카드는 다는 시스템이 허용하는 한계상까지는 붙입니다만  거의 4개가 최대입니다..
    여러개의 레이드 카드의 볼륨을 하나로 하지는 못합니다.. (OS에서 다시 묶어줄수는 있지만 번거롭지요..)

    http://www.2cpu.co.kr/hardware_2014/41836?&sfl=wr_name%2C1&stx=%B9%DA%B9%AE%C7%FC&sop=and

5. PC활용을 할 수는 있지만 워크스테이션 급인 8X 이상의 PCIe가 많을수록 좋습니다..
    일반 PC로는 레이드 카드 1개 달기도 벅찹니다..

6. SMB구성을 할 수는 있겠지만 어짜피 네트워크인지라 대역폭만 확보되고 실제 퍼포먼스는 해봐야 알겠지만 제 생각에는 출렁출렁입니다..


http://www.2cpu.co.kr/hardware_2014/36546?&sfl=wr_name%2C1&stx=%B9%DA%B9%AE%C7%FC&sop=and&page=2

http://www.2cpu.co.kr/hardware_2014/36560?&sfl=wr_name%2C1&stx=%B9%DA%B9%AE%C7%FC&sop=and&page=2

이것은 좀 된 6G 스토리지 서버 입니다..

속도용은 아니고 자료 보관용입니다..
     
D0111 2020-11
답글 감사드립니다~ 링크 걸어주신 자료 천천히 읽어봐야겠네요~
열심히 공부해봐야겠어요~!
          
박문형 2020-11
https://www.youtube.com/user/AccusysExaSAN

요즘은 영상시대 인지라..

여기 회원중에 영상쪽 일하시면서 작업용 스토리지 PC만들어 사용하시는 분 계십니다..
               
D0111 2020-11
해당사에 제품 라인업은 굉장히 좋은 제품으로 알고 있습니다.
Accusys코리아에 견적요청까지 한적은 없지만 좋은제품이라 항상 주시하고 있는 제품이라서요.

리누스테크라는 유튜버도 적당히 쓸꺼면 만들어써라라는식으로 말했던거 같아서 더 만들어 보고싶어 졌어요ㅋ
관련분야에 대해 알고 싶은것이 먼저라 그래서 지금 당장은 고려하고 있지 않지만요~

관리해주시는 아비드 엔지니어가 계시지만 저도 테크를 좋아하기도 하고 항상 모든 문제에 의존할 수 있는건 아닌것 같아서ㅎ
                    
박문형 2020-11
제가 아큐시스코리아 초창기 맴버인지라..

아직도 가끔 연락하고 있습니다..
                         
제온프로 2020-11
아 그러셨군요.. 어큐시스....
병철 2020-11
"영상제작을 하는 팀으로 기존 벤더사 제품을 사용하고 있습니다만"
계속 잘 잘 사용하시면 되겠습니다.

개인적인 목적이 아닌 이상 가능하면 신뢰 가능한 솔루션을 쓰는게 좋습니다.
스토리지 관련해서 기존 벤더쪽에 문의 하시면 됩니다. 경쟁업체 비교견적 하시구요.
     
D0111 2020-11
답변 감사드립니다.
맞습니다ㅎㅎㅎ HP 웍과 아비드 서버를 운용중인데 턴키라 안정적이긴 하죠~
프리미어 사용량도 늘고 다빈치도 쓰고 하는데 굳이 아비드 서버를 써야 할까 하기도 하고
뭐랄까ㅋ 약간 일탈이라고 해야할까요 ㅋㅋ 자유로움을 느끼고 싶어서 ㅎ
공부해보고 싶었던게 가장 주였구요~
실제로 커스텀 제품을 만들어보거나 써본적이 없으니 이렇게 하면 어떻게 될까?  쓸수 있을까 라는 설레임이 계속 있더라구요ㅋ
영상편집일 하시면서 이렇게 만들어 쓰는 분들이 있다면 고견을 듣고 싶었습니당.
아비드 가격도 쌔고 유저도 별로 없고 해서 벤더제품보다는 만들어 쓰시는 분 들이 더 많이 있지 않을까 했습니다 ㅎ
소확행 2020-11
*비밀글입니다
     
D0111 2020-11
답변 감사드립니다.
주신 자료에 링크 따라 이것 저것 읽어볼 자료가 많네요~ 감사합니다!
epowergate 2020-11
제가 25년, 20년, 17년 전에 질문했던 내용이네요
개인적인 생각을 말쓰 드리면

1. 그런건 없습니다.  만족할 만한 성능이란건 절대로 없습니다.
"5,032MB/s가 무시무시해 보이는데" 저희가 판매한 제품중에 80GB/s를 제공하는 제품이 있습니다.
그 고객이 지금은 100배 정도만 더 빠를수 있냐고 묻습니다.

2. 아니요.  쓰기 나름입니다
쉽게 보시면 RAID Controller가 PCI 슬롯에 있죠.  HDD/SSD가 몇 개, 어떤 RIAD Controller를 사용하던 PCI 슬롯 1개 성능을 넘지 못합니다.

3.  있습니다.  2의 이유입니다

4. 가능합니다.  10개도 달 수 있습니다.  12개 까지 해봤습니다.  1개 볼륨 만들 수 있습니다.

5. 적당한 PC로 충분합니다.  하지만 Memory는 꼭 ECC 지원하는거 사용하세요

6.  할 수 있습니다.  SMB 만한게 없습니다.
문제는 지금 Apple을 사용하신다고 하지 않았나요?  Apple의 SMB가 아주 그지 같습니다.  하지만 NAS에서는 그래도 SMB 만한게 없습니다.
색작업자 2020-11
답변입니다.

파일형식을 보니, 드라마 작업을 진행하려고 하시는 것 같군요. 4k60p에 prores422이 맞는지는 궁금합니다.  룸 수를 보니, K사, M사, S사 나 종편 수준이네요.

제 생각이 맞다면, 다빈치 리졸브와 오토데스크 프레임을 연동하는 수준인 듯합니다.

질문1

읽기 속도가 어느정도 나와야 원활하게 사용가능한 서버를 만들 수 있을까요?

Apple ProRes 422 - 78.63 MB/s X 2 (60p) X 8(사용자8명)  X 4(사용자당 트랙수) =  5,032MB/s 단순히 이런게 대역폭을 계산해야 하는건가요?

숫자가 무시무시한데... 아니면 한대로는 안될까요?

계산하신 대역폭에 1.5배정도 하시는 것이 안정적입니다. 약 7000수준이 줗습니다.

이정도 수준이라면, 아큐시스제품은 상당히 어렵습니다.  퀀텀사 제품이나 넷엡, 아이슬론 정도가 무난하며, 저가로는 인포트렌드정도가 좋습니다.
아큐시스는 저가 장비로는 좋지만, 4K60P에서 속도가 급강하하거나, 볼륨이 깨지는 현상이 종종 나타납니다. 영상장비로서 쓰려고 한다면, 엔지니어가 상주해야 합니다.




질문2

레이드의 읽기 속도는 정직하게 올라가나요?

100MB 읽기속도 하드 두개를 Raid0 으로 했을때 200/MBs 된다는 건데

10개 묶었을때 1GB/s 이렇게 몇개를 묶던 정직하게 계속 상승하나요 아니면 일정 수준 이상이면 더이상 올라가지 않나요?

사타3 8TB 24개를 Raid 10 으로 묶고 싶은데 하드 읽기 속도가 200이라 했을 때 2.2GB/s 정도 라고 생각해도 되는 건가요?

컨버팅용 PC에 8tb 4개를 스트라이프로 묶었을 때는 예상한 정도의 읽기 속도가 나왔는데

개수가 많아져도 이 계산법이 맞는지 궁굼해요.

아닙니다. 셋팅방법에 따라서 약간식 차이가 납니다. 특히 영상 작업 진행시에는 셋팅에 대해서 민감하게 반응합니다. 이쪽에 정평이 나있는 장비가 SGO MISTIKA입니다. 금액이 충분하다면, MISTIKA SAN을 추천합니다. 웨타디지털도 MISTIKA SAN을 이용하고 있습니다.



질문3

아답텍에 최신 레이드 카드를 보면  12g 제품이 있던데 사타하드 쓸꺼면 12g로 보는 이득은 없는 걸까요?

약간 있다고 합니다. 저는 이부분은 잘 모르겠습니다.



질문4

레이드 카드를 두개를 달 수 도 있나요?? 그렇다면 그걸로 하나의 볼륨을 만들 수 있나요??

24포트 짜리를 안쓰고 16포트 두개를 달아서 하시는분들도 계신것 같은데 동일하게 24개 하드를 쓴다고 했을 때 장점이 있나요?

네. 속도 차가 분명하게 있습니다.



질문5

제온 계열이 아니여도 좀 괜찮은 PC면 무리없이 레이드 카드 사용할 수 있나요??

편집실이다 보니 그래도 좀 괜찮은 PC가 남아서요~!


네.


질문6

SMB 공유로 이런것들을 무리없이 할 수 있을까요?

아니면 다른 포트를 이용해야 하나요?

SMB 충분합니다. 주로 맥을 이용한다면, 전문 업체와 상의하는 것이 좋습니다. 맥을 사용한다면, NAS는 추천하지 않습니다.
제온프로 2020-11
질문 내용이 많군요..
저도 답글좀 달아 보겠습니다...
대화형으로... 주제별로 번개 모임을 가져 보는 것도 좋은 아이어가 같습니다..


영상제작용 스토리지 (NAS)

벤더제품이 안정성이나 좋다는 것은 알고있지만
=> 주로 Dell과 HP 죠, 안정성 좋죠.. 구축이 쉽고.. 원격관리 예술이구요..
    Raid 컨트롤러가 좋은게 들어가 있죠..

이 부분에 대해 평소 공부해 보고 싶은 마음이 커서 스토리지 서버를 구축해보고 싶습니다.
=> 여기에 대응 되는 솔루션은 슈퍼마이크로 밖에는 없군요....


색보정 작업자 포함 약 8명 정도가 서버에 있는 클립을 작업할 수 있었으면 하는데

일단 제작하는 영상은 4k 60p로 대역폭은 아래와 같습니다.
=>> 이걸 듣는 순간 10G Net 구나..!!

4096 x 2160 (30P 기준)

Apple ProRes 422 - 78.63 MB/s

편집할때 비디오 트랙은 4트랙 정도 사용합니다.
=> 서버에서 불러와 직접 편집하여 다이렉트 저장이군요... => 10G / 25G




작업PC는 i9에 GPU는 듀얼된 구성이라

다빈치와 프리미어를 주로 사용하는데 GPU가속이 되는 다빈치에서 4K영상은 무리없이

플래이백이 가능하지만 스토리지 구성을 생각해 보면 대역폭이 엄청 많이 필요할 것 같은데 감이 잘 잡히지 않아 질문드립니다.

=>
어머...!~
10G / 40G 랜카드가 사용할 PCIe Lane 여유있나요 ??
PCIe 슬로도 여유 있나요.. 8배속은 줘야 할건데요...


질문1

Apple ProRes 422 - 78.63 MB/s X 2 (60p) X 8(사용자8명)  X 4(사용자당 트랙수) =  5,032MB/s 단순히 이런게 대역폭을 계산해야 하는건가요?
숫자가 무시무시한데... 아니면 한대로는 안될까요?

==> 이걸 보는 순간  40G 구나...

40G QSFP+ 랜카드
40G QSFP+ 케이블
40G 16포트 QSFP+ 스위치







질문2

레이드의 읽기 속도는 정직하게 올라가나요? ( ==> 조금씩 감소)

100MB 읽기속도 하드 두개를 Raid0 (말도 않됨) 으로 했을때 200/MBs 된다는 건데 => 180MB/S 정도...
=> 보통은 Raid 5로 잡습니다..    Raid 6 도 좋구요..

10개 묶었을때 1GB/s 이렇게 몇개를 묶던 정직하게 계속 상승하나요 아니면 일정 수준 이상이면 더이상 올라가지 않나요?
=> 리니어 하게 나오지는 않구요... 조금씩 감소.. 800MB/S 정도 예상해 봅니다..
요즘 하드들은 150MB/S 정도 나오지 않나요..??

사타3 8TB 24개를 Raid 10 으로 묶고 싶은데 하드 읽기 속도가 200이라 했을 때 2.2GB/s 정도 라고 생각해도 되는 건가요?
=> SAS Enterprise 하드를 추천합니다... PC용 / NAS용 SATA는 피하시고요....

컨버팅용 PC에 8tb 4개를 스트라이프로 묶었을 때는 예상한 정도의 읽기 속도가 나왔는데

=>보통 하드드라이브가 150MB/S 이정도 나옵니다..  4개면.. 600MB/S 지만 다 나오지 않아요..
하드성능이나 컨디션에 따라.. 500MB/S 정도 기대하시면 됩니다...

3.5인치 SAS 엔터프라이즈 기준으로 말씀드립니다... 




질문3

아답텍에 최신 레이드 카드를 보면  12g 제품이 있던데 사타하드 쓸꺼면 12g로 보는 이득은 없는 걸까요?
=> 상관없이  이득이 있습니다... 컨트롤러와 스토로지 사이의 12G 대역폭이니까요.. 
12G 하드나 6G 하드 전송속도는 대동소이 합니다.... 12G가 신형이라 조금은 올라가겠죠...
최신의 컨트롤러들은 Cache가 크고... 프로세싱 속도가 빠릅니다...


질문4
레이드 카드를 두개를 달 수 도 있나요?? 그렇다면 그걸로 하나의 볼륨을 만들 수 있나요??
=> 그렇죠.. 가능합니다...

이런 경우는 이렇게도 구성합니다..
레이드 컨트롤러 + SAS Expender + 인클루져.(이게 보편적인 방법입니다.)


24포트 짜리를 안쓰고 16포트 두개를 달아서 하시는분들도 계신것 같은데 동일하게 24개 하드를 쓴다고 했을 때 장점이 있나요?
장점이 있으리라 기대 됩니다. 컨트롤러가 2개이며.. PCIe 를 2개 차지 하니요... 다만에 .. 컨트롤러끼리 대화를 해야하니까..
시간이 소비 되겠죠...


질문5
제온 계열이 아니여도 좀 괜찮은 PC면 무리없이 레이드 카드 사용할 수 있나요??
=>
거의 않된다고 생각하세요..
성능좋은 컨트롤러는 Firmware 도 크고.. 서버에 맞도록 만들어져 있어요..특히 방열부분
고성능 컨트롤러는 열이 많이 나요... 60도 이하로 방어 해 줘야 해요...
... PC용 보드는 Bios 롬 자체가 작아요... 잘 않될 수도 왕왕 있어요...

*** 스토리지 구성 계획은..
온도 제어 /  하드드라이브 모니터링
최소 5년 설계 / 스페어 하드 충분히 배치하여 손이 덜가도록 하세요...
스토리지서버 + 별도 백업서버... 2대 구성하시는게 좋습니다...


편집실이다 보니 그래도 좀 괜찮은 PC가 남아서요~!---
==>  이런건 개인용 NAS 만드세요...




질문6
SMB 공유로 이런것들을 무리없이 할 수 있을까요?
=> 무리없어 보입니다... 




다른 분들의 의견도 수렴하셔서.. . 멋지게 구성 해 보세요...

추천하는 솔루션은 ZFS이 있는 FreeNAS 입니다...

메모리를 많이 요구 합니다..  여분의 SSD도 요구 합니다.. 전송 Cache로 쓰려고요
CPU도 좋은거 넣어 주세요... 서버 전체가 거대한 Raid 컨트롤러가 되는 겁니다...
8명이서 고성능으로 사용하시려면.. CPU도 2개 넣어 주시고.. 내구성과 안정성을 생각해서 최소한 슈퍼마이크로 솔류션으로 하세요...
36베이가 장터에 가끔 보여요... 비싸지도 않게...




제목Page 1/45
2014-05   3143727   정은준1
2015-12   14628   백메가
01-15   272   SDG6038
01-11   335   회상2
01-05   683   쭝2짱
12-22   1319   수촌마을
12-13   1782   최만용
12-14   1518   최만용
12-14   1478   최만용
12-10   1546   최만용
12-03   1990   최만용
11-23   1679   영준전
11-22   1419   다비니
11-21   1439   나우소래
2020-11   1926   D0111
2020-11   1962   hustise
2020-10   2130   인생의로망
2020-10   1861   chotws
2020-10   1769   chotws
2020-10   2050   AARG
2020-10   1969   워니워니
2020-10   2320   이키마스