안녕하세요.
지방 사는 유령 회원 박수홍 입니다.
저는 현재 스토리지 서버를 1TB/2TB 짜리 S-ATA2 RAID 5 로 구축된 서버가 실 사용
가능 용량 1005TB를 구축하여 서비스중이고, 용량은 지속적으로 증가 추세이고, 특정 서버에
사용자가 200명씩 붙을때면 서비스 퀄리티가 엄청 떨어지게 되어서 이번에 시스템을 새로 모두
구축을 하려고 하는데 혹시 추천 하실만한 하드웨어 구성이나 파티션 형식이나 있으시면 조언 꼭좀 부탁드립니다.
대략 사용자들이 동시에 5000명 정도가 다운로드를 하게 되고, 업로드는 20개 클라이언트 미만입니다.
네트워크는 모두 1Gbps 내장랜으로 구축되어 있는데, 이번에 40G 스위치나 10G 스위치로 모두 본딩으로
다수 채널 확보 해서 서비스를 구축 할 예정입니다.
예산은 3년간 대략 $ 300,000 가량 입니다만, 한번 사서 7년은 쓸 계획입니다...;;;;
여기에 웹서버 DB서버도 끼워서 교체를 해야 하는 상황이라 뭔가 좀 난해한 상황인거 같습니다.
현재 구상중인 스토리지 시스템은 아래와 같습니다.
CPU - Intel E5-2630V3
RAM - 16G RAM
RAID - Adaptec RAID 81605ZQ (16 Port ) RAID 50
Adaptec RAID 72405 ( 24 Port) RAID 50
HDD - Hitachi HGST 6TB Ultrastar He8 HUH728060ALE600
Partition - EXT4
OS - CentOS 6 or 7
CASE - Supermicro 6038R-E1CR16N (3U 16 Bay )
Supermicro 6048R-E1CR36N (4U 36 Bay )
여러 선배님들의 가르침을 부탁드립니다.
서비스는 하드웨어 소프트웨어의 조합입니다.
저라면 어느쪽이 병목이 발생하는지 먼저 파악을 해야 될 것 같습니다.
무작정 200명이 동시에 접속했을 때 서비스 퀄리티가 떨어졌다고 했는데 그게 네트워크의 병목인지 스토리지 I/O 병목인지 DB 서버의 병목인지 등등을 파악하는 것이 중요하다고 생각합니다.
그래야 전체적인 시스템 구조를 만들고 그 다음 하드웨어 구성을 하는 것이 맞다고 생각합니다.
박수홍님께서 현재 구상중인 스토리지 시스템이 적절한가는 아무도 답변을 하지 못 할 겁니다.
개인적으로 파일시스템은 ext4를 사용하시는 것 보다는 XFS를 추천합니다.
용량이 큰 파일들이 많은 경우 꽤 좋은 성능을 보여 줍니다.
조금 더 고민을 하도록 하겠습니다.
예비하드가 필요하고
서버를 국내에 설치?? 해외에 설치 ??
그리고 샤시가 익스펜더 샤시인지라 레이드 콘트롤러는 4혹은 8체널이면 충분합니다.
저 상황은 고급 컨설팅을 받아야 하는 상황입니다.
아답텍 7씨리즈는 6G ,8씨리즈는 12G
하드는 12G로 보여집니다.
슈퍼깡통 12G는 몇가지 모델이 있는데 아직 안정화가 되었는지 잘모릅니다.
국내에는 슈퍼 깡통 12G모델이 대략 이번년도 3월부터 배타고 수입되기 시작하였습니다.
한번도 익스팬더를 사용해본적이 없어서 고민하다가 일단 미뤄둔 상태입니다. ㅜ.ㅜ
초기에 고민을 할때 16채널 내부 구성에 외부 RAID 익스팬더로 대용량 확장도 고려를 하였었는데, 익스팬더를 잘 모르니 그냥 아는 범위에서 골라보자 생각을 해서 현재에 이르렀습니다. ㅜ.ㅜ
또 백플레인이랑 RAID 컨트롤러랑 궁합 문제 생기거나 백플레인의 구조적 결함 같은걸 경험하고 싶지 않은데 걱정이네요 ㅜ.ㅜㅜ
가장 마음 편한 선택은 역시나 HP 서버 구입인데, 리스 비용 올라서 운영에 부담을 가지고 싶지는 않은 상황이라 ㅜ.ㅜ
웹하드 서비스 입니다, 현재 구성된 서버들중 일부 서버가 HP P400/P800 으로 되어 있어 서버 로드가 5이상으로 올라가는 경우도 많았구요, 용량 증설도 필요한 상황이라 서버 업그레이드 및 네트워크 단 업그레이드도 함께 진행 할 예정이고, 솔루션은 현재 새 솔루션 개발검수 단계이고, xfs는 CentOS 4 그리고 5버젼이었을때 ext3보다 빨라서 사용하다가 CentOS 6로 OS를 새로 깔고 xfs와 ext4를 벤치마킹 하였을때 ext4가 더 빨라서 교체하게 되었습니다, 최신 버젼에서 xfs가 ext4보다 빠르다면 다시 고려를 해봐야 할것 같습니다.
스위치 단에서 일부 서버를 제외하고는 1Gbps를 모두 사용한게되느 경우도 없고, pps도 그리 높지 않은 상황에서 핫데이타가 들어간 서버에만 속도 저하가 일어나는바 사용자가 늘어도 쾌적한 시스템을 위해 전면적으로 교체 해볼까 하고, 고려중입니다.
사실 핫 데이타만 서비스 하는 서버를 도입 할까도 고민을 해봤는데, 부가적으로 만져야 하는게 너무 많아져서 그냥 모든 서버가 다 빠른데 비용이 너무 상승 되지 않는 범위를 찾고 있습니다.^ ^
그리고 서버는 미국 동부에 설치 되어 있습니다^ ^
DB서버는 데이타 전송시 관여 하는바가 없고, 클라이언트가 ftp서버에 접속하여 파일을 다운로드 하는 현태로 구성이 되어있습니다.
고려하고 있는 장비는 하드디스크가 많이 들어가는 깡통에 Adaptec의 RAID로만 구성을 하는것과 기존에 달려있는 Expander를 제거하고, 동일 회사의 제품을 끼워 넣는 방향으로 알아보고 있었습니다.
저렴하게 속도 잘나오고 병목 없는 서버를 찾는게 어렵네요^ ^
그나저나 문제는 이 기회에 전문인력 고용하셔서 트랜잭션 단 개발하시는 것을 추천드립니다... 저는 자주 호출되는 데이타를 뽑아서 여러 복제본을 두고 연결을 분산시키는 것으로 해결했습니다. 백엔드 소프트웨어(FTP, DAV, webserver)들을 C소스코드단에서 꽤 수정했습니다...각 자료에 가중치를 두고 각 데이타를 수집해서 히트가 예상되는 자료는 미리 복제본을 생성해서 배포하는 모델입니다.
방치를 하더라구요 그 덕에 저희가 손해를 많이 보고 있지요.
말씀 하신 부분은 저도 사실 고민을 해봤던 부분인데요, 해외에서는 비슷한 솔루션이 있던데,
웹하드 형태의 서비스에는 잘 맞지 않고, 대충 테스트를 해보니 최근 업로드한 2주 ~ 3주 가량의 데이타가
핫 데이타로 확인이 되어서 NVME 1.2TB 짜리 한대 달고 10G 포트 하나 연결 하면 되지 않을까도
고민을 해봤었습니다.
핫 데이타 로드 대 콜드 데이타 로드 비율이 7:3 정도 비율이라 실제로 최신 자료가 대다수를 차지 하는데
당장 2달 뒤가 스토리지 렌탈 기간 만료일과 회선 계약 기간 만료일이라...하하 시기적으로 너무 않좋습니다.T.T
핫데이타 콜드 데이타 처리의 가장 좋은 예시가 페이스북인데요, 페이스북은 콜드 데이타와 핫데이타로 구분해서 콜드 데이타는 필요할때만 하드디스크가 고속으로 작동하고 나머지시간에는 거의 꺼져있더라구요.
구멍가게에서는 꿈만 꿀수 있는 시스템이겠지요...^ ^
고민고민하다가 어차피 대용량 파일 전송이 주를 이루고, 프로세서도 현재는 많이 쓰지 않고, 나중에 트랜스 코더를 스토리지마다 붙이게 된다면 프로세서도 조금 쓰지 않을까 싶어서 일단 현재 사양 정도를 고려하고 있는데, 뭔가 아직 빈틈이 많은거 같아 답답하네요.^ ^
DDoS 방어도 IDC 시스템이 못 버텨서 결국 직접 만드는 상황까지 가버렸구요.
IDC 렌탈 서버는 가격만 비싸고 어중간한 서버들 밖에 없어서...T.T
IPTV랑 이거저거 고려중인데 많아 큰 덩어리 하나 해결 해놓고, 가야 될거 같아서요.
한국 웹하드 업체랑 딜을 해서 p2p쪽 트래픽을 올려서 퀄리티를 보장 하는쪽으로 가야 하나 싶기도 하구요.
이래나 저래나 결국 바탕 하드웨어가 어느정도는 버텨줘야 그 후가 해결이 되더라구요 ㅜ.ㅜ
Intel NVME 서버를 다음주 월요일 2대 발주 해서 세팅 해보려구요.
NVME 퀄리티 보장되면 DB서버랑 디른 서버에도 고려를 해볼까 하는중 ㅜ.ㅜ