대용량 HDD 볼륨 소용량 SSD를 조합해서..

isaiah   
   조회 1317   추천 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 

HDD의 스핀업을 최대한 억제하기 위해서 SSD를 버퍼로 쓰는 파일시스템이니 케싱 솔류션 같은게 있을까요?

예를 들어서 하루 종일 깨작깨작 쓰고 지우고 쓰고 지우고 하지만 결국 변화는 수십 GB 정도 되는 볼륨이 있다면
쓰고 지울때는 HDD 켜지도 않고 SSD에 변경을 기록 했다가 새벽에 결산해서 HDD한번 깨워서 변경 사항 옮겨적고 SSD 비우는 식으로 말이죠.

짧은글 일수록 신중하게.
프로시아 2024-10
ssd 캐시라는 기술이 있는데.. 원하는 수준의 성능향상이나 스핀업 억제 효과는 없습니다.
gmltj 2024-10
그런식으로 쓰면 SSD 수명이 금방 닳습니다.... 일반 컨슈머 모델은 몇달 정도나 버티고....수명이 긴 엔터프라이즈 급 SSD 를 써야 됩니다.
술이 2024-10
가능한 소프트웨어는 있는데 그게 지옥문 열리는 바보 같은 생각이죠.

데이터 다 깨지고 나서 눈물 흘리는 방식을 상상하고 있는겁니다. 데이터 쓰기는 바로바로 적용을 해야되고 캐싱을 이용하면 읽기 캐쉬가 죄다 SSD로 들어가서 하드 IO는 적어지긴 하겠으나 디스크를 절전모드로 동작하면서 데이터 크래쉬 나는 위험성은 없어야 됩니다.
     
isaiah 2024-10
있나요?
 작동방식 자체가 안정성을 떨어뜨릴것 같은 구조는 아닌데 안정성이 좋지 않나 보군요.
엠브리오 2024-10
SSD 는 쓰기 횟수 제한이 있습니다. HDD는 스핀들 모터의 수명이 얼마 못가죠.
안타깝게도 원하시는 기능에 딱 맞는 솔루션은 없습니다.

배터리 같은 걸로 보호되는 램디스크 같은 걸 만들어 놓고 별도로 그런 기능을 구현한다면 혹시나?
https://ko.wikipedia.org/wiki/I-RAM
     
isaiah 2024-10
어느쪽이건 소모성이 있다는건 받아 들이고 그냥 소음, 전력소비를 최적화 하려는 사람도 꽤 있을것 같아서 준비된 소프트웨어가 있을줄 알았는데 살짝 의외네요..
          
dateno1 2024-10
전력 소비를 줄이고프면 그냥 시스템을 스케일링해서 디스크 개수를 줄이거나하는게 근본적 해결책이니까요
박문형 2024-10
캐쉬 메모리를 크게 키우면 보통은 디스크 억게스가 좀 줄어들지만 캐쉬 메모리를 키우는 만큼 갑자기 꺼지거나 할 때 데이터가 날라갈 수 있는 확률은 커집니다..
rsync 등으로 주기적으로 ssd 에서 hdd 로 데이타 복사해 넣고,
ssd 를 지우는 방식으로 스크립트 짜는 방법도 검토해보세요..
     
isaiah 2024-10
뭔가 깔끔하고 신경쓸 필요 없는 방식으로는 작동하는 친구들은 없나 보네요...

 꽤 수요가 있을 법한 작동방식이라 자동으로 영리하게 작동하는 뭔가가 있을 줄 알았는데 의외네요.
          
그냥 컨셉을 올SSD 스토리지를 사용한다고 보고,
백업이 필요할 때 주기적으로 HDD 로 백업할 수 있는 체계를 갖춘다고 봐도 좋을 것 같습니다.

원하시는건 SSD+HDD 로 구성해놓고 SSD캐시를 활용하려고 하시는 것 같은데요.
헤놀로지에서 SSD캐시 잡는 것과, TrueNAS 에서 ZFS를 쓰면서 L2ARC를 SSD 캐시로 잡는 경우를 생각할 수 있는데
자주쓰는 데이터는 SSD를 쓰겠지만, 지정한 시각에 HDD로 넣도록 동작하게 설계는 되지 않은것 같습니다.
박문형 2024-10
+100

ZFS 사용하는 스토리지 구축시 메모리 용량을 크게 가져가면 되지만 아무래도 비용이 만만하지 않습니다..

그리고 메모리 용량을 크게 키워도 이 메모리에 데이터가 가득차면 어짜피 디스크 억세스를 하게 되어 있습니다..
     
isaiah 2024-10
ZFS 쪽 작동방식은 그냥 최대 성능, 최소 데이터 유실 가능성에 맞춰져 있어서 제가 원하는 방향이랑은 다른것 같더라고요...
 애초에 메모리 마구 할당한다고 해서 디스크 IO의 빈도가 줄어드는 형식이 아닌것 같아서 염두에 두고 있지 않습니다.
스케쥴링 백업 기본 기능이지 않을까요?
SSD로 구성된 저장소를 정해진 룰로 HDD로 구성된 저장소로 백업...
     
isaiah 2024-10
상시 서비스되어야 할 기능과 그 기능이 사용하는 스토리지는 SSD에 두고 HDD 볼륨은 수동으로 관리 하면 될일이긴 한데...
 뭔가 뭔가 내가 신경 안써도 합처서 신박하게 돌아가는 그런게 있을것 같았서 찾고 있습니다.. 뭐 없나 보네요.
isilentwind 2024-10
옵테인이 컨셉은 다른데 느낌상 비스무리 한 것 같기도 하고요
시도니 2024-10
요구하시는 기능은 Data Tiering 기술입니다.

Data Tiering 기술은 Hot Disk 와 Cold Disk 로 다 계층화 해서,

Hot Disk(SSD) 에서는, 일반적으로 입출력이 빠른 SSD 나 NVME 에 데이터로 우선 데이터를 입/출력을 하고

상대적으로 사용 빈도가 적은 데이터를 Cold Disk(HDD) 로 내려 보내는 기술입니다.

하지만, 이는 HDD의 스핀들 횟수를 줄이기 위해서가 아닌 대용량 스토리지에서 입출력을 빠르게 하기 위한 기술입니다.

대부분의 HCI 솔루션들도 이런 방식을 취하고 있습니다만, 최근에는 All Flash 의 경우로도 많이 나오는데,,

요즘은 SSD나 NVME가 싸져서 굳이 HDD를 쓸 이유가 없기 때문에 All Flash 로도 많이 제안됩니다.

시(헤)놀로지 의 경우에도 이런 캐쉬기능을 위해서 SSD 를 장착해 인/아웃풋을 개선하는 걸로 알고 있습니다만,, Logic은 모르겠습니다.

관련 무료나 비 상용 Solution 은 없는 걸로 알고 있습니다만, 대체적으로 상용 스토리지의 경우 해당 기능을 거의 가지고 있습니다.
     
isaiah 2024-10
감사합니다. 이 키워드로 한번 검색을 해 봐야 겠네요..
레인보우7 2024-10
원하시는 동작개념은 : Cache 구조처럼 자동화개념이지만,
최종요구 구현내용은 : HSM(Hierarchical Storage Management) 같아보이네요.

Cache 동작은 사용자가 Flush에 직접적으로 시간과 데이터에 관여하는 구조는 아니라서
페이지 단위 플러쉬(2KB, 8KB, 16KB, 또는 64KB)
파일기반 HSM을 구현하시려면 상용SW도 제법 있는데 대부분 자체 구현해서 쓰는게 편할겁니다.
예전에 느려터진 ODD나LTO로  HDD있는 데이터를 자동으로 옮길때 HSM구현 SW들이 제법있기는했습니다.
요즘은 사업성이 떨어져서 찾아보기 힘들겁니다.

Caching 이나 Tiering  기능을 쓰는건 느려터진 HDD에 좀더 부스터를 달아주는 개념이 더큽니다.
파일기반 HSM을 구현하시는 방법은 하기 나름인데 손이 많이 갑니다.
간단하게 회원님들이 말씀하신것처럼 주기적으로 증분백업이나 마이그레이션 하시는게 안전합니다.

그게 귀찮으시고 자동화를 원하시면 메타정보를 참조해서 바뀐 파일만 찾아서 별도 hdd풀로 넘겨야 하는데
메타데이터 기반 파일시스템 개발하시면 되지 싶습니다.
     
isaiah 2024-10
제 작업 속도로 그걸 시도 했다간 2050즈음 되도 안 끝나겠는데요..
박문형 2024-10
SSD를 캐슁메모리로 사용하는 제품은 아답텍 7~8씨리즈에서 가능한 것으로 아는데 이를 위한 전용 SSD도 아답텍에서 인텔 SSD를 OEM해서 나온 것으로 알고 있습니다.. LSI도 지원은 될텐데 어느 모델이 되는지는 잘 모르겠네요..

그러나 캐슁메모리로 사용하는 SSD는 읽기 쓰기가 극심하기에 수명이 짧고 이 때문에 SSD는 MLC 타입의 기업용을 권장합니다.. 그리고 SSD가 죽어버리면  속도면에서 답이 안나오기에 두개이상을 설치해서 미러링 셋팅해 사용하는 것을 권합니다..

위의 언급한 제품들은 현재 다 단종이고 SSD도 어디까지 지원하는지 모르기에 우선 모델 확인후 메뉴얼이나 설치 가이드 부터 공부해보시기 바랍니다..

현재 최신 레이드카드는 HDD 보다는 NVME 지원 성격이 강하고 캐쉬 메모리도 8GB까지 탑재되기에 옛날 레이드 카드와는 많이 다릅니다..
김우진 2024-10
10 여년전 쯤에 삼성에서 1GB(?) SSD 캐슁 기능이 들어있는 1TG급 하이브리드 HDD를 내놓은 적이 있었습니다. 아직 서랍 어딘가에 박혀있을텐데...
딱히 빠른건 아니였지만 쓰다보면 가끔씩은 꽤 빠르다고 느껴지는 순간들이 있었죠.


QnA
제목Page 72/5731
2015-12   1793760   백메가
2014-05   5268756   정은준1
2024-10   1261   나는난난나다
2024-10   1035   이창준
2024-10   1900   정은준1
2024-10   1128   Landa
2024-10   984   신은왜
2024-10   1880   액체와컴퓨터
2024-10   1311   김민수2
2024-10   1686   gebi
2024-10   1359   무쏘뿔처럼
2024-10   702   김진관
2024-10   1190   전일장
2024-10   1318   isaiah
2024-10   1190   아마데우쓰
2024-10   719   박문형
2024-10   1136   Rich
2024-10   923   L2스위치
2024-10   1248   미래1
2024-10   1070   romanee
2024-10   1217   딸긔꼬마
2024-10   1173   2CPU최주희