ZFS ½ºÅ丮Áö ¸¸µé±â
http://prod.danawa.com/info/?pcode=2627938&keyword=AIO+EasyRACK+100PCI (391)http://www.2cpu.co.kr/bbs/board.php?bo_table=bmt&wr_id=1258 (440)
ESXi 로 돌리는 게스트 OS 가 많아져서...호스트에 장착해둔 디스크로는 용량이 모자르다 보니...결국 ZFS 스토리지를 만들었습니다.
현재 파일서버 및 NFS 데이터 스토어 설정해서 쓰고 있습니다.
- 시스템 : 레노보 TS440 (지난번 아마존 대할인 행사때 구매했습니다)
- CPU : E3-1245V3
- RAM : 32GB
- RAID Controller
1) Lenovo R500 (LSI 9240-8i) ==> 시스템에 기본 장착, Data Disk 용2) Areca ARC-1110 - OS 용
3) OnBoard SATA3 5port
- NIC
1) OnBoard 1port - OmniOS 관리용2) PCIe 2 x 1배속 2port GbE
3) Intel E10G41AT2 10GbE RJ-45 Cooper - Storage 통신용
- Disks
1) OS : Intel 310 Series 80GB SATA2 x 2 (ARC-1110 RAID 1)
2) Data : HGST UltraStar 7K4000 3TB 7.2K SATA3 x 9
3) L2ARC : Micron M600 512GB SSD x 2
4) ZiL : Intel DC S3700 400GB x 2 (HPA Tune 으로 220GB 세팅)
1) OS : Intel 310 Series 80GB SATA2 x 2 (ARC-1110 RAID 1)
2) Data : HGST UltraStar 7K4000 3TB 7.2K SATA3 x 9
3) L2ARC : Micron M600 512GB SSD x 2
4) ZiL : Intel DC S3700 400GB x 2 (HPA Tune 으로 220GB 세팅)
- ZFS Pool
HDD 2개씩 mirror 로 4묶음 stripe 로 설정, HDD 1개는 spare
핸펀으로 대충 찍었더니 많이 흔들렸습니다. ㅠㅠ
기본 8베이 핫스왑에, 스페어 디스크 넣을 1베이용 하나 추가하고, 2.5 4베이 IcyDock 제품을 장착했습니다.
IcyDock 은 전에 다른데서 쓰다 용도가 없어져서 빼놨던거 재활용했네요.
문제는 기본 레이드컨트롤러 R500 으로 8베이 핫스왑, 그리고 온보드 5port 로 5개 전부 사용해버린거죠.
디스크 8개, 스페어 1개, L2ARC 2개, ZiL 2개 하면 OS 를 설치할 곳이 없는 상황이더군요.
확장슬롯은 PCI 3.0 x16 1개, PCI 2.0 x1 1개, PCI 2.0 x4 (x8 슬롯) 1개, PCI 1개라...더이상 확장하기 곤란한 상황인지라...
결국 PCI 용 구형 레이드 컨트롤러인 ARC-1110 을 구해다가 설치하고...OS 용 디스크를 연결하기로 했습니다.
하지만...베이가 없는게 문제였죠. 그리하여 인터넷을 찾아 헤맨 끝에...해결책을 마련했습니다.
아래 사진을 보시면...
역시나 흔들려서 잘 안 보이네요. ㅠㅠ
제일 아래쪽에 2개가 PCI 슬롯 베이입니다.
저는 엄청난 검색 끝에 해외에서 업어왔는데요...
비슷한 제품을 국내에서도 팔더군요. ㅠㅠ
애초 2.5 6베이짜리를 썼으면 이런 뻘한 행위는 안해도 되는 거였습니다만...재활용 차원에서 하다보니..........쿨럭~
어쨌든 저 자리에 2개의 2.5 SSD 를 장착할 공간을 마련하고 레이드 1 설정해서 사용 중입니다.
부팅도 잘 되고...호환성 좋습니다.
SSD 가 SATA2 용이고, OS 만 달랑 깔아쓰고 있어서...속도는 별로 신경 쓰지 않고 있습니다.
케이스가 큰 반면 마더보드가 작아서 내부도 널널하니...마음껏 쓸 수 있더군요.
내부에 PCI 슬롯쿨러도 달았습니다. (아래에서 3번째)
스토리지용으로 10GbE (넷기어 XS712T) 스위치를 쓰고 있어서...10G 이더넷을 하나 달고... (이베이에서 대략 70불에 낚시 성공했더랬죠. 하하~)
PCI 2.0 x1 배속용 듀얼포트 기가비트랜카드 구해다가 설치했습니다.
PCI 2.0 x1 이라 듀얼포트라고 해도 속도가 제 속도가 다 안 나옵니다만....
스토리지용 데이터 통신은 10G 랜카드가 담당하고 있고, 온보드 기가비트는 순수 관리용도로만 사용하는 별도 네트웍인지라...
스토리지용 스위치에 직접 연결되지 못하는 장비들에서 이쪽으로 접근하기 위해 사용시 간략하게 쓰는 용도입니다.
다른 시스템들은 zfs on linux 를 쓰고 있으나...여러가지 제한점 때문에...OpenSolaris 쪽으로 옮겨왔습니다.
OmniOS 설치해서 설정완료했습니다.
OmniOS 가 의외로 편하네요. zfs on linux 시스템들을 전체적으로 변환작업 중입니다.
ZiL 용으로 사용되는 SSD 는 IOPS 를 올리기 위해 HPA Tune 을 해서 HPA 공간을 잔뜩 주고 사용했습니다.
4K Random Write 가 대략 30% 정도 올라갔습니다. BMT 게시판에 올려두었습니다.
bonnie++ 로 테스트해본 결과는 아래와 같습니다.
1) L2ARC, ZiL 설정 안 한 경우 (오로지 디스크만 사용)
Seq-Read : 931MB/s, Seq-Write : 639MB/s
2) L2ARC, ZiL 설정 한 경우
Seq-Read : 940MB/s, Seq-Write : 643MB/s
속도는 L2ARC, ZiL 없어도 충분한데...주로 NFS 로 사용될 거라서, ZiL 설정이 필요했습니다.
(ZFS 에서 NFS 는 기본이 동기로 동작하다보니 ZiL 이 없으면 쓰기 속도가 엄청나게 느려집니다)
오로지 스토리지로만 쓰고 있어서...CPU 가 좀 오버스펙이네요.
°á°úµéÀ» º¸°í Á» ±Ã±ÝÇѵ¥¿ä..10G °¡ µ¥ÀÌÅÍ Àü¼Û ½Ã FC º¸´Ù´Â ¿À¹öÇìµå°¡ ¸¹Áö ¾Ê´Ù°í ¾Ë°í ÀÖ½À´Ï´Ù.
Áï 10Gbit ¿¡¼ ½ÇÁ¦ ¼Óµµ´Â 9.6Gbit/s Á¤µµÀÏÅ×°í ´ë·« 1.2GB/sÁ¤µµ ¶ó°í º¸°í
ÇöÀç ½ºÅ丮Áö»ó¿¡¼ÀÇ µð½ºÅ©°¡ read°¡ 940MB/s Àε¥ 10g ÅëÇؼ ¿¬°áµÈ VMµéÀÌ
¾à 320MB/s Á¤µµÀÇ ÀбⰡ ³ª¿À´Â°ÍÀº 10G·Î ¿¬°áÇÑ »óÅ¿¡¼´Â ³Ê¹« ´À¸°°Ô ¾Æ´Ñ°¡ Àǹ®ÀÌ µì´Ï´Ù.
Ȥ½Ã 10G ÄÁÆ®·Ñ·¯°¡ pci-e ¾î´À ½½·Ô¿¡ ²ÈÇôÀÖ´ÂÁö¿ä??
10G Á¤µµ ó¸®ÇÏ·Á¸é pci-e v2 x4 ÀÌ»ó¿¡ ²ÉÇôÀÖ¾î¾ß ¸ÂÀ»°Í °°Àºµ¥¿ä..
Á¦´ë·Î ²ÉÇôÀִµ¥µµ À§ÀÇ ¼Óµµ°¡ ³ª¿À¸é Á» ÀÌ»óÇѵí ÇÕ´Ï´Ù.
Àúµµ ´Ô°ú ºñ½ÁÇÑ ±¸¼º¿¡¼ ´ÜÁö FC 4G ·Î ¿¬°áÇؼ »ç¿ëÁßÀε¥
Àú¶û º¥Ä¡°á°ú°¡ Â÷ÀÌ°¡ ¸¹ÀÌ ¾È³ª¼ Àǹ®ÀÌ µé¾ú½À´Ï´Ù.
Àú´Â FC 4G ¶ó¼ ´ë·« ÃÖ´ë ¼Óµµ°¡ ´ë·« 420MB/s ¶ó°í Ä¡¸é ´ëÃæ ¸Â¾Æ¶³¾îÁö°Åµç¿ä.
http://2cpu.co.kr/bbs/board.php?bo_table=bmt&wr_id=1213
Àúµµ Á» Àǹ®À̱ä Çؼ¿ä. ÇÏÇÏ~
ÀÏ´Ü zfs °¡ ¼³Ä¡µÈ ¼¹ö ÂÊÀº PCI 3.0 x 16 ¿¡ ÀåÂøµÇ¾î ÀÖ½À´Ï´Ù.
´Ù¸¸ ESXi È£½ºÆ®´Â PCI 2.0 x16 ¿¡ ÀåÂøÇߴµ¥¿ä...È®ÀåÄ«µåµéÀÌ ¿ö³«¿¡ ¸¹ÀÌ ¿¬°áµÇ¾îÀÖ¾î¼...½ÇÁ¦ ¼Óµµ¸¦ Á» ´õ »ìÆìºÁ¾ßÇϱ¸¿ä. ´õºÒ¾î ´Ù¸¥ Àåºñ¿¡¼ Ãß°¡·Î Å×½ºÆ®¸¦ ÁøÇàÇÒ ¿¹Á¤ÀÔ´Ï´Ù
Å×½ºÆ®ÇÏ°í °á°ú ³ª¿À¸é ´Ù½Ã ±Û ¿Ã¸®°Ú½À´Ï´Ù.
½ÃÄö¼È Àб⠼ӵµ´Â Á¦ ¼Óµµ°¡ ³ª¿À³×¿ä.
4K QD ´Â ³·¾ÆÁ³´Âµ¥...OS ÀÚü°¡ ´Þ¶ó¼ ±×·± µí ÇÕ´Ï´Ù.
½Ã°£³¯¶§ µ¿ÀÏ OS ·Î ´Ù½Ã Å×½ºÆ®ÇغÁ¾ß°Ú½À´Ï´Ù.
±×³ªÀú³ª...óÀ½ Å×½ºÆ®Çß´ø Àåºñ°¡ ¹®Á¦±º¿ä. ½½·ÔÀ» ¹Ù²ãºÁ¾ß°Ú½À´Ï´Ù. ;;;
Á¦ ½Ã½ºÅÛÀº ÇÖ½º¿Ò ¹éÆгÎÀÌ sata2 ±îÁö¸¸ Áö¿øÇؼ ÄÁÆ®·Ñ·¯°¡ 6G ¸¦ Áö¿øÇϴµ¥µµ
Á¦ ¼Óµµ¸¦ ¸ø³»´Â »óÅÂÀε¥ ¼¹ö¸¦ ¹Ù²Ü¼öµµ¾ø°í Çؼ ±×³É Àú³É ¾²±â·Î Çß½À´Ï´Ù. ¤¾¤¾
õ¿Üõ´Ô ´ë´ÜÇÏ½Ã³×¿ä ¤§¤§¤§¤§
Àü ZFS¸¦ nexenta»ç¿ëÇÏ´Ù zfsonlinux·Î¸¸ »ç¿ëÇÏ°í ÀÖ¾î¼..
Á¦ÇÑ»çÇ×À̶óÇϽøé raidz±¸¼º½Ã spare³ª ¿©ºÐÀÇ pool¾ÈÀÇ µð½ºÅ©°¡ ÀÚµ¿À¸·Î change·Î µ¹¾Æ°¡Áö ¾Ê´Â ºÎºÐ ¸»¾¸ÇϽô °ÇÁö¿ä?
´Ù¸¥ Á¦ÇÑ »çÇ×ÀÌ ÀÖ´ÂÁö ±Ã±ÝÇÕ´Ï´Ù~
Áö±ÝÀº ½ºÅ丮Áö¸¸ À¸·Î »ç¿ëÇÏ´Â°Ç ¾Æ´ÏÁö¸¸ °è¼Ó zfs¸¦ »ç¿ëÇÒ ¿¹Á¤À̶ó¼
omnios Âʵµ °ü½ÉÀÌ ÀÖ½À´Ï´Ù.
±âº»ÀûÀ¸·Î samba ³ª nfs ÀÇ °æ¿ìµµ ÀÏÀÏÈ÷ ¼³Á¤ÇØÁÖ¾î¾ßÇϱ¸¿ä.
zfs ¿É¼Ç¿¡¼ smb ³ª nfs ÀÇ on/off µµ Àß ¾ÈµË´Ï´Ù.
¹«¾ùº¸´Ùµµ ¾Õ¼ ¸»¾¸ÇϽŠspare ´ëü¶ó´ø°¡...¼³Á¤µÇ¾îÀÖ´Â disk ¸¦ ¹Ù·Î »Ì¾Æ¹ö·ÈÀ»¶§ ´ëÀÀ¹æ¹ýÀ̶ó´ø°¡...¸î°¡Áö Â÷ÀÌÁ¡ÀÌ ÀÖ½À´Ï´Ù.
¹°·Ð opensolaris ÂÊÀÌ ÀåÁ¡¸¸ ÀÖ´Â °Ç ¾Æ´Õ´Ï´Ù.
pool ±¸¼º ÈÄ ÀüüÀûÀÎ ÆÛÆ÷¸Õ½º´Â zfsonlinux ÂÊÀÌ ´õ ÁÁ½À´Ï´Ù.
´Ù¸¸ µð½ºÅ©°¡ ¸¹¾ÆÁö¸é °ü¸®ÀÇ ÆíÀǼº ¿ª½Ã Áß¿äÇØÁö´Â ºÎºÐÀÌ ÀÖ¾î¼...opensolaris ÂÊÀ¸·Î ³Ñ¾î¿Ô½À´Ï´Ù.
À½...ÇÏÁö¸¸...Á¦°¡ ¸®´ª½º ÂÊÀÇ ³»°øÀÌ ºÎÁ·Çؼ...Àß ¸ð¸£´Â ºÎºÐµµ ÀÖÀ» °É·Î »ý°¢µË´Ï´Ù.
°¨ÅºÇÏ°í °©´Ï´Ù