금요일에 참 .... 죽을맛이네요....
서버엔지니어는 없지.....
OS엔지니어랑
스토리지엔지니어인 저랑
둘이서 서버쪽 sda가 뒤로 밀림 현상을 해결하려고 생 난리를 치고 있는데 해결이
안되네요.... cc머시기가 어쩌구.. hpsa가 어쩌구....
HP DL560에 RHEL 6.4 올려서 EMC VNX5400을 DS-6510B와
조닝후 LUN을 던저주었는데....
OS설치하고 나서 sda에 OS볼륨이 올라옵니다. 그러나 FC꼽고 lun
binding 해주고나서 서버쪽 리부팅하면,,, 그때부터 multipath고 머고 없이 input, output error 막떨어지고 볼륨이
8path에 20개니까 총 160개가 I/O error 이 막떨어집니다. 아주 살벌하죠.
HBA문제인지... 먼지.. 아 머리가 아프네요. 왜 FC모듈을 처음로드하고
물리적디바이스를 그담에 인식해서..... 물리디스크가 sda였다가 sdf나 sdi로 멀리 떨어지게되고 그자리를 FC모듈이 채워버리는
현상이.... OS를 벌써 6번째 갈아엎는중인데.. BIOS도 건들고 머리가 아픕니다...ㅠㅜ 살려주세.....
그냥 서버 설정에서 옵션롬 로딩을 로컬쪽 디스크 컨트롤러(P420i가 아닙니까?)가 먼저 로딩되게 하시고
부팅순서도 로컬쪽 디스크가 먼저 올라오게 만들면 되지 않을까요?
FC는 부팅후에 인식 되어도 되는 거면 그냥 옵션롬 꺼 버리면 더 간단하지 않을까 생각합니다.
가장 최우선적으로 해본것이 FC뽑고 OS를 설치를 합니다. 설치다되고 RHEL 기본적인 셋팅하고, FC를 물려서 볼륨 20개를 8개의 path 로 던져줍니다. 그럼 160개가 인식되어 올라와야되는데 올라오지 않습니다. fdisk -l로 돌려봐도 아무것도 없어서 재부팅을 하게 됩니다. 그럼 재부팅이 시작되고 FC를 먼져인식해서 sda로 잡혀있던 disk가 뒤로 밀려나버리고 FC로 던져준 LUN들 160개가 차지해버립니다. 부팅시간도 오래 걸리구요. 기다리다 보면 4096 io input/output error 이 발생을 하게됩니다. RHEL 부팅이 다되고 multipath 수정후 실행을 하게 되는데 LVM으로 구성해서 쓸려고 LVM치면 io error..............
FC카드쪽 문제인것도 같아서 바꿧으면 하는데 HP 서버쪽 엔지니어는 이상없다고 하고 가버린 상황이였구요...
Gbic 교체후 시도해봤지만 동일증상이네요...
RAID 컨트롤러의 문제인지.. 아니면 FC 카드의 문제인지.... 도통 알수가 없네요...
RHEL 엔지니어도 .. 뭐 이런경우는 처음봐서... 몇천대 설치해봤지만 이런경우는 처음이라고 하십니다.
EMC storage는 다른장비들과 잘 돌아가구 있구요.. 딱 한대... DL560에서 문제가......
주말을 주말같이 보내야되는데... 전 미적지근한게 싫어서 기술문서 뽑아보고 별에 별짓 다해서 주말을 허비하고 있습니다..ㅠㅠㅠ
서버측에서 IO순서를 조절하지 못하는것 같습니다.
SAN 부팅 형태로 쓰시는게 아니라면 이승훈님 말씀이 맞는것 같습니다.
이래도 안되면 여유포트 하나 잡으시고 DAS형태로 연결점 줄여가면서 하나씩 마루타를...
이런거 정말 비일비재합니다. 더 기가막힌건 OS는 인터널디스크에 보안파티션은 스토리지에 붙어버리면 빼도박도 못하는 상황도 발생할수 있습니다.
고객이 원하던 구성으로 fix해야되는데... fix라는것도 default 구성이라서.... 별거없는것인데...
부팅하면서 밀어버리는게.. 참....
아직 해결 안되셨다면
/etc/multipath.conf 에 blacklist 항목에
Internal Disk 의 wwn 추가 시켰는지 우선 확인해주시고요
안되있다면 넣어주세요
multipath가 internal 물고 오는 경우가 있습니다.
그게 아니라면 EMC관련 설정이 multipath.conf 에 포함되야할거고요..
혹 가능하시다면 multipath -ll 결과값보여주실 수있나요?
플립 현상은 동일하게 발생되고 있습니다.