쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다
안녕하세요. 서버는 잘모르는 SW쟁이라 서버 구성에 관한 문의를 드립니다.
저희 회사에서 제작한 B2B용 SW가 운영될 서버 구성에 관한 질문입니다. 제품은 로깅 전문 제품으로 IO 대부분은 Write입니다. 3개의 모듈이 로그를 수집하고, 분석 후 임시파일 생성, DB에 벌크로딩하는 방식이죠. 대형 고객사의 경우 DB 데이터 파일 기준 1일 100GB이상 로깅되는 경우도 있습니다.
현재 사용하는 장비는 1U 새시의 XEON E-2334 4C8T + 32GB 기본으로 3.5인치 7200rpm SAS 6GB/S 2TB 하드를 RAID-1으로 구성하여 납품합니다. 하드내의 파일 안정성이 최중요 고려사항이다보니 이렇게 구성하였습니다. 물론 HDD 용량은 변경 가능하나 RAID-1은 필수입니다.
이 장비에 설치된 RAID Controller에 간혹 불량이 발생해 2022/2023년 몇번 낭패본일이 있습니다. 안성성때문에 설치한 RAID Controller가 말썽일 줄이야... 그리고 DB 읽기 속도 이슈도 몇번 있었습니다. 7200rpm 하드를 사용하니 당연히 느린거죠. 그렇다고 10k로 변경해도 크게 개선되지는 않을것이구요.
그래서 SSD 전환을 계획했습니다.
1U 새시에 SSD 2TB NVME U.3로 구성하니 제조사 U.3 키트에서 자체 미러링을 제공해서 RAID Controller는 추가할 필요가 없어보입니다. 여기에 3.5인치 4TB SATA HDD 2개를 프론트 베이에 설치하고 daily backup 데이터만 개별 디스크에 copy하는 구성을 그려봤습니다. SSD에는 DB가 설치되어 라이브 데이터가 저장/운영되고, HDD에는 Daily backup이 두카피 생기는 방식입니다. SSD의 DB는 고객사 환경에 맞춰 1개월 ~ n년까지 보관주기 설정이 가능합니다.
장비의 핵심은 메인 DB용 스토리지 2TB(이중화) + Daily backup 저장용 4TB를 안전하게 운영입니다.
제가 궁금한점은
1. 이 구성이 DB 읽기 속도는 향상되겠지만 기존 HDD 대비 안정적인가? 즉, HDD RAID-1보다 장애 발생율이 낮은가? RAID-1 HDD는 콘트롤러 이슈만 아니면 장애가 없죠. HDD 오류 발생하면 디스크만 Hot swap으로 교체하면 되니까요. 타 사이트에 문의하니 DB용으로 SSD는 비추천이라고 하더군요. endurance가 깍이는것이 실시간으로 보인다고...
2. U.3 키트의 미러링 기능이 RAID Controller 미러링보다 신뢰성이 높은가? 더 낮은 HW 오류율, Hot-swap 가능 등
3. 만약 메인 DB용 스토리지를 2.5인치 2TB 10K SAS 12GB/S RAID-1으로 구성하면 DB 읽기 성능은 1.5배 이상 향상될것인가?
4. 백업 SW 수정없이 백업용 SATA HDD에 Mainboard RAID-1을 구성해도 문제는 없을까? Mainboard RAID를 사용치 말라는 이야기는 많이 들어봤지만 이게 미러링에서도 그러한지 모르겠습니다.
5. daily backup을 저장하는 장치는 HDD말고 산업용 Flash 메모리를 사용한다면 RAID-1 HDD대비 더 안정적일까? 사실 SAS와 SATA HDD를 섞어서 사용하면 유지보수 복잡함이 증가해(고객사는 SATA하드인지 SAS하드인지 모르고 하드 불량이라고만 하죠) 별로 원치 않습니다. 아예 모양이 다른 Flash 메모리를 쓴다면 그나마 장애 발생 시 유지보수가 수월하지 않을까하는 생각입니다.
6. 이렇게 구성하면 서버 가격이 얼마나 할까?
참고로 기존 장비는 년100대 기준 300정도입니다. 고객사 입맛이 까다로워 DELL, HP, Lenovo 등 대기업 제품을 사용해야 합니다. CPU는 4C8T(최대 8C16T) 정도면 충분합니다. 이 사양으로 받은 견적이 거의 500이어서 타부서에서 거부당했습니다.
서버를 잘 아시는 여러 회원님들께서 조언 들려 주시면 감사하겠습니다. 제가 구상한 방식말고 다른 제안도 감사히 받겠습니다.
첫글이 질문글이라 죄송합니다. 활기찬 하루 보내십시오.
그리고 db읽기 속도는 메모리보다 큰 데이터를 한꺼번에 로딩 하는것 아니면 하드나 ssd나 큰 차이 없던데요.
그리고 하루 100기가 사용한다고 하고 하고 낮시간에만 몰린다고 가정해도 하드로도 충분한 속도가 나오지 않을까요?
피크시간대에만 몰리는 로그인가요?
그리고 메인 2TB 백업 4TB로 운영하시는데.. 몇개월에서 몇년을 설정해서 쓰신다는데 .. 하루 100기가씩 나오는 자료를
4TB로 감당이 되나요 ?
쓰기속도는 전혀 이슈가 없습니다. 읽기 성능은 쿼리 튜닝이 가장 중요하겠으나 장비빨로 일부 커버하고 싶어서입니다.
실제 로그량이 얼마나 될지는 초기 산정이 쉽지 않습니다. 납품하고 실제 운용해봐야 대략 파악이 가능하죠.
메모리도 크게 스토리지도 크게 할 필요는 없는것 같아요 .. 검색을 어떻게 하시는지 모르겠지만요 하드 용량도
필요한 만큼만 있으면 되는거죠 로그가 많은덴 큰거 / 작은덴 적은거 .. 그냥 무조건 적던 크던 이 사양으로만 나가야돼
하면 문제있어보이구요
용량 증설은 둘째치고 검색이라도 빨라야 감사대응이 빠를텐데 천만단위 row가 있는 (그래봤자 1TB 미만) 대부분의 고객사에서는 1시간이상 검색이 완료되지 못하는 케이스도 발생합니다. 말이 로그지 분석을 데이터를 쪼개서 보관하기때문에 JOIN이 빈번하게 발생합니다. 잘 아시겠지만 4행 3열 테이블과 2행 3열 테이블이 JOIN되면 8행 6열의 임시테이블이 생성되 데이터는 더욱 커져 RAM을 올리는데는 한계가 있습니다. 그러니 IO라도 빠르고 싶다는거죠.
저런애들 조차 Pb단위는 버틸 수 있습니다 (보통 0.3~0.5정도의 내구성은 가지므로 1~2테라쯤 달면 하루에 300G~1T정도 버팁니다)
서버를 50~100년쯤 쓸것도 아닐테니 내구성 따지는것자체가 쓸모가 없다고 봅니다
이런식으로 구성된 고객사는 로그 조회가 필요한 시점에 난리납니다. 메인 스토리지를 쥐어짜 공간을 만들고, daily backup을 5~10일정도씩 복구하고, 복구된만큰만 조회하고, 필요한 기간만큼 반복하고.... 만약 1년치가 필요하다면.... 이걸 난리를 격고나야 디스크 증설 이야기가 나옵니다.
참고로 이번에 SW를 업그레이드하면서 DB를 변경했습니다. DB 압축 효율 증가 + 데이터 저장 전략 변경으로 10GB 데이터 기준 3GB 정도로 줄어들었습니다.
db가 뭔가요 ? 보통 압축하면 오히려 성능이 떨어지지 않나요 ?
본문에 적은 "타 사이트에 문의하니 DB용으로 SSD는 비추천이라고 하더군요. endurance가 깍이는것이 실시간으로 보인다고..." 이건 어떤 내용일까요?
쿼리 튜닝에도 한계가 있어 JOIN을 줄이고자 역정규화를 진행했습니다.
압축으로인한 쓰기 성능 저하는 크게 중요치 않습니다. 실시간성 데이터가 아니라 1분정도 지연되어도 상관없습니다.
RAID 1으로 디스크 아무리 묶어도 이론적으로 읽기 쓰기 속도는 디스크 1개와 똑같습니다..
RAID 콘트롤러는 RAID카드에 캐쉬가 달린 HW RAID 콘트롤러와 캐쉬가 없는 (RAID기능을 SW와 CPU 성능으로 동작하는) HBA기반 RAID콘트롤러가 있습니다..
디스크 속도를 늘리려면 우선 디스크 갯수를 늘려야 합니다..
12G SAS HDD만 사용하고 LSI 12G SAS HW RAID 카드를 사용한다고 가정하면
2U 8BAY 시스템에서
OS : RAID 1 :DISK 2ea
DATA (DB) : RAID 1+0 : DISK 4ea
DATA Backup : RAID 없이 : DISK 2ea
이렇게 구성하던지
1U 밖에 안된다면 1U 2.5인치 10bay 시스템에서
OS : RAID 1 :DISK 2ea
DATA (DB) : RAID 1+0 : DISK 4ea
DATA Backup : RAID 없이 : DISK 2ea
정도로 구성하시고 BMT 해보세요..
SAS 디스크는 10Krpm 이상 빠른 디스크 일수록 좋습니다..
아마 가격의 제한이 있어서 HDD늘리고 레이드 카드 다는 것에도 힘들듯 합니다만 만일 여유가 된다면
DB용 디스크를 기업용 SATA/SAS SSD로 바꾸어도 됩니다.. (단 레이드 콘트롤러가 해당 SSD와 호환성에 문제가 없어야 합니다..)
NVME M.2 는 개인용인지라 좀 사용하다가 죽어버릴 확률이 높습니다..(수명도 개인용이라 짧고 동작시 열이 꽤 난다고 보시면 됩니다.)
기업용 NVME M.2는 제품이 거의 없습니다..
NVME U.2로 가면 좋겠지만 디스크 구하기 힘들고 U.2로 가면 U.2를 지원하는 시스템으로 통째로 다 바꾸어야 됩니다..
RAID 콘트롤러도 몇가지 없어서 제약이 심할수 있습니다.. 그리고 가격이 만만하지 않을 것입니다..
예전 로그 분석회사 사장님의 글을 본 적이 있는데 로그쪽으로 성능이 매우 좋았다는 내용이 있었씁니다.
레이드 시스템은 무중단 시스템을 위해 고려된 방식이라 안정성이 있다 생각해서 백업이 안되면 큰일입니다 ^^
현재는 xfs를 사용하는데 zfs도 고려해 보겠습니다.
감사합니다.
최저가 이정도 갖추어놔야 그나마 안심이 됩니다 (여기 2중 전원까지 구성해놔도 죽을떈 죽더군요;)
1. 고장율 따지면 온라인으로 유지할 데이터에서 HDD따윈 다 퇴출시키는게 낫습니다
U.3도 본체 기종에 따라 다르지만 핫스왑 되는 기종은 문제없이 지원합니다
내구성 신경 쓰인다면 거기 맞는 고내구성 기종 디스크를 골라주세요 (거기다 용량을 키우면 자동으로 내구성이 증가됩니다)
고 내구성 기종은 10~20/d정도를 지원하고, 3~6테라정도 디스크를 장착하면 하루에 30~120테라를 다 써야 5년(보통 보증이 5년입니다)만에 죽는다는 계산이 나옵니다
내구성이 어쩌구하는건 단순히 비싼 디스크 쓰기 싫으니까 돈 아끼고는 문제 생기면 하는 애기에 불과합니다
애초에 대형 DB 서비스는 성능 문제로 더 이상 HDD로는 감당할 수 없어서 SSD로 다 바뀐지 오래라 보시면 됩니다
다만 본문에서 원하는 수준의 쓰기양정돈 어떤 SSD 써도 아무 상관없습니다 (꼴랑 그거 쓰면서 무슨 내구성 걱정하시는지 이해불능이군요)
얼마전에 3T 중고 샀는데, SMART에 찍힌 값이 쓰기 1.2P/읽기 50P였는데 사용한 수명이 3%였습니다
2. 요즘시대 RAID1은 뭘 써도 차이 없다고 봅니다
3. HDD따위를 SSD (그것도 PCIe에 직결되는 NVMe)랑 성능 비교하는것자체가 무쓸모하다고 봅니다 (디스크 응답시간으로 따지면 몇백~몇천배 느립니다)
4. 보드 바꾸었을때라던가 골치아프고, 4이상 레벨 사용시 성능이 너무 저질이니 쓰지말라고 하는거뿐이므로 1을 쓰는경우는 상관없다고 봅니다 (몇백대씩 똑같은 기종 다루는 경우 죽으면 동일 기종으로 대체하면 데이터 잘 올라옵니다)
5. 그럴바엔 차라리 U.3나 SAS SSD로 하겟습니다
산업용이라 주장하는넘들 대부분이 내구성 1이나 되면 다행입니다 (엔터에서 M.2 제외하고 1도 못 찍는넘 QLC 아닌 이상 본적도 없습니다)
그 QLC조차 용량이 몇십테라씩 되다보니 용량으로 내구성 문제를 보상하고 있습니다
산업용 플레쉬라 주장하는것들 그닥 높지 않은 내구성 + 아주 쫀쫀한 용량의 콤보를 자랑하므로 그런 용도로 절대 부적합합니다
산업용은 내구성땜에 쓰는게 아니라 허용되는 온도범위같은 극한 환경에서 버틸 수 있는 특성떔에 쓰는겁니다
6. 패스합니다
구체적 스팩이랑 구성에 따라 너무 심하게 바뀌는거라 일단 정해놓고 총판 몇군데 문의해보세요
다만 꼴랑 300만으로 가능한 구성은 너무 뻔하다고 생각해주세요
제대로 하면 300만으로는 디스크만 사도 모잘랍니다
그런 저렴한 수준의 예산으로 달라고하면 그냥 포기하고 적당한 SSD로 타협하시거나, 기존대로 가시는 수 밖에 없다고 봅니다 (NAS용 SSD만 해도 HDD보단 고장율 낮고, 성능 잘 나옵니다)
본문대로면 고객사에서 너무 무리하게 저렴한 금액을 요구한다고 봅니다 (예산은 300 주면서 성능과 안정성은 몇천만짤 수준으로 요구)
차라리 디스크보단 램을 늘려서 성능을 보상해보시는건 어떠신지?
종합적으로 시스템의 전반적 구성을 완전히 엎어버리고 새로운 구성으로 고려해보시는게 맞을꺼같습니다
단순 디스크 성능이 아닌 다른 방법으로 문제를 해결하시는게 맞다고 봅니다
바로 적용하긴 힘들테니 1~2대 구성해서 내부 시험후 몇대만 시험 납품후 괜찮으면 점진적으로 갈아타시면 될꺼같습니다
1. 멀티채널을 안쓸거면 값싼 SATA가 낫다라고 하셨는데 눈이 번쩍 뜨이네요. SAS 2대로 RAID-1구성할 비용으로 SATA로 RAID 1+0으로 구성하는것이 성능면에서 더 유리할까요?
2. U.3 키트로 SSD 미러링을 구성하면 성능과 안정성에서 HDD RAID-1을 압도한다는의미가 맞을까요?
3. 주워들은 이야기입니다만 SSD를 거의 Full로 채워 사용하는 고객사도 문제 없을까요?
대량의 데이터를 처리할떄 중요한 전송 속도는 물른이고, DB에서 중요시되는 응답시간이란 측면에서 0 개수가 차이날정도로 차이가 납니다
그리고 DB같은거 처리할떄 RAID는 성능상 아무런 보템이 안 된다고 생각해주세요 (저하 안 시키면 다행입니다)
예를 들어 HDD 10개를 RAID6로 묶으면 벤치 돌렸을때 1개일때보다 수치는 올라갑니다만, DB같은거 돌려보면 제자리거나 더 떨어지는 경우가 많습니다
2. 장비 고장율이란 측면에서는 아마 더 나은 수치를 보여줄꺼고(어떤 킷을 쓰실지 모르니 킷자체 내구성은 말 못하겠지만, 디스크 고장율은 하드보다 낮음), 성능 측면은 무조건 향상됩니다
3. 엔터용 SSD는 그런다고 해도 쉽게 죽진 않습니다 (예를 들어 8~10테라쯤 NAND를 박는다면 그걸 6.4테라로 내놓는게 엔터입니다 (고 내구도의 SSD경우 15테라쯤 박혀있을 수 도 있습니다) )
컨슈머용처럼 1024기가 박은후 1000~1024기가 제품으로 내놓는식으로 하진 않습니다
다만 덜 채운거보다 성능은 하락합니다
초기설계 개판이면 나중엔 수습 불가에요.
그런건 제가 고가의 인건비로 수습은 해주는데 대부분 돈없다고 장애나서 난리칠때까지 버티드라구요
하루에 100기가나 되는 데이터를 저장한다음 그걸 1년치 몰아서 조회하거나 통계를 내야한다는 애기인데 그걸 제대로 된 키값도 없이 단순하게 저장해서 밀어넣어둔것같으니까요 (100*365=36500G=36.5T니 이런 용량이 되면 디스크 성능 아무리 빠르고, 램이 아무리 커져봤자 답이 안 나옵니다)
원인은 영업에서 판매할때 고객사 규모를 잘못 판단해서 저사양장비에 고용량 데이터가 들어가게한것이 문제입니다.영업도 할말이 있는게 고객사에서 잡아놓은 예산이 3000인데 1000짜리 장비는 납품하지 못한다입니다.
위에 일100GB는 정말 극단적인 경우이고 사실 잘 없습니다.
물른 테라단위의 DB면 큰 용량이긴한데, 그래도 제대로 구성했다면 검색시간이 거기까지 안 깁니다 (만일 이게 안 되면 검색엔진같은건 탄생할 수 없습니다)
데이터 양이 많아지면 다중으로 키를 만들어서 상위키-하위키 이런식으로 하거나 다중키로 구성하거나 합니다 (이쪽은 제 전문이 아니니 도와드리긴 곤란하네요)
검색이 너무 길면 제대로 찾을 수 없으니 전체를 훌어내리는식으로 처리한다는 결론밖에 안 됩니다
대단위 DB를 다룰러면 하드웨어만이 아니라 소프트도 거기 어울리는게 필요한데, 엄청난 가격을 자랑합니다
물른 적어두신 사항이 낮은 사항인건 맞지만 신형 프로세서라면 4코어 제온이라도 그렇게까지 느린 시퓨가 아닙니다
하드웨어보단 소프트웨어 가격이 많이 비싸겠네요. 억부터 시작이니...
대용량 데이터가 발생하는 고객사에서는. 너희 제품은 검색이 느리다. 대책을 제시해라. -> 분석을 위한 장비를 추가하고 SW를 커스텀 하겠으니 비용을 주십시오. -> 제조사가 알아서 해야지. 나도 비용 발생시킬 명분이 없다. -> 그럼 힘듭니다. -> 시간이 좀 지나고... -> 통합 로그 분석기 사업을 띄우겠다. 분석 서버 도입! 너희 데이타를 이쪽으로 보내라 -> 추가 부하 발생 이런식으로 많이 운영됩니다.
말씀드린바와같이 가격 경쟁이 필요한 제품이다보니 SW 납품가에 HW 가격이 묻어있습니다. 영업에서는 3000만원짜리 딜에 500~600만원짜리 장비를 납품 못하겠다는거죠. 그러다보니 현재기준 350짜리 장비를 500짜리로 변경한다고하니 반발하는것입니다.
게다가 HW쪽을 잘 모르는 SW쟁이다보니 어떤 키워드로 검색을 해야하는지도 잘 모르겠습니다. 여기서 많이 배워가겠습니다
3.5인치 하드디스크 스팩을 비교한 것입니다..
하드디스크던 SSD던 NVME든 일반용(컨슈머용)과 기업용(엔터프라이즈용)이 존재합니다..
기업용은 일반용보다 보통 수명이 길기 때문에 가격이 올라갑니다..
디스크당 속도도 제품에 따라 다르지만
읽기 기준으로
HDD의 경우 100~200MB/s (메가바이트/초)
SATA/SAS SSD 경우 300~400MB/s (메가바이트/초)
NVME 경우(M.2 / U.2 Gen3/4/5) 1,000~10,000 MB/s (메가바이트/초)
정도로 생각하시면 되고 자세한 것은 해당 모델을 찍어서 스팩자료나 벤치마크 자료를 확인하시면 됩니다..
HDD와 SSD(NVME포함)의 또다른 비교되는 특징중 하나는 억세스 타임이 HDD는 10~30ms SSD는 0.0001ms 이런 식으로 SSD의 억세스 속도는 거의 0에 근접합니다..
즉 억세스 속도가 장난 아니게 차이가 납니다..
현재 PC든 서버든 스토리지에서 재일 속도가 빠른 것은 NVME 인데 이는 PCIe x4 로 연결되어 어찌 보면 가장 대역폭이 넓다라고 할수 있기 때문입니다..
대신 NVME는 PCIe 를 사용하기에 CPU자체가 PCIe 레인이 많아야 하고 이에 따라 서버에서는 대략 인텔 스케일러블 1세대 프로세서 이후
AMD EPYC 1세대 이후 PCIe Gen3 이후에서나 적용되기 시작합니다..
NVME의 약점은 고속으로 동작하기에 열도 많이 나서 이에 대한 대비를 꼭해야 한다는 점입니다..
그 외에 디스크가 고장났을때 최후에는 북구업체에 맞겨 복구를 해야 할 때가 있는데 이때는 HDD의 데이터 복구율이 높고 SSD나 NVME는 데이터 복구율이 현저하게
낮습니다.. 그래서 SSD는 데이터 복구한다라고 하면 보통은 거의 데이터 복구 실폐하니까 하지 말라는 소리가 있기는 합니다..
XEON E-2334 검색해보니 FCLGA1200 이네요 (PC용 CPU 소켓)
제온 E3 UP 의 후예인데 나쁜 말로는 짭제온이라 불립니다..
메모리는 아마도 Unbuffer-ECC 메모리만 사용이 가능하고 어찌보면 서버 메모리의 기본인 Reg-ECC 메모리는 사용하지 못하겠네요..
개인적으로 보기에는 그냥 웹서버용이라 봐야 하고 Unbuffer-ECC 메모리가 서버 시장에서는 많이 사용하지 않는 메모리 인지라
나중에 업그레이드 같은 것을 할 때 고생 좀 하겠네요..
이쪽세계도 굉장하네요.
가격은 꽤 비싸지만 시퓨자체로 애기하면 ECC를 제외하고 아무런 장점이 없습니다 (안정성이나 AMT같은건 결국 보드가 결정하는 부분입니다)
비싸게 가려면
찐XEON 4C8T
Reg ECC 메모리 많이
PCIExpress 5.0 지원 + U.3 지원 메인보드
DB용 SSD 2~4TB * 2ea(U.3 키트 미러링)
Daily backup용 HDD 4~8TB * 2ea(백업 SW로 두벌 copy)
싸게 가려면
찐XEON 4C8T
Reg ECC 메모리 32GB
RAID Controller
DB용 SATA 4TB * 2ea(RAID-1)
Daily backup용 HDD 4~8TB * 2ea(RAID-1)
정도로 보이네요. 싸게 간다하도 요즘 환율도 무섭고 HW부품가격도 많이 올라 100~150대 정도 개런티로는 350이하는 힘들겠네요. ㅠㅠ
답글 정말 감사합니다.
나무위키
서버들의 OS나 DB가 최대한 죽지 말아야 하는 경우 그리고 장애 발생시 최대한 즉각 대처해야 하는 경우에는 RAID 1을 사용하는 것이 좋고
그 서버들이 몇 일 혹은 일주일 이상씩 동작 안해도 문제가 없다면 미러링 같은 것은 필요하지 않겠죠..
이것은 나중에 AS나 유지보수때 중요하게 됩니다..
그리고 을의 입장이신 듯한데 이 솔류션을 납품할 때 갑에서 요청하는 것이 있을 겁니다.. 아마 그것에 관해서 계약서를 써야 할 수도 있고요..
그 때 요구 사항에 따라서 미러링을 하느냐 마느냐를 결정하셔야 할 것입니다..
그 외 HDD든 SSD든 아무리 좋은 제품이라도 죽는 것은 케바케인지라 심하면 꼽자마자 죽어 버릴 수도 있습니다..
OS가 무엇인지는 모르겠지만 보통 마더보드 온보드 레이드는 윈도우즈 전용이며 리눅스를 사용하게 되면 LSI SAS 칩셋을 HBA든 RAID든 사용할 수 밖에 없습니다..
그리고 약 20여년 동안 여러가지 CPU와 서버 들이 나오면서 각 서버들이 지원하는 OS도 한계가 있기에 서버 스펙을 체크시 어떤 OS를 사용이 가능한지
그리고 그 OS가 사용해야 할 어플리케이션과 문제가 없는지 정도는 체크해야 합니다..