혹시 리눅스 SCP 튜닝법이 있을까요?

sbg2005   
   조회 2532   추천 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 


현재 문제는 scp로 파일 전송 시 900Mbps에 속도 제한이 걸려버리는 문제 입니다.


RHEL 9.2 Minimal Install 환경 입니다.

윈도우 서버에서 리눅스로 scp 명령을 통해 파일을 보내는 상황입니다.

iperf 날려보면 40Gbe 인터페이스에선 31Gbps, 10Gbe 인터페이스에선 9.75Gbe 나오는거로 정상적인 작동 확인 됩니다.

40Gbe NIC 또는 드라이버 문젠가 싶어 10Gbe로 연결을 해도 딱 900Mbps 문턱에서 컷이 걸려버리네요.

NIC 연결간 문제는 아니라는 건데,,, FTP로 파일 전송을 해보면 또 속도가 정상적으로 나와요.

DISK도 SSD 16개 레이드10으로 묶은거라 디스크 스피드에 붙잡힐 리도 없고.


그냥 FTP 계속 쓰면 되기는 한데, 속도 리밋 걸려버리는 문제가 계속 눈에 밟혀서 신경이 쓰입니다.

구글링 해봐도 scp 기능 자체에 스피드 락이 걸려있다거나 그런건 전혀 없는거로 나오는데,

혹시 관련된 정보나 튜닝법 가이드 같은게 있으면 부탁좀 드리겠습니다.

짧은글 일수록 신중하게.
CPU로 암호화 복호화를 하기 때문에 느린것 아닐까요.
     
sbg2005 2023-05
CPU 파워는 충분하다 생각 했는데 부족한 걸까요 흠..
          
40기가비트 속도로 암호화하기엔 턱없이 부족할겁니다.
               
sbg2005 2023-05
40Gbe 까진 바라지 않더라도 딱 1Gbe 속도인 900Mbps에 리밋이 걸리는 이유는 뭘까요 허허..

그냥 scp는 쳐다도 보지 말고 얌전히 ftp나 써야 하나 싶네요 허허...
                    
Noname1 2023-05
코어하나쓸거같긴해요
          
구차니 2023-05
그 cpu 파워가 AES 가속 하드웨어에서 나오는거지 신형 cpu의 클럭빨로 나오는게 아닐겁니다.
선택적으로 테스트 가능하시다면 cpu내 AES 가속 끄고 한번 해보시는건 어떨까 합니다만
AES 암호화 자체가 부하가 꽤 걸려서 cpu로 한다고 더 빠를거라 생각되진 않습니다.
제온프로 2023-05
16개 RAID 10 이면.
8개 속도라.....900Mbps 가 맞아요..
     
Noname1 2023-05
1개 SSD가 5000Mbps정도 나와요
제온프로 2023-05
맞아요.. 제 계산이 틀렸습니다.. 하드라 해도.. 저게 아니죠..
제가 착각함.
술이 2023-05
RDMA나 패킷다이렉트를 사용할수 있는 프로토콜이 아니다 보니 한계가 있지만 구글에도 대부분 검색하면 최대속도는 많이 느리다는 글이 많습니다.
그래서 방법이 scp 는 파일사이즈가 작은 파일들이 엄청 많으면 대기시간이 적어서 빠르다는 말이 있습니다. 보통 우리가 많은 파일들을 복사할때 작은파일들이 많으면 최대 대역폭으로 복사가 되지 않고 파일마다 딜레이가 있어서 많이 느린것을 알수가 있습니다. 대용량 파일들이 많을 경우는 sftp 나 다른 방법을 쓰라고 권고하네요.

뭐 알겠지만 40G 속도를 제대로 땡겨가는 프로토콜은 몇가지 정해졌습니다. SMB거나 CPU와 메모리로 다이렉트로 전송되게하는 그런 종류들만 가능하고 TCP/IP 해석이 들어가야되는 프로세스들은 대역폭데로 안나오는게 맞을겁니다.

일단 멀티쓰레딩이 지원 안되기도 하고 많이 제약적이네요. 만약 scp가 GUI 유틸이 있다면 FTP처럼 멀티세션 최대값을 줘서 동시에 4-8개씩 작업하게 하면 4배에서 8배는 올라갈건데 그게 될지는 테스트를 해봐야겠네요.
SFTP도 작은파일들 많을때 동시에 4-8개 세션 처리하게 해서 작은파일들 빨리 넘기긴 했습니다. 하지만 용량이 작은거라면 scp가 더 빠를거 같네요.

SMB 프로토콜 쓰면 풀속도 다 나올듯 싶네요. 10G/40G 들이 SMB는 RDMA/패킷다이렉트 기능을 지원해서 최대속도 다 땡겨옵니다.
     
sbg2005 2023-05
역시 그렇군요...

FTP나 계속 써야겠습니다.


QnA
제목Page 570/5725
2014-05   5241198   정은준1
2015-12   1766622   백메가
2021-12   2525   새로운차원
2022-11   2525   홀릭0o0
2023-10   2525   모어쿨
2021-12   2525   그모도
2024-02   2525   이창준
2020-02   2525   불꽃막대
2022-04   2525   맨홀홍
2023-09   2525   드리데이
2023-08   2526   정무현
2021-06   2526   이원재K
2023-07   2526   2CPU최주희
2022-09   2526   김동자맨
2022-12   2526   다롱이
2022-07   2526   인천I베리
2022-10   2526   정의석
2021-02   2526   겨울나무
2023-03   2526   수필처럼
2019-05   2526   김건우
2019-11   2527   별이쨔잔
2023-02   2527   piedPiper