웹사이트 크롤링 문의드립니다.

삐돌이슬픔이   
   조회 4299   추천 0    

그림 관련사이트인데  사진이 약 20 만장 있구요 용량은 40 기가인데요 ... 

이걸 크롤링하는거같아요...   3일째 받아간게 30 기가가 좀 넘어요...

초당 90 K ~ 350 K 가변으로 접속하고... 브라우저 아이디도 바뀌고

아이피는 한개인데.... 초당 약 1컨넥션~ 10 컨넥션  사이로 왔다갔다합니다.

일단 막고봐야 할까요 ? 

만약 크롤링 허용한다면 어디에 제한을 두는게 운용에 차질이없을까요 ? 

초당 컨넥션인가요 아니면 속도인가요 ? 

아 서버사양은 i7 이구요 대역폭은 100 매가 APM+PHPBB 입니다. 


미리 감사드립니다. 
210610_PDS_7d699f04fe9a5ed737e93883e4765

sudo rm -rf /
짧은글 일수록 신중하게.
박 2014-11
별 도움안되는봇인듯합니다.

걍 차단하심이...

아님 이미지만 차단하시는것도 고려해볼만하겠구요.
     
답변감사합니다.

늦긴했지만 ip 로 차단했습니다.
로그인 하시면 댓글을 남길 수 있습니다


QnA
쓰기
제목Page 2946/5681
2015-12   1484984   1  백메가
2014-05   4948319   1 정은준1
2014-12   3199   1 나파이강승훈
2014-12   6867   1 황혼을향해
2014-12   5968   1 테돌아이
2014-12   6395   1 장동건2014
2014-12   6161   1 제상현
2014-12   8744   1 민잘랭이
2014-12   15694   1  안형곤
2014-12   14424   1 테돌아이
2014-12   13693   1  도석림l지나가는바람처럼
2014-12   13544   1 장동건2014
2014-12   12931   1 oracleuser
2014-12   12614   1 나비z
2014-12   6023   1 푸른하늘아래
2014-12   3619   1 크롱크롱
2014-12   5824   1  6툴
2014-12   4405   1 얼룩이
2014-12   4994   1 장동건2014
2014-12   4692   1 8858588
2014-12   6506   1 VSPress
2014-12   6356   1 나우마크
목록
쓰기