안녕하세요.. 아직 문제가 되지는 않지만 궁금해서 질문을 해봅니다.
저의 웹서버의 서비스는 python flask를 이용합니다.
그런데 플레스크가 동기식이다보니 수천개의 서비스를 동시에 할수는 없습니다.
그렇다면 서버를 트레픽으로 분산을 해야 한다는 이야기가 되는데요
웹서버의 서비스 트레픽을 확인해서 분산 하는 방법이 있을까요
작은 서버가 3대 있습니다.
그냥 궁금했습니다. 간단한 답변도 달게 받겠습니다.
Park Chang Wan
안녕하세요.. 아직 문제가 되지는 않지만 궁금해서 질문을 해봅니다.
저의 웹서버의 서비스는 python flask를 이용합니다.
그런데 플레스크가 동기식이다보니 수천개의 서비스를 동시에 할수는 없습니다.
그렇다면 서버를 트레픽으로 분산을 해야 한다는 이야기가 되는데요
웹서버의 서비스 트레픽을 확인해서 분산 하는 방법이 있을까요
작은 서버가 3대 있습니다.
그냥 궁금했습니다. 간단한 답변도 달게 받겠습니다.
다수의 flash 서비스를 가동해서 Nginx의 reverse proxy 기능이나 HA Proxy 기능으로 로드밸런싱을 해서
서비스를 하는 것도 생각해 볼 수 있을 것 같습니다.
예컨데 flask 처리속도가 0.1 초라면, 1소켓으로 1초동안 서비스 할 수 있는 속도는 10 TPS 가 되고,
10대의 flask 를 가동하여 로드밸런싱 하면 100 TPS가 되는 식입니다.
물리 서버가 3대라면, 가상화 또는 컨테이너 방식등을 활용하여 CPU 부하를 고려해서 가능한 늘려놓고
로드밸런싱을 고려하는 것입니다.
그밖에는 혹시 java, php, asp 등의 웹 언어로 컨버팅이 가능한 경우
정상적인 서버 언어를 통해 서비스 하는 것도 고려해 보시구요.
그럼 이제 잔머리를 좀 굴려야죠..
서버가 빵빵하다면 웹서비스를 docker로 만들어서 여러개의 도커를 띄우는 방법입니다.
그리고 앞단에는 nginx, haproxy같은걸로 80포트로 받고 뒷단의 도커들로 부하 분산을 하는 방식도 있습니다.
자료를 찾아보시고 잘 알겠는걸로 구성하시면 됩니다.
https://narup.tistory.com/238
https://leffept.tistory.com/309