홀릭0o0 2023-09

오픈소스로 HA proxy 라는게 있습니다. 로드밸런스 역할을 할 수 있습니다.

꿀벌l최인혁 2023-09

flask 로 제공되는 웹 서비스에서 처리되는 시간이 얼마인지에 따라,
다수의 flash 서비스를 가동해서 Nginx의 reverse proxy 기능이나 HA Proxy 기능으로 로드밸런싱을 해서
서비스를 하는 것도 생각해 볼 수 있을 것 같습니다.

예컨데 flask 처리속도가 0.1 초라면, 1소켓으로 1초동안 서비스 할 수 있는 속도는 10 TPS 가 되고,
10대의 flask 를 가동하여 로드밸런싱 하면 100 TPS가 되는 식입니다.

물리 서버가 3대라면, 가상화 또는 컨테이너 방식등을 활용하여 CPU 부하를 고려해서 가능한 늘려놓고
로드밸런싱을 고려하는 것입니다.

그밖에는 혹시 java, php, asp 등의 웹 언어로 컨버팅이 가능한 경우
정상적인 서버 언어를 통해 서비스 하는 것도 고려해 보시구요.

아싸조쿠나 2023-09

비슷한 환경이네요.  nginx로 로드밸런싱 구성해서 대충 때우고 있습니다.

술이 2023-09

저기서 동기식이라는 문제가 있습니다. 다들 쉽게 NLB를 이야기 하는데 이게 생각처럼 동기식이 어디까지인지 개발 AP 아키텍쳐를 들여다 보지 않으면 섣불리 어떻게 하라고 말을 할수가없네요.

달광이 2023-09

python flask를 쓴 이유는 생산성 때문이겠죠.. 후다닥 만들 겠다..

그럼 이제 잔머리를 좀 굴려야죠..
서버가 빵빵하다면 웹서비스를 docker로 만들어서 여러개의 도커를 띄우는 방법입니다.
그리고 앞단에는 nginx, haproxy같은걸로 80포트로 받고 뒷단의 도커들로 부하 분산을 하는 방식도 있습니다.
자료를 찾아보시고 잘 알겠는걸로 구성하시면 됩니다.

https://narup.tistory.com/238
https://leffept.tistory.com/309

코더74 2023-09

아파치 (wsgi 라는) 를 이용해서 조금 괜찮은 퍼포먼스를 만들었습니다..... 로드 발란스 를 해야 한다는 건 알겠지만 해본적은 없네요 .. 아직 직면한 문제가 아니라서요 ^^~~~

민호양 2023-10

우선 gunicorn을 검색해보셔야할 것 같습니다.