Azure Cognitive Services, 부하분산 하기 - 2

눕눕·2022년 3월 3일
0

Application Gateway 설정

Application에서의 키 포인트는,
luis.pwcqwer.com 으로 들어온 트래픽을, api.pwcqwer.com, api2.pwcqwer.com 이라는 값으로, header의 host value로 써서 뒤쪽으로 전달 하는 것이다.

header의 host value로 써서 보내는 이유는,
Api Management에서 해당 값을 활용하여, choose 문으로 prediction-001, prediction-002 이렇게 condition 걸어서 api 호출 할 예정이기 때문이다.

참고로 api.pwcqwer.com과 api2.pwcqwer.com 모두, 같은 a record를 가지고 있으며, 해당 a record는 Api Management의 public ip이다.

Application Gateway의 backend pool은 아래와 같이 심플하게 구성했다.

본 테스트에서는 a record를 사용하였지만, public에서 쓸때는 cname으로 진행하는 것이 좋다!!

기본적인 listener나, rule 등은 원하는 대로 설정하고, host name override 부분이 중요한데 해당 부분은, 뒤쪽에 던질 때 override 해주기 때문에 HTTP settings 에서 설정해주고 rule에 적용하면 된다.

이렇게 설정을 하면,
luis.pwcqwer.com 로 받고,
api.pwcqwer.com과 api2.pwcqwer.com으로 round robin으로 보내고,
보낼 때, header의 host value를 내가 보내는 backend target 이름으로 override하여 보낸다.

여기까지 설정을 하면, Applicagtion Gateway에서 설정은 끝이다. 참 쉽죠?

이후에 Api Management만 설정하면 초당 50 쿼리 이상의 서비스를 받쳐줄 수 있다!!

Application Gateway에서 중요한 부분은, HTTP Setting 에서 Host name Override 부분이다!!

profile
n년차 눕눕

0개의 댓글