해당 글은 인프런의 김영한님의 강의인 '스프링 MVC 1편 - 백엔드 웹 개발 핵심 기술'을 공부하며 작성한 글입니다.
Web Server와 WAS의 차이
- 웹 서버는 정적 리소스, WAS는 어플리케이션 로직
- 사실상 둘의 용어도 경계도 모호하긴 하다.
- 웹 서버도 프로그램을 실행하는 기능이 있고 WAS도 웹 서버의 기능을 제공한다.
- WAS는 어플리케이션 코드를 실행하는데 더 특화되어있다.
- 자바에서는 서블릿 컨테이너 기능을 제공하면 WAS
왜 굳이 Web Server, WAS를 다 쓸까?
- WAS가 너무 많은 역할을 담당, 서버 과부하 우려
- 가장 비싼 어플리케이션 로직이 정적 리소스 때문에 수행이 어려울 수 있다
- WAS가 죽으면 오류 화면도 노출이 안된다
그래서...
- 정적 리소스는 웹 서버가 처리
- 웹 서버는 어플리케이션 로직과 같은 동적인 처리가 필요하면 WAS에 요청을 위임
- WAS는 중요한 어플리케이션 로직 전담
- 효율적으로 리소스 관리 가능
- 정적 리소스가 많이 사용되면 웹 서버 증설
- 어플리케이션 리소스가 많이 사용되면 WAS 증설
- 웹 서버는 잘 죽지 않아 WAS나 DB 장애 시 웹 서버가 오류 화면을 제공할 수 있음
서블릿
서블릿이란 무엇일까?
웹 어플리케이션에서 HTTP 요청이 오면 아래와 같은 많은 작업이 필요하다.
- 서버 TCP/IP 연결 대기, 소켓 연결
- HTTP 요청 메세지를 파싱하여 읽기
- HTTP 메서드, URL 인지
- Content-Type 확인
- HTTP 메시지 바디 내용 파싱
- 저장 프로세스 실행
- 비즈니스 로직 실행
- HTTP 응답 메세지 생성
- HTTP 시작 라인 생성
- Header 생성
- 메세지 바디에 HTML 생성하여 입력
- TCP/IP에 응답 전달, 소켓 종료
의미있는 비즈니스 로직을 제외한 이 모든것을 서블릿을 지원하는 WAS가 지원해준다.
특징
@WebServlet(name = "", urlPatterns = "/")
public class HelloServlet extends HttpServlet {
@Override
protected void service(HttpServletRequest request, HttpServletResponse response) {
...- HTTP 요청, 응답 정보를 편리하게 사용할 수 있다.
- HTTP 스펙을 편리하게 사용할 수 있다.
서블릿 컨테이너
- 톰캣처럼 서블릿을 지원하는 WAS를 서블릿 컨테이너라고 한다
- 서블릿 컨테이너는 서블릿을 생성하고 호출, 관리한다
- 서블릿 객체는 싱글톤 객체로 관리한다
- 고객의 요청이 올 때 마다 객체를 생성하는것은 비효율적
- 최초 로딩 시점에 서블릿 객체를 미리 만들어두고 재활용
- 공유 변수 사용 주의
- 서블릿 컨테이너 종료 시 함께 종료
- JSP도 서블릿으로
- 동시 요청을 위한 멀티 쓰레드 처리 지원
멀티 쓰레드
- 어플리케이션 코드를 하나하나 순차적으로 실행하는 것은 쓰레드
- 쓰레드는 한번에 하나의 코드 라인만 수행
- 동시 처리가 필요하면? 쓰레드를 추가로 생성
매 요청마다 쓰레드 생성 시
장점
- 동시 요청을 처리할 수 있다
- 리소스가 허용할 때 까지 처리가 가능하다
- 하나의 쓰레드가 지연되어도, 나머지 쓰레드는 정상 동작한다
단점
- 쓰레드 생성 비용은 매우 비싸서 요청이 올 때 마다 쓰레드를 생성하면 응답 속도가 늦어진다
- 쓰레드는 컨텍스트 스위칭 비용이 발생한다
- 쓰레드 생성에 제한이 없어 요청이 너무 많이오면 CPU 메모리 임계점을 넘어서 서버가 죽을 수 있다.
쓰레드 풀
그래서 쓰레드 풀이 등장한다.
쓰레드를 미리 정해진 갯수만큼 생성해서 쓰레드를 쓰레드 풀에 넣어두고 필요할 때 마다 꺼내쓰고 다시 풀에 넣어둔다.
- 최대 쓰레드가 모두 사용중이여서 쓰레드 풀에 쓰레드가 없다면 기다리는 요청은 거절하거나 특정 숫자만큼 대기하도록 설정할 수 있다.
- 톰캣은 최대 200개로 default 설정 되어있다.
- 쓰레드가 미리 생성되어 있기 때문에 쓰레드를 생성하고 종료하는 비용이 절약되고 응답 시간이 빠르다
- 생성 가능한 쓰레드의 최대치가 있기 때문에 많은 요청이 들어와도 서버가 죽지 않고 기존 요청은 안전하게 처리할 수 있다.
WAS의 주요 튜닝 포인트는 최대 쓰레드 수이다
적정 숫자를 찾기 위해서 툴을 사용하여 성능 테스트를 하자 (아파치 ab, 제이미터, nGrinder)
WAS의 멀티 쓰레드 지원
- 멀티 쓰레드에 대한 부분은 WAS가 처리
- 개발자는 멀티 쓰레드 관련 코드를 신경 쓰지 않고 싱글 쓰레드 프로그래밍을 하듯 편리하게 소스 코드를 개발하면 된다
- 멀티 쓰레드 환경이므로 싱글톤 객체는 주의해서 사용해야 한다
NO EFFORT, NO RESULTS