역방향 프록시 설정이 잘못된 것으로 파악되었습니다.

방화벽 설정은 끝마쳤고 네트워크 관련된 곳에서는 특별히 걸릴 곳이 없었는데
[Jenkins 관리 > 시스템 설정] 페이지에서 Jenkins Location > Jenkins URL을 확인해본다.
Jenkins를 새로 설치한 경우라면 아마 http://localhost:XXXX/ 값이 입력되어 있을 것이다.

경고 메세지도 설명하고 있듯이

localhost 도메인이 아닌 실제 브라우저에 접속한 URL을 입력하고 설정을 저장하면 해결된다.