23일차 GPT 동작 원리, SSE

AWS의 과금 정책, 대표적인 서버리스 서비스 lambda를 비롯한 클라우드 서비스에 뭐가 있는지 겉핥기 식으로 지나갔다.

대망의 Chat GPT의 동작 원리에 대해 이론 수업이 이어졌는데 전공 수업에서 볼 법한 내용이 마구잡이로 나와 정신이 혼미했다...
GPT가 어떻게 동작하는지는 차차하고 요약하면 다음과 같다.
1. 기계가 할 수 있는 건 비트연산이 전부다.
2. 인공지능에게 지능이란 인간의 지능과 같지 않고, 표방한 것일 뿐이다.
즉, GPT는 수학적 확률을 기반으로 다음 단어를 예측하는 모델이다.

역시 심플 이즈 베스트다.

GPT API를 활용한 실습 진행 후, SSE라는 개념에 대해 처음 들었다.
Server-sent events의 약어인데 의미는 다음과 같다.

Server-sent events (SSE)

전통적으로 웹페이지는 새로운 데이터를 받기 위해 서버로 요청을 보내야만 합니다. 즉, 서버로 데이터를 요청하는 방식입니다. 하지만 Server-Sent Events 방식으로 웹페이지의 요청 없이도 언제든지 서버가 새로운 데이터를 보내는 것이 가능합니다. 이렇게 보내진 메시지는 웹페이지 안에서 Events + 데이터로 다룰 수 있습니다.

이러한 개념인데 자주 사용되지는 않는다고 한다. 스트리밍 방식으로 데이터를 전송하려면 어떻게 해야 하나가 실습 중 하나였고, 이럴 때 SSE를 사용한다.

단방향 실시간 통신이 필요하고 간단하게 구현하고 싶을 때 좋은 선택이다.

참고
https://developer.mozilla.org/ko/docs/Web/API/Server-sent_events