Teacher Student Knowledge Distillation 논문을 읽었다. 논문이 다루는 내용이 방대해서 정리할 내용이 많았다. 모델링 자체도 그렇지만, 두 모델의 상호 관계로 어떻게 전체 테스크를 효율적으로 처리하는지와 관련된 논문이었다. 주말에 진득하게 리뷰할 예정이다.
데이터 관련해서도 어떻게 접근해야 할지 고민해봤다. 수능 문제를 해결할 때 중요한 게 뭘까? 내 경험 상으로는 유형 분석이었다. 아마 현재 프로젝트에서는 문제 유형 별로 다르게 프롬프트를 적용할 수 있지 않을까 싶다.
이전 프로젝트에서 활용했던 세션 메모리 기능을 도입하려고 했다. 코드를 검토하다가 팀원들과 해당 기능을 어떻게 사용했는지 공유했다. 다른 팀원들이 작업하는(혹은 하려고 계획하는) 내용을 들으면서 내 아이디어를 고도화했다. 아직 글로 나타낼 만큼 구체적이진 않지만, 다른 아이디어는 생각의 좋은 촉매제가 되는 것 같다!
주간 팀 회고를 작성하면서 팀 단위로 어떤 점이 좋았고 부족했으며 무얼 할 수 있는지 이야기를 나눴다. 이야기를 하고 나서 느낀 점은 확실히 강한 유대감을 느끼고 있다는 점이었다. 다들 소통을 주저하지 않았고, 열정적이었다. 팀 리더로서 걱정되는 점은 너무 빨리 지치지 않을까인데 이는 내가 적절하게 조절해줘야 한다고 생각한다.