2023.09.14 ~ 2023.09.15, 이틀 간 마곡 사이언스 파크에서 개최된 소프트웨어 컨퍼런스에 참여했다. 다양한 분야의 연사님들 강연을 청강하며 얻게 된 지식들과 인사이트를 기록하고자 한다.

"자바의 아버지", 제임스 고슬링님도 왔다 😊

Day 1

신뢰할 수 있는 AI

• 생성형 AI가 화두
• 그 중에서도 LLM(Large Language Model)
• Hallucination -> AI의 문제 (데이터의 신뢰성이 중요)

제임스 고슬링 강연

• 디바이스와 클라우드 엔지니어의 파트너십이 중요하다.
• 디바이스 시스템 -> Failure is not an option

SDV(Software Defined Vehicle)

• SW를 HW에 올리는 이유 -> 구독형 서비스를 통한 수익 창출
• SW Complexity: SDV의 어려운 점
  -> MSA(Micro Service Architecture) + Orchestration으로 해결

오케스트레이션 차이점 (자동차vs클라우드)

• real time, safety 측면에서 차이
• 클라우드에 비해 자동차는 이동 중 실시간 데이터를 처리해야함
• 클라우드에 비해 자동차는 에러 발생시 인명 피해의 위험이 있음

👉 쿠버네티스는 클라우드 타겟팅으로 만들어진 오케스트레이션이므로 자동차에 사용하기 부적합

쿠버네티스가 자동차에 어울리지 않는 두 가지 이유

1. 디바이스 관리 X
2. 이종 컴퓨팅 지원 불가

해결책

• PICCOLO: LG만의 Vehicle Orchestrator
• SOAFEE: SDV Standard Architecture 오픈소스 단체

스마트 홈을 위한 음성인식

• 엘지 씽큐의 핵심가치: 진화,연결,개방
• ATOM(Ambient computing Technology Of Multiverse)를 통한 가사노동/매뉴얼 Zero화
• AI sensing, AI brain, AI body로 구현
• 이 중에서도, 스마트 루틴(ex. 입실 모드, 취침 모드 등)에 집중
• SLU(Spoken Language Understanding)를 통한 음성 인식 시간 단축

화자 식별 기능

화자 식별 기능이 음성 인식에 추가될 때 하기와 같은 장점이 있음

1. 명령어를 입력하는 목소리를 미리 알면 음성 인식률 ⬆
2. voiceID를 통한 고객 맞춤화 가능
   Ex) 내 목소리를 인지하여 평소 내가 사용하던 에어컨 가동 패턴으로 냉방

대화형 QA(챗봇)

• RAG(Retrieve Augmentation Generation): 대화형 QA의 문제점
• Hybrid Search = Term Search + Semantic Search

KG(Knowledge Graph) QA

• 검색의 한계점 극복
  Ex) "우리나라에서 해발고도 25km~30km 중 7번째로 높은산은?"과 같은 질문을 검색을 통해서 찾기는 어렵다.

• 기존 지식에서 추론을 통하여 위의 질문에 대한 답을 얻을 수 있음.
  Ex) 1. 트롬 세탁기에 "조용조용 모드"가 있다.
  2. "조용조용 모드"는 무소음 세탁 과정이다.
  3. 무소음으로 세탁할 수 있는 세탁기는?
  👉 1번과 2번을 통해 3번의 답으로 "트롬 세탁기" 도출

LLM 기반 Autonomous Agent

Autonomous Agent를 통해 하기 3가지 기능 수행 가능

1. 루틴 생성
2. 복잡 명령 대응
3. 추상 명령 대응

Cross-Attention

• 두 이미지의 손실 정보를 공유하는 기법
• Over Expose(가장 밝은 이미지)와 Under Expose(가장 어두운 이미지)를 인풋으로 사용
• 여러 개의 이미지를 인풋으로 사용하기에는 메모리 한계가 있기 때문

Day 2

개발자! 이것까지 하세요

기억보다 기록을

1. [기록]을 하라

백만달러짜리 교훈을 알려드릴게요. 항상 노트를 갖고 다니면서 모든 것을 기록하세요. 아이디어가 떠오르면 기록하세요.
-선박왕, 오나시스-

2. 기준과 원칙을 세운다

3. 의사소통과 대인 기술 향상

4. 인맥과 개인 브랜딩: LG라는 옷을 벗었을 때 나는 어떠한 사람인가?

5. 코드 문서화 및 정돈

글쓰는 꿀팁

• 일기처럼 쉬운 글을 써라
• 이해하기 쉬운 단어를 이용하라
• 초안은 쓰레기! 시작부터 겁먹지 마라

Wag The Dog!

초전도 화질

여러 개의 디스플레이를 하나의 디스플레이화 했을 때 이질감이 느껴지지 않도록 하는 화질

3깔 -> 화질에 중요한 3대 매개체
빛깔, 눈깔, 색깔

헬름홀츠-콜라우슈 효과

LED Signage의 Pixel Calibration

LED는 모든 소자가 독립된 광원

픽셀 캘리브레이션이란? RGB가 균등하게 분포되도록 보상하는 과정

한계 -> 계측편차로 인한 색감차, 온도 편차로 인한 화면 얼룩

이를 스크린 캘리브레이션으로 해결

그러나 이도 한계가 있음 -> 보상 영역의 한계, 평균값의 오류

MLOps for EV Safety Diagnostics with AI

Model 개발

• 분석용 리더보드 개발 -> 케글과 같은 경진대회 형태의 개발 문화 지향
• 게임처럼 서로의 결과를 확인하며 선의의 경쟁 유도
• 즉각적인 모델 성능과 분석 결과 확인

Question

• 장애가 발생했을 때, 원인을 어떻게 찾는가?
  - 배터리 쪽에서 Error Detection의 원인은 "자동차 화재"가 대부분이다. 따라서, 이상치를 발견했을 때 배터리 화재 사고라고 가정한다.
  
• AWS 비용 많이 나올텐데 얼마 정도 내고 있는지?
  - 밴드가 넓어서 얼마라고 특정짓기 어렵다.
• 그렇다면 한 프로젝트의 평균적인 비용은?
  - 작은 토이 프로젝트 하나당 2억~3억 정도 나온다.
  

ML Pipleline On AWS

MLOps 구성

-> 플랫폼, 인력 및 운영 비용 절감을 위해 사용한다.

주요 페르소나 및 역할: 분석팀, 데이터 과학자 팀, 플랫폼 팀, 비즈니스, 리스크 및 컴플라이언스

MLOps 구축

1. Sagemaker Studio 및 노트북을 사용한 ML 실험 수행
2. ML 솔루션의 라이프사이클 자동화
   • SageMaker Pipelines
   • AWS Step Functions
3. SageMaker Model 배포 옵션을 통해 사용 사례에 맞게 배포

MLOps 사례

Generative

ThinQ Data Curation & 개인화 서비스

문제점 -> 다양한 모델들이 존재하고 기능도 각기 다름 그리고 데이터양도 계속 증가

좋은 데이터란? 데이터 정형화/표준화, 대용량 데이터 처리 기술

데이터 플랫폼이란? 로우 데이터를 잘 가공하여 사용자들이 쉽게 사용할 수 있도록 해주는 도구

Data Curation

데이터를 효율적으로 사용하기 위해 수집/정리/가공을 기반으로 "목적성 있는 표준화 된 데이터"를 만드는 것

RAW -> Parsed -> Pre-Processed -> Profiling

지속적인 품질 유지

• 아파치 에어플로우를 통한 관리
• MS Teams 연동 -> 장애 알림

MLaaS

MLOps는 비용,기술,인력에 많은 투자가 필요하므로 MLaaS가 적절한 대안 가능

6가지 핵심 디자인 패턴으로 설계하는 마이크로서비스 아키텍처

• Small, goal-oriented service
• Loosely coupled (비동기 통신을 통한 느슨한 결합)
• Independently testable and deployable
• Scale only what needs scaling
• Purpose-built tools

Service Choreography 패턴

여러 마이크로서비스를 조합하는 비즈니스 기능의 구현을 이벤트 기반의 비동기 통신으로 합성하는 패턴

문제

유연성과 확장성, 변경 비용을 고려해서 서비스들간의 낮은 결합도와 비동기 통신 필요

해결책

다른 마이크로 서비스를 능동적으로 직접 호출하지 않고 이벤트와 메시지를 기반으로 반응 모드 작동

Web OS

P2P Adaptive Streaming

HTTP와 P2P를 스위칭하는 구조

구현: P2P-media-loader

이슈 1. 하나의 트랙만 지원 가능한 제약 사항
비디오 트랙과 오디오 트랙이 분리되어있는 경우, 하나의 트랙만 공유 가능

• Video stream 기준의 swarm에서 AV 세그먼트 공유

이슈2. webOS 대응을 위한 proxy 서버

• Seek/Pause 이벤트 발생시 재생 시각 이동에 대한 segment map 업데이트

결론

P2P Adaptive Streaming을 도입한다면 다양한 webOS 디바이스에서 P2P 모드 확장

-> 서버 부하 감소, 확장성, 내결함성, 비용 절감
-> 문제점: 클라우드 기반 CDN의 효율성, 보안문제, 리소스 불균형