[컨퍼][CIO] Gen AI 시대를 대비하는 전략, ‘엔터프라이즈 AI 플랫폼’ 도입 가이드

본 내용은 CIO SUMMIT 2024에서 발표된 내용을 기반으로 제가 더 조사 및 정리해서 작성한 글입니다. 본 게시글은 발표 내용을 정리한 것이지 특정 회사를 옹호•홍보할 목적이 아님을 밝힙니다. 틀린 내용이 있다면 편하게 댓글 달아주세요!! 🤗

제목

Gen AI 시대를 대비하는 전략, ‘엔터프라이즈 AI 플랫폼’ 도입 가이드

발표자

마키나락스 심상우 CTO

발표내용

뭐하는 회사지?

마키나락스는 머신러닝, 딥러닝, 강화학습 기반의 Core ML 역량과 Enterprise MLOps 제품으로 산업을 지능화 하는 AI를 만들어가자는 모토를 가진 기업입니다.

개인적으로는 예전 세미나에서도 발표를 들었던 기업이라 MLOPS와 LLM을 어떻게 엮었을까 궁금하여 다른 트랙으로 넘어가서 세션에 조금 늦게 참여하게 되었습니다.

AI의 한계

심상우 CTO는 생성형 AI가 작업의 자동화와 효율화에 중점을 두나, 이의 기여 범위가 제한적이라고 지적합니다. 이상을 탐지, 매출 예측 등을 수행하는 전통 Traditional AI(전통AI, Predictive Analytics)가 Generative AI(생성형 AI)를 만나면 단순히 서비스나 프로세스 개선에 그치지 않고, 새로운 가치 창출의 기반이 될 수 있다고 설명합니다.

예를 들어, Traditional AI로 이상을 발견했다고 하면 예전에는 거기서 그치고 현업 담당자들에게 "이거 해결해야 한다."라고만 전달했다면 Generative AI를 이러한 Traditional AI에 접목시키게 된다면 XAI 또는 원인 분석 기능까지 충분히 제공이 가능할 것이라고 본다고 이야기합니다.

제가 이해한 바가 맞다면, 마키나락스는 아래 그림과 같이 지금까지 쌓아 온 프로젝트들의 노하우 및 경험들 (Traditional AI)

현재 회사에서 제공하고 AI Solution인 Link와 Runway에 생성형 AI를 곁들여서 LLMOPS로 승화시키고 (Generative AI),

이를 합쳐서 새로운 AI플랫폼으로 승화시키려고 한다라는 생각이 들었습니다.

엔터프라이즈 AI 플랫폼

심상우 CTO는 제너릭티브 AI 기반의 정보 플랫폼의 가능성을 아래 그림을 통해 제시합니다. 이러한 플랫폼은 계속해서 빠르게 발전하는 외부 AI환경에 따라 모델의 지속적인 업데이트와 개선·관리를 용이하게 하며, 고객들에게 시스템화된 솔루션을 제공합니다.

상세 데모가 없었어서 엔터프라이즈 AI 플랫폼을 통해 LLM이 어떻게 Predictive AI를 좀 더 Prescriptive AI로 개선되는 예시를 볼 수 없어 조금 아쉬웠지만 마키나락스가 바라보는 MLOPS와 LLM의 미래에 대해 조금 알아볼 수 있었던 시간이 되었던 것 같습니다 😛