👀 간추린 업계 동향

• 딥브레인AI, 딥페이크 탐지 솔루션 고도화
• 제페토, 생성형AI로 아이템 만든다
• 메타, AI 도구 '오디오 크래프트' 공개
• 슈퍼캣, 인디 게임 플랫폼 '펑크랜드'에 AI 이미지 생성기 도입
• 정부, ‘AI 프라이버시팀’ 신설
• 애플, 中 앱스토어에서 생성형 AI 앱 100여개 삭제
• 중국 생성 AI 최초 규제 곧 시행

딥브레인AI, 딥페이크 탐지 솔루션 고도화

국내 생성형 인공지능(AI) 전문 기업 딥브레인AI(대표 장세영)는 딥페이크(Deepfake) 탐지 솔루션을 고도화하고 조작된 영상 검출은 물론 이미지, 음성까지 탐지 범위를 확대했다.

세부적으로는 종합 탐지 모델, 특정 인물 탐지 모델, 음성 탐지 모델로 구성된다.

먼저, ‘종합 탐지 모델’은 합성곱 신경망(CNN, Convolution Neural Network)과 구글의 자연어 처리 모델인 트랜스포머(Transformer)를 기반으로 설계됐다. 페이스 제너레이션(Face Generation)과 페이스 스왑(Face Swap), 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지한다.

또한, 특정 인물의 영상 데이터로 얼굴 특징, 체형, 행동 패턴 등을 분석해 딥러닝 학습을 진행한 후 특정 인물에 대한 진위 여부를 판별하는 ‘특정 인물 탐지 모델’과 TTS(Text To Speech)나 보코더(Vocoder) 등 음성 합성 여부를 탐지하는 ‘음성 탐지 모델’을 제공한다. 특히, 음성 탐지 모델은 음성의 주파수와 시간 등을 각각 고려하여 분석 후 모델 학습을 진행하는 음성 판별 방식을 사용하며, 국내 통신사와 협력해 범죄 수법이 날로 진화하고 있는 보이스피싱 예방에 활용할 계획이다.

기사 원문

제페토, 생성형AI로 아이템 만든다

네이버의 메타버스 자회사 네이버제트는 간단한 키워드 및 명령어만으로 아이템을 만들 수 있는 생성형 AI 기술을 도입하고 관련 창작 이벤트 '도전! 제페토 디자이너'를 개최한다고 31일 밝혔다.

제페토는 AI 기반 3D 콘텐츠 제작 기술 스타트업 '리콘랩스'와 협업해 생성형 AI로 아이템을 제작하는 '창작툴'을 도입했다. 창작툴은 패턴·색감·컨셉 등 키워드를 선택하거나 명령어 솔루션에 입력해 아이템 텍스쳐를 추출하고, 이를 제페토 스튜디오의 아이템 템플릿에 적용하면 된다. 각 30가지 키워드와 명령어 입력 선택지가 있어 이용자가 원하는 아이템을 생성할 수 있다.
이로서 제페토에서 챗GPT와 대화하는 듯 간단한 키워드 입력만으로 아바타가 입을 옷이나 액세서리 등 아이템을 창작할 수 있게 됐다.
기사 원문

메타, AI 도구 '오디오 크래프트' 공개

현지시간 2일 메타는 오디오와 음악에 특화된 생성형 AI 도구 '오디오 크래프트(AudioCraft)'를 발표했다.

오디오 크래프트는 ▲MusicGen ▲AudioGen ▲EnCodec 등 세가지 모델을 기반으로 구축됐으며 텍스트를 입력하는 것만으로 음악을 작사·작곡 할 수 있다는 설명이다. '사이렌 소리가 가까워졌다가 멀어진다' 등의 텍스트 명령을 입력하면 오디오 결과물이 생성되는 방식이다.

메타는 생성형 AI 시장에서 이미지, 영상, 텍스트에 대한 이야기는 많이 나왔지만 오디오는 약간 뒤처진 상황에서 새로운 방식으로 작곡을 할 수 있는 오디오크래프트의 활용이 기대된다고 말했다.
기사 원문

슈퍼캣, 인디 게임 플랫폼 '펑크랜드'에 AI 이미지 생성기 도입

슈퍼캣이 인디 게임 플랫폼 겸 노코딩 개발 툴 '펑크랜드'에 인공지능(AI) 이미지 생성기를 정식으로 도입했다.

'펑크랜드'에 도입된 AI 이미지 생성기는 텍스트를 바탕으로 다양한 이미지를 생성하는 AI 모델 '스테이블 디퓨전' 기반 응용프로그램 인터페이스에 의해 구동된다. 일반 모드와 고급 모드가 모두 무료로 제공된다. 일반 모드에는 한글을 지원하는 자동 번역 기능이 적용됐다. 고급 모드에서는 일반 모드에서 생성한 이미지를 수정할 수 있다. 사이즈 및 정확도, 네거티브 키워드 지정 등 세부 조건 설정도 가능하다.

개발자 사용성을 고려해 AI 이미지 생성기를 통해 만든 이미지는 '펑크랜드 스튜디오' 내 위치한 프로젝트 폴더에 자동으로 저장된다. 캐릭터 및 아이템, 스킬 아이콘, 일러스트 등 카테고리에서 원하는 이미지 리소스를 쉽고 빠르게 생성, 이를 개발 중인 게임에 즉시 적용할 수 있다.
기사 원문

정부, ‘AI 프라이버시팀’ 신설

정부가 챗GPT 등 생성형 인공지능(AI) 발전에 따른 개인정보 침해에 적극 대응하기 위해 ‘AI 프라이버시팀’을 신설한다.

10월 중 신설되는 AI프라이버시팀은 AI 분야 개인정보 처리 시 법령해석을 지원하고, 다양한 AI융합 기술이 시장에 진출 할 수 있도록 규제 샌드박스(실증특례) 활용 방안을 안내한다. 아울러 ‘사전 적정성 검토’를 올해 중 도입한다. 사업자의 개인정보 처리 방식의 적법성·안정성 등을 사전에 점검해주고, 이행결과가 적정하다고 판단하면 행정처분을 하지 않는 제도다.

AI 개발·서비스 단계별 개인정보 처리 원칙과 기준도 구체화했다.
AI 모델·서비스를 기획하는 단계에선 개인정보 보호 중심 설계 원칙을 반영하도록 하고, 데이터를 수집할 땐 개인정보의 처리 원칙을 일반 개인정보·공개된 정보·영상정보·생체인식정보로 나눠 제시하도록 한다.
AI 학습 단계에서는 개인정보를 가명처리해 별도 동의 없이도 AI 연구 개발이 가능하도록 한다.다만 개보위는 사후 사업자들의 예방조치 이행 수준을 판단한다.
기사 원문

애플, 中 앱스토어에서 생성형 AI 앱 100여개 삭제

애플이 중국 앱스토어에서 생성형 인공지능(AI)인 ‘챗GPT’와 비슷한 서비스를 제공하는 앱 100개 이상을 제거했다. 중국이 생성형 AI 관련 규정을 오는 15일 발표할 것을 앞두고 내놓은 조치라는 분석이 나온다.

이번에 제거된 앱에는 지난 6월 29일 출시된 이후 세상의 이목을 끌었던 ‘스파크(Spark)’, 애플 중국 앱스토어에 입점한 유료 앱 중 9위를 차지했던 번역·작문 앱 ‘챗GPTGAi 플러스(ChatGAi Plus)’ 등이 있다.
기사 원문

중국 생성 AI 최초 규제 곧 시행

중국 정부가 인공지능(AI) 기술 기업 대상으로 생성 AI 서비스 규제안을 마련해 이달 시행한다. 규제는 앞서 알려진 초안보다 수위를 낮추고 AI 산업 발전을 지원하는 비중을 키웠다.

적용 대상이 된 생성 AI 서비스 제공자는 △국가 규정에 따라 생성 AI 서비스 안전 평가와 알고리즘 제출, 변경, 등록 취소 절차를 밟고 △연구·개발 과정에 데이터 라벨링 규칙 제정과 품질 평가를 하고 △생성 콘텐츠 정확성·신뢰성을 높이면서 체제 전복, 차별, 프라이버시 침해 같은 문제 정보를 제거하는 등 의무를 준수해야 한다. 또한 '인터넷 정보 서비스의 심층 합성 관리에 관한 규정'(互联网信息服务深度合成管理规定)’에 따라 이미지·동영상 등 AI로 생성된 콘텐츠에 그러한 표기를 해야 한다. 제공자는 사용자가 입력한 정보와 사용 기록을 보호하고 개인정보 보호를 위한 개인의 요청을 제때 수락해 처리해야 한다. 또 정상적인 사용을 보장하기 위해 안정적, 지속적 서비스를 제공하고 합법적인 사용을 유도해야 한다.

외국 생성 AI 서비스 제공자도 중국 주민 대상으로 서비스를 제공하면 이 규정을 따라야 한다. 반대로 중국에서 개발된 생성 AI 서비스가 해외 사용자만 대상으로 할 때는 이 규정을 적용받지 않는다.
기사 원문