데이터 윤리

윤리란 무엇인가?

• 인간이 마땅히 해야 할 일을 규정하는 옳고 그름의 근거 있는 기준
• 한 인간의 윤리적 기준 연구 및 개발

데이터 윤리의 핵심 사례

• 청원절차
• 피드백 루프
• 편향

청원절차

-건강관리 프로그램의 버그로 많은 환자들이 피해를 본 사례
-> 복잡한 시스템에서는 그 원인을 찾기도 어려울뿐만 아니라 아무도 결과에 책임감을 느끼지 않게 된다.

피드백 루프

-유튜브 알고리즘은 표면적으로는 사람들이 좋아할 만한 콘텐츠를 예측하지만, 사람들이 시청할 콘텐츠를 결정하는 데도 지대한 영향을 미친다.

편견(편향)

-이름과 인종에 대한 편향으로 정보가 구성될 수 있으며, 이는 각 개인에게 지대한 영향을 미칠 수 있다.

역사적 편향 - 사회나 사람 자체가 근본적으로 편향되어 있어서 발생하는 편향

측정 편향 - 잘못된 대상을 측정하거나, 잘못된 방식으로 측정하여 통할될 때 모델에 문제를 만드는 편향

집계 편향 - 모델이 만든 적절한 요인을 통합하는 방식으로 데이터를 집계하지 않을때 발생하는 편향

대표성 편향 - 실제로 만연한 불균형을 반영하고 이를 증폭시켜 발생하는 편향

-> 실제 알고리즘 및 적용은 굉장히 복잡하기 때문에 원하는 결과를 얻기 위해서는 전체적으로 이를 고려해야 한다.