[굿 데이터_샘길버트] 디지털 마케팅, 데이터 윤리의 낙관주의적 시각에 관한 나의 생각

0. 이 책을 고른 이유

• 이유 모를 광고에 대한 불쾌감이 그 첫번째였다. 넷플릭스 '소셜 딜레마'는 나에게 꽤 큰 충격이었기도 하다. 다 알고 있었던 내용이기도 하면서 전부 모르는 내용이었다. 그럼에도 내 스스로가 sns를 관둘 거라는 기대감은 애초에 없었지만, 확실히 무한한 알고리즘의 굴레에 갇혀있다가도 아차 싶은 마음에 더 쉽게 빠져나올 수 있게 되었다.
• 두번째는 요즘 대두되는 수많은 기술들에는 반드시 어떠한 '윤리적인 문제'가 따른다는 것을 안 것이다. (그리고 multi-modal 시대가 오게된다면, 더 큰 문제들이 있을 수 있겠다는 생각이 들었다) 이러한 기술들이 사회에 어떤 문제가 있을지 충분히 고민하는 사람이 많지 않다고 느꼈다. 어떠한 문제를 해결하기 위한 인공지능이 아닌, 인공지능으로 인해 문제가 생기는 세상이 올 수도 있겠다는 의심이 마구 들었다.
• 이러한 비관적인 관점에 대해 내가 주창하기 이전에, 상대의 의견을 듣는 것이 더 중요하다는게 나의 오랜 생각이다. 우기고 고집부리는거, 또 상대에 대한 배려심 없는 것들이 세상에서 제일 싫기 때문이다. 과연 내가 생각하는게 맞는가? 또 내가 흥미있게 들여다봐도 괜찮은가?에 대한 답을 찾기 위해 낙관주의적 관점을 가진 책을 직접 찾아 읽었다.

1. Bookmarks

Agree
1. 감시 자본주의적 시각

• 감시 자본주의 이론은 페이스북이 인간의 자유를 침해한다고 주장한다. 방대한 양의 행동 데이터를 기반으로 한 사용자 인터페이스 디자인은 당신이 앱을 사용하는 데 더 많은 시간을 할애하도록 유도하기 위해 설계되었으며, 이는 당신의 건강한 삶을 위협하기 때문이다. - p. 19 서문
• 데이터는 노력의 산물이다. 따라서 데이터는 당신의 자산이어야 하며, 페이스북이나 구글과 같은 데이터 전제군주가 데이터를 일종의 원재료로 사용할 때 당신은 필연적으로 착취를 당한다. 그리고 이 회사들이 대가로 제공하는 소셜 미디어 서비스는 공정한 보상이 아니다. (낙관주의 : but 대부분의 데이터들은 소비자로서 당신의 선호도를 나타내기가 어려우므로 경제적 가치가 거의 없다.) - p.52 1장 편집증
  • 예를 들어, 생성 프로그램을 만들때, 일반인들의 brunch, 블로그 글 같은 것이 사용되어 문장이 생성된다면? 이것이 상용화되어서 경제적 창출이 이어진다면? Data를 제공해준 블로거와 brunch 작가들에게 이윤을 돌려줘야 하는 것 아닌가?
• 현재 일어나고 있는 급격한 기술의 변화와 불확실성의 증대 속에서 IT 기업들은 내용적 정당성을 유지하기 위해 보다 엄격한 정치적 이데올로기를 채택해야할 필요가 있다. '공포의 자유주의'를 선택할 것을 제안한다. -p. 278
  - 공포의 자유주의 : 유토피아를 추구하는 것보다 잔혹함 및 기타 다른 해악들을 회피하는 것이다.

---

2 낙관주의적 시각

• 감시 자본주의 이론이 주장하는 것처럼 데이터 기반 광고는 본질적으로 개인 정보를 침해하지 않는다. 사람들은 때때로 타깃 광고에 우호적이기도 하며, 소셜 미디어와 그 주변에서 나눌 수 있는 대화를 통해 진정한 가치를 얻기도 한다. … 만약 광고가 프라이버시를 침해한다고 느꼈다면, 이는 공개하지 않았다고 간주되는 것들이 행동 데이터를 통해 추론되고 처리되었기 때문이다. - p.44 1장 편집증

• 추론의 위험성을 줄이는 방법은 두가지 이다.

  1. 조회금지옵션 : 웹 사이트에서 공유될 수 있는 행동데이터가 조회 불가능하게끔 설정할 수 있다.
  2. 법률을 통한 방법. 유럽의 GDPR과 같은 법률은 기업이 소비자로부터 행동 데이터를 수집하려 할 떄 사전에 동의를 구해야 한다. 이러한 법률이 시행되면 우리는 개인 정보 보호와 인터넷 사용 편의성 사이에 사실상 절충안을 선택하기 어려워진다.

• 페이스북 앱은 광고 공간이다. - p.45

• 소셜 미디어 업체들은 광고를 완전히 제거하는 것 이외에 더 이상 무언가를 하기가 어렵다. - p. 47

• 페이스북의 광고 매출 및 고객 관리 담당 조직의 수익 창출 활동 난이도가 매우 낮다. - p.63

• 케임브릿지 애널리티카 사건의 테크닉을 마케터들이 ‘최적화’라고 부른다. 이러한 테크닉은 고도로 데이터 중심적이지만, 감시.자본주의 이론에서 시사하는 것과 같이 개인 프로필 데이터가 관련되어 있는 것은 아니다. 이와 관련된 데이터는 행동 데이터이기 때문이다. - p. 71

• 단지 적절한 데이터가 있으면 사람들이 각 개인별로 맞춤화된 메시지를 통해 광고의 타깃이 될 수 있다고 생각하는 경향이 있지만, 사실은 다르다. 맞춤 타겟팅 기능이 작동하기 위한 최소 단위는 100명이며, 그보다 숫자가 작은 그룹에는 특정 광고를 표시할 수 없기 때문이다. - p. 73

• 케임브릿지 애널리티카 스캔들이 보여주는 디스토피아적 서사는 일상적으로 운영되는 광고에서는 현실적으로 불가능하다. -p. 74 하지만 여전히 abusing은 있을 수 있다

• 우리는 선거운동의 일환으로 네거티브 전술을 인정하고 있으며, 고객 타겟팅 도구는 옳지 못한 일의 원인이 아니라 그저 전달 메커니즘에 불과하다. 그러나 정치 캠페인에서 페이스북 광고를 활용하는 것은 결국 이를 해결하기 위해 더 많은 노력이 필요한 어두운 측면이기는 하다. -p. 82 해당 기술이 부정적인 곳에 많이 쓰이기 시작하면 결국 옳지 못한 일의 원인이 될 것이다. 아예 restrict 하는 것보다 다른 방법.. 없을까? Ex) 페이스북과 같은 sns 활동을 선거 운동 일정 기간동안 금지시킨다던가..

• 데이터 유출은 데이터가 접근 권한이 없는 사람에게 넘어가는 것을 말한다. 반면에, 케임브리지 애널리티카 사건의 경우, 그 악명 높은 모델을 구축한 데이터 사이언티스트는 타사의 개발자를 위해 시스템에 내장된 '그래프 API'를 통해 페이스북 사용자의 데이터에 접근할 수 있는 허가를 받았다. 즉, 캐임브리지 애널리티카가 데이터를 수집하기 된 것은 실수가 아니라 페이스북의 정책이었던 것이다.

• 페이스북은 광고 없이 그래프 API 데이터를 활용하여 앱을 개발한 타사 개발자로부터 수익을 창출하기를 바랐다.

• 양질의 광고만 내보낼 수는 없을까? 인터넷에 광고를 올리기위한 심사를 거쳐야한다던지..

• 정치적인 문제를 일으키는 것은 타깃 마케팅이나 페이스북의 광고주 도구가 아니다. 왜냐하면 정작 부족한 것은 누가 그러한 도구를 사용할 수 있으며 그들이 무엇을 말할 수 있는지에 대한 통제이기 때문이다. - p. 91

• 뉴스기사마다 진위여부 percentage를 보여줄 수 있다면?

• 다시 강조하지만, 검색 데이터를 저장하는 것만으로는 아무런 경제적 이득이 없다. - p. 139

• 오픈 데이터는 지식 정보가 정부 및 공공 부문 기관 내부에 집중되는 것을 막고 대신 시민들에게 지식을 배포한다. 오래된 속담이 말하듯, 아는 것은 힘이다. - p. 149

• ⭐️ 데이터 및 디지털 기술에 대해 어떠한 관점을 가질 수 있느냐는 결국 어디에서 거주하고 성장하느냐에 따라 이해관계가 많이 달라질 수 있다는 것이다. - p. 178

• SNS는 분배 정의의 한 형태가 될 수 있다. 자유주의 철학자 존 롤즈가 설정한 두가지 원칙, 즉 불평등은 최하위 수혜자에게 가장 이익이 될 때에만 허용되어야 하고, 정치적 조건에서 거주하는 사람들은 더 유리한 정치적 조건에서 사는 사람들의 도움을 얻어야 한다는 두 가지 원칙을 충족하기 때문이다. - p. 185

• 페이스북이 광고에서 구독 모델로 전환하게 된다면 넷플릭스, 아마존 프라임, 애플과 같은 부유층 전용 플랫폼이 될 것이고 이는 짐바브웨와 같은 나라에는 매우 나쁜 소식이 될 것이다.- p. 187

• 페이스북이 '프리미엄 모델'을 채택해야한다는 제안이다. 이용자는 이 서비스를 통해 데이터 수집, 타겟팅을 차단할 수 있다. 그러나 이러한 형태의 합의는 의료 또는 교육 분야에서 보편적 공공 서비스를 대체하는 민영화라는 대안이 그렇듯이 기존의 경제적 불평등을 강화한다는 측면에서 충분히 평등을 해칠 수 있다.- p.187

• 정당성 논쟁에 대한 한가지 답은, 결국 기업은 정치적으로 정당할 필요가 없다고 이야기하는 것이다. 그들은 법률의 범위 내에서 주주의 이익에 봉사하기만 하면 된다. - p. 273

• 더욱이 인상깊었던 속 시원한 이야기들
  Q. 더 강한 개인정보 보호가 정답인가?
  A. 개인정보 보호로 중심축을 이동하는 것은 절차적 정당성을 생성할 수는 있지만 내용적 정당성을 훼손할 수 있다.

  Q. 거대 IT 기업이 인터넷 인프라를 제어하도록 허용해야하는가?
  A. 우리가 IT 기업들의 디지털 정당성을 더욱 강화하고자 한다면, 먼저 그들의 제품과 비즈니스 모델이 실제로 어떻게 작동하는지에 대한 세부 사항을 이해해야 한다. 그리고 어떤 방식으로든 그들의 정당성을 강화하려는 정책적 제안이 다른 정당성을 훼손할 수 있다는 사실에 대한 것들을 고려할 필요가 있다.

  Q. 데이터 윤리가 기업들에게 중요한 이유는?
  A. 별거 없다. 대기업들의 주가가 대중들의 윤리적인 우려에 의해 영향을 받기 때문이다. 이러한 추세에 회의적인 이유가 있다. IT 기업의 윤리 위원회 설립이 갑자기 확산되면서 윤리적 세탁이라는 비난이 일고 있다. 이는 환경을 오염시킨 이력이 있는 기업들이 과거에 취했던 친환경 세탁과 유사한 기업 홍보 전략으로서의 윤리에 대한 잘못된 관여라고 할 수 있다.

< 결론 >

• 정책 의사 결정권자들은 데이터 및 기술에 대한 광범위한 관점을 포함해야 한다. 물론 더 많은 것을 포용한다는 것은 의견 충돌을 피할 수 없게 만들기 때문에, 우리는 하나의 옳은 답이 있다는 생각을 버리고, 중첩된 합의를 찾아야 한다. 그러나 현재는 시민들과 그들의 정치적 대변자들, 그리고 다른 한쪽에는 IT기업들이 서있으며, 그 사이에 발생하는 충돌이 점점 증가하고 있다.
• ⭐️ 지금까지 한 이야기가 바로 데이터나 기술에 대한 논쟁의 기조가 바뀔 때가 도래했다고 보는 이유이다. 거대 IT 기업에서 일하는 모든 사람들이 이기적이거나 도덕적이지 못하거나 사악하다고 가정하는 것은 도움이 되지 않는다.
• ⭐️ 우리는 광고를 할 때 유사 고객 타겟팅 도구와 같은 머신러닝 도구를 누가 사용할 수 있는지에 대해 더 엄격하게 통제해야 하고, 데이터가 타겟팅에 사용되는 방법을 제한하기보다는 디지털 광고에서 제기된 주장의 진실성을 검증하기 위해 시행 가능한 규범이 필요하다.
• ⭐️ 뿐만 아니라, IT 기업들은 데이터를 개방해야 한다. 우리는 데이터를 사유재산으로 생각하기보다는 모든 사람들이 기여하고 혜택을 얻을 수 있는 공유 자원으로 생각하기 시작해야 한다. 이런 관점에서 보자면, 결국 우리가 데이터를 소유하는 것이 아니라, 우리가 데이터에 속하는 것이다.

2. thoughts

• 첫번째로 이 책의 옮긴이에게 정말 죄송한 말이지만, 가독성이 너무 떨어져서 읽기 힘들었다.
• 나는 언젠가부터 광고가 무조건적으로 불편하게만 느껴졌다. 인스타그램이나 페이스북에 무차별적으로 보여지는 광고 '때문에' 나의 시간이 뺏긴다고 생각했다. 어쩌면 그건 나의 이기적인 생각일 뿐이었지만, 많은 사람이 비슷하게 생각하듯 기계덩어리에 '당하고 있다'는 느낌이 많이 들었던 것 같다. 하지만 사실상 타겟팅 도구는 휴대폰 너머 우리를 '감시'하고 있지 않다. 그저 행동 데이터를 가지고 있을 뿐이다. 행동 데이터에 입각하여 우리에게 보여지는 광고들이 오싹하고 섬뜩하게 느껴지는 건 어쩌면 너무 당연했다. 그러니 불편하면, 애플에서 제공하고 있는 앱에 추적 금지 요청을 하면 되는 것이다. 물론 그의 결과로 내가 전혀 관심없는 것들이나 질이 낮은 광고를 보게 되는 것은 그에 대한 대가다. 그래도 불편하면 하지 않을 수 있는 또 다른 선택지가 있다. 내가 그렇게 화나있고, 광고에 대해 비관적일 필요가 전혀 없었다.
• 그리고 이건 정말 어려운 주제다. 아주 얕게 봤는데도 너무 어려웠다. 해당 주제에 대해 목소리 높여 이야기하는 사람이 되려면 정치적으로, 윤리적으로 뚜렷한 성향을 가진 사람이 되어야 하지 않을까라는 생각이 들었다. 그러려면 싸울 힘이 충만해야겠다는 생각이 들었다. 책에 나와있는 것처럼 AI 기업들의 '윤리'에 대한 생각은 보통 기업 가치를 위한 일의 그 이상일 수가 없다. 책에서 말하는 것처럼 시민들과 IT기업의 대립 구도 속에서 싸우는 것이 아닌, 좀 더 광범위한 관점에서 '윤리'에 대한 깊은 고민이 필요하다고 생각을 하지만, (개인적인 의견으로는) 아직도 혁신적인 기술들이 끊임없이 나오고 있기 때문에, 로봇이 인간을 죽이거나, 전쟁이 일어났거나 하는 큰 사건이 일어나지 않는 이상은 기업이나 세상에서 머리를 맞대고 진지하게 고민하지 않을 이야기라고 생각한다.
• '윤리'에 대해 고민하는 나의 마음이 고착화되어 새로 나오는 기술을 비관적으로만 바라보게 되면 어쩌지? 하는 고민이 가장 컸다. 그치만 책에서 말하는대로 실제로 (오히려) 사회의 약자들이 많은 기회를 얻게 되기도 하고, 또 어쩌면 이러한 sns 플랫폼 덕분에 더 나은 투명한 사회, 최소한의 폭력을 지향하는 사회를 살고 있는지도 모른다. 오히려 약자들이 일반 시민들만큼의 공평한 기회를 갖는 시대를 향해간다는 것에 전적으로 동의하는 바이다.
• 데이터가 공개되고, 공유되어야 한다는 주장에는 의심의 여지가 없다. 오래전부터 했었던 생각이다. 데이터가 공유되어야 새로운 더 많은 것들이 생성될 수 있다는 것을 몸소 느낀 사람 중 한 명이기 때문이다. 데이터와 기술이 누군가의 소유물이 된다면 세상은 여기서 더 발전하기가 너무 어려울 것이다. 실제로 우리는 chatGPT를 여러 분야에 종사하고 있는 사람들이 다양한 방법으로 사용하고 있는 것을 통해 무한한 가능성을 확인했다. 데이터도 똑같다고 본다.
• 디폴트 값으로 비관주의적인 입장을 가지고 있었기 때문에, 낙관주의적 입장이 담긴 책을 먼저 읽었다. 결론은 '광고가 아무 없이 싫은건 아니냐'는 작가의 말에 너무 뼈를 맞아서 나의 입장을 원점으로 돌려놓을 수 있었다. 다음 책으로, <굿 데이터>에서 자주 언급되는 감시 자본주의적 입장이 담긴 책이 두 권 있었다. <감시 자본주의>와 <대량살상 수학무기>. 이 중에 나는 <굿 데이터>를 읽기 전부터 눈 여겨보고 있었던 <대량살상 수학무기> 책을 읽기 시작했다.