분노 설계자들 (2024) - 알고리즘이 세상을 왜곡하는 방식에 대하여

책소개
당신의 SNS에는 왜 자극적인 콘텐츠와 가짜 뉴스만 넘쳐나는가?
감정을 선동하고 정보를 지배하는 소셜 미디어의 진실

이 책은 이 시대를 대표하는 양날의 검, 소셜 미디어를 날카롭게 탐구한다. 

미디어가 세상을 좌지우지하게 된 역사와 배경을 폭넓게 살펴보며 이런 기술이 우리 사회에 어떻게 신뢰의 위기를 촉발했는지 이야기한다. 

소셜 미디어에 접속한 우리는 서로 토론이 아닌 비난을 하고, 대화가 아닌 공격을 한다. 

모두가 쉽게 화를 내고, 쏟아져 나온 화는 댓글란과 공유 피드, 스토리, 스레드 위에 밑밥처럼 흩뿌려져 또 다른 화를 끌어들인다. 

우리가 분노할수록 알고리즘이 작동해 분노를 유발하는 콘텐츠를 더 많이 보여준다. 

알고리즘이 그렇게 설계된 이유는 바로 감정적 관심, 그중에서도 부정적 감정이 끌어들이는 주의력이 이익과 영향력으로 이어지는 중요한 요인이기 때문이다. 

그렇게 각종 부정적인 뉴스와 사건으로 관심을 유도하는 ‘낚시글’이 온라인상에서 판을 치게 되었다.

이 책에서 말하는 설계자들은 곧 우리를 분노하게 하고 또 그 분노를 먹이 삼아 성장하는 소셜 미디어다.

이것은 알고리즘을 이용해 우리에게서 혼란과 분노를 끌어내도록 설계되었고 지금 이 순간에도 충실히 역할을 수행하고 있다.

우리는 생각보다 심각한 문제를 마주하고 있다. 지금이라도 소셜 미디어가 만들어낸 분노 중독에서 벗어나 정신을 차리고 싶다면, 반드시 이 책을 펼치라.

목차
추천의 글
잔혹한 기적의 시대
들어가며

1부 기계의 제작

01 공감 기계
02 피드
03 압도적인 현재
04 중독의 기원
05 자극을 가하다

2부 기계의 작동

06 파랑과 검정, 흰색과 금색
07 참여 에스컬레이터
08 불화의 사과
09 트리거 체인
10 알고리즘
11 직관과 인터넷
12 최악의 방
13 트라우마, 처리, 등 돌림
14 도덕적 규범의 물결
15 어두운 골짜기

3부 기계의 역사

16 바이럴리티의 고대사
17 첫 번째 트위터 타래
18 미국의 분노
19 광고는 어떻게 신문을 만드는가
20 라디오의 어두운 골짜기
21 텔레비전, 혼돈, 집단

4부 기계의 톱니바퀴

22 진실을 알게 된 경위
23 믿음과 진실
24 언론의 자유 대 진실의 변호

5부 기계의 재설계

25 섬에 관한 우화
26 위험에 처한 것
27 민주주의라 불리는 기계
28 분노를 어디에 배치해야 할까
29 우리가 할 수 있는 일
30 마치며

저자 소개 
저 : 터바이어스 로즈-스톡웰 (Tobias Rose-Stockwell) 
작가이자 기술 전문가, 미디어 연구원으로 소셜 미디어가 사회 및 민주주의에 미치는 영향을 탐구한다. 

그의 글은 <패스트 컴퍼니>, <쿼츠>, <미디엄>, , 등 다수의 주요 매체에 소개되었다. 

미디어 연구원으로서 미국 최대의 뉴스 조직 중 하나인 개닛Gannett 임원진의 자문을 맡았으며 미국 내 지역 뉴스 매체에서 디지털 전략 관련 자문을 맡기도 했다. 

스탠퍼드대학교의 객원 강사로 사회 기업...

역 : 홍선영 
고려대학교 영어영문학과를 졸업하고, 잡지 〈GQ〉, 〈VOGUE〉에서 문화 예술 기사를 번역하였으며, 현재 전문 번역가로 활동하고 있다. 

옮긴 책으로는 『나는 세계 일주로 경제를 배웠다』, 『나는 세계 일주로 자본주의를 만났다』, 『지식, 철학의 법정에 서다』, 『미셸 오바마: 변화와 희망의 퍼스트 레이디』, 『몸, 욕망을 말하다』, 『STOPPING 쇼핑』, 『사람의 마음을 움직이는 위대한 명연설』 등이 있다.

책 속으로
우리는 소셜 미디어가 어떻게 파벌이나 동족 의식에 불을 지폈는지, 또 어떻게 사회와 문명, 공유된 의미와 민주주의를 해체하고 있는지 알렸다. (…) 

지금 우리는 분노에 압도되고 있다. 늘 이렇지는 않았다. 이렇게까지 될 필요도 없었다. 

계속 이런 식으로 갈 수는 없다. 

이것은 아주 중요한 책이다. 

책을 덮을 때쯤이면 2010년대에 도대체 무슨 일이 벌어졌는지 헤아리게 될 것이고 민주주의와 온전한 정신을 지키면서 2020년대를 통과하기 위해 우리가 집단으로서나 개인으로서 무엇을 해야 할지 알게 될 것이다. 

우리는 이 기계를 정지시키거나, 적어도 이 기계의 설계를 바꿔야 한다.
--- 「추천의 글」 중에서

사람들은 생각 하나만으로 유명 인사가 될 수 있음을 깨닫는다. 

정확성과 상관없이 아이디어 하나로 유명해질 수 있게 된 것이다. 

소문과 거짓이 아무렇게나 흩뿌려진다. 

감정은 즉시 전염성을 띤다. (…) 낯선 사람의 인정을 어느 때보다 갈구하며 광기 어린 집착에 이르는 이들도 생긴다. 대부분은 거짓과 혼란에 압도되어 그저 이성을 잃는다. 

머지않아 무수한 의견과 논평, 아이디어가 전에 없이 확산해 압도적인 불협화음을 이룬다. 

만인의 소란스럽고 폭발적인 생각의 아우성에 준비되지 않은 탓에, 사회는 다시 스트레스에 휩싸인다. 

가장 시끄럽고 신랄한 목소리가 가장 강력한 영향력을 행사한다. 

거짓된 정보가 진실을 뛰어넘는다. 혼란이 군림한다. 하지만 누구도 예전으로 돌아갈 수 없다.
--- 「잔혹한 기적의 시대」 중에서

이 책은 당신이 분노하도록 고안된 기계에 대해 이야기한다.

이 기계에는 목적이 있다. 세계에서 무슨 일이 벌어지고 있는지 알리는 것이다.

당신의 관심을 사로잡는 것이 이 기계의 임무인데, 그 점에 있어서 지금껏 이례적이라 할 만큼 임무를 잘 수행해왔다.

워낙 뛰어나게 임무를 수행한 결과 기계는 당신이 무엇에 불같이 화를 내는지까지 파악하기에 이르렀다.

그 과정에서 기계는 우리를 분열시켰다. 서로 다른 의견으로 쪼개놓았다.

새로운 쟁점을 전할 때마다 찬성이나 반대의 편에 서도록 요구했다.

이 기계가 바로 현대의 미디어 시스템이다.

서로 협력하는 인쇄 미디어와 디지털 미디어가 여기에 포함된다. 우리 주머니에 들어 있는 기기도 마찬가지다. 신문과 뉴스 피드, 알고리즘과 운동권, 정치인과 전문가 역시 기계에 포함된다.
--- 「들어가며」 중에서

지금까지 우리는 미디어 시스템의 여러 부정적 면면을 살펴보고 그것이 우리의 분노를 어떻게 이용했는지 알아보았다. 

물론 지금의 소셜 미디어 툴이 모두 나쁜 것은 아니다. 

우리가 소셜 미디어를 사용하는 것은 그것이 진정한 가치를 제공할 뿐만 아니라 더 나은 약속을 보여주기 때문이다. (…) 소셜 미디어의 진정한 잠재력을 일별했을 때 나는 경외와 감탄 비슷한 느낌을 받았다. 

소셜 미디어가 변모하게 될 모습을 그려볼 수 있었다. 

우리가 함께하는 삶을 더 잘 관리할 수 있도록 돕는 도구. 상호 이해를 위한 도구. 서로 더욱 정직하게 바라볼 수 있도록 돕고 함께 거주하는 이 세계에 대한 책임을 공유할 수 있도록 돕는 도구. 모든 결점을 살펴보며 몇 년을 보낸 이후에도 나는 소셜 미디어에 대해 그리 냉소를 품지 않는다. 

결국 이 어두운 골짜기를 넘어 우리만의 길을 찾아내리라 믿는다.
--- 「30_마치며」 중에서

출판사 리뷰
당신의 SNS에는 왜 자극적인 콘텐츠와 가짜 뉴스만 넘쳐나는가?
감정을 선동하고 정보를 지배하는 소셜 미디어의 진실

지금 여러분이 즐겨 이용하는 SNS 뉴스 피드를 보자. 어떤 소식들이 눈에 띄는가? 

아마 “2차선 도로에서 역주행하는 SUV 빌런”, “마트 계산대 새치기하는 진상 참교육 썰”, “반려견 키울 자격 없는 견주 고발합니다” 등 분노를 유발하는 소식으로 가득할 것이다. 

짧은 영상이나 글로 편집된 소식들을 읽으면서 여러분은 그것에 공감하고, 함께 화내고, 이 소식을 나만 알 수 없다며 친구들에게 공유할 것이다.

 “이거 봤어? 진짜 어이없지 않아?”

그러나 우리는 그 소식의 진위 여부에는 그다지 주목하지 않는다. 

말로는 ‘기어를 중립에 놓고’ 기다리겠다고 할지라도 마음속에 이미 그 소식에 대한 감정이 형성되면서 의견이 한쪽으로 치우치게 되었다. 

자극적인 뉴스에 반응하는 자극적인 댓글이 이어지고, 피드 속 당사자는 즉시 비난의 대상이자 범인이 된다. 

모두가 그 사람을 ‘진상’이자 ‘빌런’으로 규정하고, 정제되지 않은 분노를 쏟아낸다. 

새치기처럼 보였던 사건은 사실 영상이 편집된 채 공유되면서 생긴 오해일 수 있고, 스무디를 주문한 손님에게는 그럴 만한 사정이 있었을 수 있는데도 말이다.

2000년대에 단순한 개인 커뮤니티 형태로 시작된 블로그, 페이스북, 트위터, 유튜브 등의 소셜 미디어가 2010년대 들어 급성장을 이루었다. 

사람들은 온라인상에서 서로 소통하고 공감하고 자신을 드러내는 데 열광했고, 이를 지켜본 소셜 미디어 기업들이 몇몇 사소한 사회적 기능을 조용히 추가했다. 

‘좋아요’ 버튼으로 게시물에 대한 반응을 표시하거나 자신의 플랫폼에 게시물을 공유할 수 있게 한 것이다. 

그러자 미디어뿐 아니라 정치와 사회의 운영 방식 전반이 급격히 변화했다. 

더불어, 누구도 무시할 수 없는 ‘분노 설계자들’이 활동하기 시작했다.
이 책은 이 시대를 대표하는 양날의 검, 소셜 미디어를 날카롭게 탐구한다. 

미디어가 세상을 좌지우지하게 된 역사와 배경을 폭넓게 살펴보며 이런 기술이 우리 사회에 어떻게 신뢰의 위기를 촉발했는지 이야기한다.

소셜 미디어에 접속한 우리는 서로 토론이 아닌 비난을 하고, 대화가 아닌 공격을 한다. 

모두가 쉽게 화를 내고, 쏟아져 나온 화는 댓글란과 공유 피드, 스토리, 스레드 위에 밑밥처럼 흩뿌려져 또 다른 화를 끌어들인다. 우리가 분노할수록 알고리즘이 작동해 분노를 유발하는 콘텐츠를 더 많이 보여준다. 

알고리즘이 그렇게 설계된 이유는 바로 감정적 관심, 그중에서도 부정적 감정이 끌어들이는 주의력이 이익과 영향력으로 이어지는 중요한 요인이기 때문이다. 

그렇게 각종 부정적인 뉴스와 사건으로 관심을 유도하는 ‘낚시글’이 온라인상에서 판을 치게 되었다.

이 책에서 말하는 설계자들은 곧 우리를 분노하게 하고 또 그 분노를 먹이 삼아 성장하는 소셜 미디어다.

이것은 알고리즘을 이용해 우리에게서 혼란과 분노를 끌어내도록 설계되었고 지금 이 순간에도 충실히 역할을 수행하고 있다.

우리는 생각보다 심각한 문제를 마주하고 있다. 지금이라도 소셜 미디어가 만들어낸 분노 중독에서 벗어나 정신을 차리고 싶다면, 반드시 이 책을 펼치라.

* 출처 : 예스24 <https://www.yes24.com/Product/Goods/129775912>