혼란유발자들 (2024) - 인간 심리의 취약점을 이용하는 소셜미디어의 뒷이야기

책소개

그들은 알면서도 묵인하고 있다

우리는 편향된 소셜미디어가 우리의 정신, 자녀, 민주주의에 해롭다는 사실을 막연하게 알고 있다. 하지만 그 범위와 영향력은 짐작하는 것보다 훨씬 넓고 깊다. 저자는 수년간의 취재를 바탕으로 페이스북, 트위터, 유튜브, 인스타그램, 틱톡 등의 소셜미디어가 어떻게 인간 심리의 취약점을 이용하여 사용자를 양극단으로 이끄는지 파헤치고, 흥미진진하고 소름 끼치는 소셜미디어의 뒷이야기를 들려준다. 빅테크의 문 뒤에서 어떤 일이 벌어지고 있는지 경종을 울리고 너무 늦기 전에 세상에 닥친 혼란을 막아야 한다는 외침을 던지는 책이다.

목차

옮긴이 머리말 7
이 책에 대하여 9
시작하며 10

1장 개미지옥에 빠지다

1. 정말로 하늘이 무너지고 있다 22
2. 실리콘 갈라파고스 27
3. 뉴스피드에 반대한다 32
4. 슬롯머신 36
5. 자존감 배터리 41
6. 정체성이 쏘아 올린 화살 46
7. 멋진 여정 51

2장 모든 것이 게이머게이트로 통한다

1. 새로운 시대 58
2. 혁명가 65
3. 트롤링 74
4. 게이머 84
5. 던바의 저주 89

3장 두 세계를 연결하는 문

1. 소셜웹을 통제하라 96
2. 트롤들이 승리하고 있다 102
3. 밈 마법 107

4장 사촌의 횡포

1. 소셜웹의 정의 추구 116
2. 도덕적 격분 121
3. 온라인 조리돌림 124
4. 스스로 순화한 종 132
5. 아무말 대잔치 139

5장 기계를 깨우다

1. 알고리즘화 148
2. 필터 버블 155
3. 10배 변화 159
4. 다크 패턴의 유혹 166
5. 경고음 172

6장 뒤틀린 거울

1. 이제 시작일 뿐 182
2. 페이스북의 문제는 바로 페이스북 190
3. 러시아 요원을 찾아 201
4. 미쳐가는 세상 209

7장 불씨와 바람

1. 폐해보다 편익이 더 크다 218
2. 화약고와 불씨 230
3. 왜 하필 페이스북인가? 237

8장 21세기판 교회 종

1. 지위 위협 248
2. 기만 중독 252
3. 슈퍼 게시자 257
4. 인터넷이 멈춘 세상 266

9장 토끼굴

1. 유튜브 난장판 274
2. 우파여 단결하라 278
3. 병 주고 약 주고 285
4. 앨릭스 존스 문제 293
5. 대각성 302
6. 디지털 허무주의 308

10장 색다른 지배자

1. 은밀한 지배 318
2. 나는야 우주의 주인 326
3. 융합 331
4. 사이버 민주주의 336
5. 전시 CEO 340
6. 비행 중인 비행기 고치기 351

11장 ‘좋아요’의 독재

1. 유튜브 대통령 360
2. 알고리즘이 주도하는 민주주의 364
3. 닥터 유튜브 375
4. 유튜브-왓츠앱 파이프라인 381
5. 충동 훈련장 388

12장 인포데믹

1. 백신 접종자는 껴안지 마 400
2. 약탈하면 발포한다 408
3. 과속방지턱 417
4. 새빨간 거짓말 426

마치며 443
뒷이야기 458
감사의 글 481
미주 483
찾아보기 517

저자 소개

저 : 맥스 피셔 (Max Fisher)

 

뉴욕 타임스의 국제부 기자. 글로벌 트렌드와 주요 세계 사건을 소개하는 ‘The Interpreter’라는 칼럼을 집필하고 있으며, 소셜미디어 관련 시리즈는 2019년 퓰리처상 최종 후보에 올랐다. 《디 애틀랜틱》과 《워싱턴 포스트》에서 국제 문제를 다루었다.

역 : 김정아

관심작가 알림신청 작가 파일

사람과 세상이 궁금한 번역 노동자. 글밥 아카데미 수료 뒤 바른번역 소속 번역가로 활동하고 있다. 옮긴 책으로는 《협력의 유전자》, 《지그문트 바우만》, 《척 피니》, 《인류 진화의 무기, 친화력》, 《5리터의 피》, 《누구 먼저 살려야 할까?》, 《살인 미생물과의 전쟁》, 《로르샤흐》, 《노동의 시대는 끝났다》, 《휴머놀로지》, 《안녕, 인간》, 《초연결》, 《왓츠 더 퓨처》, 《차이나 유스 컬처》, 《당신의 ...

책 속으로

공장에서 독성 폐수를 강물에 쏟아내면 하류 소도시의 공동 우물로 흘러들 듯, 소셜미디어로 생기는 손실은 모든 인류가 떠안는다. 하지만 소셜미디어 대기업들에게는 자기네 제국 때문에 인류가 치러야 할 비용을 억제할 동기가 거의 없다. 그러니 이들을 대신해 그런 일을 담당할 사람은 경각심을 느낀 외부인과 실리콘밸리의 내부 고발자일 것이다.
--- p.20

“이런 애플리케이션을 만들 때 반영된 사고 과정의 핵심은 ‘어떻게 해야 사람들의 시간과 주의력을 최대한 많이 소비할 수 있을까?’였습니다. … 그러려면 누군가가 사진이나 게시물에 ‘좋아요’를 누르거나 댓글을 달았을 때 이따금 사용자를 도파민(dopamine)에 살짝 취하게 해야 합니다. 그러면 사용자가 더 많은 콘텐츠를 올릴 테고, 따라서 ‘좋아요’와 댓글을 더 많이 받겠죠.”
--- p.37

페이스북 사용이 평균 이상인 지역일수록 난민 공격이 확실히 더 많이 발생했다. 공동체가 작든 크든, 부유하든 가난하든, 진보적이든 보수적이든 거의 모든 곳에 이 규칙이 들어맞았다. 난민 공격 증가는 전체 웹 사용량과 상관하지 않았다. 페이스북에만 상관했다.
--- p.254

캘리포니아의 한 남성이 사촌에게 ‘플랜데믹의 더 많은 증거’라는 문자와 함께 틱톡 링크를 보냈다. 이런 식의 정보 교환이 이제 미국에서 정보 교환이 일상이 된 터였다. 사촌은 페이스북이 퍼뜨린 음모론을 언급하며, “백신 맞은 사람은 절대 껴안지 마. 백신을 맞으면 바이러스가 배출되어서 바로 증상이 나타난대”라고 답했다.
--- p.408

오로지 중독성만 따지면, 유튜브도 틱톡에는 맞수가 되지 못한다. 틱톡은 2017년 출시 이래 소셜미디어 역사에서 미국 십 대의 시간을 다른 어떤 플랫폼보다 많이 빼앗았다. 젊은이 대다수가 소셜미디어 사용을 줄이기가 어렵다고 답했다. 특히 십 대는 이 문제가 다른 약물 중독과 마찬가지로 나이가 들수록 심해진다고 답했다.

--- p.463

출판사 리뷰

SNS가 어떻게 사용자 심리의 취약점을 파고드는지에 대한 매혹적이고 통렬한 이야기

우리가 좋든 싫든 SNS는 이미 우리의 삶을 장악했다. AFP 통신에 따르면 2023년 전 세계 인구의 61%에 해당하는 약 49억 명이 SNS를 사용하고 있으며, 이들은 하루 평균 2시간 26분 동안 SNS를 사용한다. 페이스북의 월간 활성 사용자 수는 약 30억 명, 유튜브는 25억 명, 인스타그램은 20억 명, 틱톡은 11억 명이다. 하지만 이대로 SNS가 우리의 삶을 침범하게 두어도 괜찮은 걸까?

2020년 《월스트리트 저널》에 유출되어 세상에 알려진 자료에 의하면, 페이스북 연구진은 “페이스북의 알고리즘은 인간의 두뇌가 불화에 끌리는 성향을 악용한다”고 경고했으며, 페이스북 시스템이 “사용자의 눈길을 사로잡아 플랫폼에 머무는 시간을 늘릴 목적으로 더 큰 분열을 부르는 콘텐츠를 사용자에게 전달하게 설계되었다”고 지적했다. 그러나 페이스북 경영진은 조사 결과를 깔아뭉개고 권고안을 대부분 무시했다.

중국산 앱 틱톡이 사용자에게 보여주는 영상은 거의 알고리즘이 고른 것이다. 중독성만 따지면 유튜브도 틱톡에는 맞수가 되지 못한다. 틱톡은 2017년 출시 이래 소셜미디어 역사에서 미국 십 대의 시간을 다른 어떤 플랫폼보다 많이 빼앗았다. 자주 외로움을 느낀다고 답한 십 대의 비중은 2010년에서 2019년 사이에 거의 두 배나 늘었다. 불안과 우울을 호소하는 비중도 마찬가지로 솟구쳤다.

트럼프는 트위터에서 지지자들을 결집하고자 소수자와 제도권에 분노를 뿜어냈다. 도덕적 격분은 집단에 전염할 수 있고, 거기에 노출된 사람들의 행동과 도덕관을 바꾼다. 다른 후보보다 ‘도덕적 정서 어휘’를 많이 사용한 트럼프는 선전했으며, 분노를 부추기기보다 극복을 강조한 힐러리 클린턴의 트윗은 확산성이 떨어졌다. 트위터의 한 이사는 “트럼프의 대선 승리에 트위터가 정말로 도움이 된 것 같다”며 트럼프의 트위터 활용이 미칠 영향이 “정말로 우려스럽다”고 말했다.

SNS는 우리의 뇌, 정신, 민주주의에 해를 끼치고 있다. 저자는 수많은 사람과 나눈 인터뷰를 바탕으로 이 책을 집필했다. 그 대상은 SNS 연구자, SNS에 영향받거나 착취당한 사람, 맞서 싸운 사람, 실리콘밸리 종사자와 경영자들이다. 트위터에 퍼진 음모론이 정치권을 흔들고, 유튜브 중독자가 여러 명을 살해하는 시대를 살고 있는 모두에게 이 책을 권한다.

소셜미디어의 영향에 대한 권위 있고 파괴적인 설명. 이 책이 설득력 있게 점들을 연결하며, 인간 문제에 대한 알고리즘 개입의 중요성에 대한 의구심을 없애줄 것이다.
《뉴욕 타임스》

페이스북 등이 현실에 대한 우리의 인식을 얼마나 왜곡하고 있는지에 대한 엄중한 경고다.
《가디언》

페이스북, 트위터, 유튜브 등 플랫폼의 영향에 대한 냉철한 조사. 저자는 미국과 전 세계에서 소셜미디어를 통해 확산되는 정치 운동을 추적하면서 알고리즘이 어떻게 도덕적 분노를 불러일으키고, 집단 정체성을 형성하는 극단적인 콘텐츠가 어떻게 체계적으로 만들어지는지 설명한다.
《더 뉴요커》

기계와 인간의 비뚤어진 행동이 어떻게 전 세계의 삶을 뒤집어놓았는지 소름 끼치는 기록을 그려낸다.
《Air Mail》

저자의 명쾌한 설명과 설득력 있는 주장은 독자로 하여금 자신의 소셜미디어 사용에 의문을 품게 만들 것이다.
《북리스트》

소셜미디어가 초래한 다양한 병폐에 대한 신랄한 설명. 소셜미디어의 폐해를 말하는 책은 많지만, 이 책은 참여도를 높이는 알고리즘의 복잡성부터 감성주의 이론에 이르기까지 모든 것을 아우르는 폭넓은 정보를 원스톱으로 제공한다.
《퍼블리셔스 위클리》

소셜미디어의 미로와 이를 만든 기업에 대한 흥미진진하고 불안한 조사. 저자는 다양한 출처에서 얻은 수십 건의 인터뷰를 종합하여 혼란스러운 소셜미디어 환경에 뛰어든다. 거대 소셜미디어의 부상과 이들이 우리 사회에 초래한 위험을 조사하며, 도덕적 분노 조장이 시스템의 결함이 아니라 내재된 특징임을 명확하게 설명한다.
《커커스 리뷰》

추천평

소셜미디어가 우리의 두뇌, 문화, 정치를 어떻게 재구성하는지 가장 완벽하게 설명한다. 내가 지금까지 읽은 책 중 단연 최고다.
- 존 패브로 (Jon Favreau, 팟캐스트 〈Offline with Jon Favreau〉 운영자)

논쟁의 여지가 많고, 흥미진진하며, 때로는 불편할 수도 있다. 플랫폼 규제에 대한 요구가 점점 더 커지고 있는 지금, 저자는 변화에 대해 긴급하고 설득력 있는 주장을 펼친다.
- 메리 맥길 (Mary McGill, 《아이리시 인디펜던트》)

소셜미디어는 우리의 삶만 바꾸는 것이 아니다. 소셜미디어는 세상을 바꾸고 있으며, 소셜미디어의 창시자와 관리자조차도 그 방법에 대해 어렴풋하게 알고 있다. 저자는 여러 대륙에 걸친 결과를 추적하며 우리가 현재 어디에 있는지, 그리고 어디로 가고 있는지에 대한 불안한 그림을 그린다. 우리 시대에 꼭 필요한 책이다.
- 에즈라 클라인 (Ezra Klein, 《우리는 왜 서로를 미워하는가》 저자)

저자는 이 시의적절한 책에서 소셜미디어 거대 기업이 어떻게 모든 인류를 다른 미래로 이끌었는지 보여준다. 이 책은 몇몇 IT 기업이 어떻게 사람보다 이윤을 택하고, 음란한 잘못된 정보를 퍼뜨리고, 궁극적으로 사회의 구조를 찢어놓았는지 대담하게 폭로한다. 모두가 열린 마음으로 이 중요한 조사를 읽어주길 바란다.
- 에이미 웹 (Amy Webb, 《빅 나인》 저자)

저자는 소셜미디어가 초래한 피해를 심도 있게 보도하여, 흥미진진하게 풀어낸다. 세상을 바꾸는 힘과 그것이 전 세계 사람들에게 미치는 실제적인 결과를 이해하려면 반드시 읽어야 할 책이다.
- 벤 로즈 (Ben Rhodes, 《The World as It Is》 저자)