감시 자본주의 시대

책소개

MD 한마디소셜미디어와 검색 사이트의 개인화된 추천 알고리즘를 접하면 간혹 섬뜩해진다. 이들은 도대체 나의 어디까지를 알고 있는 것일까? 사회심리학자 쇼샤나 주보프는 지금을 감시 자본주의라 명명한다. 감시 자본주의 시대, 주체로 존재하기 위해 필요한 권리를 모색한다. - 손민규 사회정치 MD

“섬뜩하게 본질을 꿰뚫는다” - 《글로브 앤드 메일》
“빅 테크의 힘에 대한 가장 중요한 비판” - 라나 포루하, 《파이낸셜 타임스》
“정보 산업 시대의 《침묵의 봄》” - 크리스 후프네이글, UC버클리대 교수

‘실리콘 밸리’에서 ‘실리콘 제국’으로
전에 없던 권력을 손에 넣은 감시 자본가들의 시대
구글, 페이스북 등 누구나 이용해봤을 거대 IT 기업의 서비스는 나날이 발전하고 있다. 몇 초 만에 원하는 정보를 얻거나 앉은 자리에서 지구 반대편에 떨어진 누군가의 근황을 알아보는 것은 이미 옛날이야기다. 우리는 ‘좋아할 것 같은’ 취향이나 물건, 정보를 알아서 추천해주는 SNS 알고리즘에 익숙해져 있다. 이 알고리즘을 일방적으로 소비하고 있다고 생각하겠지만 그렇지 않다. 우리는 이 알고리즘을 소비하며 끊임없이 온라인 흔적을 남기고, 이 온라인 흔적은 IT 기업, 즉 감시 자본가들에 의해 수거돼 우리가 좋아할 만한 광고와 서비스를 생산해내는 데 사용된다. 즉, 우리가 인스타그램이나 페이스북에서 누른 ‘좋아요’ 버튼, 온라인상에서의 수많은 클릭, 검색이 그들에게는 좋은 원료가 된다.
사람들의 시간을 최대한 뺏을 만한 서비스를 제공하고, 사용자들의 활동과 정보를 긁어모아 기업에 팔며 막대한 광고 수입을 챙기는 것. 역대 최고로 부유한 회사로 거듭난 이들의 비결이 바로 이것이다. 인간의 경험을 공짜로 추출해 은밀하게 상업적 행위의 원재료로 이용하며 이것이 곧 권력이 되는 새로운 자본주의 체제. 쇼샤나 주보프는 이를 ‘감시 자본주의’라고 명명했다.

감시 자본주의하에서 예측 가능한 유기체로 전락한 인간
감시 자본주의 체제는 단순히 우리의 정보를 교묘히 빼내 거래하는 것에서 끝나지 않는다. 기하급수적으로 축적되는 우리의 정보를 통해 우리의 행동을 수집, 분석, 범주화, 예측해 상업적으로 이용하는 것에서 더 나아가 우리의 행동을 유도, 통제, 조종, 조건화한다. 결국 우리는 시나브로 그들이 제공하는 것만을 소비하는 맞춤 고객이 되고, 우리의 정보가 원재료가 되는 감시 자본주의 사이클의 ‘예측 가능한 유기체’로 전락하고 만다. 구글을 검색하던 주체에서 검색 대상이 돼버리는 역설 즉, 자유의지를 가진 인간이 아니라 수집 당하고 분석 당하는 데이터, 타인의 이익을 위해 철저히 이용당하는 꼭두각시가 되는 것. 이것이 쇼샤나 주보프가 말하는 유비쿼터스 테크놀로지의 역설이다.

피할 수 없다면 지켜라
우리는 아무도 저지할 수 없는 감시 자본주의 시대를 살고 있다. 과거 조지 오웰은 《1984》를 통해 비인간적이고 통제적인 권력에 우리의 삶을 내주지 말라고 경고했다. 쇼샤나 주보프는 조지 오웰의 경고에 응답해야 한다고 말한다. 모든 인간의 경험을 하찮게 취급하며 매 순간 우리의 삶의 조각을 수탈해가는 이 시대적 흐름에 맞서야 한다는 것이다.
인간을 향한 감시 자본의 쿠데타는 이미 시작됐다. 우리는 불가피한 사용자이기에 수탈을 피할 수 없다. 그렇다면 우리의 본성을 지킬 권리, 무분별한 정보 수탈에서 망명할 권리는 어떻게 지킬 수 있을까? 쇼샤나 주보프는 우리가 빼앗기고 있는 것에 대해 의문을 제기하고 분노할 것을 주문한다. 이 쿠데타를 저지하는 힘은 결국 인간에게서 나온다는 것이다.
과거 산업 자본주의의 희생양은 말 못하는 자연이었다. 그러나 감시 자본주의가 희생양으로 삼은 것은 인간, 힘껏 목소리를 낼 수 있는 인간이다. 이 책은 감시 자본가들과 감시 자본주의 시대를 살아가는 모두가 듣길 바라며 힘껏 외치는 큰 목소리다.

목차

이 책에 보내진 찬사
용어 정의

들어가며 - 디지털 미래는 인류가 살 만한 시대가 될 수 있을까?
I. 가장 오래된 질문 II. ‘어웨어 홈’이라는 프로젝트 III. 감시 자본주의란 무엇인가? IV. 전례 없는 현상 V. 꼭두각시가 아닌 꼭두각시 조종자 VI. 이 책의 구성, 주제, 사상적 뿌리

1부 - 감시 자본주의의 토대
1. 2011년 8월 9일: 감시 자본주의를 위한 무대 설치
I. 애플의 해킹 II. 두 현대성 III. 신자유주의적 서식지 IV. 2차 현대성의 불안정성 V. 3차 현대성 VI. 감시 자본주의가 공백을 메우다 VII. 인간의 미래를 위하여 VIII. 이름 짓기와 길들이기

2. 행동잉여의 발견: 온라인 행동이 남기는 부수적인 흔적들
I. 구글: 감시 자본주의의 선구자 II. 권력의 균형 III. 검색과 자본주의: 참을성 없는 돈과 예외 상태 IV. 행동잉여의 발견 V. 잉여의 대규모화 VI. 인간의 발명품 VII. 추출의 비밀 VIII. 요약: 감시 자본주의의 논리와 작동

3. 성을 둘러싼 해자: 사용자의 행동을 예측하기 위해 설계된 알고리즘의 보호막
I. 인간의 본성이라는 자연 자원 II. 전략: 자유를 향한 절규 III. 보호막: 신자유주의의 유산 IV. 보호막: 감시 예외주의 V. 요새화

4. 정교화된 감시 자본주의: 탈취, 장악, 경쟁
I. 추출의 절박성 II. 장악 III. 수탈의 사이클 IV. 대담한 개들을 풀다 V. 수탈 경쟁 VI. 감시 수익의 유혹

5. 데이터 탈취: 학습의 사회적 분업화
I. 구글 선언 II. 누가 아는가? III. 감시 자본과 이중 텍스트 IV. 새로운 사제들 V. 사회적 학습 분업화의 사유화 VI. 소결: 전례 없음의 힘

2부 - 감시 자본주의의 전진
1. 현실 비즈니스: 현실 세계에서 작동하는 기계 기반 아키텍처
I. 예측의 절박성 II. 자유분방한 동물을 상냥하게 정복하는 법 III. 인간 군집에의 적용 IV. 감시 자본주의의 현실정치 V. 수익을 위한 확실성 VI. 비계약의 체결 VII. 불가피론 VIII. 인간이 만든 괴물 IX. 지상 작전

2. 렌더링: 경험에서 데이터로
I. 렌더링과 투항 II. 신체 렌더링

3. 저 깊은 곳으로부터의 렌더링: 경험을 데이터로 변환하는 과정
I. 정복으로서의 개인화 II. 자아의 렌더링 III. 감정을 읽는 기계 IV. 그들이 나의 진실을 찾아올 때

4. 그들을 춤추게 하라: 사람들의 행동을 예측 가능한 방향으로 변화시키는 일
I. 행위의 경제 II. 작곡하는 페이스북 III. 포켓몬고! 가자! IV. 행동수정수단의 역사

5. 미래 시제에 대한 권리: 개인의 존엄성을 위한 의지에 대한 자유
I. 미래에 대한 나의 의지 II. 미래에 대한 우리의 의지 III. 그들은 어떻게 빠져나갔나? IV. 예언

3부 - 3차 현대성과 도구주의 권력
1. 두 권력: 도구의 권력과 전체주의 권력
I. 다시, 전례 없음 II. 전체주의 권력의 등장 III. 반대편의 지평선 IV. 다른-개체 V. 자유는 환상이다 VI. 인간 행동 테크놀로지 VII. 두 유토피아

2. 빅 아더와 도구주의 권력의 부상: 비인격적인 평가 방법
I. 도구주의 권력의 등장 II. 총체적 확실성을 위한 시장 프로젝트 III. 금세기의 저주 IV. 중국 신드롬 V. 두 갈래 길

3. 확실성의 유토피아: 감시 자본가들이 꿈꾸는 세상
I. 다른-개체로서의 사회 II. 총체성이 사회를 포위하다 II. 응용 유토피아학 IV. 합류형 기계 관계 V. 합류형 사회

4. 도구주의 사회: 인간의 행동에 장치를 적용해 측정하는 일
I. 도구주의 권력의 사제들 II. 빅 아더가 사회를 먹어 치울 때: 사회적 관계의 렌더링 III. 도구주의 사회의 원리 IV. 벌집의 3차 현대성

5. 벌집에서의 삶: 타인에 대한 심리적 의존성
I. 탄광 갱도로 들여보낸 카나리아 II. 손에 꼭 맞는 장갑 III. 삶을 검증받기 위해 IV. 인간 본성의 미래 V. 무리로의 회귀 본능 VI. 출구 없는 방

6. 성역을 가질 권리: 사생활을 지킬 필요성
I. 사회를 앞지르는 빅 아더 II. 권력의 새로운 개척지에서 정의의 의미 III. 유니콘이 있다면 언제나 그 뒤를 쫓는 사냥꾼이 있다

결론 - 위로부터의 쿠데타: 우리는 그들이 무엇을 아는지 모른다
I. 자유와 지식 II. 호혜성 이후 III. 새로운 집단주의와 극단적으로 무관심한 선장 IV. 다시, 감시 자본주의란 무엇인가? V. 감시 자본주의와 민주주의 VI. 저항하자

감사의 글
해설_실리콘 제국에 고하는 포고문?송호근
21세기 문명의 인간화를 위한 예언?김대식
감수자의 글
옮긴이의 글
주
찾아보기

 

 

저자 소개

저 : 쇼샤나 주보프 (Shoshana Zuboff )

 

시카고 대학교 철학과를 졸업하고 하버드 대학교에서 사회심리학으로 박사학위를 받았다. 1981년에 하버드 대학교 교수로 부임한 주보프는 현재 하버드 비즈니스 스쿨 명예교수이자, 하버드 로 스쿨 산하의 인터넷과 사회를 위한 버크먼 클라인 센터 자문교수로 있다. 주보프가 쓴 세 권의 저서는 각 시기에 기술 사회가 새로운 시대에 들어섰음을 알렸다. 1980년대 말에 출간된 《스마트 기계의 시대》는 컴퓨터가 어떻게 근대적...

 

역 : 김보영

 

고려대학교 학부에서 산림자원학과 사회학을, 대학원에서 사회학을 공부했고 성균관대학교 번역대학원을 졸업했다. 깊은 통찰력을 제공하는 인문·사회과학서를 대중적인 언어로 소개하는 데 관심이 있다. 옮긴 책으로 『구름 속의 학교』 『감시 자본주의 시대』 『놀라움의 해부』 『제3의 장소』 『국제 이주』, 함께 옮긴 책으로 『맥도날드 그리고 맥도날드화』 등이 있다.

 

감수 : 노동욱

 

서울대학교 대학원에서 영문학 박사 학위를 받았다. 현재 삼육대학교 스미스학부대학 교수로 재직 중이다. 저서로는 《미국문학으로 읽는 미국의 문화와 사회》(공저)가 있고, 역서로는 《행복한 결혼생활을 위한 7원칙》(공역), 《위험한 책읽기》(공역)가 있으며, 감수한 책으로는 《감염병과 사회》가 있다. 주요 논문으로는 〈문화번역의 번역(불)가능성: 탈식민주의 번역 연구〉 등이 있다.

 

 

책 속으로

지금 우리에게는 이 새로운 자본주의 형태의 정체를 그들의 용어, 그들의 언어로 파악하는 것이 중요하다. 그러려면 실리콘밸리로 다시 눈을 돌려야 한다. 그곳에서는 모든 일이 너무나 빠르게 일어나므로, 방금 무슨 일이 일어났는지 아는 사람이 거의 없다. 실리콘밸리는 어느 구글 엔지니어가 생생하게 묘사했듯이, “꿈의 속도”로 진보가 일어나는 곳이다. 여기서 나는 실리콘밸리에서 일어나는 일을 느린 속도로 재생함으로써 그러한 논쟁을 위한 공간을 넓히고 이 창조물들의 가면을 벗겨 불평등을 증폭시키고 사회적 위계를 강화하고, 배제를 심화하고, 권리를 강탈하고, 개인의 삶에서 누구를 위한 것과 상관없이 사적인 모든 요소를 제거하는 그들의 경향을 드러내려고 한다.
---p.103

당신이 얼굴에 난 여드름 때문에 툴툴거리고, 페이스북에서 정치적 논쟁에 참여하고, 구글에서 레시피나 민감한 건강 정보를 검색하고, 세제를 주문하고, 아홉 살짜리 아이 사진을 찍고, 미소를 짓거나 화나는 생각을 하고, TV를 보고, 주차장에서 급출발을 하는 등의 모든 일이 빠르게 몸집을 늘려가고 있는 전자텍스트의 원재료다. 정보학자 마틴 힐버트와 그의 동료들에 따르면, “언어, 문화적 자산, 전통, 제도, 규칙, 법”을 포함해 문명의 기본 요소들조차도 “디지털화되고 있으며, 처음으로 눈에 보이는 코드로 작성되어”
빠르게 복잡해지는 상업, 정부, 사회의 넓은 범위를 아우르는 “지능형 알고리즘”의 필터로 걸러진 후 사회에 되돌려진다. 우리는 여기서 다시 핵심 질문들을 던져야 한다. 누가 아는가? 누가 결정하는가? 누가 결정하는지를 누가 결정하는가?
---p.258

제네시스 토이스가 판매하는 인기 장난감들에는 모바일 애플리케이션이 딸려 있어서, 스마트폰에 다운로드받으면 ‘데이터 처리’를 통해 해당 장난감이 아이의 말을 인식하고 이해할 수 있게 해준다.32 그 과정에서 앱은 휴대폰의 기능 대부분에 접속하며, 여기에는 연락처, 카메라 등 장난감의 작동과 무관한 기능도 상당수 포함된다. 이 앱은 블루투스를 통해 장난감을 인터넷에 연결하며, 장난감이 적극적으로 아이를 대화에 참여시키면 앱이 그 대화 내용을 기록하고 업로드한다. 항의의 대상이 된 한 인형은 아이가 거주지 등 광범위한 개인 정보를 말하도록 체계적으로 유도했다.
---p.364

우리는 다른 사람의 삶을 마주치면서 상대방의 내면을 들여다보기도 하고 자신의 내면을 상대방과 공유하기도 하는데, 이는 연대의 실마리가 된다. 그런데 텔레비전과 소셜 미디어는 우리에게서 다른 사람의 실제 삶과 접촉할 기회를 빼앗는다. 단, 텔레비전과 달리 소셜 미디어에는 적극적인 자기표현이 수반된다. 이른바 ‘프로필 인플레이션’이다. 사용자들은 자신의 인기와 자긍심, 행복도를 높여줄 것으로 기대하며 늘 더 멋진 신상 정보, 사진, 업데이트 소식을 게시한다. 프로필 인플레이션은 자신과 남을 비교하게 만들어 더 부정적인 자기 평가를 유발하고, 이는 더 심한 프로필 인플레이션을 낳는다. 더 많은 ‘먼 친구’를 포함하는 더 큰 네트워크일수록 이 현상이 더욱 두드러진다.
---pp.621~622

산업 자본주의는 자연을 착취함으로써 다음 세대에게 폭염으로 신음하는 지구라는 짐을 지웠다. 여기에 인간 본성에 대한 감시 자본주의의 침략과 정복이라는 짐을 더 얹을 것인가? 저들이 부와 권력을 위해 성역과 미래 시제에 대한 권리를 내놓으라고 요구하며 슬며시 벌집에서의 삶을 부과하는 것을 가만히 지켜보기만 할 것인가?
---p.661

나는 그들에게 ‘검색(search)’이라는 단어가 본래는 이미 있는 답을 얻기 위해 손가락을 까딱하는 것이 아니라 용감한 실존적 여정을 뜻하는 것이었으며, ‘친구’는 오직 얼굴과 얼굴, 마음과 마음이 만나야 만들어질 수 있는 미스터리의 체현이고, ‘인식’이란 ‘안면 인식’이 아니라 우리가 집으로 돌아와 사랑하는 사람의 얼굴을 보며 느끼는 안도감이라고 이야기한다. 나는 저들이 우리가 가진 최고의 본능인 연결, 공감, 정보에의 욕구를 이용해 이를 만족시키는 상품을 볼모로 잡고 우리 삶에 시도 때도 없는 알몸수색이라는 가혹한 대가를 부과하는 것이 결코 그럴 수 있는 일이 아니라고 말한다. 모든 움직임, 감정, 발화, 욕망을 목록화하고 조작하고 그리하여 우리에게서 미래 시제를 빼앗고 우리를 다른 누군가의 이익을 위해 움직이도록 하는 데 은밀하게 이용하는 것은 결코 그럴 수 있는 일이 아니다. 나는 아이들에게 말한다. “이것들은 매우 새롭다. 전례가 없는 현상들이다. 그럴 수 있다고 볼 일이 아니므로 당연하게 받아들여서는 안 된다.”

---p.698