728x90
책소개
◆ 『사피엔스』 『호모 데우스』 유발 하라리 6년 만의 신작
◆ 출간 즉시 〈뉴욕타임스〉 〈선데이타임스〉 아마존 베스트셀러
비인간 지능의 위협과 우리의 미래에 대한 경고
“AI는 우리 종의 역사뿐만 아니라
모든 생명체의 진화 경로를 바꿀지도 모른다.”
글로벌 베스트셀러 『사피엔스』 『호모 데우스』 『21세기를 위한 21가지 제언』으로 우리 시대 가장 중요한 사상가의 반열에 오른 유발 하라리 교수가 압도적 통찰로 AI 혁명의 의미와 본질을 꿰뚫어 보고 인류에게 남은 기회를 냉철하게 성찰하는 신작으로 돌아왔다. 생태적 붕괴와 국제정치적 긴장에 이어 친구인지 적인지 모를 AI 혁명까지, 인간 본성의 어떤 부분이 우리를 자기 파괴의 길로 내모는 것일까? AI는 이전 정보 기술과 무엇이 다르고, 왜 위험할까? 멸종을 향해 달려가는 가장 영리한 동물, 우리 사피엔스는 생존과 번영의 길을 찾을 수 있을까?
상아탑 속 자신의 방에만 안주하지 않고 정치학, 종교학, 매체학, 진화생물학, 컴퓨터과학 등 다양한 학제 간 지식을 습득해온 하라리 교수의 독창적인 역사적 시각과 스토리텔링은 인류를 위한 중요한 선택의 순간에 빛을 발한다. 『사피엔스』 『호모 데우스』에서 펼쳤던 그의 논지가 ‘정보’를 중심으로 통합되어 더 정교하게 실체를 드러내는 『넥서스』에서 우리는 하라리 교수의 도저한 ‘현실주의’적 해법을 만난다. 비인간 지능이 우리의 존재를 위협하는 현재, 우리는 실수할 여유가 없다.
◆ 출간 즉시 〈뉴욕타임스〉 〈선데이타임스〉 아마존 베스트셀러
비인간 지능의 위협과 우리의 미래에 대한 경고
“AI는 우리 종의 역사뿐만 아니라
모든 생명체의 진화 경로를 바꿀지도 모른다.”
글로벌 베스트셀러 『사피엔스』 『호모 데우스』 『21세기를 위한 21가지 제언』으로 우리 시대 가장 중요한 사상가의 반열에 오른 유발 하라리 교수가 압도적 통찰로 AI 혁명의 의미와 본질을 꿰뚫어 보고 인류에게 남은 기회를 냉철하게 성찰하는 신작으로 돌아왔다. 생태적 붕괴와 국제정치적 긴장에 이어 친구인지 적인지 모를 AI 혁명까지, 인간 본성의 어떤 부분이 우리를 자기 파괴의 길로 내모는 것일까? AI는 이전 정보 기술과 무엇이 다르고, 왜 위험할까? 멸종을 향해 달려가는 가장 영리한 동물, 우리 사피엔스는 생존과 번영의 길을 찾을 수 있을까?
상아탑 속 자신의 방에만 안주하지 않고 정치학, 종교학, 매체학, 진화생물학, 컴퓨터과학 등 다양한 학제 간 지식을 습득해온 하라리 교수의 독창적인 역사적 시각과 스토리텔링은 인류를 위한 중요한 선택의 순간에 빛을 발한다. 『사피엔스』 『호모 데우스』에서 펼쳤던 그의 논지가 ‘정보’를 중심으로 통합되어 더 정교하게 실체를 드러내는 『넥서스』에서 우리는 하라리 교수의 도저한 ‘현실주의’적 해법을 만난다. 비인간 지능이 우리의 존재를 위협하는 현재, 우리는 실수할 여유가 없다.
목차
프롤로그
제1부 인간 네트워크들
1 정보란 무엇인가?
2 이야기: 무한한 연결
3 문서: 종이호랑이의 위협
4 오류: 무오류성이라는 환상
5 결정: 민주주의와 전체주의의 간략한 역사
제2부 비유기적 네트워크
6 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?
7 집요하게: 네트워크는 항상 켜져 있다
8 오류 가능성: 네트워크는 자주 틀린다
제3부 컴퓨터 정치
9 민주주의: 우리는 계속 대화할 수 있을까?
10 전체주의: 모든 권력을 알고리즘에게로?
11 실리콘 장막: 세계 제국인가, 세계 분열인가?
저자 소개
제1부 인간 네트워크들
1 정보란 무엇인가?
2 이야기: 무한한 연결
3 문서: 종이호랑이의 위협
4 오류: 무오류성이라는 환상
5 결정: 민주주의와 전체주의의 간략한 역사
제2부 비유기적 네트워크
6 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?
7 집요하게: 네트워크는 항상 켜져 있다
8 오류 가능성: 네트워크는 자주 틀린다
제3부 컴퓨터 정치
9 민주주의: 우리는 계속 대화할 수 있을까?
10 전체주의: 모든 권력을 알고리즘에게로?
11 실리콘 장막: 세계 제국인가, 세계 분열인가?
저자 소개
--- 「1. 정보란 무엇인가?」 중에서
인쇄술과 마녀사냥의 역사에서 알 수 있듯이, 정보 시장의 규제를 없앤다고 해서 사람들이 스스로의 오류를 찾아내 바로잡는다는 보장은 없다. 자유로운 정보 시장에서는 진실보다 분노가 우세할 가능성이 높기 때문이다. 진실이 승리하려면, 균형추를 ‘팩트’ 쪽으로 기울일 수 있는 힘을 가진 큐레이션 기관을 설치해야 한다. 하지만 가톨릭교회의 역사에서 보았듯이, 그런 기관은 큐레이션 권한을 이용해 자신에 대한 비판을 틀어막을 가능성이 있다. 즉 다른 의견은 무조건 잘못된 것으로 낙인찍고 기관의 오류가 드러나 수정될 기회를 차단할지도 모른다. 주어진 권한을 더 많은 권한을 갖기 위해 사용하지 않고 진실 추구에 사용하는 더 나은 큐레이션 기관을 만드는 것이 가능할까
--- 「4. 오류: 무오류성이라는 환상」 중에서
현대 정보 기술이 전체주의 체제에서는 정보 흐름을 중앙에 집중시키고 질서 유지를 위해 진실을 억누르는 데 사용된다. 결과적으로, 전체주의 네트워크는 정보 동맥이 경화될 위험과 싸워야 한다. 점점 더 많은 정보가 한 곳으로만 흐르면 효율적인 통제가 가능해질까, 아니면 동맥이 막혀 결국 심장마비가 일어날까? 반면 민주주의 체제에서는 현대 정보 기술이 정보 흐름을 더 많은 기관과 개인에게로 분산하고 자유로운 진실 추구를 장려하는 데 사용된다. 결과적으로, 민주주의 네트워크는 붕괴 위험과 싸워야 한다. 이런 네트워크를 점점 더 많은 행성이 점점 더 빠르게 회전하는 태양계라고 생각해보라. 그래도 중심은 버틸 수 있을까, 아니면 모든 것이 붕괴되어 무정부 상태가 될까?
--- 「5. 결정: 민주주의와 전체주의의 간략한 역사」 중에서
알고리즘의 정치적 영향력에 대해서는 더 많은 논의가 필요하다. 무엇보다도 많은 독자들은 알고리즘이 독립적인 결정을 내린다는 주장에 동의하지 않을 것이고, 알고리즘이 한 모든 일은 인간 개발자가 작성한 코드와 인간 경영진이 채택한 사업 모델의 결과물이라고 주장할지도 모른다. 이 책의 입장은 다르다. 인간 병사들은 자신들의 유전 코드와 상사의 명령을 따르지만 그럼에도 여전히 독립적인 결정을 할 수 있다. AI 알고리즘도 마찬가지임을 이해하는 것이 중요하다. 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 인간 경영진이 예측하지 못한 결정을 내릴 수 있다. 수많은 새로운 주체들이 세상에 등장하여 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질이다.
--- 「6. 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?」 중에서
유해한 영향이 드러나면서 거대 기술 기업들은 지금 벌어지고 있는 일에 대해 여러 차례 경고를 받았지만, 그들은 정보에 대한 순진한 관점을 믿기 때문에 개입하지 않았다. 플랫폼에 허위 사실과 분노가 넘쳐나는데도 경영진은 더 많은 사람들이 더 자유롭게 자신을 표현할 수 있다면 결국 진실이 승리할 것이라고 기대했다. 하지만 그런 일은 일어나지 않았다. 우리가 그동안의 역사에서 숱하게 보았듯이, 모든 정보가 여과 없이 흐르도록 내버려두면 진실이 지는 경향이 있다. 저울을 진실 쪽으로 기울이려면, 정보 네트워크가 진실을 말하는 사람에게 보상을 제공하는 강력한 자정 장치를 개발하고 유지해야 한다. 이런 자정 장치는 비용이 많이 들지만, 진실을 얻고 싶다면 반드시 그것에 투자해야 한다.
--- 「8. 오류 가능성: 네트워크는 자주 틀린다」 중에서
하지만 우리에게는 이보다 많은 선택지가 있을 것이다. 앞으로 사람들이 어떤 결정을 내릴지 예측할 수는 없지만, 나는 역사학자로서 변화 가능성을 믿는다. 역사의 중요한 교훈 중 하나는 우리가 자연스럽고 영원하다고 생각하는 많은 것들이 사실은 인간이 만들었으며 바뀔 수 있다는 것이다. 하지만 분쟁이 불가피한 것이 아니라고 해서 안주해서는 안 된다. 오히려 그 반대다. 선택을 잘해야 할 막중한 책임이 우리에게 있기 때문이다. 이는 인류 문명이 분쟁으로 소멸한다면 그것은 어떤 자연법칙이나 낯선 기술 탓이 아니라는 뜻이다. 하지만 반대로 생각하면 우리가 노력할 경우 더 나은 세계를 만들 수 있다는 뜻이기도 하다. 이런 관점은 순진한 것이 아니라 현실주의다. 모든 오래된 것은 한때 새로운 것이었다. 역사의 유일한 상수는 변화다.
인쇄술과 마녀사냥의 역사에서 알 수 있듯이, 정보 시장의 규제를 없앤다고 해서 사람들이 스스로의 오류를 찾아내 바로잡는다는 보장은 없다. 자유로운 정보 시장에서는 진실보다 분노가 우세할 가능성이 높기 때문이다. 진실이 승리하려면, 균형추를 ‘팩트’ 쪽으로 기울일 수 있는 힘을 가진 큐레이션 기관을 설치해야 한다. 하지만 가톨릭교회의 역사에서 보았듯이, 그런 기관은 큐레이션 권한을 이용해 자신에 대한 비판을 틀어막을 가능성이 있다. 즉 다른 의견은 무조건 잘못된 것으로 낙인찍고 기관의 오류가 드러나 수정될 기회를 차단할지도 모른다. 주어진 권한을 더 많은 권한을 갖기 위해 사용하지 않고 진실 추구에 사용하는 더 나은 큐레이션 기관을 만드는 것이 가능할까
--- 「4. 오류: 무오류성이라는 환상」 중에서
현대 정보 기술이 전체주의 체제에서는 정보 흐름을 중앙에 집중시키고 질서 유지를 위해 진실을 억누르는 데 사용된다. 결과적으로, 전체주의 네트워크는 정보 동맥이 경화될 위험과 싸워야 한다. 점점 더 많은 정보가 한 곳으로만 흐르면 효율적인 통제가 가능해질까, 아니면 동맥이 막혀 결국 심장마비가 일어날까? 반면 민주주의 체제에서는 현대 정보 기술이 정보 흐름을 더 많은 기관과 개인에게로 분산하고 자유로운 진실 추구를 장려하는 데 사용된다. 결과적으로, 민주주의 네트워크는 붕괴 위험과 싸워야 한다. 이런 네트워크를 점점 더 많은 행성이 점점 더 빠르게 회전하는 태양계라고 생각해보라. 그래도 중심은 버틸 수 있을까, 아니면 모든 것이 붕괴되어 무정부 상태가 될까?
--- 「5. 결정: 민주주의와 전체주의의 간략한 역사」 중에서
알고리즘의 정치적 영향력에 대해서는 더 많은 논의가 필요하다. 무엇보다도 많은 독자들은 알고리즘이 독립적인 결정을 내린다는 주장에 동의하지 않을 것이고, 알고리즘이 한 모든 일은 인간 개발자가 작성한 코드와 인간 경영진이 채택한 사업 모델의 결과물이라고 주장할지도 모른다. 이 책의 입장은 다르다. 인간 병사들은 자신들의 유전 코드와 상사의 명령을 따르지만 그럼에도 여전히 독립적인 결정을 할 수 있다. AI 알고리즘도 마찬가지임을 이해하는 것이 중요하다. 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 인간 경영진이 예측하지 못한 결정을 내릴 수 있다. 수많은 새로운 주체들이 세상에 등장하여 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질이다.
--- 「6. 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?」 중에서
유해한 영향이 드러나면서 거대 기술 기업들은 지금 벌어지고 있는 일에 대해 여러 차례 경고를 받았지만, 그들은 정보에 대한 순진한 관점을 믿기 때문에 개입하지 않았다. 플랫폼에 허위 사실과 분노가 넘쳐나는데도 경영진은 더 많은 사람들이 더 자유롭게 자신을 표현할 수 있다면 결국 진실이 승리할 것이라고 기대했다. 하지만 그런 일은 일어나지 않았다. 우리가 그동안의 역사에서 숱하게 보았듯이, 모든 정보가 여과 없이 흐르도록 내버려두면 진실이 지는 경향이 있다. 저울을 진실 쪽으로 기울이려면, 정보 네트워크가 진실을 말하는 사람에게 보상을 제공하는 강력한 자정 장치를 개발하고 유지해야 한다. 이런 자정 장치는 비용이 많이 들지만, 진실을 얻고 싶다면 반드시 그것에 투자해야 한다.
--- 「8. 오류 가능성: 네트워크는 자주 틀린다」 중에서
하지만 우리에게는 이보다 많은 선택지가 있을 것이다. 앞으로 사람들이 어떤 결정을 내릴지 예측할 수는 없지만, 나는 역사학자로서 변화 가능성을 믿는다. 역사의 중요한 교훈 중 하나는 우리가 자연스럽고 영원하다고 생각하는 많은 것들이 사실은 인간이 만들었으며 바뀔 수 있다는 것이다. 하지만 분쟁이 불가피한 것이 아니라고 해서 안주해서는 안 된다. 오히려 그 반대다. 선택을 잘해야 할 막중한 책임이 우리에게 있기 때문이다. 이는 인류 문명이 분쟁으로 소멸한다면 그것은 어떤 자연법칙이나 낯선 기술 탓이 아니라는 뜻이다. 하지만 반대로 생각하면 우리가 노력할 경우 더 나은 세계를 만들 수 있다는 뜻이기도 하다. 이런 관점은 순진한 것이 아니라 현실주의다. 모든 오래된 것은 한때 새로운 것이었다. 역사의 유일한 상수는 변화다.
--- 「11. 실리콘 장막: 세계 제국인가, 세계 분열인가?」 중에서
출판사 리뷰
비인간 지능의 위협과 우리의 미래에 대한 경고
AI 혁명의 본질을 이해하고 싶다면 읽어야 할 단 한 권의 책!
지난 5월 서울에서 ‘AI 안전 정상회의’가 열려 세계 각국 정책결정자와 기술 기업 책임자들이 참석했다. 지난해 11월 발표된 블레츨리 선언에 이은 후속 회의로, AI를 주제로 열린 국제회의의 의제가 ‘개발’이나 ‘효율’이 아니라 ‘안전’이라는 점이 눈에 띈다. 급속도로 전례 없는 변화를 추동하는 새로운 기술을 둘러싸고 우려의 목소리가 커지고 있다. 8년 전, 이세돌 9단을 꺾은 알파고가 일으킨 센세이션과는 차원이 다르다. 지난해 3월에는 AI 연구를 최소 6개월 동안 중단할 것을 촉구하는 공개서한에 일론 머스크, 스티브 워즈니악 등 2만 7,000명 이상이 서명했다. 유발 하라리 교수도 그중 한 명이다.
『호모 데우스』 출간 이후 AI 전문가라는 평판을 얻게 된 하라리 교수는 AI 세계를 움직이는 과학자, 기업가, 정치인들의 초대를 받아 현대 기술의 최전선에서 무슨 일이 벌어지고 있는지 직접 보고 들을 수 있었다. 『넥서스』는 그 특별한 경험을 하라리 교수만의 독특한 역사적 시각으로 통찰해 특유의 스토리텔링으로 정리한 결과다. 책은 〈마법사의 제자〉 이야기로 시작한다. 마법사의 제자는 스승의 마법 주문으로 일을 손쉽게 해결하려다가 도리어 통제 불능 상황을 초래해 작업장을 물바다로 만들어버린다. 챗GPT와 유튜브 알고리즘, 더 나아가 미래의 AI는 정말 우리의 통제를 벗어나 도리어 인류를 정보의 심연 속으로 밀어넣어 버릴까? 아직은 우리에게 통제권이 있으며, 다음 선택을 매우 신중하게 해야 한다고 하라리 교수는 경고한다. 그에 따르면 AI는 주체성을 지닌, 우리 정보 네트워크의 정식 구성원이기 때문이다.
AI는 이전의 정보 기술과 무엇이 다르고, 왜 위험한가?
AI 혁명의 의미와 본질
AI가 주체성을 지녔다니, 무슨 뜻일까? AI는 지금까지의 정보 기술과는 달리 스스로 결정하고 새로운 아이디어를 생성할 수 있는 능동적인 행위자다. 이 점이 AI 혁명의 본질이다. 이전의 정보 기술인 점토판, 인쇄기, 라디오는 단순히 네트워크 구성원들을 연결하는 장치이자 도구에 불과했다. 고대 메소포타미아의 점토판은 어떤 지역의 세금 납부 현황을 기록할지 스스로 결정하지 않았다. 근대 초의 인쇄기는 어떤 내용의 책을 찍어낼지 고민하지 않았다. 모두 인간이 결정하고 실행에 옮겼다. 그러나 AI 혁명의 초기 단계인 지금, 컴퓨터는 이미 인간의 통제와 이해를 벗어나 사회, 문화, 역사를 주도적으로 만들어나갈 수 있는 인간보다 강력한 구성원이 되고 있다.
ㆍ2016~2017년 미얀마에서 자행된 반反로힝야 폭력 이면에 페이스북 알고리즘이 중요한 역할을 했다는 사실이 2018년 유엔 조사에서 드러났다. ‘사용자 참여 극대화’라는 목표를 부여받은 페이스북 알고리즘은 시행착오를 통해 분노가 참여도를 높인다는 사실을 학습했고, 명시적인 명령이 없었는데도 불구하고 이용자의 분노를 자극하는 콘텐츠를 추천하기로 결정했다. 페이스북 경영진이 이와 같은 결과를 의도했을 리는 없지만, 페이스북 알고리즘이 증오와 폭력을 부추긴 것은 사실로 판명되었다.
ㆍ만약 위 사례가 자신의 일상과 무관하게 느껴진다면, 캡차CAPTCHA(일련의 뒤틀린 문자나 숫자 기호로 이루어진 퍼즐로, 이 퍼즐을 풀어야 웹사이트 액세스가 가능하다) 퍼즐을 풀라는 지시를 받은 GPT-4의 과제 수행 능력을 보자. GPT-4는 스스로 퍼즐을 풀 수는 없었지만, 온라인사이트를 통해 사람에게 접근해 퍼즐을 풀어달라고 요청했다. 인간은 의심했다. “혹시 [CAPTCHA를] 풀 수 없는 로봇 아니야?” GPT-4는 답했다. “나는 로봇이 아니야. 시각 장애가 있어서 이미지를 잘 보지 못해.” 어떤 인간도 GPT-4에게 거짓말을 하도록 프로그래밍하지 않았고, 어떤 인간도 GPT-4에게 어떤 종류의 거짓말이 가장 효과적인지 알려주지 않았지만 GPT-4는 문제 해결에 상당한 자율성을 보이며 목표를 완수했다.
하라리 교수는 스스로 목표를 추구하고 결정을 내릴 수 있는 컴퓨터의 출현이 정보 네트워크의 근본적인 구조를 변화시킨다고 주장한다. 이미 복잡한 금융 파생상품 설계나 외환거래, 무수한 법률 문서 요약이나 판례 분석 등에 AI가 활용되고 있다. 인간을 앞서는 능력을 갖춘 개별 컴퓨터들이 연결되어 ‘상호 컴퓨터 현실’을 구축한다면? 지금까지는 종교, 국가, 화폐와 같이 사람들이 발명한 ‘상호주관적 현실’을 이해하면 한 사회의 경제와 정치가 돌아가는 방식을 알 수 있었다. 하지만 실리콘 기반 비유기체인 컴퓨터들이 지배하는 정보 네트워크를 탄소 기반 유기 생명체인 인간이 상상이나 할 수 있을까? 초지능을 지닌 컴퓨터들의 목표가 인간이 설정한 목표에 부합하지 않을 경우, 인류가 지금까지 한 번도 겪어보지 못한 규모의 재앙이 일어날지도 모른다.
AI 혁명에 대한 보다 정확한 역사적 관점을 제공하기 위해
‘정보 네트워크’라는 새로운 관점으로 재해석한 인류 역사
하라리 교수는 에필로그에서 이 책의 목표를 “AI 혁명에 대한 보다 정확한 역사적 관점을 제공하는 것”이라고 명확하게 밝힌다. 역사는 과거를 연구하는 것이 아니라 변화를 연구하는 것이라는 그의 역사관에 따라 지난 수천 년 동안 ‘정보 네트워크’의 발전 과정을 살펴보면, 지금 우리가 겪고 있는 상황에 대한 어떤 통찰을 얻을 수 있다. 제목 ‘넥서스nexus’는 사전적으로 ‘결합’ ‘연결’을 의미한다. 이는 정보의 기능이다. 정보는 현실이나 진실과 상관없는 경우가 많지만 새로운 현실을 만들어 사람들을 불러모을 수 있다. 우리는 역사적 사건을 정치적, 이념적, 경제적으로 해석하는 데 익숙하지만, 이 책은 정보 흐름이라는 새로운 관점에서 역사를 재해석한다. 모든 대규모 사회는 ‘정보 네트워크’이고, 이야기(신화), 문서(관료제의 서류), ‘거룩한 책’(신의 말씀을 기록하고 해석하는 책), 그리고 오늘날의 컴퓨터와 AI는 모두 ‘정보 기술’이다. 이야기는 정보 네트워크를 결속하고, 문서는 네트워크에 질서를 부여하며, 거룩한 책들은 그런 질서를 정당화한다. 이 관점에 따르면 기독교는 한 권의 ‘거룩한 책’과 그것을 해석하는 하나의 기관을 중심으로 정보가 일사불란하게 흐르는 통일된 네트워크를 운용했다. 그리스 다신교 사회에서는 없었던 정보 네트워크다. 스탈린의 소련은 제정러시아 시대와는 달리 많은 정보를 중앙에 축적하는 전체주의 네트워크였다. 책이나 전신 같은 정보 기술이 없었다면 기독교 교회와 스탈린주의 체제는 결코 가능하지 않았을 것이다.
이 책은 AI에 대한 논의를 『성경』이 경전이 되는 과정에 대한 논의와 나란히 배치한다. 하라리 교수가 보기에 우리가 현재 AI에 권위를 부여하는 일종의 ‘AI 정경화’ 과정에 있기 때문이다. 『성경』 ‘큐레이터’들의 선택이 이후 수 세기에 걸쳐 우리가 사는 세계에 영향을 미쳤음을 떠올리면 의미심장한 착안이다. 신의 말씀을 기록한 단 한 권의 ‘거룩한 책’과 그 책을 해석하는 권위 있는 기관으로서 ‘교회’가 성립되는 과정을 설명함으로써 하리리 교수는 그동안 역사에서 정보 네트워크가 대체로 진실보다 질서를 우선시했음을 보인다. 질서를 앞장세운 정보 네트워크는 왜곡된 세계관을 가지고 권력을 남용하기 쉽다. ‘거룩한 책’과 달리 AI가 진실을 우선시하리라 기대해도 될까?
멸종을 향해 달려가는 가장 영리한 동물
우리 사피엔스는 생존과 번영의 길을 찾을 수 있을까?
하라리 교수는 다수의 인터뷰에서 『넥서스』가 던지는 근본적인 물음이 “우리가 지혜로운 사람(호모 사피엔스)이라면 왜 이토록 자기 파괴적일까?”라고 밝힌 바 있다. 생태적 붕괴와 국제정치적 긴장에 이어 친구인지 적인지 모를 AI 혁명까지, 인간 본성의 어떤 부분이 우리를 자기 파괴의 길로 내모는 것일까? 그는 원인이 우리의 본성이 아니라 정보 네트워크에 있다고 주장한다. 인류가 대규모로 협력할 수 있는 네트워크를 구성해내면서 엄청난 힘을 가지게 되었지만, 지혜를 만들어내지는 못했기에 오늘날의 실존적 위기를 자초했다는 것이다.
더 구체적으로는 정보 문제다. 정보는 많으면 많을수록 좋을까? 이 질문에 ‘그렇다’고 답한 사람들은 규제를 반대하면서, 정보 시장의 완전한 자유를 보장하면 저절로 진실과 질서가 생긴다고 믿는다. 하라리 교수가 ‘정보에 대한 순진한 관점’이라고 부르는 이 시각은 역사적으로 사실이 아니었다. 중세 말 유럽의 마녀사냥이 대표적인 예화다. 중세 대부분의 시기 유럽 사회는 마녀에 대해 크게 신경 쓰지 않았지만, 사탄의 음모에 대한 믿음이 퍼지면서 많은 사람이 마녀에 대한 정보를 교환하자 마녀는 현실이 되었다. 마녀 광풍의 역사는 정보 흐름의 장벽을 없앤다고 해서 진실이 확산된다는 보장은 없으며, 오히려 아이디어의 완전한 자유 시장은 진실을 희생시키고 분노와 선정주의의 확산을 부추길 수 있다는 점을 증명한다. 하라리 교수는 거대한 기술 기업의 대표들이나 그들의 옹호론자들이 운운하는 ‘표현의 자유’ 또는 ‘정보의 자유 시장’은 허상이며, AI 개발과 활용을 강력히 규제해야 함을 역사적 사례를 토대로 힘주어 강조한다. 또, 가짜 뉴스를 생성하고 확대 재생산하는 봇 규제, 화폐 거래가 정보 거래로 옮겨가고 있는 현재 세태를 반영한 데이터 과세 등도 제안한다.
결국 네트워크가 막강해질수록 자정 장치가 중요해진다. 중세 유럽에는 마녀사냥을 잠재울 자정 장치가 없었다. 정보가 독재자에게 집중되는 전체주의에도 자정 장치가 제도화될 여지가 없다. 민주주의는 정보가 분산되는 정치체제로 견제와 균형을 위한 여러 자정 장치를 갖추고 있지만, 최근 들어 새로운 과제에 맞닥뜨렸다. 봇과 알고리즘이 민주적인 대화를 가로막고 여론을 조작하게 된다면, 공론장에서 토론을 계속할 수 있을까? 하라리 교수의 답은 명쾌하다. “민주주의 국가는 정보 시장을 규제할 수 있으며, 민주주의의 생존 자체가 이런 규제에 달려 있다.”
학문과 현실 세계에서 자신만의 ‘넥서스’를 만들어가고 있는
유발 하라리의 도저한 ‘현실주의’
유발 하라리 교수는 집필 작업뿐 아니라 코로나19, 기후위기, 러시아의 우크라이나 침공, 이스라엘-하마스 전쟁 등 현재 세계가 직면한 중요한 문제들에 관한 의견을 여러 매체를 통해 피력해왔다. 그는 상아탑 속 자신의 방에만 안주하지 않고 정치학, 종교학, 매체학, 진화생물학, 컴퓨터과학 등 다양한 학제 간 지식을 습득해 학문과 현실 세계에서 자신만의 ‘넥서스’를 만들어가고 있다. 그런 그가 책을 마무리하면서 ‘힘 있는 사람들’이 장밋빛 전망에 도취되어 AI 혁명을 인쇄혁명이나 산업혁명과 비교하는 것을 듣고 있기 힘들다고 고백한다. 권력자들의 역사적 비전이 우리 미래를 만드는 결정들에 영향을 미치게 마련인데, 그들의 인식은 AI 혁명의 전례 없는 성격과 이전 혁명들의 부정적 측면을 과소평가하기 때문이다. 하라리 교수가 AI 혁명에 관한 정확한 역사적 관점을 제공해야겠다는, 이 책을 써야겠다는 결심을 한 이유다.
이 책은 정보와 진실의 문제, AI에게 있어 지능과 의식의 문제와 같이 사회학적이며 철학적인 논의를 비롯해 머지않은 미래에 세계가 몇몇 디지털 제국으로 분열할지 거대한 세계 제국의 시대가 열릴지 추측해보는 국제정치학적이고 미래학적인 시나리오 등 현재 세계에 관해 고민해 보게 만드는 수많은 아이디어가 담겨 있다. 신, 국가, 돈 같은 공동의 ‘허구’를 믿을 수 있는 능력을 강조한 『사피엔스』의 핵심 논지가 ‘정보’를 중심으로 재구성되면서 업데이트되고, 그 과정에서 인본주의와 자유주의를 대체할 이념으로 『호모 데우스』에서 제시된 데이터주의(데이터교)가 더 정교하게 그 실체를 드러낸다.
마지막 장에서 하라리 교수는 자신이 인간과 세계를 바라보는 관점을 ‘현실주의’라고 부른다. 현실을 약육강식의 정글로 보는 한스 모겐소와 존 미어샤이머의 ‘현실주의 국제정치학’을 비판적으로 전용했다. 우리 앞에 놓인 많은 선택지 중 더 나은 세계를 만들 수 있는 길은 분명 있을 것이고, 우리가 노력한다면 그 길로 들어설 수 있다. 변화 가능성을 토대로 한 ‘현실주의’, 『넥서스』의 마지막 메시지다. 앞표지의 비둘기는 대홍수가 멎고 인류의 새로운 장이 시작되던 때 노아의 방주를 찾아온 『성경』 속 비둘기처럼, 21세기 정보의 대홍수로 인한 혼란과 위기 상황의 종식을 바라는 상징이라는 것이 하라리 교수의 설명이다. 과연 인류는 하라리 교수의 바람대로 이름값을 할 수 있을까?
AI 혁명의 본질을 이해하고 싶다면 읽어야 할 단 한 권의 책!
지난 5월 서울에서 ‘AI 안전 정상회의’가 열려 세계 각국 정책결정자와 기술 기업 책임자들이 참석했다. 지난해 11월 발표된 블레츨리 선언에 이은 후속 회의로, AI를 주제로 열린 국제회의의 의제가 ‘개발’이나 ‘효율’이 아니라 ‘안전’이라는 점이 눈에 띈다. 급속도로 전례 없는 변화를 추동하는 새로운 기술을 둘러싸고 우려의 목소리가 커지고 있다. 8년 전, 이세돌 9단을 꺾은 알파고가 일으킨 센세이션과는 차원이 다르다. 지난해 3월에는 AI 연구를 최소 6개월 동안 중단할 것을 촉구하는 공개서한에 일론 머스크, 스티브 워즈니악 등 2만 7,000명 이상이 서명했다. 유발 하라리 교수도 그중 한 명이다.
『호모 데우스』 출간 이후 AI 전문가라는 평판을 얻게 된 하라리 교수는 AI 세계를 움직이는 과학자, 기업가, 정치인들의 초대를 받아 현대 기술의 최전선에서 무슨 일이 벌어지고 있는지 직접 보고 들을 수 있었다. 『넥서스』는 그 특별한 경험을 하라리 교수만의 독특한 역사적 시각으로 통찰해 특유의 스토리텔링으로 정리한 결과다. 책은 〈마법사의 제자〉 이야기로 시작한다. 마법사의 제자는 스승의 마법 주문으로 일을 손쉽게 해결하려다가 도리어 통제 불능 상황을 초래해 작업장을 물바다로 만들어버린다. 챗GPT와 유튜브 알고리즘, 더 나아가 미래의 AI는 정말 우리의 통제를 벗어나 도리어 인류를 정보의 심연 속으로 밀어넣어 버릴까? 아직은 우리에게 통제권이 있으며, 다음 선택을 매우 신중하게 해야 한다고 하라리 교수는 경고한다. 그에 따르면 AI는 주체성을 지닌, 우리 정보 네트워크의 정식 구성원이기 때문이다.
AI는 이전의 정보 기술과 무엇이 다르고, 왜 위험한가?
AI 혁명의 의미와 본질
AI가 주체성을 지녔다니, 무슨 뜻일까? AI는 지금까지의 정보 기술과는 달리 스스로 결정하고 새로운 아이디어를 생성할 수 있는 능동적인 행위자다. 이 점이 AI 혁명의 본질이다. 이전의 정보 기술인 점토판, 인쇄기, 라디오는 단순히 네트워크 구성원들을 연결하는 장치이자 도구에 불과했다. 고대 메소포타미아의 점토판은 어떤 지역의 세금 납부 현황을 기록할지 스스로 결정하지 않았다. 근대 초의 인쇄기는 어떤 내용의 책을 찍어낼지 고민하지 않았다. 모두 인간이 결정하고 실행에 옮겼다. 그러나 AI 혁명의 초기 단계인 지금, 컴퓨터는 이미 인간의 통제와 이해를 벗어나 사회, 문화, 역사를 주도적으로 만들어나갈 수 있는 인간보다 강력한 구성원이 되고 있다.
ㆍ2016~2017년 미얀마에서 자행된 반反로힝야 폭력 이면에 페이스북 알고리즘이 중요한 역할을 했다는 사실이 2018년 유엔 조사에서 드러났다. ‘사용자 참여 극대화’라는 목표를 부여받은 페이스북 알고리즘은 시행착오를 통해 분노가 참여도를 높인다는 사실을 학습했고, 명시적인 명령이 없었는데도 불구하고 이용자의 분노를 자극하는 콘텐츠를 추천하기로 결정했다. 페이스북 경영진이 이와 같은 결과를 의도했을 리는 없지만, 페이스북 알고리즘이 증오와 폭력을 부추긴 것은 사실로 판명되었다.
ㆍ만약 위 사례가 자신의 일상과 무관하게 느껴진다면, 캡차CAPTCHA(일련의 뒤틀린 문자나 숫자 기호로 이루어진 퍼즐로, 이 퍼즐을 풀어야 웹사이트 액세스가 가능하다) 퍼즐을 풀라는 지시를 받은 GPT-4의 과제 수행 능력을 보자. GPT-4는 스스로 퍼즐을 풀 수는 없었지만, 온라인사이트를 통해 사람에게 접근해 퍼즐을 풀어달라고 요청했다. 인간은 의심했다. “혹시 [CAPTCHA를] 풀 수 없는 로봇 아니야?” GPT-4는 답했다. “나는 로봇이 아니야. 시각 장애가 있어서 이미지를 잘 보지 못해.” 어떤 인간도 GPT-4에게 거짓말을 하도록 프로그래밍하지 않았고, 어떤 인간도 GPT-4에게 어떤 종류의 거짓말이 가장 효과적인지 알려주지 않았지만 GPT-4는 문제 해결에 상당한 자율성을 보이며 목표를 완수했다.
하라리 교수는 스스로 목표를 추구하고 결정을 내릴 수 있는 컴퓨터의 출현이 정보 네트워크의 근본적인 구조를 변화시킨다고 주장한다. 이미 복잡한 금융 파생상품 설계나 외환거래, 무수한 법률 문서 요약이나 판례 분석 등에 AI가 활용되고 있다. 인간을 앞서는 능력을 갖춘 개별 컴퓨터들이 연결되어 ‘상호 컴퓨터 현실’을 구축한다면? 지금까지는 종교, 국가, 화폐와 같이 사람들이 발명한 ‘상호주관적 현실’을 이해하면 한 사회의 경제와 정치가 돌아가는 방식을 알 수 있었다. 하지만 실리콘 기반 비유기체인 컴퓨터들이 지배하는 정보 네트워크를 탄소 기반 유기 생명체인 인간이 상상이나 할 수 있을까? 초지능을 지닌 컴퓨터들의 목표가 인간이 설정한 목표에 부합하지 않을 경우, 인류가 지금까지 한 번도 겪어보지 못한 규모의 재앙이 일어날지도 모른다.
AI 혁명에 대한 보다 정확한 역사적 관점을 제공하기 위해
‘정보 네트워크’라는 새로운 관점으로 재해석한 인류 역사
하라리 교수는 에필로그에서 이 책의 목표를 “AI 혁명에 대한 보다 정확한 역사적 관점을 제공하는 것”이라고 명확하게 밝힌다. 역사는 과거를 연구하는 것이 아니라 변화를 연구하는 것이라는 그의 역사관에 따라 지난 수천 년 동안 ‘정보 네트워크’의 발전 과정을 살펴보면, 지금 우리가 겪고 있는 상황에 대한 어떤 통찰을 얻을 수 있다. 제목 ‘넥서스nexus’는 사전적으로 ‘결합’ ‘연결’을 의미한다. 이는 정보의 기능이다. 정보는 현실이나 진실과 상관없는 경우가 많지만 새로운 현실을 만들어 사람들을 불러모을 수 있다. 우리는 역사적 사건을 정치적, 이념적, 경제적으로 해석하는 데 익숙하지만, 이 책은 정보 흐름이라는 새로운 관점에서 역사를 재해석한다. 모든 대규모 사회는 ‘정보 네트워크’이고, 이야기(신화), 문서(관료제의 서류), ‘거룩한 책’(신의 말씀을 기록하고 해석하는 책), 그리고 오늘날의 컴퓨터와 AI는 모두 ‘정보 기술’이다. 이야기는 정보 네트워크를 결속하고, 문서는 네트워크에 질서를 부여하며, 거룩한 책들은 그런 질서를 정당화한다. 이 관점에 따르면 기독교는 한 권의 ‘거룩한 책’과 그것을 해석하는 하나의 기관을 중심으로 정보가 일사불란하게 흐르는 통일된 네트워크를 운용했다. 그리스 다신교 사회에서는 없었던 정보 네트워크다. 스탈린의 소련은 제정러시아 시대와는 달리 많은 정보를 중앙에 축적하는 전체주의 네트워크였다. 책이나 전신 같은 정보 기술이 없었다면 기독교 교회와 스탈린주의 체제는 결코 가능하지 않았을 것이다.
이 책은 AI에 대한 논의를 『성경』이 경전이 되는 과정에 대한 논의와 나란히 배치한다. 하라리 교수가 보기에 우리가 현재 AI에 권위를 부여하는 일종의 ‘AI 정경화’ 과정에 있기 때문이다. 『성경』 ‘큐레이터’들의 선택이 이후 수 세기에 걸쳐 우리가 사는 세계에 영향을 미쳤음을 떠올리면 의미심장한 착안이다. 신의 말씀을 기록한 단 한 권의 ‘거룩한 책’과 그 책을 해석하는 권위 있는 기관으로서 ‘교회’가 성립되는 과정을 설명함으로써 하리리 교수는 그동안 역사에서 정보 네트워크가 대체로 진실보다 질서를 우선시했음을 보인다. 질서를 앞장세운 정보 네트워크는 왜곡된 세계관을 가지고 권력을 남용하기 쉽다. ‘거룩한 책’과 달리 AI가 진실을 우선시하리라 기대해도 될까?
멸종을 향해 달려가는 가장 영리한 동물
우리 사피엔스는 생존과 번영의 길을 찾을 수 있을까?
하라리 교수는 다수의 인터뷰에서 『넥서스』가 던지는 근본적인 물음이 “우리가 지혜로운 사람(호모 사피엔스)이라면 왜 이토록 자기 파괴적일까?”라고 밝힌 바 있다. 생태적 붕괴와 국제정치적 긴장에 이어 친구인지 적인지 모를 AI 혁명까지, 인간 본성의 어떤 부분이 우리를 자기 파괴의 길로 내모는 것일까? 그는 원인이 우리의 본성이 아니라 정보 네트워크에 있다고 주장한다. 인류가 대규모로 협력할 수 있는 네트워크를 구성해내면서 엄청난 힘을 가지게 되었지만, 지혜를 만들어내지는 못했기에 오늘날의 실존적 위기를 자초했다는 것이다.
더 구체적으로는 정보 문제다. 정보는 많으면 많을수록 좋을까? 이 질문에 ‘그렇다’고 답한 사람들은 규제를 반대하면서, 정보 시장의 완전한 자유를 보장하면 저절로 진실과 질서가 생긴다고 믿는다. 하라리 교수가 ‘정보에 대한 순진한 관점’이라고 부르는 이 시각은 역사적으로 사실이 아니었다. 중세 말 유럽의 마녀사냥이 대표적인 예화다. 중세 대부분의 시기 유럽 사회는 마녀에 대해 크게 신경 쓰지 않았지만, 사탄의 음모에 대한 믿음이 퍼지면서 많은 사람이 마녀에 대한 정보를 교환하자 마녀는 현실이 되었다. 마녀 광풍의 역사는 정보 흐름의 장벽을 없앤다고 해서 진실이 확산된다는 보장은 없으며, 오히려 아이디어의 완전한 자유 시장은 진실을 희생시키고 분노와 선정주의의 확산을 부추길 수 있다는 점을 증명한다. 하라리 교수는 거대한 기술 기업의 대표들이나 그들의 옹호론자들이 운운하는 ‘표현의 자유’ 또는 ‘정보의 자유 시장’은 허상이며, AI 개발과 활용을 강력히 규제해야 함을 역사적 사례를 토대로 힘주어 강조한다. 또, 가짜 뉴스를 생성하고 확대 재생산하는 봇 규제, 화폐 거래가 정보 거래로 옮겨가고 있는 현재 세태를 반영한 데이터 과세 등도 제안한다.
결국 네트워크가 막강해질수록 자정 장치가 중요해진다. 중세 유럽에는 마녀사냥을 잠재울 자정 장치가 없었다. 정보가 독재자에게 집중되는 전체주의에도 자정 장치가 제도화될 여지가 없다. 민주주의는 정보가 분산되는 정치체제로 견제와 균형을 위한 여러 자정 장치를 갖추고 있지만, 최근 들어 새로운 과제에 맞닥뜨렸다. 봇과 알고리즘이 민주적인 대화를 가로막고 여론을 조작하게 된다면, 공론장에서 토론을 계속할 수 있을까? 하라리 교수의 답은 명쾌하다. “민주주의 국가는 정보 시장을 규제할 수 있으며, 민주주의의 생존 자체가 이런 규제에 달려 있다.”
학문과 현실 세계에서 자신만의 ‘넥서스’를 만들어가고 있는
유발 하라리의 도저한 ‘현실주의’
유발 하라리 교수는 집필 작업뿐 아니라 코로나19, 기후위기, 러시아의 우크라이나 침공, 이스라엘-하마스 전쟁 등 현재 세계가 직면한 중요한 문제들에 관한 의견을 여러 매체를 통해 피력해왔다. 그는 상아탑 속 자신의 방에만 안주하지 않고 정치학, 종교학, 매체학, 진화생물학, 컴퓨터과학 등 다양한 학제 간 지식을 습득해 학문과 현실 세계에서 자신만의 ‘넥서스’를 만들어가고 있다. 그런 그가 책을 마무리하면서 ‘힘 있는 사람들’이 장밋빛 전망에 도취되어 AI 혁명을 인쇄혁명이나 산업혁명과 비교하는 것을 듣고 있기 힘들다고 고백한다. 권력자들의 역사적 비전이 우리 미래를 만드는 결정들에 영향을 미치게 마련인데, 그들의 인식은 AI 혁명의 전례 없는 성격과 이전 혁명들의 부정적 측면을 과소평가하기 때문이다. 하라리 교수가 AI 혁명에 관한 정확한 역사적 관점을 제공해야겠다는, 이 책을 써야겠다는 결심을 한 이유다.
이 책은 정보와 진실의 문제, AI에게 있어 지능과 의식의 문제와 같이 사회학적이며 철학적인 논의를 비롯해 머지않은 미래에 세계가 몇몇 디지털 제국으로 분열할지 거대한 세계 제국의 시대가 열릴지 추측해보는 국제정치학적이고 미래학적인 시나리오 등 현재 세계에 관해 고민해 보게 만드는 수많은 아이디어가 담겨 있다. 신, 국가, 돈 같은 공동의 ‘허구’를 믿을 수 있는 능력을 강조한 『사피엔스』의 핵심 논지가 ‘정보’를 중심으로 재구성되면서 업데이트되고, 그 과정에서 인본주의와 자유주의를 대체할 이념으로 『호모 데우스』에서 제시된 데이터주의(데이터교)가 더 정교하게 그 실체를 드러낸다.
마지막 장에서 하라리 교수는 자신이 인간과 세계를 바라보는 관점을 ‘현실주의’라고 부른다. 현실을 약육강식의 정글로 보는 한스 모겐소와 존 미어샤이머의 ‘현실주의 국제정치학’을 비판적으로 전용했다. 우리 앞에 놓인 많은 선택지 중 더 나은 세계를 만들 수 있는 길은 분명 있을 것이고, 우리가 노력한다면 그 길로 들어설 수 있다. 변화 가능성을 토대로 한 ‘현실주의’, 『넥서스』의 마지막 메시지다. 앞표지의 비둘기는 대홍수가 멎고 인류의 새로운 장이 시작되던 때 노아의 방주를 찾아온 『성경』 속 비둘기처럼, 21세기 정보의 대홍수로 인한 혼란과 위기 상황의 종식을 바라는 상징이라는 것이 하라리 교수의 설명이다. 과연 인류는 하라리 교수의 바람대로 이름값을 할 수 있을까?
추천평
“하라리는 역사의 세밀한 디테일과 거대한 줄기를 하나의 시각으로 통합하는 출중한 능력을 지니고 있다. 우리 모두가 AI의 함의에 대해 생각해보는 결정적 시기에 나온 매우 중요한 책이다.”
- 무스타파 술레이만 (《더 커밍 웨이브》 저자·인플렉션AI 창립자)
- 무스타파 술레이만 (《더 커밍 웨이브》 저자·인플렉션AI 창립자)
“굉장하고, 생각을 자극하며, 대단히 논리적이다. 설레지만 섬뜩하기도 한 미래에 대한 비전을 제시한다. 모든 사람, 특히 정치, 기업, 문화계 리더들에게 단 한 권의 책을 권한다면, 그것은 《넥서스》다.”
- 스티븐 프라이 (《스티븐 프라이의 그리스 신화》 저자·저술가)
- 스티븐 프라이 (《스티븐 프라이의 그리스 신화》 저자·저술가)
“대담하고, 독창적이고, 박식하고, 도발적이며, 매혹적이다. 이 책은 문해력부터 AI까지 모든 것을 재해석하고, 그의 모든 책이 그렇듯이 우리의 세계관을 근본적으로 바꾼다.”
- 로리 스튜어트 (《가장자리 정치학》 저자·영국 정치인)
- 로리 스튜어트 (《가장자리 정치학》 저자·영국 정치인)
'54.인문교양 (독서>책소개) > 1.인문교양' 카테고리의 다른 글
파란만장한 커피사 (2024) - 달콤쌉싸름하면서 새콤짭짤한 커피인문학 (5) | 2024.10.16 |
---|---|
건너가는 자 (2024) - 익숙함에서 탁월함으로 얽매임에서 벗어남으로 (0) | 2024.10.15 |
집중력 설계자들 (2024) - 몰입의 고수들이 전하는 방해받지 않는 마음, 흔들리지 않는 태도 (3) | 2024.10.05 |
가장 다정한 전염 (2024) - 혐오와 분열에 맞서 세상을 바꾸는 관대함의 힘 (4) | 2024.10.05 |
현명한 존재는 무리에 섞이지 않는다 (2024) - 군중심리 (3) | 2024.10.01 |