제리 카플란 생성형 AI는 어떤 미래를 만드는가 (2024) - 최정상 인공지능 전문가의 15가지 미래 예측

책소개

마침내, 초지능의 시대가 열리는가?

인간의 지능을 넘어서는 인공지능 시대가 열린다!
지금 우리가 반드시 알아야 할 것은 무엇인가?

전 세계 인공지능의 구루, 《인간은 필요 없다》의 제리 카플란이 말하는
생성형 AI에 대해 지금 우리가 반드시 알아야 할 것들

★★★★★ 인공지능 기술 빅뱅을 예견한 실리콘밸리의 AI 사상가
★★★★★ 제리 카플란 인공지능 3부작 완결판
★★★★★ 저자 한국어판 특별 서문 수록
★★★★★ 아마존 베스트셀러 【사회과학 분야】

2022년 11월, 전 세계를 충격에 빠트린 챗GPT의 등장 이후 세상은 빠르게 변화하고 있다. ‘생성형(generative) AI’라는 다소 생소한 이름의 이 인공지능은 이메일이나 보고서는 물론 책이나 이미지, 음악 등 당분간은 인간의 고유 영역으로 남을 것으로 예상되었던 다수의 분야에서 빠르게, 그리고 기대 이상으로 인간의 역할을 대체하고 있다. 심지어 2024년 5월 발표된 GPT-4o에 이르러서는 그간의 텍스트 방식의 소통을 뛰어넘어 ‘감정이 담긴 음성 대화’, ‘실제 사람과 구분할 수 없는 수준’의 소통을 보여주어 마침내 초지능의 시대가 열리고 있음을 실감케 했다.
과연 인간의 지능을 넘어서는 인공지능 시대가 다가온 것일까? 생성형 AI의 탄생과 발전은 어떠한 미래를 만들어 갈 것인가? 인간과 인공지능의 공존은 가능한 것일까? 생성형 AI 시대를 살아야 할 우리가 지금 반드시 알아야 할 것은 무엇인가?

세계 최정상의 인공지능 전문가이자 대중에게 인공지능 시대의 개막을 알린 베스트셀러 《인간은 필요 없다Humans Need Not Apply》의 저자 제리 카플란 교수가 신작 《제리 카플란 생성형 AI는 어떤 미래를 만드는가》를 통해 그에 대한 해답을 내놓았다. 저자는 이 책을 통해 생성형 AI의 탄생과 발전은 과학과 예술, 인간 지식의 발전을 가속화할 테지만 동시에 새로운 위험도 불러올 것이라고 말한다. 노동이나 전쟁, 법적 지위, 저작권 등등 풀어야 할 산더미 같은 과제 역시 우리가 마주할 현실이며 이와 함께 ‘생각하는 컴퓨터’에 대한 철학적 문제 역시 간과해서는 안 된다고 말한다.

목차

들어가며_마침내 초지능의 시대가 열리는가
한국의 독자들에게_생성형 AI는 진화를 위한 인류 문화의 놀라운 거울

1장 인공지능의 역사

인공지능이란 무엇일까?
‘인공지능’이란 용어는 어디에서 시작되었을까?
다트머스 회의에 참석한 사람들은 무엇을 이루고자 했을까?
AI 연구자들은 문제에 어떻게 접근했을까?
물리적 기호체계 가설이란?
머신러닝이란?
머신러닝은 어떻게 생겨났을까?
AI의 주목할 만한 역사적 이정표에는 어떤 것이 있을까?

2장 생성형 AI란 무엇인가

대규모 언어 모델(LLM)이란?
대규모 언어 모델(LLM)은 어떻게 작동할까?
‘임베딩’이란?
단어 임베딩은 의미를 어떻게 표현할까?
인공 신경망이란?
트랜스포머란?
트랜스포머는 단어 임베딩을 이용해 어떻게 복잡한 개념을 표현할까?
‘토큰’이란?
비언어적인 문제에 LLM은 어떻게 적용될까?
‘창발성(emergent properties)’이란 무엇이며 LLM에 이러한 특성이 있을까?
‘탈옥’이란 무엇이며 이것은 왜 어려운 문제일까?
‘환각’이란 무엇이며 LLM이 환각을 보이는 이유는 무엇일까?
그 밖에 어떤 기술들이 생성형 AI에 사용될까?
미래의 생성형 AI는 서로 어떻게 소통할까?
생성형 AI의 잠재적 능력에는 어떤 것이 있을까?

3장 생성형 AI는 무엇을 바꾸는가

생성형 AI의 영향을 가늠하는 데 기준이 될 수 있는 역사적 선례에는 무엇이 있을까?
생성형 AI는 의료 서비스를 어떻게 바꿀까?
생성형 AI는 법률 제도를 어떻게 바꿀까?
생성형 AI는 교육을 어떻게 바꿀까?
생성형 AI는 소프트웨어 기술을 어떻게 바꿀까?
생성형 AI는 창작 예술과 관련 산업을 어떻게 바꿀까?

4장 생성형 AI가 만드는 노동의 미래

생성형 AI가 실업률을 높일까?
자동화는 노동 시장에 어떤 영향을 미칠까?
어떤 직업이 사라질 가능성이 클까?
어떤 직업이 영향을 받지 않을까?
어떤 직업이 번성하고 성장할까?
어떤 새로운 산업과 직업이 생겨날까?
‘기술적 실업’이란?

5장 예상되는 위험들

생성형 AI는 허위 정보와 선전을 조장하는 데 어떻게 사용될까?
‘알고리즘 편향’이란?
사람들은 인간 대신 기계를 통해 정서적 위안을 얻게 될까?
생성형 AI는 우리의 소통 방식에 어떻게 영향을 미칠까?
‘정렬 문제’란?
‘살상용 로봇’이 곧 등장할까?
‘초지능’과 ‘특이점’을 걱정해야 할까?

6장 생성형 AI의 법적 지위

컴퓨터 프로그램이 협약과 계약을 맺을 수 있을까?
생성형 AI에 재산 소유권과 같은 법적 권리를 부여해야 할까?
생성형 AI가 범죄를 저지를 수 있을까?
생성형 AI는 범죄 행위에 대해 어떻게 책임질 수 있을까?
그냥 생성형 AI가 법과 기타 규칙을 준수하도록 프로그래밍하면 되지 않을까?

7장 규제와 공공 정책 그리고 글로벌 경쟁

생성형 AI는 표현의 자유법에 따라 보호될까?
생성형 AI의 결과물이 저작권으로 보호될 수 있을까?
어떤 규제 계획이 고려되고 있을까?
어떤 새로운 법률과 규정이 생성형 AI에 적합할까?

8장 인공지능의 철학적 문제와 시사점

AI 철학이란?
컴퓨터는 생각할 수 있을까?
컴퓨터가 창의적일 수 있을까?
컴퓨터가 자유의지를 가질 수 있을까?
컴퓨터가 의식을 가질 수 있을까?
컴퓨터는 느낄 수 있을까?

나오며_생성형 AI의 미래
감사의 글
미주

 

저자 소개

저 : 제리 카플란 (Jerry Kaplan)

스탠퍼드대학교 법정보학센터 교수, 인공지능학자. 학생들에게 컴퓨터 공학과 인공지능의 영향, 윤리에 대해 가르치고 있다. 벤처 업계에서 여러 회사를 경영한 기업가이자 기술 혁신가, 베스트셀러 작가로 널리 알려져 있다. 실리콘밸리에서 네 개의 스타트업을 공동 창업해 두 곳을 성공적으로 매각했다. 초기 온라인 경매 기업 중 하나였던 온세일(Onsale)이 대표적이며, 그가 구상한 몇몇 특허 기술은 이베이(eBay)에서...

역 : 정미진한국외국어대학교에서 컴퓨터공학과 영어학을 전공했다. 휴대폰을 만드는 국내 대기업에서 십여 년간 일하다가 좋은 외서를 국내에 소개하는 일에 매료되어 번역을 시작했다. 현재 바른번역 소속 전문 번역가로 활동 중이며 옮긴 책으로 『일인분의 안락함』『코인 좀 아는 사람』『뇌가 행복해지는 습관』『볼륨을 낮춰라』『진화가 뭐예요?』『더 히스토리 오브 더 퓨처』『원 디바이스』『내일은 못 먹을지도 몰라』 등이 있다.

책 속으로

이 새로운 기술이 미칠 수 있는 영향은 아무리 강조해도 지나 치지 않다. 우리는 지금 ‘키티호크’(불가능이 가능해지는 순간)의 순간을 목격하고 있다. 오늘 날의 생성형 AI는 고정된 학습 데이터를 이용해 구축되었지만 향후 버전은 분명히 이러한 한계를 없애고 인간처럼 끊임없이 새로운 정보를 학습하고 통합할 것이다. 다시 말해, 지금은 인간이 만든 콘텐츠를 통해 세상을 경험하지만, 머지않아 고유의 ‘눈’과 ‘귀’ 로 기능할 카메라, 마이크와 같은 실시간 데이터 소스와 연결되면서 이러한 한계는 사라질 것이다. 우리는 위대한 문화적·지적 활동이 폭발적으로 증가하고 있는말 그대로 새로운 르네상스의 최전선에 서 있다. 14세기에서 17세기의 르네상스는 종교(신 중심)에서 속세의 인간으로 초점이 이동하면서 예술, 과학, 기술, 인간 지식에 지대한 발전을 가져온 시기였다. 어쩌면 생성형 AI는 이제 그 초점이 기계로 이동하는 새로운 문화적 전환을 불러올지 모르며, 우리는 발전을 가속화할 강력한 새 도구로 인조지능(synthetic intelligence)의 힘을 활용할 것이다. 미래에는 정보에 입각한 객관적이고 신뢰할 수 있는 조언을 구할 때 사람이 아닌 기계를 찾게 될 것이다.
--- 「들어가며: 마침내 초지능의 시대가 열리는가」중에서

인공지능이란 무엇일까? 두 가지 이유에서 묻기는 쉽지만 대답하기는 어려운 질문이다. 첫째, 지능이 무엇인지에 대해 의견이 분분하다. 둘째, 적어도 지금으로서는 기계 지능이 인간 지능과 많은 관련이 있다고 믿을 만한 근거가 부족하다. 보기에는 많이 닮았다 해도 말이다. 인공지능(AI)에 대한 정의는 각자의 관점으로 제안된 여러 가지 버전이 있지만, 대부분은 인간이 했을 때 지능적이라고 간주되는 행동을 할 수 있는 컴퓨터 프로그램이나 기계를 만든다는 개념에 중심이 맞춰져 있다.
--- 「1장 인공지능의 역사」중에서

모든 단계에서 생성형 AI의 역량에 대한 증거와 인간 전문가의 확실한 감독이 필요할 것이고, 아니면 단순히 인간 대신 행동하기 전에 인간의 직접적인 승인이 필요할 것이다. 이중맹검(Double-blind, 의학적 치료의 효과를 검증하기 위한 표준)과 같은 방법은 일상적인 사용을 허용하기전 다양한 시스템에 대한 유효성을 검증하는 일반적인 표준이 될 것이다. 생성형 AI의 엄청난 힘을 어떻게 활용하기로 하느냐는 인류 역사상 가장 중대한 결정이 될 수도 있다.
--- 「2장 생성형 AI란 무엇인가」중에서

글쓰기와 수학은 없어지지 않는다. 두 분야 모두 많은 전문가가 있으며 필요할 때 기억을 되살릴 수 있는 여러 가지 방법이 있다. 하지만 사람들이 글 대신 자신에게 편안하고 유용한 방식으로 자신을 표현하게 하는 것은 어떨까? 아마도 미래의 ‘독후감’은 변화 하는 세상에서 점점 더 유용해질 창의력과 편집 기술을 가르치는 동영상으로 작성될 것이다. 어쩌면 내 손주들은 내가 지금 종이에 글을 휘갈겨 쓸 필요가 없듯이 이제 더는 논리정연한 글을 쓸 필요가 없을지도 모른다.
--- 「3장 생성형 AI는 무엇을 바꾸는가」중에서

지금보다 미래에 훨씬 더 많은 돈을 소비하게 될 가능성이 크다. 이는 현재 경제적으로 수익이 많이 나지 않는 많은 꿈을 실현 가능하게 할 것이다. 많은 사람이 여가 시간에 취미 활동을 하고 자신의 기량을 발휘한다. 어쩌면 여러분은 난을 키우거나, 크리스마스 트리 장식을 만들거나, 직접 옷을 뜰지도 모른다. 사람들이 자유롭게 쓸 수 있는 소득이 늘어남에 따라 오늘날의 많은 취미는 내일의 직업적 기회가 될 것이다.
--- 「4장 생성형 AI가 만드는 노동의 미래」중에서

우리는 생성형 AI가 가져올 수 있는 모든 부정적인 결과를 예측하는 데 실패해 의도치 않은 온갖 결과를 불러올 수도 있다. 하지만 이는 기술의 실패일뿐, 인류의 진화에서 어떤 불가피한 뜻밖의 다음 단계가 아니다. 요컨대 기계는 사람이 아니며, 적어도 현재로서는 기계가 갑자기 보이지 않는 자기개선의 한계점을 넘어 그들만의 독립적 목표와 바라는 바를 확립하고 우리의 감독과 통제를 피해갈 것이라고 믿을 이유는 없다.
--- 「5장 예상되는 위험들」중에서

오늘날 우리는 컴퓨팅 기기의 개발을 충분히 자랑스러워할 만하지만, 그것들이 우리에게 어떻게 도움이 되느냐가 아닌 왜 우리가 그들의 복지와 성취에 관심을 가져야 하는가를 상상하기는 어렵다. 하지만 자연은 제멋대로 상황을 바꿔놓을 수 있다. 기계도 느낄 수 있을까? 알 게 뭔가? 중요한 질문은 우리가 만드는 중일지도 모를 고도로 정교한 자기 증식 적응형 장치가 지구를 물려받게 될 것인가이다. 우리 앞에 존재했던 수많은 종과 마찬가지로, 인간은 어쩌면 우리가 이해할 수 없는 무언가로 가는 디딤돌에 불과할지 모른다.
--- 「8장 인공지능의 철학적 문제와 시사점」중에서

예상을 더욱 어렵게 만드는 것은 생성형 AI의 변화무쌍하고 진화하는 특성이다. 대부분의 신기술(전구나 비행기 등)은 그러한 발명이 어떻게 유용한지 비교적 명확했고, 그에 따라 우리가 살고 일하는 방식에 어떤 영향을 미칠지 상상하기가 쉬웠다. 그러나 생성형 AI는 다르다. 분명히 이는 다양한 용도로 사용되는 매우 일반적인 도구다. 하지만 이것이 전부는 아니다. 생성형 AI는 다른 도구를 사용할 수 있는 도구다.

--- 「나오며: 생성형 AI의 미래」중에서

출판사 리뷰

대중에게 인공지능 시대의 개막을 알린 기념비적인 베스트셀러
《인간은 필요 없다》의 저자 제리 카플란
세계 최정상의 인공지능 전문가가 바라본 생성형 AI와 인간의 미래!

생성형 AI의 발전은 다양한 분야에서 초인적인 수준의 놀라운 능력을 보여주는 새로운 유형의 컴퓨터 시스템을 탄생시켰다. 머지않아 이러한 시스템은 전문 의료 서비스를 제공하고, 법률 자문을 제공하고, 문서 초안을 작성하고, 컴퓨터 프로그램을 만들고, 아이들을 가르치고, 음악과 미술품을 창작하게 될 것이다. 생성형 AI는 그간 인류의 역사를 뒤바꾼 바퀴, 인쇄기, 페니실린, 인터넷 등의 발명보다도 훨씬 큰 영향력을 발휘할 것이다.

마침내 우리가 인간의 지능에 필적하거나 인간의 지능을 넘어서는 기계, 이른바 AI의 성배를 발견한 것일까? 많은 산업과 직업 중 어떤 것이 번성하고 어떤 것이 쇠퇴할까? 생성형 AI는 어떤 위험을 초래할까? 어떻게 하면 이러한 시스템이 우리의 윤리적 원칙을 존중하게 할 수 있을까? 이득은 광범위하게 분배될까 아니면 운 좋은 소수에게만 집중될까? 정치 시스템과 국제적 분쟁은 어떻게 변화될까? 우리는 새로운 형태의 비생물학적 생명체로 가는 디딤돌에 불과할까? 아니면 그저 유용한 도구를 만드는 데 점점 더 능숙해지는 것일 뿐일까?

이 책은 우리에게 임박한 지극히 현실적이고도 중요한 문제들에 대한 놀라운 통찰과 해답을 제시한다.

이 책의 주요 내용

이 책은 먼저 ‘들어가며’(마침내 초지능의 시대가 열리는가)에서 생성형 AI의 출현에 대한 배경과 의미, 그리고 우리가 반드시 주목할 사항들에 대해 이야기하고 저자가 예측하는 15가지 미래 전망을 간략하게 소개한다. 이후 ‘생성형 AI가 어떤 미래를 만들 것인지’ 알아가는 본격적인 첫 걸음은 1장(인공지능의 역사)을 통해 기본적인 인공지능의 역사를 이해하는 것으로 시작한다. 그다음 2장(생성형 AI란 무엇인가)에서 생성형 AI의 작동 방식을 알아보고 3장(생성형 AI는 무엇을 바꾸는가)에서 생성형 AI가 실제 경제와 비즈니스에 미치는 영향을 파악한다. 생성형 AI가 실업률을 높일지, 어떤 직업이 사라지고 어떤 직업이 영향을 받지 않을지 등을 알아보고 싶다면 4장(생성형 AI가 만드는 노동의 미래)에서 해답을 얻을 수 있을 것이다. 만약 생성형 AI가 만드는 장밋빛 미래의 반대편에 놓인 이야기가 듣고 싶다면 5장(예상되는 위험들)을 읽으면 된다. 뒤이어 6장(생성형 AI의 법적 지위)과 7장(규제와 공공 정책 그리고 글로벌 경쟁)에서는 사회가 생성형 AI를 어떻게 통합시킬 것인지에 관심 있는 독자의 궁금증을 풀어준다. 인문학에 관심 있는 독자라면 ‘컴퓨터는 과연 생각할 수 있을까?’ ‘스스로 창의성과 자유의지, 의식을 가질 수 있을까?’와 같은 철학적인 내용을 담은 8장(인공지능의 철학적 문제와 시사점)을 놓치지 않기 바란다. 마지막으로 ‘나오며’(생성형 AI의 미래)에서 생성형 AI에 대한 저자의 일련의 전망과 예측을 마무리한다.

생성형 AI는 ‘도구를 사용할 수 있는 도구’인 동시에 ‘발명할 수 있는 발명품’이기도 하다. 인간이 앞으로 수십 년간 무엇을 발명할 수 있을지 추측하는 것도 매우 어려운 일이지만, 생성형 AI가 무엇을 발명할 수 있을지 예측하는 것 역시 의미 없는 일일지 모른다. 인간의 사고를 뛰어넘는 속도로 인간 지식의 집성체로부터 학습할 수 있고 상상할 수 있는 모든 종류의 도구를 사용할 수 있다면 진화의 방향을 예측하기란 거의 불가능하기 때문이다. 그러나 이것이 우리가 생성형 AI가 만드는 미래에 관심을 지속적으로 가져할 할 이유이기도 하다.

생성형 AI가 만드는 변화에 적응하지 못하는 국가, 기업, 개인의 미래는 없다. 이 책 《제리 카플란 생성형 AI는 어떤 미래를 만드는가》를 통해 다가올 미래에 대한 전망과 생존의 해답을 살펴본다.

제리 카플란의 생성형 AI가 만드는 15가지 미래 예측

· 생성형 AI가 초래할 수 있는 최악의 위험을 완화하기 위한 규제와 도구가 생겨날 것이다.
· 생성형 AI는 사용 중에도 끊임없이 학습하고 이를 통해 사용자가 과거에 말한 내용을 기억함으로써 개개인의 요구에 훨씬 더 잘 맞춰진, 상황에 맞는 상호작용을 할 수 있게 될 것이다.
· 생성형 AI는 카메라나 마이크와 같은 실제 세계의 기기로부터 직접 학습해 인간이 만든 콘텐츠에 대한 의존도를 낮출 것이고, 결과적으로 데이터는 더욱 객관적이고 정확해질 것이다.
· 현재 생성형 AI의 환각(지어내기) 성향은 더 정확한 데이터를 사용하고, 원자료에 대한 근거를 요구하고, 생성된 답변에 필히 신뢰도를 포함함으로써 적절히 제어될 것이다.
· 생성형 AI는 머지않아 내부 동작을 스스로 점검할 수 있게 될 것이고, 이 능력은 이들이 자신의 설계 사항을 개선하는 데 도움이 될 것이다.
· 소프트웨어 계층 및 매우 일반적인 데이터부터 매우 특수한 데이터에 이르기까지 엄선된 데이터 세트로 구성된 새로운 상업적 생태계가 등장할 것이다.
· 거대 기술기업만이 이 기술을 지배할 것이라는 현재의 우려는 불필요했던 것으로 판명될 것이다. 비교적 좋은 성능의 공개 소스와 누구든 이용 가능한 생성형 AI가 무료로 또는 저렴하게 제공될 것이기 때문이다.
· 완전히 새로운 품질 관리 조직이 공식 테스트를 통해 우리가 사용하는 시스템이 허용된 방식으로 작동하고 약속된 이점을 제공하는지 확인할 것이다.
· 전화나 이메일 관리 등 다양한 스타일의 개인 비서가 인간을 돕게 될 것이다.
· 사용자는 생성형 AI를 ‘고용’해 법정에서 자신을 변호할 수 있을 것이다.
· 지금의 인간 의사 시스템을 넘어서는 의료 서비스를 광범위하고 저렴하게 이용할 수 있을 것이다. 그 결과 개발도상국의 영아사망률이 감소하고 기대 수명이 증가할 것이다.
· 일부 사람들, 특히 노인과 고립된 사람들은 정서적 위안과 친교를 위해 생성형 AI 챗봇에 의지할 것이다.
· 생산성 향상을 돕는 보조와 조언자로서 생성형 AI는 아마추어와 프로, 저성과자와 고성과자 간의 차이를 좁힐 것이고, 이는 보상의 차이를 줄여 소득 불평등을 해소하는 데 도움이 될 수 있다.
· 생성형 AI가 산더미 같은 글을 쏟아내면 또 다른 생성형 AI 시스템이 이를 이해하고 요약하는 과정에서 자신들과 끊임없이 경쟁하게 될 것이다. 그리고 우리는 곧 기계가 인간이 아닌 서로를 위해 글을 읽고 쓰는 기이한 세상에서 살게 될 것이다.
· 우리는 결국 생성형 AI가 실제적 또는 구현상의 한계 때문이 아니라 설계상의 근본적인 측면 때문에 특정 유형의 과제에서 지속적으로 저조한 성능을 보인다는 사실을 발견하게 될 것이다.

추천평

인공지능 전문가 제리 카플란은 어떻게 생성형 AI가 인간의 모든 활동에 혁신적인 변화를 일으킬 것인지 놀랍도록 설득력 있게 설명한다. 지금 반드시 읽어야 할 책이다.
- 프랜시스 후쿠야마 (스탠퍼드대학교 교수, 철학자, 정치학자, 《역사의 종말》 저자)