마침내, 초지능의 시대가 열리는가?
인간의 지능을 넘어서는 인공지능 시대가 열린다!
지금 우리가 반드시 알아야 할 것은 무엇인가?

2022년 11월, 전 세계를 충격에 빠트린 챗GPT의 등장 이후 세상은 빠르게 변화하고 있다. ‘생성형(generative) AI’라는 다소 생소한 이름의 이 인공지능은 이메일이나 보고서는 물론 책이나 이미지, 음악 등 당분간은 인간의 고유 영역으로 남을 것으로 예상되었던 다수의 분야에서 빠르게, 그리고 기대 이상으로 인간의 역할을 대체하고 있다. 심지어 2024년 5월 발표된 GPT-4o에 이르러서는 그간의 텍스트 방식의 소통을 뛰어넘어 ‘감정이 담긴 음성 대화’, ‘실제 사람과 구분할 수 없는 수준’의 소통을 보여주어 마침내 초지능의 시대가 열리고 있음을 실감케 했다.
과연 인간의 지능을 넘어서는 인공지능 시대가 다가온 것일까? 생성형 AI의 탄생과 발전은 어떠한 미래를 만들어 갈 것인가? 인간과 인공지능의 공존은 가능한 것일까? 생성형 AI 시대를 살아야 할 우리가 지금 반드시 알아야 할 것은 무엇인가?
세계 최정상의 인공지능 전문가이자 대중에게 인공지능 시대의 개막을 알린 베스트셀러 《인간은 필요 없다Humans Need Not Apply》의 저자 제리 카플란 교수가 신작 《제리 카플란 생성형 AI는 어떤 미래를 만드는가》를 통해 그에 대한 해답을 내놓았다. 저자는 이 책을 통해 생성형 AI의 탄생과 발전은 과학과 예술, 인간 지식의 발전을 가속화할 테지만 동시에 새로운 위험도 불러올 것이라고 말한다. 노동이나 전쟁, 법적 지위, 저작권 등등 풀어야 할 산더미 같은 과제 역시 우리가 마주할 현실이며 이와 함께 ‘생각하는 컴퓨터’에 대한 철학적 문제 역시 간과해서는 안 된다고 말한다.

[목 차]
 
들어가며_마침내 초지능의 시대가 열리는가
한국의 독자들에게_생성형 AI는 진화를 위한 인류 문화의 놀라운 거울

1장 인공지능의 역사
인공지능이란 무엇일까?
‘인공지능’이란 용어는 어디에서 시작되었을까?
다트머스 회의에 참석한 사람들은 무엇을 이루고자 했을까?
AI 연구자들은 문제에 어떻게 접근했을까?
물리적 기호체계 가설이란?
머신러닝이란?
머신러닝은 어떻게 생겨났을까?
AI의 주목할 만한 역사적 이정표에는 어떤 것이 있을까?

2장 생성형 AI란 무엇인가
대규모 언어 모델(LLM)이란?
대규모 언어 모델(LLM)은 어떻게 작동할까?
‘임베딩’이란?
단어 임베딩은 의미를 어떻게 표현할까?
인공 신경망이란?
트랜스포머란?
트랜스포머는 단어 임베딩을 이용해 어떻게 복잡한 개념을 표현할까?
‘토큰’이란?
비언어적인 문제에 LLM은 어떻게 적용될까?
‘창발성(emergent properties)’이란 무엇이며 LLM에 이러한 특성이 있을까?
‘탈옥’이란 무엇이며 이것은 왜 어려운 문제일까?
‘환각’이란 무엇이며 LLM이 환각을 보이는 이유는 무엇일까?
그 밖에 어떤 기술들이 생성형 AI에 사용될까?
미래의 생성형 AI는 서로 어떻게 소통할까?
생성형 AI의 잠재적 능력에는 어떤 것이 있을까?

3장 생성형 AI는 무엇을 바꾸는가
생성형 AI의 영향을 가늠하는 데 기준이 될 수 있는 역사적 선례에는 무엇이 있을까?
생성형 AI는 의료 서비스를 어떻게 바꿀까?
생성형 AI는 법률 제도를 어떻게 바꿀까?
생성형 AI는 교육을 어떻게 바꿀까?
생성형 AI는 소프트웨어 기술을 어떻게 바꿀까?
생성형 AI는 창작 예술과 관련 산업을 어떻게 바꿀까?

4장 생성형 AI가 만드는 노동의 미래
생성형 AI가 실업률을 높일까?
자동화는 노동 시장에 어떤 영향을 미칠까?
어떤 직업이 사라질 가능성이 클까?
어떤 직업이 영향을 받지 않을까?
어떤 직업이 번성하고 성장할까?
어떤 새로운 산업과 직업이 생겨날까?
‘기술적 실업’이란?

5장 예상되는 위험들
생성형 AI는 허위 정보와 선전을 조장하는 데 어떻게 사용될까?
‘알고리즘 편향’이란?
사람들은 인간 대신 기계를 통해 정서적 위안을 얻게 될까?
생성형 AI는 우리의 소통 방식에 어떻게 영향을 미칠까?
‘정렬 문제’란?
‘살상용 로봇’이 곧 등장할까?
‘초지능’과 ‘특이점’을 걱정해야 할까?

6장 생성형 AI의 법적 지위
컴퓨터 프로그램이 협약과 계약을 맺을 수 있을까?
생성형 AI에 재산 소유권과 같은 법적 권리를 부여해야 할까?
생성형 AI가 범죄를 저지를 수 있을까?
생성형 AI는 범죄 행위에 대해 어떻게 책임질 수 있을까?
그냥 생성형 AI가 법과 기타 규칙을 준수하도록 프로그래밍하면 되지 않을까?

7장 규제와 공공 정책 그리고 글로벌 경쟁
생성형 AI는 표현의 자유법에 따라 보호될까?
생성형 AI의 결과물이 저작권으로 보호될 수 있을까?
어떤 규제 계획이 고려되고 있을까?
어떤 새로운 법률과 규정이 생성형 AI에 적합할까?

8장 인공지능의 철학적 문제와 시사점
AI 철학이란?
컴퓨터는 생각할 수 있을까?
컴퓨터가 창의적일 수 있을까?
컴퓨터가 자유의지를 가질 수 있을까?
컴퓨터가 의식을 가질 수 있을까?
컴퓨터는 느낄 수 있을까?

나오며_생성형 AI의 미래
감사의 글
미주

[본 문]
 
이 새로운 기술이 미칠 수 있는 영향은 아무리 강조해도 지나 치지 않다. 우리는 지금 ‘키티호크’(불가능이 가능해지는 순간)의 순간을 목격하고 있다. 오늘 날의 생성형 AI는 고정된 학습 데이터를 이용해 구축되었지만 향후 버전은 분명히 이러한 한계를 없애고 인간처럼 끊임없이 새로운 정보를 학습하고 통합할 것이다. 다시 말해, 지금은 인간이 만든 콘텐츠를 통해 세상을 경험하지만, 머지않아 고유의 ‘눈’과 ‘귀’ 로 기능할 카메라, 마이크와 같은 실시간 데이터 소스와 연결되면서 이러한 한계는 사라질 것이다. 우리는 위대한 문화적·지적 활동이 폭발적으로 증가하고 있는말 그대로 새로운 르네상스의 최전선에 서 있다. 14세기에서 17세기의 르네상스는 종교(신 중심)에서 속세의 인간으로 초점이 이동하면서 예술, 과학, 기술, 인간 지식에 지대한 발전을 가져온 시기였다. 어쩌면 생성형 AI는 이제 그 초점이 기계로 이동하는 새로운 문화적 전환을 불러올지 모르며, 우리는 발전을 가속화할 강력한 새 도구로 인조지능(synthetic intelligence)의 힘을 활용할 것이다. 미래에는 정보에 입각한 객관적이고 신뢰할 수 있는 조언을 구할 때 사람이 아닌 기계를 찾게 될 것이다. - 〈들어가며: 마침내 초지능의 시대가 열리는가〉 중에서

인공지능이란 무엇일까? 두 가지 이유에서 묻기는 쉽지만 대답하기는 어려운 질문이다. 첫째, 지능이 무엇인지에 대해 의견이 분분하다. 둘째, 적어도 지금으로서는 기계 지능이 인간 지능과 많은 관련이 있다고 믿을 만한 근거가 부족하다. 보기에는 많이 닮았다 해도 말이다. 인공지능(AI)에 대한 정의는 각자의 관점으로 제안된 여러 가지 버전이 있지만, 대부분은 인간이 했을 때 지능적이라고 간주되는 행동을 할 수 있는 컴퓨터 프로그램이나 기계를 만든다는 개념에 중심이 맞춰져 있다. - 〈1장 인공지능의역사〉 중에서

모든 단계에서 생성형 AI의 역량에 대한 증거와 인간 전문가의 확실한 감독이 필요할 것이고, 아니면 단순히 인간 대신 행동하기 전에 인간의 직접적인 승인이 필요할 것이다. 이중맹검(Double-blind, 의학적 치료의 효과를 검증하기 위한 표준)과 같은 방법은 일상적인 사용을 허용하기전 다양한 시스템에 대한 유효성을 검증하는 일반적인 표준이 될 것이다. 생성형 AI의 엄청난 힘을 어떻게 활용하기로 하느냐는 인류 역사상 가장 중대한 결정이 될 수도 있다. - 〈2장 생성형 AI란 무엇인가〉 중에서

글쓰기와 수학은 없어지지 않는다. 두 분야 모두 많은 전문가가 있으며 필요할 때 기억을 되살릴 수 있는 여러 가지 방법이 있다. 하지만 사람들이 글 대신 자신에게 편안하고 유용한 방식으로 자신을 표현하게 하는 것은 어떨까? 아마도 미래의 ‘독후감’은 변화 하는 세상에서 점점 더 유용해질 창의력과 편집 기술을 가르치는 동영상으로 작성될 것이다. 어쩌면 내 손주들은 내가 지금 종이에 글을 휘갈겨 쓸 필요가 없듯이 이제 더는 논리정연한 글을 쓸 필요가 없을지도 모른다. - 〈3장 생성형 AI는 무엇을 바꾸는가〉 중에서

지금보다 미래에 훨씬 더 많은 돈을 소비하게 될 가능성이 크다. 이는 현재 경제적으로 수익이 많이 나지 않는 많은 꿈을 실현 가능하게 할 것이다. 많은 사람이 여가 시간에 취미 활동을 하고 자신의 기량을 발휘한다. 어쩌면 여러분은 난을 키우거나, 크리스마스 트리 장식을 만들거나, 직접 옷을 뜰지도 모른다. 사람들이 자유롭게 쓸 수 있는 소득이 늘어남에 따라 오늘날의 많은 취미는 내일의 직업적 기회가 될 것이다. - 〈4장 생성형 AI가 만드는 노동의 미래〉 중에서

우리는 생성형 AI가 가져올 수 있는 모든 부정적인 결과를 예측하는 데 실패해 의도치 않은 온갖 결과를 불러올 수도 있다. 하지만 이는 기술의 실패일뿐, 인류의 진화에서 어떤 불가피한 뜻밖의 다음 단계가 아니다. 요컨대 기계는 사람이 아니며, 적어도 현재로서는 기계가 갑자기 보이지 않는 자기개선의 한계점을 넘어 그들만의 독립적 목표와 바라는 바를 확립하고 우리의 감독과 통제를 피해갈 것이라고 믿을 이유는 없다. - 〈5장 예상되는 위험들〉 중에서

오늘날 우리는 컴퓨팅 기기의 개발을 충분히 자랑스러워할 만하지만, 그것들이 우리에게 어떻게 도움이 되느냐가 아닌 왜 우리가 그들의 복지와 성취에 관심을 가져야 하는가를 상상하기는 어렵다. 하지만 자연은 제멋대로 상황을 바꿔놓을 수 있다. 기계도 느낄 수 있을까? 알 게 뭔가? 중요한 질문은 우리가 만드는 중일지도 모를 고도로 정교한 자기 증식 적응형 장치가 지구를 물려받게 될 것인가이다. 우리 앞에 존재했던 수많은 종과 마찬가지로, 인간은 어쩌면 우리가 이해할 수 없는 무언가로 가는 디딤돌에 불과할지 모른다. - 〈8장 인공지능의 철학적 문제와 시사점〉 중에서

예상을 더욱 어렵게 만드는 것은 생성형 AI의 변화무쌍하고 진화하는 특성이다. 대부분의 신기술(전구나 비행기 등)은 그러한 발명이 어떻게 유용한지 비교적 명확했고, 그에 따라 우리가 살고 일하는 방식에 어떤 영향을 미칠지 상상하기가 쉬웠다. 그러나 생성형 AI는 다르다. 분명히 이는 다양한 용도로 사용되는 매우 일반적인 도구다. 하지만 이것이 전부는 아니다. 생성형 AI는 다른 도구를 사용할 수 있는 도구다. - 〈나오며: 생성형 AI의 미래〉 중에서