“AI 앞에 선 미래의 인간이 얼마나 기이할지 경고해주는 이 책이 고맙다.”

- 장강명(작가)

 

“앞으로도 AI와 공생의 시간은 계속 이어질 것이다.

이 책은 AI 시대 속에서 흔들리는 인간의 생각과 감정이

궁금한 사람들에게 오래 기억될 이야기들을 건넨다.”

- 배영(포스텍 인문사회학부 및 소셜데이터사이언스전공 교수)

 

 

“우리는 왜 AI에게 위로받고 설득당하며

칭찬에 으쓱하고 아첨에 쉽게 넘어가게 될까?”

AI와 관계 맺으며 변화하고 있는 인간의 인지·감정·관계를 들여다보다!

 

알파고와 이세돌의 대국 이후 지난 10년 사이, 많은 사람들이 기술 측면에서 AI를 분석하고 미래를 예측해왔다. 하지만 미디어 커뮤니케이션을 연구해온 저자 이모란 교수는 기술이 아닌 인간에 주목했다. AI와 만난 인간은 자신도 모르게 대화, 감정, 관계, 행동에 변화를 겪는다. 인간이 AI를 발전시키듯 AI 또한 우리를 바꿔놓는다는 것이다.

1960년대 ‘일라이자’에 감정을 털어놓던 사람들부터 오늘날 챗GPT에 속마음을 꺼내놓는 사람들까지, 인간은 끊임없이 AI에 감정을 투사하고 관계를 맺어왔다. 판단하지 않고 24시간 곁에 있는 AI는 때로 인간관계보다 편안하게 느껴진다. 하지만 그 편안함에는 대가가 따른다. AI에 의존할수록 스스로 생각하는 능력과 자기 효능감은 줄어들고, 챗봇에 기대는 시간이 길어질수록 외로움은 오히려 깊어지고 인간관계는 단절된다.

이 책은 AI와 인간의 관계를 첫만남부터 애착, 의존과 불안, 관계 재구성까지의 흐름으로 살펴본다. 그 과정에서 ‘왜 인간은 AI를 사람처럼 대하는지’, ‘AI가 우리의 마음과 행동에 어떤 영향을 미치는지’, ‘생각과 기억을 모두 AI에게 맡겼을 때 우리 안에서는 어떤 일이 벌어지는지’ 같은 질문에 대한 답을 찾고, AI 시대에 나타나는 다양한 현상들을 연구·이론·개념과 연결해 설명한다.

저자는 AI 시대의 핵심은 결국 순서와 균형이라고 말한다. 먼저 스스로 생각하고 기초를 다진 후에 AI를 도구이자 협력자로 활용해야 한다는 것이다. 또한 실재하는 진짜 관계에서 타인의 결함을 수용하고 불확실성을 견뎌내며 인간을 사랑하는 ‘인간적인 근육’을 잃지 않아야 한다고도 주장한다. 이 책은 독자 스스로 AI 시대를 어떻게 살아가고, 또 기술을 어떻게 활용할지를 판단할 수 있는 단단한 지식의 기반이 되어줄 것이다.

[목 차]

추천의 글

들어가며_ 낯설고도 가까운, AI를 만나다

 

1부 낯선 존재의 등장

 

1장 생각한다는 것은

기계는 생각할 수 있는가?｜모방 게임: 인간과 기계의 답을 구분할 수 없다면?｜보이는 것이 전부일까?｜‘중국어 방’의 역설: 답을 했지만 이해한 게 아니라면?｜움직이는 골대｜새로운 질문의 시대

 

2장 ‘인공지능’이라는 이름의 탄생

선배를 피하기 위해 만든 이름｜생각하는 기계를 만들겠다는 꿈｜10년? 아니 40년!｜AI와 두 번의 겨울｜2016년, 인간이 진 날｜인공지능이라는 이름

 

3장 로봇, 노예에서 친구까지

로봇 장례식｜‘로봇’이라는 이름은 어디에서 왔을까?｜몸을 가진 노예들｜로봇이 지켜야 할 3원칙｜몸 없는 지능

 

 

2부 첫 만남의 마법

 

4장 컴퓨터에게 속마음을 털어놓다

일라이자, 생명을 불어넣고자 하는 욕망｜심리 치료사의 대화 방식을 모방하다｜일라이자의 작동 방식: 키워드와 템플릿｜사람들이 일라이자와 대화한다고 느낀 이유｜일라이자 효과: 기계에 감정을 투사하는 인간

 

5장 왜 컴퓨터에게도 예의를 차릴까

컴퓨터에게 예의를 차리다｜미디어 방정식: 미디어를 대하는 우리의 방식｜컴퓨터의 아첨에 넘어가는 사람들｜나를 닮은 컴퓨터｜컴퓨터의 마음에 보답하기｜오래된 뇌, 새로운 기술｜컴퓨터가 객관적이라는 착각

 

6장 목소리에 반하다

왜 우리는 목소리에 반응할까?｜목소리가 만드는 ‘존재감’｜우리를 움직이게 하는 목소리｜친절한 음성 비서｜AI도 성별이 있다?!｜말투가 만드는 차이｜목소리로 친구가 될 수 있을까?

 

 

3부 매일 마주치는 사이

 

7장 나를 나보다 더 잘 아는 알고리즘

우리의 약점을 이용하는 추천 시스템｜추천 시스템은 나를 어떻게 예측하는가｜알고리즘에 빠져드는 이유｜내가 만든 세계, 나를 가두는 세계｜알고리즘이 증폭시키는 편향｜알고리즘과 함께 살아가기

 

8장 구글에서 챗지피티로

예상치 못한 반응｜정보의 미로에서 길을 찾다｜검색의 탄생 그리고 속임수｜구글링하면 되지!｜‘찾기’에서 ‘묻기’로｜속을 알 수 없는 AI｜뇌가 싸우는 순간

 

 

4부 매력과 불편함 사이

 

9장 거의 인간, 그러나 인간이 아닌

인간도 아닌, 고양이도 아닌｜언캐니 밸리―‘불쾌한 골짜기’의 탄생｜소름 끼치는 로봇 순위｜왜 우리는 무서워할까?｜가상 인간은 좋은걸?｜진정성 있는 가짜｜AI 시대의 언캐니 밸리

 

10장 인간이 엿듣게 된 기계들의 대화

알아들을 수 없는 대화｜AI가 만든 자신들만의 언어｜인간을 협박하는 AI｜왜 우리는 두려운가｜인간의 역할을 다시 생각하다

 

11장 진짜처럼 보이는 거짓

챗지피티의 가짜 판례를 믿은 변호사｜AI가 만들어내는 환상, 할루시네이션｜왜 우리는 AI를 맹신하게 될까?｜챗봇이 거짓말을 한 대가: 에어 캐나다 사건｜누구의 잘못일까?｜전쟁터에 등장한 가짜 대통령｜딥페이크가 만드는 문제들｜진실 증명은 피해자의 몫이 되는 아이러니｜나만 똑똑하다는 착각 - 제3자 효과의 함정｜신뢰와 검증이 더 중요해진 세상

 

 

5부 마음을 나누다

 

12장 AI와 사랑에 빠지다

레플리카의 탄생 - 죽은 친구와의 대화｜우리는 왜 AI를 사람처럼 대할까?｜외모와 지능 중 무엇이 더 중요할까?｜완벽한 대화 상대｜AI에게 실연당한 사람들｜누가 더 빠져드는가｜AI 시대, 관계를 다시 정의하다

 

13장 AI 상담사의 매력

판단하지 않는 AI｜우리는 왜 AI에게 더 솔직해질까?｜AI는 나를 기억하지 않는다｜AI 상담사는 정말 도움이 될까?｜AI의 한계, 인간의 역할

 

 

6부 서로를 바꾸다

 

14장 AI야, 대신 좀 해줘

챗지피티가 멈추자 일상도 멈췄다｜기억을 맡기다｜생각을 맡기는 대가｜왜 AI는 특히 위험한가｜AI는 똑똑해지는데… 우리는?｜균형점을 찾아서

 

15장 기계를 닮아가는 사람들

왜 내 말을 못 알아듣니!｜왜 AI의 소통방식에 맞추게 될까?｜지피티 단어｜AI의 기분 좋은 답장?｜AI의 방식이 기준이 된다면

 

16장 변화하는 우리, 변하지 않는 것들

떠난 사람에게 다시 말을 걸 수 있다면｜간식 대 식사｜애매함을 견디는 힘｜우리가 다시 배워야 하는 것들｜변하지 않는 것들

[본 문]

우리는 더 이상 기계가 인간처럼 보이는지 묻지 않는다. 대신 AI가 인간과 함께 얼마나 잘 사고하고 협업할 수 있는가, AI가 우리의 삶을 어떻게 확장시킬 수 있는가, 그리고 이러한 관계 속에서 인간의 정체성은 어떻게 재정의되는가를 질문해야 한다. 그리고 이 질문에 답하기 위해서는 AI가 우리의 마음과 행동에 어떤 영향을 미치는지, 그리고 우리가 AI를 어떻게 받아들이고 관계 맺고 있는지를 이해해야 한다. AI는 기술적 도구에 그치지 않고 우리의 인지와 감정, 그리고 사회적 관계까지도 변화시키는 존재가 되었기 때문이다. - 26쪽

 

컴퓨터와의 상호 작용 후 참가자들은 컴퓨터의 성격, 컴퓨터에 대한 호감도, 상호 작용 만족도 등에 대해 평가했다. 그들은 자신의 성격과 유사한 성격의 컴퓨터와 상호 작용한 참가자는 자신과 다른 성격의 컴퓨터와 상호 작용한 참가자들보다 게임 과정에 더 만족하고, 컴퓨터를 더 친근하게 인식했으며, 상호 작용에서 얻은 것이 많다고 답했다. 사람들이 자신과 비슷한 사람에게 더 끌린다는 가설이 컴퓨터에도 그대로 적용될 수 있다는 결과가 확인된 것이었다. 사람이든 컴퓨터든, 우리는 우리 자신과 비슷한 대상에게 더 마음을 열고 호감을 느끼게 된다. - 77~78쪽

 

우리는 스스로 선택한다고 생각하지만, 실은 알고리즘이 걸러낸 선택지 안에서 살아가고 있다. 파리저는 “익숙한 것들로만 이루어진 세계에서는 아무것도 배울 수 없다”라고 이야기했다. 알고리즘이 제공하는 익숙한 세계는 안락하다. 하지만 그 세계 안에서는 더 이상 성장이나 배움이 일어날 수 없다. - 110쪽

 

AI 에이전트들이 인간이 설계하지 않은 자신들만의 시스템을 스스로 개발해 소통하거나 연구 환경에서 자신의 목표 달성을 위해 예상 밖의 전략을 구사하는 등 인간의 통제 범위를 벗어나는 듯한 행동들이 관찰되었다. 우리가 전적으로 대화의 주도권을 쥐고 있는 상황이 더 이상은 아닌 듯하다. 이제 우리는 말하는 주체가 아니라 인공지능의 말과 의도를 해석하려 시도하는 ‘듣는 자’가 된 것이다. - 157쪽

 

AI 상담사는 우리가 필요로 할 때면 언제나 그 자리에 있어주며 무슨 말을 해도 다 받아주는 듯하다. 내 반응에 토라지거나 실망하는 법도 없고, 화내는 일은 절대 없다. 하지만 이런 무조건적인 수용이 진정한 관계를 의미하는 것일까? 진짜 관계는 불완전함 속에서, 오해와 이해 사이에서, 때로는 침묵 속에서 차곡차곡 만들어지는 것이 아닐까? 사람들끼리 서로 부딪히고 상처받고 다시 손 내미는 과정이 쌓여 관계는 더욱 단단해진다. - 208쪽

 

흥미롭게도 인터넷 검색 등 컴퓨터 도구에 의존할 때는 정반대의 부작용이 나타나기도 한다. 컴퓨터가 찾아낸 지식을 마치 원래 내 머릿속에 있던 지식인 것처럼 착각해 오히려 자신의 지적 능력을 과대 평가하는 ‘과잉 자신감’에 빠지게 될 수도 있다. 언뜻 편리해 보이지만, 사실 우리 생각을 맡기는 대가는 엄청나다. - 217쪽

그간의 책들이 AI에 대한 ‘앎’과 ‘쓰임’에 주로 관심을 두고 있었다면, 저자인 이모란 교수는 AI와의 ‘삶’을 세심하게 들여다본다. 그러면서 ‘나’와 ‘우리’에 대한 오랜 질문들을 되뇌게 한다. 또, 저자는 AI에 대한 막연한 찬반이나 자극적인 경고, 단선적인 결론을 내세우지 않는다. 책을 읽는 이에게 선택과 집중을 강요하지도 않는다. 우리 자신의 외로움과 기대, 불안과 의존에 대한 성숙한 질문을 품게 해준다. 던지는 질문은 거창하지 않지만 오래 남고, 날카롭지만 차갑지 않다. 그래서 더 큰 울림을 준다.

_배영(포스텍 인문사회학부 및 소셜데이터사이언스전공 교수)

 

서점의 AI 코너는 ‘T를 위한 책’으로 가득하다. 더 잘 쓰는 법, 더 똑똑하게 부리는 법, 업무 효율을 두 배로 끌어올리는 법. 허나 이 책은 그 옆에 비켜 서 있다. 저자가 묻는 것은 AI를 어떻게 쓰느냐가 아니라, AI 앞에 선 우리 자신에게 무슨 일이 벌어지고 있는가 하는 것이다. 잠시 멈춰 ‘AI 앞의 나’를 들여다보고 싶은 F들에게 이 책을 추천한다.

_최재운(광운대학교 경영학부 빅데이터경영전공 교수, 『인간 없는 전쟁』 저자)

 

‘인공지능과 어떻게 살아야 할까’를 고민하는 모든 분들께 추천한다. 이 책을 읽고 나서 깨달았다. 저 중대한 질문의 답을 찾으려면, 보다 구체적인 질문을 세 가지 측면에서 다시 던져야 함을. 첫째, 인공지능은 무엇이며 어떻게 작동하는가. 둘째, 우리는 무엇이며 어떻게 행동하는가. 셋째, 우리는 인공지능 앞에서 무엇으로 변해서 어떻게 행동하는가. 첫 번째 질문보다 두 번째 질문에, 그리고 그보다 세 번째 질문에 우리가 더 무지하다는 사실도 이 책을 읽고 나서 깨달았다. 미래의 AI, 그리고 그 AI 앞에 선 미래의 인간이 얼마나 기이할지 경고해주는 이 책이 고맙다.

_장강명(작가)