AI가 인간을 닮아가는 시대, 인간은 무엇을 지켜야 하는가

탈진실 이후, 생성형 AI가 뒤흔든 진실·진심·진품의 조건

 

AI가 인간을 닮아가는 시대, 인간은 무엇을 지켜야 하는가

《AI시대의 진정성》은 탈진실 이후 다시 떠오른 ‘진정성’을 생성형 AI 시대의 질문으로 옮겨온 책이다. 진정성을 진실·진심·진품으로 나누어 살피며, AI가 이미 바꾸고 있는 저널리즘, 종교, 교육, 시민사회의 예민한 장면들을 따라간다. AI가 쓴 기사와 팩트체크, AI가 대신 쓰는 설교와 기도, 알파고 이후 흔들린 스승의 권위, “구글을 못 믿으면 누구를 믿느냐”는 아이들, 정답을 즉시 내놓는 기술 앞에서 약해지는 질문의 힘까지. 사회학·철학·법학·언론·신학·교육 분야 연구자와 실무자들은 일상의 도구가 된 AI가 신뢰와 권위, 배움과 소통의 기준을 어떻게 흔드는지 들여다본다. 빠르게 답을 내는 기술 앞에서, 이 책은 인간에게 남는 질문의 자리를 확인시켜준다. AI변화의 한가운데에서 활동하는 저자들은 AI 찬반론이 아니라, 합성 정보가 쌓이는 세계에서 우리가 무엇을 믿고 어떻게 판단하며 어떤 인간다움을 지켜야 하는지 우리 모두에게 묻는다.

[목 차]

들어가는 글: ‘탈진실’을 넘어 ‘진정성’이 필요한 시대

 

1부 진실이 무너진 시대, ‘진정성’을 묻다

01 우리는 왜 ‘사실’보다 ‘감정’을 믿게 되었나?

02 진정성, 탈진실 시대의 문제 해결 실마리를 찾아

03 가짜 현실의 확산과 진정성의 행로

 

2부 팩트의 위기, 저널리즘의 미래

04 인공지능 저널리즘 시대, 팩트체크 대상은?

05 데이터 저널리즘의 도전과 대응

06 탈진실의 최전선, 저널리즘의 과제

 

3부 종교와 인공지능의 만남

07 인공지능은 ‘신’을 대신할 수 있을까?

08 AI는 울지 못한다: 고백, 관계, 실천으로서의 진정성

09 인공지능 시대, 종교의 존재 이유

 

4부 다음 세대를 위한 준비, 디지털 시민성 함양

10 인공지능 시대 디지털 시민성과 시민 교육

11 인공지능에 휘둘리지 않으려면: ‘정답 신화’를 넘어 ‘질문’으로

12 인공지능 시대의 새로운 교육 방향

 

5부 인공지능과 더불어 살아가기: 통제에서 협업과 정렬로

13 소통 혁명, 진정성 가치의 회복을 위하여

14 인공지능 시대의 시민사회

15 신공지능, 인공지능, 기공지능

 

나가는 글: AI라는 거대한 전환의 문턱을 넘기 위해

[본 문]

그렇다면 최근 생성형 인공지능이 발달하면서 주목받는 진정성의 요소는 무엇일까? 인공지능이 생성한 것이 아니라 인간이 생산한 ‘진품’이 그 요소라고 할 수 있다. (···) 인간의 진품 정보를 합성 정보 혹은 인공지능 폐기물과 구분하는 문제는 앞으로 점점 중요해질 것이다. _ 6~7쪽

 

디지털 사회에서 탈진실을 부추기는 가장 강력한 동인은 소셜 미디어죠. 소셜 미디어에서는 보도의 관계성이나 정보의 진정성보다 발신된 내용이 구독자나 시청자의 호기심을 얼마나 자극하는지 또는 자신이 염두에 둔 파당적 관심을 얼마나 불러일으키는지가 더 중요합니다. 따라서 증거와 오보, 사실과 허구, 과학 지식과 비과학 지식, 진실과 거짓이 뒤섞여 부유하며 순식간에 퍼지는 특성이 있습니다. _ 26쪽

 

생성형 AI는 전적으로 참인 문장으로 답변하기보다 사실과 허위를 뒤섞어 참인 것처럼 제공하는 데 탁월합니다. 예를 들어 99%의 참과 1%의 거짓을 섞어 전체가 참인 양 제시해 인간이 거짓을 쉽게 알아차릴 수 없게 합니다. 물론 생성형 AI는 지식 이해에 큰 도움을 주지만, 동시에 창작, 지식과 예술의 경계를 넘나들며 걸러지지 않은 정보나 출처가 모호한 정보를 사용자에게 사실인 것처럼 제공합니다. _ 32쪽

 

제가 보기에는 성찰성이 나타날 공간이 없어진 것 같습니다.성찰성은 자기와 대화할 수 있는 시간인데, 사실 많은 사람이 도파민 중독 상태입니다. 저는 소셜 미디어와 붙어 있는 시간이 성찰 가능성을 결정한다고 봅니다. 그리고 우리 사회의 가장 큰 위기는 성찰 소멸에서 비롯된다고 생각합니다. 개인이 디지털 플랫폼에 기계적으로 할애하는 시간은 곧 독서하지 않는 시간과 직결되고, 독서하지 않으면 진정한 성찰이 불가능합니다. _ 47~48쪽

 

오늘 제가 제기하고자 하는 핵심 질문은 우리가 흔히 말하는 ‘팩트체크’에서 확인하려는 그 ‘팩트’란 과연 무엇인가 하는 점입니다. 한국어로 굳이 번역하자면 ‘사실 확인’이라고 할 수 있을 텐데, 여기서 ‘사실’은 과연 의견이 전혀 섞이지 않은 순수한 형태로 존재할 수 있는가 하는 질문이 따라붙습니다. _ 84~85쪽

 

오늘날 인류는 점점 더 신뢰가 필요한데 정작 서로를 신뢰하지 않는다는 겁니다. 개인 간 신뢰는 물론, 국가 간 신뢰도 약화되어 갈등과 전쟁이 이어지고 있습니다. 그런데 아이러니하게도 바로 그런 인간들이 인공지능에 대해서는 매우 강한 신뢰를 보입니다. 우리는 인공지능이 오류를 낼 수 있다는 사실을 알고 있음에도 생성형 AI가 제시하는 정보를 신뢰하는 반면, 옆에 있는 전문가나 타인의 말은 믿지 않는다며 날카롭게 지적합니다. _ 161~162쪽

 

예수님이 나사로의 무덤 앞에서 우신 것처럼, ‘관계’는 지적인 이해를 넘어 깊은 감정과 교감, 희생, 그리고 존재론적 연결을 요구합니다. 그러므로 저는 ‘AI는 울지 못하고 사랑하거나 경외하지 못한다’고 이야기합니다. 관계는 데이터가 아닌 생명과 인격 사이에서 형성되기 때문에 무엇보다도 중요합니다. _ 186쪽

 

“구글을 못 믿으면 누구를 믿어요?” 재작년에 연구할 때 초등학생이 했던 말입니다. 개인정보에 관련된 위험에 관해 이야기할 때 이용 약관을 읽는지, 읽지 않는지 묻자 나온 대답이었습니다. 사실 이용 약관은 성인도 읽기 쉽지 않습니다. 어린이는 더 어렵죠. 그러니 이용 약관을 읽지 않고 모두 동의하는 이유에 대해, 구글 같은 대기업을 믿지 않으면 누구를 믿겠느냐고 이야기했던 것입니다. _ 237쪽

 

그러나 저는 기술이 인간을 닮아가는 것을 두려워할 것이 아니라, 사람이 기술을 닮아가는 것을 두려워해야 한다고 생각합니다. 제가 생각하기에, 정답을 제출해야 하는 것은 기계지 사람이 아닙니다. 사람은 물음을 던지는 존재여야 합니다. 그런데 우리 스스로 물음을 던지는 존재가 아니라 답을 내는 존재로 규정하는 순간, 인공지능과의 경쟁에서 질 수밖에 없습니다. _ 251쪽

 

AI시대가 되면 점점 더 두꺼워지는 블랙박스 영역을 능통하게 운영하고 관리하는 운영 격차, 홍수같이 몰려오는 데이터를 선별하는 큐레이션, 즉 선별 격차가 나타납니다. 하지만 가장 두려운 것은 기술이 인간의 사고 체계에 침투해 발생하는 증강 격차일 것입니다. 누군가는 인공지능을 도구 삼아 자신의 능력을 증강하는 반면, 누군가는 기술에 사고의 주도권을 빼앗겨 스스로 생각하는 힘을 잃어버리는 후천적 열등화를 겪게 됩니다. _ 295쪽