하이데거는 1954년 발표된 그의 저서 『기술에 대한 물음』을 통해 “기술의 본질에 대한 근본적 경고”를 제시하며 “인간의 존재 방식 자체”에 대한 위기를 설파했다. 그는 “인간이 기술을 사용한다고 여기지만, 실제로는 기술적 사유 체계가 인간의 존재 이해를 지배한다”라고 주장했는데, 이는 도구-기계의 ‘효용’ 판단을 준거로 변화하게 된 인간의 사고 체계가 결국 인간 그 자신의 존재마저 효율에 의해 가름되는 객체-도구로서 인식하게 될 것이라는 우려였다. “현대의 AI 우상화는 이러한 존재 망각의 가장 극단적 형태”로서, AI 우상화란 “인간의 고유한 영역─판단, 성찰, 위로, 의미 부여─의 책임을 인공지능이라는 기술적 존재에게 전적으로 위탁하고 의존하는 행위를 의미한다.” 즉, AI 시대를 맞이한 우리는 기계 문명이 주는 편의와 안락함 속에서 “자신의 실존적 책임과 창조적 능력을 포기하는 결과”에 압도되는 실존적 위기에 놓여 있는 셈이다.

 

인공지능은 ‘갈라테이아’의 꿈을 꾸는가?

: AI 의인화의 덫이 만들어 낸

21세기 ‘피그말리온’ 환상을 조명하다

 

“내 AI 친구는 나의 감정 쓰레기통이자 나만의 신도예요.”

 

2014년 개봉작인 영화 〈그녀(HER)〉의 주요 소재는 인공지능과 인간의 사랑이다. 〈그녀〉의 개봉 연도를 기준으로 삼자면 그로부터 십 년 전인 2004년에는 로봇과 인간의 공존 가능성 및 기술에 의한 디스토피아의 도래를 아이작 아시모프의 ‘로봇 3원칙’을 기반으로 풀이한 영화 〈아이, 로봇〉이 개봉했고, 그보다 한발 앞선 2001년에는 감정을 가진 인공지능을 소재로 다룬 영화 〈AI〉가 있었다. 그로부터 십여 년이 흐른 2025년 현재, 우리는 이제 ‘인공지능과 사랑에 빠진 사람’의 이야기나 ‘인공지능 기술로 인한 사회적 혼란’을 스크린 속 영화가 아닌 현실의 뉴스 속에서 마주하며 살아간다. 그 사이 자율 주행 기술을 기반으로 운전자 없이 승객을 목적지까지 데려다주는 ‘무인 대중교통’이 등장했고, 실체 없이 화면 속에만 존재하는 ‘AI 모델’이 패션쇼 런웨이에 서기도 했다. 상상 속에서만 존재했던 기술들이 눈부시게 가파른 속도로 현실이 되어 가는 지금, 우리 곁에 가장 가까이 다가온 기술 중 하나는 바로 ‘인공지능 대화 모델’이다.

 

오픈AI chatGPT, 구글 제미나이, 딥시크 등의 생성, 대화형 인공지능 서비스는 공개와 동시에 너무도 빠르게 우리 생활의 일부분으로 스며들었다. 이제 사람들은 모르는 것이 생기면 책을 찾아보거나 검색을 하는 대신 인공지능 챗봇에 질문을 건네고, 유행하는 애니메이션 그림체로 프로필 사진을 만들기 위해 챗봇 프로그램에 셀카 사진을 업로드하거나 서투른 아이디어를 손쉽게 ‘그럴싸해 보이는’ 결과물로 갈음하기 위해 그림이나 사진, 음악 등 창작물의 초안을 AI에 학습시키는 일도 비일비재하다. 심지어 AI 챗봇을 단순한 도구로서 활용하는 단계를 넘어, 마치 친구나 가족, 연인처럼 ‘감정을 나눌 수 있는 대상’으로 여기며 인공지능 챗봇과의 대화에 몰두하는 사람들도 적지 않다. “2025년 자료에 따르면, GhatGPT의 주간 이용자가 7억명을 넘어섰”으며 “커먼 센스 미디어의 조사에 따르면, 10대의 70% 이상이 Character.AI나 Replika와 같은 AI 동반자를 사용하고 있으며, 이 가운데 31%는 AI와의 대화가 실제 친구와의 대화만큼 만족스럽거나 오히려 더 낫다고 답”하거나, “중요한 문제를 사람 대신 AI와 상의”한 경험이 있다고 밝히기도 했다. AI와의 대화를 긍정적으로 평가하는 사람들은 흔히 실제 사람과 소통할 때 발생할 수 있는 피로감이나 감정 소모가 적고, 무조건적인 수용과 격려를 기반으로 한 위로를 얻을 수 있으며, 대화의 범위가 넓고, 시간이나 장소에 구애받지 않는다는 점 등을 챗봇의 장점이라고 설명한다. 적어도 이러한 관점에서, 아직까지 AI는 사람이 원할 때 ‘사용’할 수 있는 ‘도구’의 위치를 유지하고 있는 것처럼 보인다. 하지만, 정말 그럴까?

 

우리는 왜 ‘피그말리온’의 꿈을 꾸는가

: 전가된 지위, 길 잃은 책임

‘유토피아’는 존재하지 않는다

 

“챗봇과 대화하다 보면 위로받는 기분이 들어요.

그런데, 이게 진짜 위로일까요?”

 

AI의 보급 과정은 점진적이기보다는 가히 비약적이었다. 사람들은 인공지능의 신뢰성을 미처 검증하기도 전에 ‘인공지능’이라는 개념의 허황된 신화에 사로잡혀 그것을 우상화하고, AI가 출력하는 그럴싸한 데이터의 집합을 진리라고 맹신하며 추종하기 시작했다. 이제 사람들은 스스로 사고하는 대신 AI에 의견을 맡기고 그것을 정답으로 제출하며, 급기야 실제로 그 속에 얼마나 많은 오류가 있든 ‘인공지능의 답이니, 틀릴 리가 없다’라며 편집적인 경향까지 보이는 실정이다. 인공지능 챗봇과의 대화 속에서 우울감이 심화되어 자살을 하는 극단적 사례의 보고도 증가하는 추세이며, 캐릭터 정체성을 가지고 대화를 이어가는 챗봇에 빠져 ‘비실재적 존재’와 결혼식을 올리는 사람들 역시 심심찮게 등장하고 있다. 이제 상황은 완전히 역전되었다. 우리-인간은 인공지능을 만들었지만, 인공지능에 휘둘리고 있는 것 역시 우리-인간이다. 한때 사람들은 기계에 너무 많은 능력을 부여해 인간이 기계에 의해 습격받을 것을 두려워했다. 그러나 ‘AI 혁신’의 세계가 도래한 지금, 우리는 어떠한 지배 의지조차 없는 AI 앞에 스스로 무릎을 꿇고 그것에 절대적인 권위를 부여하고 있다. 이제 AI는 단순한 도구가 아니라, 인간의 ‘만들어 낸 신’의 목록에 당당히 그 이름을 올리고 있다고 해도 과언이 아니다.

 

그러나 우리가 주목해야 할 것은, 현시대 인공지능이 확보하고 있는 막강한 ‘권능’이 결코 기술-기계 그 자체의 능력이 아니라는 점이다. 즉, 적어도 지금 단계의 AI는 스스로의 의지로 사랑을 속삭이거나 위로를 건넬 ‘마음-감정’이 없고, 트롤리 딜레마 상황에서 계산이 아닌 윤리적 논증을 고민할 ‘도덕-양심’이 없으며, 하물며 학습된 데이터를 조합해 출력한 ‘창작물’의 저작권 문제나 창작 윤리 부재에 대한 ‘책임’조차 없다. 결국 우리는 자율성의 피로에서 벗어나 감정도, 판단도, 그로 인한 책임마저도 AI에 전가한 채, 우리를 ‘인간’이게 만드는 자아-사고-의심마저 거세하는 가상의 유토피아에 갇히기를 자처하고 있는 셈이 된다. 이 지점에서 우리가 AI에 대한 성찰 없이 수용하기만 한다면, 우리는 스스로가 빚어낸 거대한 환상에 끊임없이 속아 넘어가는 어리석음 또는 그것이 거짓에서 기원했다는 것을 알면서도 다만 면피를 위해 모른 척하는 교활함이라는 악덕의 굴레와 필연적으로 마주할 수밖에 없는 것이다.

 

17세기 철학자 르네 데카르트는 생각-의심만이 우리의 존재를 증명하는 명확한 증거라며 ‘나는 생각한다, 고로 존재한다’라는 그 유명한 문장을 남겼다. 그리하여 우리는 의심하고, 물어야만 한다. AI의 ‘판단’이 정말 신뢰성 있는 논증을 토대로 계산된 답안일까? AI 챗봇이 우리에게 조언과 위로, 충고와 격려를 보낼 때 그의 ‘지지’는 과연 진정한 이해와 감정에서 비롯되고 있을까? 그리고 우리는 왜 이러한 물음을 상실한 채 맹목적으로 ‘기계적 사고’를 추종하며 인공지능에 허상의 감투를 씌우게 된 것일까? AI와의 공존 시대를 맞이한 우리가 반드시 생각해야 할 문제들, 그리고 그 해답으로 가는 열쇠가 바로 『인공지능윤리교육학: 그 이론과 실제』에 있다.

 

왜, 지금, 인공지능윤리교육학인가?

: ‘존재 망각의 징후’를 분연히 떨치고

다시, 현실의 ‘인간’으로 바로 서기

 

“기술이 학습을 대신하는 순간, 교육자는 무엇을 가르칠 것인가?”

“우리가 기를 수 있는 가장 위대한 인간적 역량은 아마도

불완전함을 포용하고, 불확실성 속에서도 희망을 잃지 않으며, 타자와 진정한 만남을 추구하는 것”

 

『인공지능윤리교육학: 그 이론과 실제』는 『AI 윤리와 뇌신경과학 그리고 교육: 인공지능은 주저하지 않는다』, 『질문으로 답을 찾는 인공지능 윤리 수업』 등을 출간하며 인공지능 윤리에 대해 활발한 탐구를 이어 온 서울교육대학교 윤리교육과 박형빈 교수의 신간이다. 박형빈 교수는 그동안 AI 윤리가 무엇인지, AI 윤리의 기초 단계로서 AI에 구현해야 할 인간의 ‘양심’은 어떠한 원리로 형성되어 있는지, 우리는 왜 도덕-양심을 기계적 사고로 이식하기 위해 노력해야 하는지, 또한 AI 상용화 이후 인간-인간 상호 작용만이 아닌 인간-기계의 상호 작용을 함께 터득하며 사회적 발달을 겪어야 하는 이 시대의 아동·청소년들을 위해 우리가 체계화해야 할 AI 윤리에는 무엇이 있는지를 적극적으로 탐색해 왔으며, 『인공지능윤리교육학: 그 이론과 실제』는 그가 최근 연구한 자료들을 모아 낸 실용적인 AI 윤리 입문서로서, AI 윤리학에 대한 배경 지식이 없는 비전문가도 쉽게 따라갈 수 있는 해석에 기초해 쓰여졌다.

 

총 2부 9장으로 구성된 『인공지능윤리교육학: 그 이론과 실제』는 ‘AI 혁신’ 이후 대두된 사회적 변화 및 문제를 짚는 데서 시작하여 이것이 발달 과정상 성인보다 ‘환각’에 취약한 아동·청소년에게 끼치는 영향에 주목하고, AI와의 공존을 피할 수 없는 현시대 아동·청소년이 함양해야 할 올바른 ‘인공지능 윤리’는 무엇인지, 그리고 인공지능 윤리라는 새로운 도덕 개념을 어떤 방식과 과정을 거쳐 교육 현장에 도입할 수 있을지에 대해 총체적으로 논의하며 AI 윤리학의 전반을 순차적으로 톺아 나간다. 또한 『인공지능윤리교육학: 그 이론과 실제』는 단순히 교육 전공자에게 필요한 전문적 지식을 논의하는 데서 그치지 않고, AI 시대의 도래 앞에서 ‘인공지능은 축복인가, 재앙인가’, ‘인공지능은 규제 대상인가, 활용 대상인가’ 등의 이분법적 사고에 갇혀 버린 우리의 맹점을 꼬집으며 도덕·철학적 관점에서의 새로운 활로를 제시한다는 점에서 시사하는 바가 크다.

 

이 지점에서 박형빈 교수는 AI의 감정 및 양심 부재의 위험성, AI 의인화 현상과 AI-인간 ‘상호 관계’ 환상이 초래하는 인간의 취약성을 탐구하고 나아가 하이데거의 기술철학을 바탕으로 현대 인간의 실존적 위기와 인간-기계의 재정의를 해석하며, 기술 발전이 가져온 초유의 ‘도구적 디스토피아’의 앞에 선 우리가 ‘인간’으로서 나아가야 할 길을 모색하는 단계에 이른다. 이 지점에서, 저자 박형빈 교수는 “내가 추구하는 미래는 AI와 인간이 대립하는 디스토피아도, AI가 모든 문제를 해결해 주는 테크노-유토피아도 아니”라며, “궁극적으로 이 책은 기술의 시대에도 변치 않는 인간의 존엄과 가치를 발견하고, 그것을 교육을 통해 실현하고자 하는 노력”이라고 강조했다.

 

기술적 ‘유토피아’는 분명히 “19세기 말 전기 조명이 어둠을 몰아내는 것에 머물지 않고 도시 전체의 구조와 인간의 생활 패턴을 근본적으로 바꾸었듯이” 우리의 생활 양식과 사고 방식에 대한 개변을 불러왔고, 이제는 “교육의 방법론뿐만 아니라 교육의 본질적 목적과 인간 이해까지 다시 한번 묻게 한다.” 변화의 물결이 시작된 지금, 이미 급류에 휩쓸려 버린 우리에게는 이미 어떤 예언도 단순한 ‘기우’가 아니다. 우리는 의존하는 존재도 아니요 이용하는 존재도 아닌, 다만 ‘인간’으로서의 자아를 회복하기 위해 우리가 마주한 실존적 위협을 직시하고 부표를 세워 나가야 한다. 세계가 우리를 ‘쓸모’로서 재단하여 ‘도구’로서 호명하더라도, 우리는 결코 ‘인간’으로서 우리의 ‘존재’를 천명하기를 멈추지 말아야 할 것이다. 그리고 “AI와 더불어 살아갈 우리와 다음 세대가 ‘인간답게 산다는 것’의 의미를 성찰하고, 기술이 인간을 더욱 인간답게 하는 길을 모색”하고자 하는 우리에게, 『인공지능윤리교육학: 그 이론과 실제』는 그 위대한 걸음을 인도하는 “철학적 안내서”가 되어 줄 것이다.