AI에게 철학을 가르치면
어떤 일이 일어날까?
윤리학, 미학부터 종교학, 심리학까지
‘인간적인’ 인공지능을 위한 7가지 철학 수업

시나리오 1. 인공지능이 운행하는 기차 앞에 5명의 작업자가 있다. 그리고 반대편 선로에 1명의 작업자가 있다. 이 위급한 상황에서 인공지능은 그대로 5명의 작업자를 치어야 할까? 선로를 바꾸어 1명의 작업자를 들이받아 피해를 최소화해야 할까?
시나리오 2. 전쟁터에 군사 로봇이 있다. 로봇은 자국민을 보호하는 일이라면 물불을 가리지 않고 사람을 죽여도 되는 것일까? 자신의 존재 목적을 이루었기 때문에 ‘살생’이 정당화될 수 있을까? 그런데 시스템 오류로 인해 자국민을 살해했을 경우에는 누가 그 잘못을 책임져야 할까?
인공지능의 상용화가 코앞에 이른 상황에서 인류는 인공지능의 윤리라는 전대미문의 문제에 봉착했다. 이 책은 4차 산업 혁명 시대에 인공지능 분야에서 대두되는 사회적 쟁점들을 철학적으로 해석하여 인류의 현재와 미래에 관해 질문을 던졌다. 이를 위해 ‘중국어 방’, ‘트롤리 딜레마’ 등 철학자들이 인간의 사고를 설명하기 위해 고안한 생각 실험을 도구로 자율 주행차, 딥 러닝, 군사 로봇 등 ‘인공지능’이 마주할 윤리 문제를 먼저 테스트했다.

[목 차]

프롤로그 “인공지능에게 철학을 가르친다면”

제1강 윤리학
“다섯 명의 보행자를 살릴까? 한 명의 운전자를 살릴까?”
운전자가 없는 자율 주행차의 질주
인공지능에게 윤리를 가르칠 수 있을까?
판단의 중심에 서 있는 인간
어떤 프레임으로 세상을 바라볼 것인가

제2강 인지학
“인공지능은 생각한다, 고로 존재할까?”
인공지능의 어머니는 인간의 지성이다
딱 잘라 ‘개’라고 정의할 수 없는 이유
생각하는 컴퓨터, 딥러닝의 기술

제3강 미학
“참여할 수는 있겠지만 예술을 이해할 수 있을까?”
렘브란트와 피카소를 뛰어넘는 천재의 등장
인공지능에게 미인이란?
예술의 위기인가, 지평의 확장인가

제4강 심리학
“사랑하는 사람을 위해 자신을 희생할 수 있을까?”
행복이란 무엇인가
마음을 소유한다는 것
공존을 넘어 공감을 위한 노력

제5강 사회학
“인공지능에게 인간은 노예일까? 주인일까?”
일자리 없는 미래, 노동의 종말
인간과 인공지능의 대립
주체로서의 인간이 할 수 있는 일

제6강 종교학
“종교 간의 갈등을 해결할 수 있을까?”
만물의 척도가 될 것인가
인공지능도 신을 믿을 수 있다?
신의 자리를 넘보는 인공지능에게

제7강 유전자 공학
“전쟁에 참가한 인공지능, 사람을 죽여도 될까?”
피스 메이커와 트러블 메이커 사이에서
포스트휴먼이 온다
인간 중심주의의 오류

에필로그 “인공지능의 마지막 공부”

인간과 공존하기 위한 인공지능의 마지막 공부

어느새 인간의 본질적 특징인 ‘사고’와 ‘감정’의 영역까지 넘보는 단계에 와 있는 인공지능은 인간을 대신해 과연 어디까지 생각하고 판단할 수 있을까? 그동안 인공지능의 기능과 경제적 가치가 주된 담론이었다면, 이제는 인공지능의 윤리 문제에 대한 논의가 이루어져야 할 때다. 즉 인공지능이 맞닥뜨릴 윤리적 상황을 인류가 시급히 해결해야 할 과제로 인식해야 한다.
현재 인공지능의 기술은 사람들의 일상생활을 넘어 예술, 의료, 군사 부문에 이르기까지 그 활용의 범위가 날로 확장되어 가지만 인공지능이 마주한 여러 윤리적 문제는 해결되지 못하고 있다. 이제 인공지능은 인간과 함께 공감함으로써 인간답게 기능할 수 있어야 한다.
인간이 통제할 수 없을 정도로 인공지능의 기술이 발전하기 전에 인공지능에게 철학을 가르침으로써 인류의 미래를 준비해야 한다. 이 책에서 ‘인공지능에게 철학을 가르치면?’이라고 질문한 이유다. 이를 계기로 철학이 인공지능의 윤리라는 논의에 해답을 제시할 수 있기를 바란다.

AI가 인간과 공존하기 위해 필요한 공부
인공지능에게 철학을 가르칠 수 있을까?

인공지능이 인간의 삶을 더욱 편리하게 만들어 주는 것은 사실이지만 인공지능이 분쟁에 이용되거나 살인을 일으킬 수 있다는 우려도 동시에 존재한다. 실제로 미국은 우버에 의한 자율 주행차 운행을 실시했다가 사람을 들이받으면서 ‘누가 사고를 책임질 것인가’에 대한 문제로 어려움을 겪었고, 현재 자율 주행차 운행은 중단된 상태다. 이처럼 인공지능의 도덕적, 윤리적 문제는 아직 해결되지 않았다.
앞으로 인류는 인공지능이 마주한 윤리적 상황을 어떻게 해결해 나가야 할까? 이 책은 철학에서 그 답을 찾고자 한다. 여기 철학을 토대로 시대의 변화를 포착하여 미래를 예측하는 일을 전문으로 연구해 온 미래학자가 있다. 그는 ‘인공지능에게 철학을 가르치면 어떤 일이 일어날까?’라는 설정 아래, 인공지능과 관련된 여러 이슈들에 질문을 내놓으며 그 질문들에 철학은 어떻게 대답할 것인지에 관해 탐구했다.
왜 철학일까? 오랜 시간 동안 인간의 전유물이라고 여겨져 온 윤리와 철학이 과연 가르친다고 배울 수 있는 것일까? 빠르고 명쾌하게 답을 찾는 일에 최적화된 인공지능이 깊은 사고의 과정이 필요한 학문인 철학에서 답을 찾는 일이 가당할까?

★ AI는 생각한다, 고로 존재할까? - ‘인지학 편’

먼저 인공지능은 인간처럼 생각할 수 있는지부터 확인해야 한다. 철학은 답이 없는 문제를 끊임없이 사고하는 과정에서 자신과 자신의 주변 세계를 이해함으로써 답을 찾아가는 학문이다. 그렇기 때문에 누군가는 이 질문에 대한 답을 찾기도 전에 인공지능은 기계이기 때문에 생각할 수 없다고 결론을 내렸을지도 모르겠다. 하지만 당신의 판단은 너무 섣부르다. 현재 인공지능은 인간의 지성을 능가한 상태다.
실제로 생각하는 컴퓨터로 불리는 딥 러닝은 유튜브에 투고된 대량의 영상에서 추출한 이미지를 스스로 학습하여 ‘고양이’라는 개념을 인식하는 수준에 도달했다. 즉 고양이를 알지 못하던 인공지능이 딥 러닝을 통해 혼자 힘으로 ‘고양이’가 무엇인지 깨우치게 된 것이다. 주체적으로 판단하고 선택하는 수준으로까지 인공지능의 기술이 발전했다.
이제 인공지능이 기계이기 때문에 생각할 수 없다는 주장은 더 이상 먹히지 않는다. 인공지능은 인간의 지성을 모방하여 실현된 기술로서, 어쩌면 인공지능은 인간보다 더 고차원적일 수 있고 오히려 더 주체적일 수 있는 것이다. 이는 어디까지나 가정이지만, 가까운 미래에 실현될 수 있는 일이다.

★ AI는 타인을 위해 자신을 희생할까? - ‘심리학 편’

그렇다면 생각하는 인공지능은 사랑하는 사람의 행복을 위해 자신을 희생할 수 있을까? 데이터를 분석해서 합리적으로 최적의 결과에 도달해 내는 일에 특화된 인공지능이 인간의 행복을 위해 자신을 희생하는 선택을 기꺼이 할 수 있을까? 인공지능은 인간이 추구하는 행복이 무엇인지조차 모를 수 있다. 하지만 이 책에서 꼬리의 꼬리를 물어 철학적으로 질문한 결과, 인공지능은 행복을 느낄 수 있다는 결론에 도달했다.
단순히 인공지능이 행복을 느낄 수 있다는 사실 하나만으로 인공지능을 신뢰할 수 있을까? 여기서 인공지능과 인간의 가장 큰 차이가 대두된다. 바로 인간은 몸과 마음이 연결되어 있는 존재라는 사실이다. 인간은 몸을 배제하고 자신의 행복을 생각할 수 없다. 하지만 인공지능은 몸과 마음을 분리해서 생각할 수 있다.
그렇기 때문에 인공지능은 인간을 완전히 대체할 수 없고, 인공지능에게 인간을 대신해 많은 선택을 맡길 수 없는 이유다. 그럼에도 지금 인공지능이 인간의 감정을 파악하는 일에 많은 연구가 진행 중이다. 훗날에는 몸과 마음이 분리될 수 없는 인공지능의 한계를 극복하여 인공지능은 인간과 감정을 주고받을 수 있는 날이 올지도 모른다. 그때는 인간보다 인공지능이 인간의 마음을 더 잘 이해하는 수준에 이르게 될 것이고, 인공지능과 인간의 결혼이 논의될 수 있다고 이 책은 말한다.

써먹을 수 있는 철학이 무엇인지를 제대로 보여 주는
‘인간적인’ 인공지능을 위한 7가지 철학 수업

이밖에도 윤리학, 미학부터 사회학, 종교학, 유전자 공학까지 ‘인공지능에게 철학을 가르치면 어떤 일이 일어날까?’를 생각 실험을 통해 인공지능이 철학적으로 어디까지 사고하고 판단할 수 있는지를 테스트했다. 이를 위해 ‘중국어 방’, ‘트롤리 딜레마’ 등과 같이 비교적 잘 알려진 생각 실험을 비롯해 다양한 생각 실험을 중심으로 인공지능을 둘러싼 논의를 깔끔하게 정리했다. 이 책은 “인공지능을 주제로 한 응용 윤리학의 교과서”라고 말할 수 있을 만큼 인간과 공존하기 위해 필요한 인공지능이 행동하고 판단할 수 있는 범위에 대해 계속 질문하고 있다.
답을 명확히 제시하는 책은 아니지만 생각 실험을 통해 끊임없이 질문을 던짐으로써 인공지능의 미래에 관해 사람들에게 깊이 생각하고 연구할 수 있는 기회를 제공한다. 기존의 인문 교양이나 철학서들처럼 새로운 개념을 설명하는 데 급급하거나 주로 인공지능의 기술적 측면을 다룬 책들과 달리 인공지능의 윤리적 측면에서 여러 분야의 문제를 심층적으로 분석했다는 점에서 특별한 책이다.
인공지능은 여전히 시의성 있는 주제다. 때문에 앞으로도 이에 관한 논의 및 예측은 계속될 수밖에 없다. 그러므로 이 책이 인공지능 발달에 따라 제기될 다양한 도덕적, 윤리적 문제를 생각하게 한다는 사실만으로도 유익하고 의미 있는 책이 될 것이다.

오카모토유이치로
철학과 기술의 경계를 넘나드는 미래학자다. 서양의 근현대 사상을 토대로 시대의 흐름을 포착하여 미래를 예측하는 일을 전문으로 연구해 왔다. 특히 4차 산업 혁명 시대에 인공지능과 유전자 공학 등의 여러 분야에서 대두되는 사회적 쟁점들을 철학과 연결하여 사람들이 상황을 지엽적으로 바라보지 않고 근본적으로 접근하여 문제를 해결할 수 있도록 도왔다.
저서 《지금 세계는 무엇을 생각하는가》는 일본 아마존 사상 분야 1위에 오를 만큼 현시대의 지성인들에게 인류의 현재와 미래에 관한 질문과 통찰을 동시에 제공했다. 이외에 국내에 번역된 책으로 《현대 철학 로드맵》, 《흐름으로 읽는 프랑스 현대사상사》, 《현대 사회를 읽는 질문 8》이 있다.
규슈 대학교 대학원 문학 연구과 과정을 수료했고, 현재는 타마가와 대학 문학부 교수로 철학과 윤리학을 가르치고 있다.

옮긴이 김슬기
충북 대학교 전기 공학부를 졸업했다. 대학 시절 일본에서 인턴십 프로그램에 참여한 것을 계기로 일본어의 매력에 빠졌다. 다년간 출판사에서 편집자로 일했으며 현재는 번역가로 활동 중이다. 옮긴 책으로는 《우주의 탄생과 대칭》, 《열세 살 딸에게 가르치는 갈루아 이론》이 있다.