기계가 곧 인간의 지능을 능가하리라는 사실을 믿어야 하는가? 지금 세상은 이 문제를 둘러싸고 낙관주의와 비관주의로 양분되고 있다. 많은 과학자는 기계가 인간을 능가할 것을 우려하면서도 다른 한편 우리를 구원하리라 기대하기도 한다. 지금은 많은 공상과학 영화나 소설이 과학자들의 예언과 혼재되어 있는 상황이다. 상당한 사람들이 호모사피엔스의 종말(파국이론)을 예언하는 것을 가슴 졸이며 듣길 원한다. 기술의 발전이 가져올 미래는 감탄과 전율을 일으키기 때문이다. 한 예로 케임브리지 대학의 실존 리스크 연구 센터는 인류 멸망의 가능성을 심도 있게 연구하고 있다.
이 책의 저자 장가브리엘 가나시아는 현실을 직시하라고 주문한다. 그는 1970년대부터 인공지능을 연구해온 과학자다. 또한 철학적 측면에서 제기되는 다양한 윤리적 문제를 포괄해 이론적 모델을 세우고 있다. 그는 이 책에서 기술적 전망을 과장하지 않고, 그 한계를 정확히 파악하면서 정치적, 윤리적 관점을 세워나가는 것이 중요하다고 강조한다.

[목 차]

제1장 절박한 상황
성명│테크노 예언자│대전환
제2장 기술적 특이점
최초의 시나리오│SF에서 과학으로│특이점이 도래하는 시기│본래 ‘특이점’이란
제3장 지수함수적인 폭발
체스 판에 놓인 보리쌀│반도체 칩 위의 트랜지스터│무어의 법칙은 일반화할 수 있는가?│논리적 모순│물리적 한계│경험에 의거한 반론: 종의 대량 멸종│지능과 연산 능력
제4장 컴퓨터는 자율적으로 움직일 수 있을까?
자기 복제 기계│기계 학습│빅 데이터│리스크의 정도│기계 학습 알고리즘의 분류│컴퓨터의 창조성
제5장 현대의 그노시스
인공지능을 ‘가상’으로 인식하다│또 하나의 가상, 그노시스
제6장 다가올 미래
인간이 필요 없는 미래│전조 vs 계산│미래의 변모│가능성, 개연성, 신빙성
제7장 특이점과 종말론
시간의 토폴로지│미래의 가지│파국이라는 전환점│비극의 귀환
제8장 거짓 인류애
방화범인 소방관│분배의 경제와 파탄의 경제│선전│거짓 선의, 거짓 배려│눈속임

주
찾아보기

★오류투성이 ‘종말 비즈니스맨’과 ‘특이점 예언자’들을 고발한다
★미국이 주도하는 ‘특이점 옹호’에 대한 유럽 대륙의 반론
★프랑스 국립과학연구센터CNRS 윤리위원장의 ‘양심의 목소리’

기계가 곧 인간의 지능을 능가하리라는 사실을 믿어야 하는가? 지금 세상은 이 문제를 둘러싸고 낙관주의와 비관주의로 양분되고 있다. 많은 과학자는 기계가 인간을 능가할 것을 우려하면서도 다른 한편 우리를 구원하리라 기대하기도 한다. 지금은 많은 공상과학 영화나 소설이 과학자들의 예언과 혼재되어 있는 상황이다. 상당한 사람들이 호모사피엔스의 종말(파국이론)을 예언하는 것을 가슴 졸이며 듣길 원한다. 기술의 발전이 가져올 미래는 감탄과 전율을 일으키기 때문이다. 한 예로 케임브리지 대학의 실존 리스크 연구 센터는 인류 멸망의 가능성을 심도 있게 연구하고 있다.
이 책의 저자 장가브리엘 가나시아는 현실을 직시하라고 주문한다. 그는 1970년대부터 인공지능을 연구해온 과학자다. 또한 철학적 측면에서 제기되는 다양한 윤리적 문제를 포괄해 이론적 모델을 세우고 있다. 그는 이 책에서 기술적 전망을 과장하지 않고, 그 한계를 정확히 파악하면서 정치적, 윤리적 관점을 세워나가는 것이 중요하다고 강조한다.

누가 생각하는 기계를 두려워하는가?

인류를 가장 거칠게 위협하는 것이 생태적 재앙이나 핵폭탄이 아니라 인공지능이라고? 인간이 대단한 지능을 갖춘 로봇과 함께 생활하고, 로봇에게 제압당한다는 생각은 언제나 공상과학 소설가들을 매료시켰고, 이를 주제로 한 <터미네이터> <엑스 마키나>와 같은 영화는 성공을 거두었다. 하지만 몇 년 전부터 이 분야는 저명한 과학자와 엔지니어들의 관심을 끌게 되었다. 천체물리학자 스티븐 호킹은 완벽한 지능이 출현해 생물학적으로 발전이 더딘 인간을 능가하게 될 것을 공개적으로 우려했다. 페이팔과 스페이스 X의 공동 창업자이인 일론 머스크, 빌 게이츠 등은 지금 당장 인공지능에 전격적인 조치를 취하지 않으면 위험이 닥칠 거라고 경고한다. 구글 프로젝트의 책임자인 레이 커즈와일 또한 이 문제를 불가피한 것으로 받아들였다. 즉 급격한 기술의 발전은 인간 프로그래밍의 종말을 의미한다는 것이다.
장가브리엘 가나시아의 이 책은 ‘특이점’ 예언, 즉 스스로 진화해 인류에 위협을 가할 수 있는 강한 인공지능이 출현할 거라는 전망이 어떤 문제점을 갖는지 조목조목 밝히고 있다. 저자는 ‘테크노 예언자들’이 누리고 있는 커다란 지적 권위를 걱정한다. 이는 하나의 예언 혹은 ‘광대한 우주적 이야기’가 과학적 예언으로 인정되는 것에 불과하기 때문이다.
책은 ‘논거의 한계’와 ‘개념들 사이의 혼동’에 집중한다. 새로운 예언가들은 인공지능이 기술적 자율성에서 철학적 자율성으로 옮겨갈 것이라고 한다. 기술적 자율성이란 기계가 스스로 결정할 수 있는 능력을 말하고, 철학적 자율성이란 기계가 스스로 자신의 행동에 규칙과 목적성을 부여할 수 있는 능력을 말한다. 전자는 ‘약한’ 인공지능이고 후자는 ‘강한’ 인공지능이다. 물론 저자에 따르면 이것은 객관적 증거로 뒷받침되고 있지 못하다.

슈퍼인텔리전스, 실제로 언제 가능한가?

인공지능에 대해 낙관적인 생각을 가진 이들을 살펴보자. ‘특이점Singularity’의 제창자 레이 커즈와일은 2045년경(2~3년 차이 날 수도 있지만) 슈퍼인텔리전스가 출현할 것이라 예상하고 있다. 그는 이런 기술적 특이점이 오면 인간은 자신의 한계를 넘어 ‘불멸의 존재’가 될 수 있다고 강변한다. 이런 주장은 ‘무어의 법칙’에 토대를 두고 있다. 인텔의 공동 창업자인 고든 무어가 1960년대 중반에 발표한 이 법칙은 프로세서의 기능은 지수함수적으로 발전한다는 법칙이다. 무어의 법칙에 따르면, 어떤 유형의 집적회로에서나 트랜지스터의 수는 18개월에서 24개월마다 안정적으로 두 배가 된다. 이는 곧 같은 속도로 컴퓨터의 성능, 처리 속도, 기억 용량이 두 배가 된다는 뜻이며, 또한 같은 속도로 비용이 절반으로 감축된다는 뜻이기도 하다. 1970년 인텔의 프로세서 4004형에는 약 2300개의 트랜지스터가 탑재되었지만, 8년 뒤인 1978년에 같은 인텔의 8086형에 탑재된 트랜지스터는 2만8000개로, 8년 전의 10배를 넘어섰다. 나아가 20년 후인 1999년에 발매된 펜티엄III에는 수천만 개의 트랜지스터가, 2007년 발매된 펜티엄 듀얼 코어에 이르러서는 10억 개 이상이 탑재되었다. 이와 동시에 가격도 하락하고 있다. 1메가바이트당 가격은 1980년에서 1990년까지는 2년마다 절반으로 떨어졌고, 1996년 이후에는 무려 9개월마다 절반으로 떨어지고 있다. 나아가 지금은 클라우드를 사용하면 거의 무료로 대용량의 정보를 저장할 수 있다. 커즈와일은 무어의 법칙이 테크놀로지의 역사에서도 원초의 암흑시대부터 정신성이 두루 개화하는 시대로의 진화를 나타내는, 보편적인 법칙이라고 주장하고 있다.
이에 대한 가나시아의 비판은 통렬하다. 먼저 그는 무어의 법칙이 경험칙을 공식화한 것, 즉 관찰 결과를 간결하고 편의적으로 집계한 것에 불과하다는 점을 지적한다. 논리학에서는 이런 사고방식을 귀납적 추론이라 부른다. 즉, 수많은 개별 사례의 관찰을 통해 보편적인 원리를 이끌어내는 추론 방법이다. 하지만 귀납적 추론을 통해 얻은 결과가 과학적으로 유효함을 인정하기 위해서는 약간의 주의가 요구된다. 실험을 통해 어떤 현상의 발생에 관여하는 실제 조건을 재현하고, 거기서 일어나는 현상을 관찰할 필요가 있다. 하지만 무어의 법칙의 경우에는 관찰이 행해진 시점과 동일한 구체적인 조건을 재현하기가 어렵다. 이 법칙은 테크놀로지의 진화에 관한 것인데, 테크놀로지의 진화는 그 테크놀로지의 진화 직전 상태에 의거하고, 그것마저 시간과 함께 끊임없이 변화하며, 뒤로 돌아가지 않기 때문이다. 따라서 무어의 법칙은 역사적 법칙이라 할 수 있으며, 정확하게는 실험할 수가 없다.
자연과학의 세계에서는 특이점에 가까워짐에 따라 통상의 법칙이 도움이 되지 않는 것으로 알려져 있다. 통상의 법칙이 도움이 되지 않는다는 점에서 바로 특이하다고 할 수 있는 것이다. 테크놀로지의 진보에 관한 법칙에서도 동일한 현상이 일어날 가능성은 충분하다. 그렇게 되면, 자명한 이치에 의거한 무어의 법칙의 정당성은 이 법칙이 영원히 계속된다고 하는 전제에서 태어난 특이점이라는 개념 자체에 의해 부정되어버린다. 이처럼 무어의 법칙을 무제한으로 확대 해석하는 것은 논리적으로 모순된다는 결론을 얻을 수 있다. 물론 이론상으로는 테크놀로지가 인류를 파멸로 이끄는 방향으로 진화하고, 자연계에서 인간의 지위를 흔드는 일은 일어나지 않으리라고는 장담할 수 없다. 그러나 테크놀로지의 추이가 일정하다는 점에 의거한 법칙을 이용하여 이 격변의 예측을 이끌어낼 수는 없을 것이다.
문제는 커즈와일과 같은 사람들이 무어의 법칙을 지수함수 법칙을 따르는 발전의 총체라고 믿기 때문에 “이 법칙이 절대 멈추지 않을 것”이라고 말한다는 점이다. 하지만 저자는 현재의 가장 근본적인 기술적인 제약을 환기시킨다. 마이크로프로세서는 여전히 실리콘과 반도체로 제조되고 있다. 반도체 소자에는 기능을 완수하기 위해 수백 개의 실리콘 원자가 포함되어 있다. 따라서 아무리 작게 만들어도 10나노미터를 밑돌 수는 없다. 물론 연구자들이 유망한 기술을 계속 연구하고 있긴 하나 당장 실리콘을 대신할 만한 소재는 아직 발견되고 있지 않다는 것이 가나시아의 반박이다.

한편 커즈와일 등과는 달리 인공지능에 우려를 나타내는 일론 머스크와 같은 학자도 좀 특이하고 저자는 지적한다. 그는 양면적인 모습을 보이기 때문이다. 즉 머스크는 모든 것이 매우 안 좋게 진행될지 모르니 조심하라고 말하면서 동시에 인공지능이 우리를 구할 것이라고 말하기도 한다.
과학자로서 가나시아는 인공지능을 부정하는 것도 아니고 특이점이 불가능하다고 말하지 않는다. 테크놀로지는 매우 긍정적인 측면을 갖고 있다. 중요한 것은 우리가 이끌어온 지식, 경험, 그리고 우리가 긍정하는 합리적 생각을 설명하는 것이다. 그는 “결정적인 시나리오는 존재하지 않으며, 필연성 또한 없다”고 말한다. 즉 단 하나의 관점에서 얽매여서는 안 되며, 인간은 항상 기술 발전에 영향을 미칠 수 있다고 말한다.

관건은 무엇인가?

특이점 신화 뒤에는 대기업이 존재한다. 그들은 기술이 자율적으로 전개되는 것처럼, 기술이 인간을 대신하는 것처럼 말한다. 저자가 제시하는 중요한 관건은 정치에 있다. 왜냐하면 이 문제에 관해서는 점점 힘을 잃어가는 국가들을 주도해나가는 듯 보이는 것은 거대 디지털 기업, 즉 GAFA(구글, 아마존, 페이스북, 애플)와 그 외의 몇몇 대기업임을 인정할 수밖에 없기 때문이다.
가나시아는 결론에서 이런 다국적 기업들이 목표하는 인류의 미래상을 비판한다. 인공지능의 위험성을 알린다는 명목으로 스스로에게 박애주의적 기업의 이미지를 부여하지만, 이런 전략은 절대적인 경제적 필요에 부응하는 것이기 때문이다. 예를 들어 페이팔의 지불 시스템, 전화 혹은 비트코인으로 국가를 대신해 화폐를 발행하는 기업들이 있다. 보안 분야에서는 안면인식이나 지문인식이 국가보다 기업의 의해 더 잘 통제되고 있다. 오늘날 미국에 갈 때는 입국 서류에 현재 활동 중인 소셜네트워크를 기입해야 한다. 그들은 이런 분야에서 국가보다 저렴한 비용으로 좀더 확실한 서비스를 제공한다고 주장한다.
하지만 이 모든 것은 정치적으로 문제가 된다. 게다가 그들의 궁극적 야망은 돈을 조금 더 버는 것이 아니라 구가를 대신해 무언가를 만들거나, 혹은 국가에서 벗어난 세계를 꿈꾸는 것이다. 따라서 걱정하거나 감시해야 할 대상은 기계 자체가 아니라 기계의 합목적성과 게임의 규칙을 결정하는 대기업들이다. 우리는 인간을 신뢰할 수 있다. 왜냐하면 인간은 스스로 두려움을 느끼는 존재이기 때문이다.
이외에도 이 책은 미래 과학 예언자들과 그노시즘이 구사하는 논리, 시간관, 스토리텔링 등에서 매우 유사하다며 분석하고 있다. 빅히스토리의 역사상이나 미래상을 그대로 받아들이는 일의 위험성에 대한 경고로 충분히 일독할 만하다.

장가브리엘 가나시아Jean-Gabriel Ganascia
인공지능 전문가, 철학자, 인지과학자. 파리6대학 정보과학 교수. 지은 책으로 『인공지능: 지배적인 프로그램을 향하여』 『인간의 유산』 『인지과학』 등이 있다. 특히 그의 『정신을 가진 기계』는 이 분야의 선구적인 작품으로 꼽힌다.
1970년대부터 인공지능을 연구해온 그는 고전적 관점에서 출발하여 기계 학습을 연구했고, 철학자들의 다양한 윤리적 견해를 포괄하는 이론적 모델을 세우고 있다. ‘디지털 인문학’도 주 연구 분야다. 디지털 기술과 인공지능을 이용해 문학, 철학, 역사 분야의 결과물들을 새롭게 해석하고 있다.
저자는 또한 피에르 에 마리 퀴리 대학 정보학연구소에서 인지 모델, 머신 러닝 등 인공지능 연구팀 ACASA를 20년 넘게 이끌어왔다. 2016년부터는 프랑스 국립과학연구센터CNRS 윤리위원회 위원장도 맡고 있으며, 프랑스 국립연구기구ANR의 프로젝트 ‘윤리와 자립 에이전스EthicAA’에도 참가해 드론과 로봇을 이용한 자율형 병기의 개발 금지를 호소하고 있다. 이 프로젝트는 철학자, 논리학자, 인공지능 연구자들이 협력해 진행하는 것이다. 인공 에이전트의 능력을 제한함으로써, 오늘날 많은 논란을 야기하고 있는 인공지능이 윤리적·법적으로 문제없이 운용될 수 있음을 보증하는 게 목표다.

옮긴이 이두영
아주대 불문과를 졸업하고 프랑스 블레즈 파스칼 대학·클레르몽페랑 제2대학교대학원에서 불문학 석사학위를 받았다. 현재 전문번역가로 활동 중이다. 옮긴 책으로 『애프터 피케티』 『산 아래 작은 마을』 등이 있다.