★장강명 작가, 전치형 교수 강력 추천★

★〈르뷔데되몽드〉 올해의 책 최종 후보★

★‘세계에서 가장 영향력 있는 기술사상가 10인’ 선정★

 

디지털 기술이 인간에게 미치는 영향을 철학적으로 분석한 비평서이다. 현대 프랑스를 대표하는 철학자이자 작가인 에릭 사댕의 화제작으로, 출간 직후 프랑스 주요 매체에서 집중 조명받았으며 국내 최초로 소개된다. 장강명 작가는 이 책을 읽는 동안 몇 번 머리 위에서 벼락이 치는 것 같았다고 표현할 만큼 강력한 메시지를 담고 있다.

저자는 스마트폰과 생성형 인공지능 등 현대 기술을 ‘유령’으로 규정하며, 이를 단순한 사회 현상이 아닌 문명적 전환으로 본다. 디지털 기술의 발전은 편리를 제공하지만 동시에 인간의 신체와 삶의 방식 자체를 재편한다. 노동, 교육, 의료, 쇼핑, 여가, 그리고 상호작용은 스크린 뒤편에서 이루어지기 때문이다. 교육 현장의 디지털화 역시 창의성과 사유 능력을 저해할 수 있는 문제로 대두된다. 이러한 스크린 중심의 환경은 인간을 고정된 신체로 만들고 관계와 경험의 틀을 바꿔버린다. 이 과정에서 인간 고유의 주체성이 상실될 수밖에 없으며, 존엄성과 창의성 역시 설 자리를 잃는다. 다가올 세상에 대한 근본적 사유를 던지는 책이다.

[목 차]

서론. 도래하는 현재

 

I. 프랙털 삼위일체: 테크놀로지/신체/사회

1. 신체의 기술·경제적 배치

2. 스크린의 질서

3. 고정된 신체의 자본주의

 

II. 현실의 재가공

1. 감시받는 세계

2. 초개인화된 삶

3. 생성형 인공지능의 전환점

 

 

III. 또 다른 유령

1. 관계의 새로운 경제

2. 원격 관계의 보편화

3. 타자의 증발

 

IV. 탈주체화 과정

1. 자기다움의 피로

2. 인류의 ‘식물인간화’

3. 사기적 담론들

 

지평(들). 진실의 시간

주 

[본 문]

2021년 10월 28일, 페이스북 창립자이자 최고경영자인 마크 저커버그는 사전 녹화한 영상을 통해 회사의 전략적 방향 전환을 발표한다. 회사 이름은 ‘메타Meta’(고대 그리스어로 ‘저 너머’라는 뜻)로 바뀌었다. 저커버그는 일상생활에서 원격으로 수행될 수 있는 활동의 범위를 끊임없이 확장하는 기술 환경을 구축하여 인간 삶의 새로운 시퀀스를 열고자 한다. … 이제 그의 궁극적 목표는 삶의 거의 모든 영역에서 프로세서와 픽셀만을 통해 행동할 수 있게 되는 것이다.(13-14쪽)

 

우리는 중요한 갈림길에 서 있다. 먼저 데이터, 네트워크, 인공지능 산업이 계속해서 정교해지고 영향력을 강화하면서 사회, 타인, 현실과 맺는 관계, 주관을 구성하는 도식이 무한히 변화하도록 일조하는 길이 있다. … 다른 한 갈래는, 수많은 요인으로 기어이 발생하고야 말 것처럼 보이는 그 어떤 상황도 필연적인 것으로 간주하지 않는 길이다. 이는 무엇보다 근본적이고 불가침하다고 여겨지는 가치를 지키려는 우리의 완강한 의지 때문이다.(38-39쪽)

 

서비스 경제가 지배적이던 약 반세기 전, 많은 사람들은 사무실에서 온종일 모니터 앞에 붙어 있었지만, 이 현상은 전혀 다른 국면을 맞이했다. 몇십 년 뒤 그들은 이번에는 스마트폰 액정을 손에 쥐고 시선을 고정한 채 끊임없이 움직이게 되었다. 2010년대 무렵부터는 멈춰서 화면을 보는 상태와 움직이면서 화면을 보는 상태가 번갈아 나타나는 것이 아니라, 스마트폰이라는 장치 안에서 하나로 겹쳐진 것처럼 느껴진다. 오늘날 우리는 스마트폰을 넘어 스크린을 보며 대부분의 시간을 보낸다.(68-69쪽)

 

우리가 직면한 것은 쇼샤나 주보프가 주장한 소위 ‘감시 자본주의’가 아니다. 이는 매우 구시대적인 관점의 오류일 뿐이다. 오히려 갈수록 더 실시간화되는 일상의 흐름에 대한 자동 모니터링에 직면했다고 봐야 한다. 픽셀화된 몰입, 훨씬 더 전지적인 시스템, 생성형 인공지능을 보면 오늘날의 쟁점은 더 이상 현실 세계와 최대한 조율하는 데 있지 않고, 오히려 현실을 일종의 반죽처럼 주무르고 현실에 여러 궤적을 도입해 현실 위에 또 다른 현실을 포개고야 마는 데 있음을 보여준다. 이러한 종류의 현실은 우리와 더 이상 부딪히지 않으며 오히려 우리를 홀리는 마법처럼 인간의 의도와 욕망에 맞춰준다.(86쪽)

 

거의 감지할 수 없지만 ‘유령으로 가득한 픽셀 철창’이 형성되고 있다. 이는 막스 베버가 말한 ‘철창’에 빗댄 표현이다. 베버는 산업화와 자본주의화를 거친 사회에 내재된 극도의 합리화 과정을 철창에 비유하면서, 대다수가 냉혹한 철창에 갇혀 있다고 말했다. … 우리를 끊임없이 조이고, 낯선 질서에 종속시키는 현시대의 철창은 굴욕적인 타율성에서 비롯되었지만 전혀 억압적으로 보이지 않는다. 매혹적인 장신구로 치장한 채 일종의 마성을 뿜어내고 인체공학적 편리함을 제공하며 거의 모든 요청을 들어주는 ‘황금’ 철창인 것이다.(101쪽)

 

삶의 디지털화가 심화되면서 타인의 육체로부터, 즉 있는 그대로의 타인으로부터의 거리두기가 은밀히 자리 잡았다. 이는 타인이 우리에게 베풀 수 있는 물리적이고 정서적인 온기에서 그만큼 거리를 두는 일이기도 하다. … 시간이 갈수록 육체적 존재보다는 스크린에 나타나는 말이나 이미지가 우선 인식된다. 이로써 우리는 유령과도 같은 삶의 체제를 시각이 지배하고 있다는 사실을 다시 한번 확인한다. 그 결과 타인과의 관계에서 자기 자신은 보이고 읽히는 존재가 된다.(124-125쪽)

 

접속의 시대는 사람들을 하나의 ‘지구촌’으로 연결하고 ‘정보와 지식의 고속도로’를 열어줄 것 같았다. 그러나 20년이 지난 지금, 그 접속의 시대는 가까운 곳의 가치가 떨어지는 시대로, 훨씬 더 은밀하게는 우리 스스로의 가치가 떨어지는 시대로 변하고 말았다. 유령의 삶 속에서 인간의 정신은 자신이 모든 것을 통제할 수 있다고 착각하지만 실제로는 자신의 성향, 게으름, 신경증 그리고 셀 수 없이 많은 외부의 힘에 장난감처럼 휘둘릴 따름인 것이다.(148쪽)

 

우리가 마주한 것은 단순히 사회적 사실이 아니라 문명적 현상이다. 다시 말해, 타인 및 현실과 맺는 관계를 언제나 우리에게 유리한 방식으로 재정의하는 세계에 우리가 흡수된 것이다.(150쪽)

 

어느 때보다 우리에게 필요한 것은 현재의 흐름과는 완전히 반대 방향에 존재한다. 자기 표현을 위해 SNS 플랫폼에 끊임없이 포스팅을 올리는 것처럼 일방향적이고 단정적인 언어 체제는 필요하지 않다. 우리에게는 전적으로 자유롭고 다원적인 정치 공동체에서 각자 자기 이름을 걸고 고유한 목소리를 내는 일이 필요하다.(153쪽)

 

어떤 경우에도 인공지능의 편향성을 교정하는 것이 쟁점이 되어서는 안 된다. 그 대신 철저한 경각심을 품고 이 순응주의에 단호히 반대하여 인간상 자체가 편향되지 않도록 해야 한다. 즉, 인간을 결함 있는 대상 또는 단점투성이로 취급하고, 이를 보완하려면 인공물이 필요하며 결국 인공물에 인간의 속성을 모두 일임해야 한다는 그 편향된 믿음에 저항해야 하는 것이다.(178쪽)

 

위대한 폭로의 시간이 도래했다. 산업혁명에서 오늘날에 이르기까지 하나의 목표를 실현하기 위해 쉬지 않고 달려온 도구적 합리성과 그 역사의 본질을 백일하에 밝히는 시간이다.(185쪽)

 

그렇다. 우리의 가장 크고 영예로운 의무는 이 생성형 인공지능, 즉 우리의 고유한 목소리를 없애고 각자 자유롭게 길을 선택하지 못하도록 하는 인공지능을 당장 금지하는 것뿐이다. 따라서 각국의 국가 원수만이 아니라, 국가 및 국제 공공기관, 시민사회 전체는 신체와 정신 표현을 말살시키는 도구의 사용을 금지하도록 하는 내용의, 전 세계적 구속력을 지닌 규제안을 작성해야 한다.(190쪽)

우리가 알고리즘에 명령을 내리고 있는 걸까, 알고리즘의 명령을 수행하고 있는 걸까. 우리는 진짜 사람들을 만나고 있는 걸까, 아니면 스크린과 관계를 맺고 있는 걸까. 상상계는 삶을 잠식하기 시작했고, 현실은 점점 더 초현실이 되어간다. 이 책을 읽는 동안 몇 번 머리 위에서 벼락이 치는 것 같은 기분이 들었다. 그 번갯불은 때로는 우아하게, 때로는 섬뜩하게 우리가 길을 잃고 깊숙이 들어온 유령의 숲이 얼마나 기괴하고 앙상한 장소인지 보여줬다. 우리가 맞닥뜨린 위기가 단순히 ‘스크린 중독’ 따위가 아니라, 현실계의 거대한 변질임을 감지하는 분들이라면 이 벼락을 함께 맞아보시기를.

-장강명 작가, 《먼저 온 미래》 저자

 

스마트폰, 생성형 인공지능, 그리고 이를 연결하고 떠받치는 것들을 에릭 사댕은 유령이라 부른다. 유령은 우리 곁에서 정답게 속삭이고 우리를 매혹적인 길로 인도한다. 유령에게 정신과 몸을 맡긴 채 우리는 생각하기를, 행동하기를, 창조하기를 멈춘다. 모두가 그 유령의 발끝이라도 잡으려 황급히 따라나서는 지금, 사댕은 유령의 속삭임을 끊어내고 유령에 맞서야 한다고 외친다. 우리에겐 지켜내야 할 것들이 있다는 것이다. 그의 용기 있는 외침에 깜짝 놀라 나는 비로소 내 곁의 유령을 째려본다

-전치형 교수, 《로봇의 자리》 저자