[목 차]
  

이 책에 보내는 찬사

옮긴이 서문

들어가며

 

제1장 소멸되지 않기 _ 인간의 가치와 효율적 구원

제2장 사랑과 은총의 기계들 _ 특이점과 가속의 사부곡

제3장 종이 집게 골렘 _ AGI와 착시현상

제4장 우주의 끝에 있는 윤리학자 _ 영생과 행복의 계산식

제5장 걷잡을 수 없는 혼란의 우주 유토피아 _ 전지전능한 우주적 존재들

제6장 전대미답의 장소 _ 희미한 푸른 점과 인류의 미래

 

감사의 말

옮긴이 후기

인터뷰이 및 인터뷰 요청자

사용허가 및 도판 저작권

주

[본 문]
  

올트먼의 권력 환상과 유드코스키의 악몽은 기술업계에서 제일 부유하고 영향력 큰 사람들이 공통적으로 갖고 있는 미래에 대한 큰 그림의 조각들이다. 그 미래란 과학소설(science fiction, SF)에서 바로 끄집어낸 모습이다. 사람 정신을 컴퓨터에 이식한 다음 호의적인 ‘AI 신’이 보우하는 실리콘 천국에서 영생하고, 끝없이 팽창하는 우주 제국이 행성들을 해체하며 은하를 삼켜버리고, 상상할 수 없는 첨단 기술로 모든 욕구가 충족되어 어떠한 공포도 사라진 미래.

_〈들어가며〉 中

 

 

기술을 통한 구원은 가능하지도 않은 미래를 위해서라는 명목으로 사회를 위험한 방향으로 끌고 가기 위한 핑계로 쓰이고 있다. 이러한 착각에서 벗어난다는 것은 그들의 실체를 이해한다는 것이다. 기술 엘리트들은 초월과 탈출을 꿈꾸지만, 그들은 우리와 함께 탈출할 생각이 없기에 우리에겐 악몽만이 서서히 조여들고 있을 뿐이다. 꿈에서 깨기 위해 우리는 그것의 허상을 똑바로 봐야 한다. 제일 좋은 시작점은 항구적 성장 이념의 제일 순수한 표상이자, 완벽하며 멈출 수도, 피할 수도 없다는 기술 유토피아라는 공상적 비전, 바로 ‘특이점’이다.

_〈제1장_소멸되지 않기〉 中

 

 

아버지를 부활시키겠다는 커즈와일의 시도는 가슴 저미는 망상처럼 느껴진다. 하지만 그것은 또한 아주 엄격한 시간표를 따라 커져가는 기술의 힘에 대한 그의 자신 있는 태도에다가 기술, 특히 컴퓨터 기술은 많으면 많을수록 좋다는 극도의 낙관주의가 얽혀 있음을 보여주는 단적인 예이다. (…) “특이점으로부터 나오는 지능체들은 자신의 생물학적 조상에 대해 큰 존경심을 가질 것이다”라고 말한다. 돌아가신 아버지에 대한 존경심과 사랑이 비치는 말이다.

_〈제2장_사랑과 은총의 기계들〉 中

 

 

지금까지 구글, 마이크로소프트, 오픈AI 등은 LLM을 훈련하는 데 쓰는 데이터에 단단하게 박혀 있는 편향성이 알고리즘을 그대로 타고 들어가는 일이 계속되고 있음에도 고칠 생각은 없이 맹렬한 속력으로 LLM과 기계학습 시스템 개발에만 힘써오고 있다. 물론 원리상 챗GPT에게 혐오 발언을 못 하도록 완벽하게 막을 순 없으며, 다른 기계학습 시스템들도 편향된 입력을 받으면 편향된 결과를 낼 수밖에 없다. 그러나 문제는 이 기술들이 편향성을 갖고 있다는 사실이 인지되지 않고 사용됨으로써 기존 권력 구조는 공고화되고 불평등은 더 심해진다는 점이다.

_〈제3장_종이 집게 골렘〉 中

 

 

산드베리, 암스트롱, 보스트롬이 자기복제 탐사기와 다이슨 구를 써서 자연 세계를 인공 세계로 바꾸려는 계획은 그들의 윤리관으로부터 나온 것이다. 그들의 윤리관이 잘못된 것임에도 불구하고 만약에 그들이 수없이 많은 기술적 난관을 극복해서 계획을 성사시킨다면 우주는 그들의 윤리관으로 장악되어 매캐스킬의 주장과는 다른 윤리관은 설 자리를 잃게 된다. 장기론자들은 지금 자신들의 윤리관이 옳다는데 우주의 운명을 내기하려는 건데, 우주 파괴는 성공하고 자신들의 윤리관은 틀린 것으로 밝혀졌다면 아무런 소득도 없이 애꿎은 우주만 파괴시킨 꼴이 될 것이다.

_〈제4장_우주의 끝에 있는 윤리학자〉 中

 

 

앤드리슨은 시장, 기업, 그리고 자본의 힘을 제약하는 모든 것에 반대한다. 어떤 제약도 없는 자본주의에서 신기술을 개발하는 것이 ‘인류애 그 자체’이기 때문에 최대한 빨리 더 많은 기술을 개발하는 것이 중요하다고 주장한다. 앤드리슨도 커즈와일, 유드코스키처럼 혁신의 방향을 잡기 위해 고민하거나 특정한 기술 발전을 증진하고 장려해야 한다는 말은 전혀 하지 않으며, 애초에 실리콘밸리를 오늘날처럼 강력한 기업 집단으로 만들어 준 정부의 투자 같은 것에도 관심이 없는 눈치이다. 그 대신 그저 빨리 가고 싶어 할 뿐이다.

_〈제5장_걷잡을 수 없는 혼란의 우주 유토피아〉 中

 

 

내가 아는 것이란 기술을 통한 구원의 미래란 생기 없는 불가능성의 향연이기에, 만에 하나라도 실현된다면 잔인하게 모든 것을 파괴해 버릴 것이라는 사실이다. 우주는 거대한 자원의 저장고 그 이상이며, 인간 또한 그걸 다 빨아먹는 존재 이상이다. 하지만 상세한 대안의 미래를 제시하는 것은 내가 할 수 있는 일이 아니다. 대신 내가 할 수 있는 것은, 누군가가 ‘단 하나의 필연적인 미래’와 ‘인류를 위한 단 하나의 최선의 길을 안다’고 주장할 때 깊은 의심을 품어야 한다고 말해 주는 것이다. 내가 상세한 미래의 모습을 그려내지 않는 것은, 누구도 하지 못하는 일이라고 믿기 때문이다.

_〈제6장_전대미답의 장소〉 中

 

 

그들의 꿈이 무엇인지 알게 되었다. 태양계 행성을 나노 탐사기로 분쇄하여 모은 에너지로 다른 태양계에 날아가 기계 식민지를 건설하고, 인간이 기계와 결합된 다음 마지막엔 생물로서의 흔적마저 완전히 지워져 버린 실리콘 인간이 온기 없는 행성 간 공간을 영원히 떠다니게 하겠다는 우주 제국 건설의 꿈. 그들은 자연은 소멸되고 우리가 꿈꾸는 행복, 사랑, 성취는 사라진 그들의 유토피아를 실현해 줄 마지막 퍼즐 조각이라며 근거도 희박하고 실체도 모를 ‘AGI’라는 최신 유행어를 너희들에게 우상으로 내리겠으니 묻지 말고 섬기라는 기술을 통한 구원의 교리를 소리 높여 외친다. 과학자인 저자는 그에 대해 우리가 진실을 직시하고 행동하지 않는다면 그들에게 이용당하다가 버림받은 우리에게 남는 것은 우주 속에서 푸르게 빛나던 생명력을 잃어버린 희미한 작은 점 하나일 뿐이라고 경고한다.

_〈옮긴이 후기〉 中

멜라니 미첼 (컴퓨터 과학자, 『생각하는 인간을 위한 인공지능 안내서(Artificial Intelligence: A Guide for Thinking Humans)』 저자)

거침없이 몰아치는 서사를 통해, 애덤 베커는 인류의 미래를 ‘최적화’하겠다는 억만장자, 미래학자, 공리주의 철학자 들의 환상에 통쾌한 현실 점검을 가한다. 우리 시대 가장 강력하고 영향력 있는 기술관료(technocrat)들이 퍼뜨리는 극단적 기술 만능주의에 대한 매혹적인 폭로서.

 

아르빈드 나라야난(Arvind Narayanan) (컴퓨터 과학자, 『AI 버블이 온다(AI Snake Oil)』 공저자)

이 책은 기술 억만장자, 괴짜 철학자, 과장이 심한 미래파 들이 형성하는, 뜻밖이지만 지극히 현실적인 연결고리에 관한 몰입감 넘치는 책이다. 애덤 베커는 탁월한 이야기 솜씨와 명쾌한 해설을 결합하여, 기술의 미래에, 그리고 더 중요하게는 인류의 미래에 무엇이 걸려 있는지를 펼쳐 보인다.

 

에럴 모리스(Errol Morris) (다큐멘터리 영화감독, 『재떨이(The Ashtray)』 저자)

이 책이 정말 좋다. 우리는 거대한 변곡점 위에 올라타 있다. 우리가 알고 있다고 생각하는 세계가 빠르게 사라지며 무언가로 대체되고 있는데 그것이 정확히 무엇인지는 아무도 모른다. 예전에는 그것이 2+2=5가 되는, 불온하지만 우리가 이해할 수 있는 오웰적 미래였다. 그러나 그 혼돈의 와중에도 모두가 기계의 디스토피아에 복종하는 상상을 하지는 않았다. 애덤 베커가 전하듯, 우리는 첨단 기술이라는 망령 앞에, 질주하는 과두 체제 앞에 무릎을 꿇게 될 것이다. 남은 질문은 하나뿐이다. 그것이 첨단 기기들의 과두제일까, 아니면 단지 최신 아이폰으로 무장한 탐욕스럽고 이기적이며 망상에 빠진 억만장자들의 과두제일까? 애덤 베커는 우리 시대 제일가는 파국의 예언자이다.

 

코리 닥터로(Cory Doctorow) (『리틀 브라더(Little Brother)』, 『레드 팀 블루스(Red Team Blues)』 저자)

우리 세계는 디스토피아 SF를 경고가 아니라 제안으로 착각하는 억만장자들의 손아귀에 떨어졌다. 디스토피아 SF 작가의 자격으로 말하건대, 이 상황은 단순히 어리석은 데 그치지 않는다. 매우, 정말, 나쁜 일이 벌어질 수도 있다.

 

크리스티 애슈완든(Christie Aschwanden) (『굿 투 고(Good to Go)』 저자)

애덤 베커의 이 책은 실리콘밸리에 만연한 유독한 기술 낙관주의를 해체하고, 사회가 직면한 가장 시급한 문제들이 왜 기술만으로는 해결될 수 없는지를 밝힌다. 오늘날의 기술 억만장자들이 내세우는 미래 비전이 사이비 과학과 황당한 공상 위에 인종주의, 우생학, 식민지주의를 버무려 세워졌음을 이해하기 위한 필독서이다. 애덤 베커는 실현 여부조차 불확실한 가공의 미래 문제에 몰두하는 행위가 기술 낙관주의자들에게 지구 온난화와 소득 불평등처럼 지금 여기서 인류를 위협하는 절박한 현실 문제를 외면할 면죄부를 준다고 주장한다. 일론 머스크와 제프 베조스 같은 억만장자들이 정치 권력까지 다투는 시대에, 이 책은 특히 긴박하고 시의적절하다.

 

킴 스탠리 로빈슨(Kim Stanley Robinson) (『미래부(The Ministry for the Future)』 저자)

이 책은 중요한 책인 동시에 좋은 책이다. 미래가 어떤 모습일 수 있는지, 그리고 지금 우리가 무엇을 추구해야 하는지에 대한 논의에 진정으로 의미 있는 기여를 한다. 미래에 관한 일부 유행하는 아이디어들은 현재 우리의 현실을 왜곡할 만큼 어리석으며, 마땅히 그 민낯이 드러나야 한다. 베커의 책은 벌거벗은 임금님의 실체를 폭로하면서도 매우 재미있게 읽힌다.

 

《네이처(Nature)》

인공지능의 힘에 대한 무한한 신뢰를 옹호하고, 또 그로부터 이익을 거둬 온 미래주의자 집단이 내세우는 아이디어에 대한 설득력 있는 탐사. 이런 기술 주도 비전에 맞서는 일이 필수적인 이유는, 그것이 이미 사회의 통치 방식에 영향을 미치기 시작했기 때문이다.

 

《뉴사이언티스트(New Scientist)》

불온하다……. 『기술이 인류를 구원한다는 착각』은 독자의 뒤통수를 치면서도 도저히 손을 뗄 수 없게 만드는 중요한 책이다.

 

《뉴요커(The New Yorker)》 'Goings On' 뉴스레터

서슬 퍼런 대중 과학서…… 이 억만장자들의 주장이 얼마나 허황되고, 어리석고, 혹은 기만적인지를 여실히 드러내며, 과대 선전에 대한 강력한 해독제가 되어 주는 책.

 

《뉴욕타임스(The New York Times)》

영리하고, 놀라울 만큼 잘 읽힌다…… 베커가 다루는 테크 인물들에 대한 날카로운 비판 속에는 연민을 향한 단호한 호소가 담겨 있다. 저 먼 은하에 매달리지 말고, 우리 발밑의 연약한 행성과 그 위에 사는 연약한 인간들에게 더 많은 관심을 기울이라는 것이다.

 

《뉴질랜드 헤럴드(New Zealand Herald)》

중독성 있고 빼어난 저작. 이 주제가 마땅히 받아야 할 신랄한 경멸을 유감없이 쏟아붓는다. 흡사 〈라스베가스의 공포와 혐오〉의 실리콘밸리 판이다.

 

《애틀랜틱(The Atlantic)》

또렷한 눈으로 인간을 바라보자는 호소……. 억만장자들의 우주 경쟁과 AI 과대 선전이 헤드라인을 지배하는 시대에, 『기술이 인류를 구원한다는 착각』은 절실히 필요한 현실 점검으로서 독자들에게 와닿는다.

 

《로페어(Lawfare)》

훌륭하고 활기차다……. AI 기술이 실제로 어떻게 작동하는지를 다루는 책은 많지만, 그것이 ‘신화로서’ 어떻게 작동하는지를 설명하는 책은 거의 없다. 수많은 AI 지도자들이 왜 자신의 기술이 죽음의 상처를 치유하고, 거의 무한한 풍요를 가져다주며, 우리를 은하계로 이끌어줄 것이라 믿는지 이해하고 싶다면, 바로 이 책을 읽어야 한다.

 

《롤링 스톤(Rolling Stone)》

베커는 실리콘밸리의 이데올로기에 꼭 필요한 비판적 검토를 가하며, 수많은 기술 억만장자들이 복음처럼 떠받드는 허무맹랑한 아이디어에 구멍을 뚫고, 나아가 통쾌하게 조롱한다. 그는 현실을 옹호하는 동시에, 기술 억만장자들이 결코 도래할 수 없는 미래를 향해 우리를 밀어붙이고 있다는 위험을 백일하에 드러낸다.

 

《리액터 매거진(Reactor Magazine)》

기술 억만장자들은 잘못 해석된 공상과학, 잘못 이해된 인지심리학, 죽음에 대한 공포, 그리고 천문학적인 돈을 벌면서도 도덕적 정당성을 확보하고 싶은 욕구를 토대로 일종의 종교를 만들어냈다. 베커는 이러한 목표 이면의 부정확한 과학적·수학적·도덕적 신념을 해부하는 데 탁월하다.

 

《보스턴 글로브(The Boston Globe)》

오늘날의 예언자들에 대한 냉철한 평가.

 

《사이언스(Science)》

세계를 좌우하는 기술 억만장자들의 권력을 줄이라는 긴급한 호소. 베커는 시의적절하고 사실에 기반한 경종을 울린다. 그의 거침없는 비판은 그들의 권력을 허무는 데 근본적으로 기여한다.

 

《사이언스 뉴스(Science News)》

깊이 있는 취재와 몰입감 넘치는 서사.

 

《사이언티픽 아메리칸(Scientific American)》

매혹적이면서도 분노를 자아낸다. 이 책은 세계에서 가장 강력한 권력자들이 어떤 식으로 사고하는지를 드러내는 동시에, 거기에 어떻게 맞서 싸울 수 있는지도 보여준다.

 

《시드니 모닝 헤럴드(The Sydney Morning Herald)》

훌륭하다. 온갖 환상적 미래주의 학파의 꿈과 악몽을 안내하는, 매혹적이고 소름 끼치며 때로는 유쾌하기까지 한 여정…. 경탄할 만한 책이다.

 

《언다크(Undark)》

베커의 냉철한 책은 우리 세계를 맹렬한 속도로 바꾸고 있는 기술에 대해, 특히 그 기술을 쥐고 있는 사람들에 대해 반가운 대안적 시각을 제공한다. 이 책은 우리가 정말로 원하는 미래가 어떤 것인지 좀 더 깊이 생각하게 만든다.

 

《워스 매거진(Worth Magazine)》

『기술이 인류를 구원한다는 착각』에서 애덤 베커는 기술 엘리트의 원대한 야심, 그러니까 AI에 대한 메시아적 신앙, 우주를 향한 제국주의적 열망, 아직 태어나지 않은 인류 수조 명을 위한다는 도덕적 허울 따위를 토끼가 절대 나타나지 않는 큰 판돈의 마술 쇼를 지켜보는 듯한 눈으로 조감한다. 이 책의 핵심에 깔린 조용한 파괴력은 바로 이것이다. 이 거창한 테크노 유토피아적 비전이 미래를 민주화하기는커녕 미래에 대한 통제를 공고히 한다는 깨달음.

 

《커커스 리뷰(Kirkus Reviews)》

시의적절하고 사려 깊다……. 천체물리학자이자 과학 저널리스트인 베커는 온갖 추측성 기술을 과감하게 탐험하며 실제 과학의 잣대로 그 실현 가능성을 따진다… 실리콘밸리의 가장 대담한 주장에 대한 중요하고 냉철한 탐사. [2025년 커커스 올해의 책 선정]

 

《퍼블리셔스 위클리(Publishers Weekly)》

베커의 날카로운 비평은 테크 억만장자들의 끝없는 부의 축적을 떠받치는 자기합리화의 서사를 폭로한다. 실리콘밸리 세력에 대한 통렬한 비판서.