★ “이 책을 읽지 않았다면 AI 주식에는 한 푼도 투자하지 말라!”

★《타임》 선정 ‘AI 분야 가장 영향력 있는 100인’ 컴퓨터과학자가 쓴 최초의 ‘AI 거품’ 감별 가이드

AI가 인류를 멸종시킨다? 틀렸다. 진짜 위험은 당신의 지갑을 노리는 '가짜 AI'다. 프린스턴대학교 컴퓨터과학자이자 AI 연구의 최전선에 있는 두 저자는 단언한다. “우리는 기술이 아니라 환상을 사고 있다.” 이 책은 챗GPT로 대표되는 ‘생성형 AI’의 과장된 마케팅을 걷어내고, 채용·의료·치안 등 우리 삶을 결정하는 ‘예측형 AI’가 어떻게 19세기 ‘뱀기름(Snake Oil)’ 사기극처럼 작동하는지 과학적으로 증명한다. 수조 달러가 오가는 AI 시장에서 ‘진짜 혁신’과 ‘가짜 기술’을 구분하는 가장 냉철하고 실용적인 기준을 제시하는 책.

[목 차]
  

머리말

제1장 들어가며

제2장 예측형 AI는 어떻게 망가지는가

제3장 AI는 왜 미래를 예측하지 못할까?

제4장 생성형 AI에 이르는 기나긴 여정

제5장 첨단 AI는 실존적 위협인가?

제6장 AI는 왜 소셜 미디어를 고칠 수 없을까?

제7장 AI에 대한 신화는 왜 집요하게 계속 이어질까?

제8장 여기서 우리는 어디로 가고 있을까?

꼬리말

감사의 글

주

[본 문]
  

‘차량’이라는 집합명사만 있을 뿐 다양한 종류의 교통수단을 지칭하는 말이 따로 없는 우주가 어딘가에 또 존재한다고 상상해보자. 거기 사는 사람들은 자동차를 가리킬 때도, 그밖에 이곳에서 저곳으로 이동할 때 사용하는 다른 모든 수단을 가리킬 때도 오로지 그 말 하나에만 의존한다. 대화는 혼란스러울 수밖에 없다. 논란의 한 축은 자전거이고 또 한 축은 트럭이라는 전제조차 제대로 인식하지 못한 채, 그저 차량이 친환경적인지 아닌지를 놓고 여기저기서 갑론을박이 뜨겁다. 이제 ‘차량’이라는 말을 ‘인공지능’으로 바꿔서 우리가 사는 세계를 좀더 자세히 들여다보자.

1장 | 들어가며

 

채용에 사용되는 AI는 삭막한 사례다. 미국에서는 고용주의 4분의 3이 자동화된 도구로 입사 지원자들을 걸러낸다. 이력서에 근거해 지원자를 걸러내는 도구도 있고, 영상 면접으로 지원자들을 시험하는 도구도 있다. 이런 도구들은 지원자를 추려내는 단계에서 첫 번째로 사용된다. 입사 시험에 떨어질 경우 그 사람의 이력서는 인간이 한 번 보지도 않은 채 버려진다. 하지만 그 과정은 불투명하다. 기업들은 채용 소프트웨어가 어떤 식으로 구축되는지 전혀 공유하지 않고, 그 때문에 지원자들은 자신이 어떤 기준에 따라 판단되는지 까맣게 모른 채로 있어야 한다.

2장 | 예측형 AI는 어떻게 망가지는가

 

예측에 따라다니는 기존의 한계는 몇몇 경우 데이터의 양과 질을 개선해 극복할 수 있지만, 내재적인 한계도 보인다. 문화 상품 중에서 무엇이 잘나갈지 예측하는 일처럼, 몇몇 경우 우리는 예측 가능성이 훨씬 더 나아지리라고 절대 기대하지 않는다. 개인의 삶을 예측하는 일은 어느 정도 향상할 수 있겠지만 급격한 변화는 기대할 수 없다. 안타깝게도 그렇다고 해서 기업들이 사람들에 관한 중요한 결정을 내리는 미래 예측 도구로 AI를 파는 것을 막지는 못한다. 따라서 예측형 AI 기술이 개선되기를 소극적으로 희망하기보다 오늘날 이미 널리 사용되는 뱀기름 AI에 저항하는 것이 중요하다.

3장 | AI는 왜 미래를 예측하지 못할까?

 

뉴욕의 한 변호사가 챗GPT의 도움을 받아 변론 취지서를 작성했다. 이 챗봇이 부정확한 정보를 생성할 수 있다는 면책 조항을 깜빡한 모양이다. 취지서는 판례로 있지도 않은 사건들만 온통 늘어놓았다. 변호사는 챗봇에 그 사건들이 진짜인지 물었고, 챗봇은 그렇다고 대답했다. 문제의 사건들이 가짜라는 사실을 인식할 능력도 없으면서 말이다. 심지어 전반적인 판결문까지 조작했다. 변호사는 챗봇의 대답에 의지해 작성한 서류를 제출했고, 아니나 다를까 담당 판사는 곤경에 빠졌다. AI를 사용한 엉터리 서류를 제출하고 나서 벌칙을 받는 변호사들의 모습은 흔히 보이는 광경으로 자리 잡았다.

4장 | 생성형 AI에 이르는 기나긴 여정

 

2023년 미래생명연구소(Future of Life Institute)는 전 세계 AI 실험실을 상대로 단 6개월 동안만이라도 GPT-4보다 강력한 AI 시스템의 훈련을 즉각 중단하라고 촉구하는 공개서한을 발표했다. 간단히 말해 AI 공동체의 많은 사람이 AGI는 당면한 실존적 위협으로 이를 막으려면 전 세계인의 과감한 행동이 필요하다고 말한다. 이게 사실이라면 이 책에서 다른 내용은 하나도 중요하지 않으며, 세상에서도 이 말고 중요한 사안은 없을 것이다. 앞으로 우리는 이러한 주장이 왜 모래 위에 세워진 성인지 밝힐 것이다. AGI가 절대 구축될 리 없다거나, 설사 구축되더라도 무엇 하나 걱정할 건 없다는 말이 아니다. AGI는 먼 미래에 충분히 실현 가능하며, 사회는 이미 그 위험을 차분하게 해결할 도구를 갖췄다.

5장 | 첨단 AI는 실존적 위협인가?

 

자살이 아주 흔하다 하더라도 자살 의사를 표현하는 게시물은 소셜미디어라는 바다에 비하면 물 몇 방울에 지나지 않는다. 우리의 추산으로는 자살 의사를 표현한 게시자들 가운데 실제로 실행하는 사람은 100만 분의 1에도 훨씬 못 미치는 것으로 집계된다. 다시 말해 임박한 위험을 감지하는 시스템의 거짓양성률(실제로는 ‘음성’으로 문제가 없는데도 검사 결과 ‘양성’으로 문제가 있다고 잘못 판단할 확률-옮긴이)이 100만 분의 1밖에 안 되더라도, 확인 결과 대부분이 거짓양성일 것이다(즉 시스템이 자살 위험성을 대체로 올바르게 판단하더라도, 실제로 자살하는 사람은 적을 것이다). 따라서 앞서 살펴본 부정적인 결과에 직면하는 사람들의 수가 성공적인 개입의 혜택을 받는 사람들보다 훨씬 더 많을 가능성이 높다.

안타깝지만 당연하게도 페이스북은 시스템이 얼마나 잘 작동하는지에 대해 여전히 묵묵부답이다. 복지 점검의 몇 퍼센트가 실제로 심각한 임박 위험 사례였을까? 개입이 너무 늦은 경우는 몇 번이나 있었을까? 분류기가 감지하지 못한 자살은 몇 건이나 있었을까? 시스템에서 지정학적·언어적·인종적 격차 외에 다른 종류의 격차는?

6장 | AI는 왜 소셜미디어를 고칠 수 없을까?

 

예를 들어 오픈AI는 “챗GPT-4는 전문적이고 학문적인 시험들 대부분에서 인간 수준의 성적을 낸다”고 주장했는데, 과연 챗GPT-4는 변호사 시험에서 상위 10퍼센트에 드는 점수를 기록했다.43 많은 사람이 이를 AI가 곧 변호사를 대신할 만큼 성능이 좋아질 거라는 신호로 받아들였다. 하지만 변호사의 일이 하루 종일 변호사 시험 문항에 답하는 것은 아니다. 실제 유용성은 벤치마크에서 거두는 좋은 성과와 다르다. 더욱이 전문직 시험, 그중에서도 특히 변호사 시험은 지식 암기 능력을 말이 안 될 정도로 강조하고 표준화된 시험으로는 측정이 훨씬 더 어려운 실무 능력은 과소평가하는 경향이 있다. 따라서 이런 시험은 AI의 실제 유용성을 제대로 파악하지 못할 뿐만 아니라 게 정확히 AI가 잘하는 것만 강조한다.

7장 | AI에 대한 신화는 왜 집요하게 계속 이어질까?

 

오늘날 기업들은 규제를 피하려고 광고에 수천만 달러씩 퍼붓는다. 빅테크 기업들이 경쟁사 제품보다 자사 제품을 우대하지 못하도록 막는 반독점법이 발의되자 이들 기업으로부터 자금 지원을 받는 옹호 단체들이 법안 반대 광고에 3600만 달러를 쏟아부었다. 이들 기업으로부터 자금을 지원받지 않은 법안 지지자들은 규제 찬성 광고에 20만 달러를 썼다. 전자에 비하면 이는 거의 200배가 적은 액수였다. 대기업들은 중소기업이 규제에 반대하는 것처럼 보이도록 하기 위해서도 옹호 단체에 자금을 지원해왔다. 예를 들어 페이스북의 지원을 받은 아메리칸엣지Ameircan Edge라는 단체는 전국 소상공인들의 입을 빌려 규제에 반대하는 목소리를 내고, 미국 기업이 중국에 밀릴지 모른다는 두려움을 부추기는 광고를 내보냈다.

8장 | 여기서 우리는 어디로 가고 있을까?

네이처

철저한 연구를 바탕으로 쓰인, 이 논쟁적인 주제에 관한 최고의 저작.

 

뉴요커

AI에 대한 비판적이고 실용적인 접근.

 

와이어드

AI의 핵심 개념을 더 잘 이해하게 해준다.

 

아메리칸 스펙테이터

복잡한 기술을 단순하고 흥미롭게 설명한다.

 

커커스 리뷰

AI 생산자와 사용자 모두에게 매우 유용한 조언을 다수 건넨다.

 

사이언스 뉴스

AI가 우리 삶에 얼마나 깊이 스며들었는지 상기시키며, 이 기술과 주의 깊게 상호작용해야 한다는 주장을 설득력 있게 펼친다.

 

퍼블릭 북스

AI의 가능성과 한계를 명확히 구분하는 법을 알려주며, 쏟아지는 과대광고가 둘 사이의 경계를 어떻게 무너뜨리는지 보여준다.

 

인사이드 하이어 에드

어려운 기술 지식을 효과적으로 전달한다.

 

퍼블리셔스 위클리

AI가 지닌 결함을 철저하게 살핀다.

 

언더스탠딩 AI

범죄 형량 결정부터 소셜미디어 관리까지 다양한 환경에서 AI의 역량을 다루며, AI 비관론자들의 주장을 정면으로 반박한다.

 

프랙티컬 이커머스

AI에 관심을 갖고 이를 어떻게 구현할지 고민하는 사람들에게 제공하는 명확하고 냉철한 사고.

 

인라이튼드 이코노미스트

과장된 주장에 매혹되거나 두려움에 빠진 사람들에게 효과적인 지식과 상식의 해독제.

 

파이낸셜 월드

AI에 대한 오해를 해소하는 훌륭한 사례가 가득하다.

 

초이스

중요하고 시의적절한 책.

 

케이트 크로퍼드 (마이크로소프트 연구소 선임 수석 연구원, 『AI 지도책』 저자)

현재 주기적으로 나오는 AI 과대광고 흐름에서 최악의 위험 요소를 이해하도록 돕는다.

 

알론드라 넬슨 (프린스턴 고등연구소 석좌 교수)

빠른 해결책과 즉각적인 이익에 대한 욕망이 부채질하는 AI 신화를 날카롭게 폭로한다.

 

멜라니 미첼 (컴퓨터과학자, 산타페연구소 교수)

AI의 잠재적 가능성과 위험성을 궁금해하는 모든 사람들의 필독서.

 

줄리아 앵윈 (탐사보도 전문 기자)

AI 관련 서적을 단 한 권만 읽는다면 단연 이 책이다.