“AI 시대에 우리는 무엇을, 어떻게 판단해야 하는가?”

AI를 활용하고 있지만, AI를 모르는 당신에게,

AI의 작동 원리를 제대로 알고 책임감 있게 비즈니스에 적용하는 방법을 알려주는 책!

생성형 AI의 등장은 기술의 대중화를 앞당겼다. 챗GPT, 클로드, 제미나이 등은 이제 전문가의 전유물이 아닌, 누구나 활용하는 일상 기술이 됐다. 그러나 기술의 확산 속도만큼 불안도 커지고 있다. 특히 직장인들은 실직 위협과 AI의 오류 가능성, 산업 구조의 재편에 대한 현실적인 걱정을 안고 있다.

『두 얼굴의 신기술: AI 딜레마』는 이러한 시대적 불안을 정면에서 다룬다. 이 책은 단순한 기술 설명서나 과장된 미래 예측서가 아니다. AI의 구조적 한계, 윤리적 위험, 사회적 영향력을 과학적이고 철학적으로 분석하며, 무엇보다 중요한 질문-AI를 어디에, 어떻게 써야 하는가-에 명확한 기준을 제시한다.

저자들이 제안하는 ‘AI 위험 관리 프레임워크’는 정밀도, 환경, 설명 가능성이라는 세 가지 기준을 중심으로, AI를 적용해도 되는 분야와 적용해서는 안 되는 분야를 구분할 수 있도록 돕는다. 광고, 번역처럼 오류 허용 범위가 넓은 분야와 달리, 신용평가, 의료 진단, 범죄 수사 등은 작은 오류도 심각한 결과를 초래할 수 있다. 이 책은 그런 위험 요소를 실제 사례와 함께 설명하고, 적절한 대응 전략과 윤리적 판단 기준을 함께 제시한다.

기술에 대한 맹신이나 공포가 아닌, 비판적 시각과 실질적 기준을 원하는 독자에게 꼭 필요한 책이다.

[목 차]

지은이 소개

감사의 말

옮긴이 소개

옮긴이의 말

추천 서문

들어가며

서론

1부 인공지능의 기초

1장. 인공지능은 인간 지능이 아니다

2장. AI는 어떻게 패턴에 맞추는가

3장. AI는 어떻게 경사 하강법을 사용하는가

4장. 경계 사례, 압축, 그리고 연관 지능의 한계

5장. 정밀도, 입력 제어, 그리고 의사 결정의 논거

6장. AI 응용 프로그램의 위험 평가

2부 기회, 위험, 대응책, 그리고 긴요한 질문

7장. AI의 사례 연구: 판매와 마케팅 분야에서의 AI 혁명

8장. AI의 사례 연구:

번역, 자기공명영상법(MRI), 부정 적발, 자율주행차, 그리고 노동

9장. AI의 사례 연구: 시장 거래 부문에서의 AI 활용

10장. AI의 사례 연구: 얼굴 인식, 인력 채용, 그리고 광고 분야의 편향성

11장. AI라는 딜레마

주석

찾아보기

[본 문]

"이제는 프로그래밍을 전혀 모르는 사람도 코드를 작성하지 않고도 자신만의 AI 프로그램을 만들 수 있는 ‘노 코드(no code)’ 방식이 생겼다. 프로그래머들 역시 이미 만들어진 다양한 AI 도구들을 활용하면 복잡한 수학 지식 없이도 여러 프로그램에 AI 기능을 추가할 수 있게 됐다. 더욱이 아마존, 구글, 마이크로소프트, 오픈AI 같은 큰 기업들은 누구나 신용카드로 결제하고 몇 번만 클릭하면 자사의 클라우드에서 AI를 쉽게 사용할 수 있도록 서비스를 제공하고 있다."

- p.26 ‘서론’에서

“컴퓨터, 즉 AI의 관점을 더 깊이 이해하기 위해서는 또 다른 중요한 차이점을 알아야 한다. 그건 바로 AI는 우리처럼 세상을 직접 경험하지 않는다는 것이다. 대신, 인간의 언어와는 완전히 다른 기호들로 구성된 문서를 통해서만 정보를 받아들인다. 따라서 이러한 낯선 세계에서 올바른 답을 찾기 위해서는 오직 주어진 문서 속에서 반복되는 패턴을 발견하고 학습할 수밖에 없다.”

- p.53 ‘1장. 인공지능은 인간 지능이 아니다’에서

"UCLA의 연구 사례는 AI가 데이터 편향성으로 인해 얼마나 심각한 의료 불평등을 초래할 수 있는지를 잘 보여주는데, 한 예로 라임병의 경우, 학습 데이터가 백인 환자의 피부 사진에만 편중돼 있어 다른 피부색을 가진 환자들의 증상을 제대로 진단하지 못하는 문제가 발생했다. 이로 인해 흑인 환자들은 백인 환자들에 비해 진단이 늦어지고, 결과적으로 관절염과 같은 심각한 합병증이 발생한 후에야 진단을 받게 되는 심각한 의료 격차가 발생한 것이다. 이는 AI가 데이터의 연관성만을 학습해 편향된 결과를 도출하는 경계 사례의 전형적인 예시이다."

- p.120 ‘4장. 경계 사례, 압축, 그리고 연관 지능의 한계’에서

"GPT-3는 두 자릿수 계산도 꽤 잘한다. 덧셈은 100%, 뺄셈도 거의 비슷한 정확도를 보이는데, 이때 학습해야 할 두 자릿수 조합은 4만 개도 안 된다. 이건 AI가 수학을 제대로 이해했다는 뜻이 아니다. AI는 그저 덧셈과 뺄셈표를 외운 것뿐이다. 이는 자릿수가 늘어날수록 확연히 드러나는데, 세 자릿수에서는 정확도가 90%로 떨어지고, 네 자릿수에서는 30% 정도로 크게 떨어지기 때문이다. 게다가 다섯 자릿수의 경우 가능한 모든 조합을 한 번씩이라도 보려면 수백억 개의 예시가 필요한데, 이때는 정확도가 10% 정도밖에 안 된다."

- p.135 ‘4장. 경계 사례, 압축, 그리고 연관 지능의 한계’에서

"AI의 편향성은 우리가 쉽게 해결할 수 없다는 점을 반드시 인식해야 한다. 그렇기에 AI 편향 대책을 마련할 때는 우리가 발견하지 못하고, 해결할 수도 없는 숨겨진 편향이 존재할 수 있다는 점을 항상 고려해야 한다. 이러한 상황에서 우리가 던져야 할 핵심 질문은 두 가지다. “AI가 편향돼 잘못된 판단을 내릴 때 어떤 결과가 발생하는가?”, 그리고 “이러한 위험을 감안하더라도 AI 사용이 가치가 있는가?”

-p.285 ‘10장. AI의 사례 연구: 얼굴 인식, 인력 채용, 그리고 광고 분야의 편향성’에서

"우리는 이 책을 읽는 당신에게 이 주제에 걸맞은 마지막 말을 전하고 싶다. 장기적으로 AGI로 나아가는 길은 신중하게 탐색 돼야 하며, 주체성, 안전성, 유용성의 균형을 잡아야 한다는 것을 말이다. 단기적으로 AI는 막대한 혜택을 제공할 수 있지만, 동시에 AI에 대한 더 폭넓은 이해가 필요하며, 이때 AI의 막대한 잠재력이 안전하게 발현될 수 있도록 책임 있는 사용을 위한 프레임워크를 구축해야 한다."

- p. 308 ‘11장. AI라는 딜레마’에서

루이스 로세토(Louis Rossetto) (「와이어드」 창립자)

"『두 얼굴의 신기술: AI 딜레마』는 AI의 본질과 한계, 활용 방안과 주의점을 이해하는 데 큰 도움이 되는 책이다. 미디어가 조장하는 'AI 종말론'이라는 허상에서 벗어나 AI를 하나의 도구로 바라보고 이해하는 데 좋은 길잡이가 될 것이다."

빅토어 마이어 쇤버거(Viktor Mayer-Schonberger) (옥스퍼드대, 『프레임의 힘』(21세기북스, 2022)과 『Guardrails』(Princeton University Press, 2024)의)

"이 책은 AI를 진정한 난제로 규정하면서 시작된다. 또한, AI를 잘 안다고 자신했던 우리의 생각을 뒤흔들며, AI의 본질을 정확히 짚어내고 있다. 더불어 AI를 어떻게 활용할지에 대한 깊이 있는 통찰과 실천 가능한 방안을 제시한다."

게르트 기거렌저(Gerd Gigerenzer) (독일 막스플랑크연구소 심리학자)

"케일럽과 렉스 브릭스는 AI의 작동 원리와 의인화를 경계해야 하는 이유, 그리고 AI의 본질적 의미를 명쾌하게 설명한다. 『두 얼굴의 신기술: AI 딜레마』는 AI에 대한 풍부한 지식을 담고 있어 우리의 미래를 준비하는 데 훌륭한 안내서가 될 것이다."

톰 차베스(Tom Chavez) (AI 스타트업 스튜디오인 ‘super{set}’의 공동 창립자)

"이 책은 매우 실용적이다. AI 과학자부터 현장 실무자, 그리고 AI에 관심 있는 모든 사람을 위해 쓰였다. 전문 용어를 배제하고 AI 혁명을 이끄는 핵심 기술을 알기 쉽게 설명하면서, 동시에 AI가 지닌 잠재적 위험도 꼼꼼히 다루고 있다."

에이미 위글러(Amy Wigler) (「PBS」, 멀티플랫폼 통합 마케팅 및 콘텐츠 담당 부사장 겸 수석 부사장)

“케일럽과 렉스 브릭스는 AI의 복잡한 영역을 단순화해서, 오늘날의 AI 중심 환경에서 성공하는 데 필수적인 실용적 통찰을 제공한다. 이들의 작업은 AI 분야에서 성공하고자 하는 이들이 꼭 읽어야 할 책이다.”

해리슨 칠턴(Harrison Chilton) (기업, 소프트웨어 및 비즈니스 서비스 부문의 인수 및 성장 투자자 및 칼라일 그룹 기술 투자자)

"현장에서 AI를 직접 다뤄온 전문가들이 쓴 알찬 입문서다. AI의 강점을 제대로 이해하고 책임감 있게 활용하고 싶은 이들에게 꼭 필요한 책이다."

스테파니 프리드호프(Stefanie Friedhoff) (브라운대 부교수 겸 정보 미래 연구실 공동 설립자)

"AI는 방대한 정보를 다룰 수 있지만, 실제로는 그 의미를 진정으로 이해하지 못한다는 게 핵심이다. 『두 얼굴의 신기술: AI 딜레마』는 이런 AI의 본질을 파헤치며 허상을 걷어내고, AI가 잘하는 것과 그렇지 않은 것을 명확하게 보여준다. AI 도입을 고민하는 모든 사람에게 꼭 필요한 책이다."

래리 코너스(Larry Connors) (코너스 그룹, 코너스 리서치 LLC, 코너스.AI CEO)

“케일럽이 Inc. 5000 컨퍼런스에서 250여 명의 CEO들 앞에서 발표하는 모습을 보고 『두 얼굴의 신기술: AI 딜레마』의 가치를 깨달았다. 그의 발표 후 즉시 그와 협업해 금융 분야에 그의 아이디어를 적용했고, 기대 이상의 놀라운 성과를 거뒀다. 이 책으로 여러분도 성공하시길 바란다!"