★ 엔비디아 젠슨 황의 성공 비결부터 ChatGPTㆍ딥시크ㆍRAGㆍAI 에이전트까지

★ 급격히 진화하는 AI 패러다임 속 기업이 생존하고 성장하기 위한 실질적 전략!

AI는 이제 더 이상 선택이 아닌 기업이 생존하기 위한 필수적인 전략이 되었다. ChatGPT를 넘어 AGI(범용 인공지능)의 문턱에 들어선 지금, AI를 단순히 도구가 아닌 비즈니스의 근본 구조를 바꾸는 힘으로 이해하고 이를 받아들이는 기업만이 살아남을 수 있다. 수십 년간 글로벌 기업과 공공기관의 기술 컨설팅을 맡아온 국내 최고의 AIㆍ빅데이터 전문가인 저자는 최신 기술 동향과 자신이 직접 현장에서 느낀 실제 사례를 엮어 경영자와 실무자 모두가 AI를 올바르게 활용할 수 있는 방안을 정리해서 제시한다.

이 책은 더 이상 AI의 환상에 기대지 말라고 강조한다. 대신 엔비디아 젠슨 황의 리더십, ChatGPT와 딥시크 등의 최신 기술 동향, RAGㆍMCP 같은 차세대 AI의 활용법을 종합적으로 아우르면서, 진짜 ‘돈 되는 AI’를 만들기 위해서는 기업의 CEO부터 AI를 확실히 이해해야 한다고 강조한다. CEO, 임원 등의 의사 결정자는 물론, 미래를 준비하는 모든 기업인이라면 반드시 읽어야 할 실전형 AI 경영서를 만나 보자.

[목 차]
  

프롤로그

Chapter 01 기업이 AI 도입에 실패하는 이유

AI를 안 쓴다고 당장 망하지 않는다는 생각은 결국 실패한다

__AI 도입 실패의 주요 원인들

__[문제 해결 방안] 직원들이 왜 AI를 안 쓰는지부터 파악하라!

고립된 AI 조직으로 인해 실패한다

__AI 도입을 위한 9단계 업무 프로세스

__AI 도입을 위한 9단계 업무 프로세스의 단계별 역할

__AI 도입을 위한 9단계 업무 프로세스에서 알 수 있는 인사이트

__고립된 AI 조직의 문제점

__[문제 해결 방안] 개방된 AI 조직과 전사적인 협업만이 살길이다!

AI에 대한 생각이 서로 달라서 AI 프로젝트가 실패한다

__AI 프로젝트가 산으로 가는 이유

__[문제 해결 방안] 경영진은 실무자보다 AI 공부를 더 많이 해야 한다!

외부에서 영입한 AI 전문가에게 모든 것을 맡기면 실패한다

__외부 전문가 영입 전략의 함정

__내부 인재 육성의 전략적 가치

__[문제 해결 방안] 내부 인력을 중심으로 외부 전문가는 소수 채용한다!

실패 체크 리스트와 해결 방안

__전략 및 타이밍의 부재

__조직 문화 및 인식의 문제

__기술 및 도입 방식의 오해

__[CEO를 위한 비즈니스 인사이트] 6시그마 운동을 기억하십니까?

 

Chapter 02 돈 되는 AI 도입과 활용법

돈 되는 AI를 위한 문제 정의 방법

__문제 해결이 아닌 문제 정의부터: 4단계 필터링 가이드

__1단계: 문제를 좁고 예리하게 정의했는가?

__2단계: 데이터와 연관된 문제인가?

__3단계: AI로 풀 수 있는 유형인가?

__4단계: 그래서 돈이 되는가?(ROI 산출)

돈 되는 AI 분야를 선택하는 다섯 가지 원칙

__원칙1: 거창한 분야가 아닌 좁고 예리한 분야에 집중하라

__원칙2: 데이터가 아닌 비즈니스 목적에서 출발하라

__원칙3: 완벽히 새로운 것보다는 검증된 성공을 활용하라

__원칙4: AI를 특수 기술이 아닌 엑셀처럼 생각하라

__원칙5: 기존 시스템을 대체하거나 강화하는 곳을 공략하라

돈 되는 AI 프로젝트를 추진하는 방법

__AI 전문가 영입

__AI 프로젝트 외주

__하이브리드 모형: 전문가 영입 + AI 프로젝트 위주

__내부 직원 교육 후 자체 구현

돈 되는 AI 업무 4단계 로드맵: HR을 중심으로

__1단계: 업무 자동화로 반복 업무 줄이기

__2단계: 예측하여 미래 내다보기

__3단계: 시뮬레이션으로 다양한 '만약'의 결과 검토하기

__4단계: 업무 최적화로 최상의 해답 찾기

__[사례1] 최적화를 위한 아이디어 찾기: 세일즈포스닷컴

__[사례2] 최적화를 위한 아이디어 찾기: 팔란티어

돈 되는 AI 도입을 위한 ABCD 방법론

__ABCD 방법론이란

__ABCD 방법론은 왜 필요한가

__1단계: 분석 및 기회 발굴(Analysis)

__2단계: 문제 정의 및 설계(Blueprint)

__3단계: 구현 및 실행(Create)

__4단계: 성과 평가 및 발전(Develop)

 

Chapter 03 AI 이해를 통한 비즈니스 인사이트

AI를 이해하기 전에 알아두어야 할 세 가지

최소한의 AI 역사

__AI 겨울의 근본 원인

__[CEO를 위한 비즈니스 인사이트] 왜 AI 전문가들의 과도한 약속을 믿고 막대한 연구비를 지불했을까

인공지능의 학습과 추론

__학습: 최적의 공식을 찾아내는 고된 과정

__추론: 공식을 사용하여 답을 계산하는 과정

__[CEO를 위한 비즈니스 인사이트] 학습과 추론

컴퓨터는 어떻게 인간의 언어를 이해하게 되었는가

__벡터 혁명 이야기

__임베딩 과정

__[CEO를 위한 비즈니스 인사이트] 우리 기업에서 벡터화할 수 있는 자산에는 무엇이 있는가

LLM 시대를 연 혁명적 모델: 트랜스포머

__RNN

__LSTM

__트랜스포머의 등장

__트랜스포머의 아키텍처

__오픈AI는 왜 디코더만으로 GPT를 만들었을까?

AI를 더 똑똑하게 만드는 방법: 제1의 스케일링 법칙

__트랜스포머의 분화: 디코더 계열, 인코더 계열, 디코더-인코더 계열

__LLM 스케일링 법칙의 탄생

__프롬프트 엔지니어링의 시작

__[CEO를 위한 비즈니스 인사이트] 더 큰 모델, 더 많은 데이터, 더 많은 GPU 필요, 즉 쩐의 전쟁

GPT-3를 만들고 보니

__똑똑한 추론 능력

__상식이 없는 GPT-3의 답변

AI를 더 똑똑하게 만드는 방법: 제2의 스케일링 법칙

__GPT-3 이후 오픈AI의 고민

__[CEO를 위한 비즈니스 인사이트] 실패의 연속, 대화형 AI 서비스 비즈니스

__ChatGPT의 탄생을 위한 준비: 세계 최초 대화형 AI 서비스

__드디어 ChatGPT를 출시하다

__제2의 스케일링 법칙: RLHF

__[CEO를 위한 비즈니스 인사이트] 세상의 모든 지식을 보유한 AI vs 사용자가 원하는 답을 주는 AI

AI를 더 똑똑하게 만드는 방법: 제3의 스케일링 법칙

__테스트-시간 계산

__깊은 사고의 시작, O1의 출현

__현대 AI의 3단계 패러다임: 학습, 추론, 그리고 사고

딥시크의 등장

__딥시크에 관한 세 가지 핵심 질문

__딥시크의 두 번째 충격

__딥시크의 완전한 공개가 가져온 파급 효과

__ 딥시크가 준 영향

__젠슨 황의 테스트 타임 스케일링 법칙 발표가 주는 의미

__왜 얀 르쿤은 현재의 LLM으로 AGI를 달성할 수 없다고 하는가?

__[CEO를 위한 비즈니스 인사이트] 테스트 타임 스케일링 법칙이 한국 AI칩 벤처에 던지는 의미

 

Chapter 04 AI 시대의 시스템 사고

시스템1 사고: 빠른 직관

__시스템1 사고의 특성

시스템2 사고: 신중한 논리와 분석

__시스템2 사고의 특성

__대니얼 카너먼의 생각과 이론의 영향력

시스템1 사고는 AI의 추론 모델, 시스템2 사고는 AI의 사고 모델

__시스템1, 시스템2 사고와 AI 모델의 매핑

__시스템2 사고의 한계와 AI 사고 모델의 잠재력

__기업 환경에서 AI가 시스템2 사고를 대체할 때 벌어질 일들

__[문제 해결 방안: 기업 측면] 직원은 Ai 도구의 노예가 아닌, 도구의 지휘자가 되어야 한다

__[문제 해결 방안: CEO 측면] CEO는 조직 전체의 사고력을 앞장서서 이끌어야 한다

__[CEO를 위한 비즈니스 인사이트] AI 시대 고부가가치 업무란 무엇인가

 

Chapter 05 기업이 선택한 AI 활용 방법, RAG

기업이 RAG를 활용해야 하는 이유

__RAG란

__RAG의 장점

기업의 RAG 프로세스

__데이터 준비 과정: AI의 지식 창고(벡터DB) 구축하기

__질의 응답 파이프라인: 지능적으로 답변 생성하기

RAG에서 오픈 소스 LLM과 클로즈드 소스 LLM의 비교

__오픈 소스 LLM의 사용 방법

__오픈 소스 LLM vs 클로즈드 소스 LLM 기반 RAG 구현 비교 분석

RAG에서 고려해야 할 점

__임베딩 모델의 신중한 선택과 관리

__문서 처리의 복잡성

__검색의 정확도를 높이는 심화 기술

__지능형 RAG 구축

Ragas란 무엇인가?

__Ragas의 핵심 평가 지표

__검증 프로세스

__결과 분석 및 개선

RAG의 주요 활용 방안

__산업별 활용 방안

__RAG의 업무별 활용 방안

 

Chapter 06 AI 에이전트

AI 에이전트란?

__일반 프로그램과 AI 에이전트의 차이

__AI 에이전트의 구조

__AI 에이전트의 장점과 한계

AI 에이전트를 구현하는 방법

__AI 에이전트 구현을 위한 주요 개발 도구 종류

__기업에서 개발 도구 선택이 왜 중요한가?

에이전트 패키지

__랭체인: AI 에이전트 개발의 표준 프레임워크

__랭그래프: 복잡한 AI 에이전트를 위한 플로우 엔지니어링

__오픈 딥 리서치

__오픈AI Agents SDK

__CrewAI: 협업ㅎㄹ라는 에이전트 세계

바이브 코딩

__커서: 비주얼 스튜디오 코드 기반의 대표적인 바이브 코딩 도구

__클로드 코드: 앤트로픽의 코딩 전문 AI

__제미나이 CLI: 구글 AI 기반의 커맨드라인 도우미

노코드 도구

__마이크로소프트 코파일럿 스튜디오: AI 챗봇과 에이전트를 만드는 데 최적화

__구글 에이전트 빌더: 데이터 검색 기반 AI 에이전트 개발 플랫폼

__AWS 베드락 에이전트 코어: 7개 모듈로 구성된 종합 AI 에이전트 플랫폼

__n8n: 1000개 이상 앱을 연결하는 노코드 워크플로 자동화 도구

__디파이: LLM 기반 애플리케이션 개발을 위한 올인원 노코드 플랫폼

__어시웍스: 한국 기업 실무에 특화된 노코드 AI 에이전트 플랫폼

기존 시스템과의 AI 에이전트 통합

__단순 정보 조회: AI 단독으로도 가능한 영역

__최적화: 시스템 통합 없이는 불가능한 영역

__왜 통합이 최적화의 핵심인가

__AI 에이전트 통합으로 얻는 혁신적인 이득

AI 에이전트 vs 에이전틱 AI

__AI 에이전트와 에이전틱 AI의 개념 비교

__에이전틱 AI의 사례

__에이전틱 AI의 오케스트레이션 기능

__Skywork와 Genspark의 비교

__오픈AI의 ChatGPT 에이전트

AI 에이전트의 문제점

__AI 에이전트의 주요 문제점들

__AI 에이전트의 문제점을 해결하는 방안들

AI 에이전트 시대의 앱 스토어, MCP

__MCP 서버와 연동된 AI 에이전트의 작동 방식

__MCP 서버와 smithery.ai

__MCP의 아키텍처

__MCP의 핵심 가치

__MCP의 단점

__MCP 서버 추천

AI 에이전트의 활용 방안

__AI 에이전트의 산업별 활용 방안

__AI 에이전트의 업무별 활용 방안

 

Chapter 07 기업에서 AI를 도입하는 다양한 방안

국내 기업의 망분리 현황

__망분리 의무 대상 상세 분석

__망분리가 기업의 AI 활용에 어떤 제약을 주는가

데이터 보안과 아키텍처의 선택

__데이터 보안: 데이터를 지키는 방법(How)

__데이터 프라이버시: 데이터를 다루는 규칙(What & Why)

__전략적 절충과 하이브리드의 필요성

 

AI 도입을 위한 다양한 아키텍처

__A타입: 클로즈드 소스 LLM

__A-1타입: 오픈AI의 Assistant API 사용

__B타입: 오픈 소스 LLM 사용

__B-1타입: 오픈 소스 LLM + 클라우드 사용

__C타입: A타입 + B타입 하이브리드

__D타입: 오픈AI의 기업형 ChatGPT

__D-1타입: 오픈AI의 Team with GPTs

 

에필로그

[본 문]
  

한국 기업이 글로벌 트렌드를 리딩하기 위해서는 지금까지 가보지 않았던 길을 가야 합니다. 한국의 기업은 원래 열심히 일했습니다. 앞으로는 모든 직원이 열심히 하는 것은 기본이고, CEO들이 비상한 통찰력과 AI 시대를 꿰뚫는 기술적인 혜안을 가져야 합니다. 이 책은 그러한 리더십을 원하는 CEO들을 위해 썼습니다.

--- p.10

 

많은 기업을 컨설팅해 보면서 느낀 것은, 결국 그 기업의 AI 수준은 해당 기업 CEO들의 AI 수준보다 높을 수 없다는 것입니다. 왜 그럴까요? AI가 기업에 적용되는 과정에서 이렇게 해야 된다라는 지침이나 매뉴얼이 없기 때문입니다. AI라는 개념 자체가 매우 추상적이어서 그것을 이해하는 수준이 사람마다 천차만별이기 때문에 CEO는 자신들의 수준 이상을 기대하지 못합니다. 그러니 아무리 열심히 해도 딱 그 수준까지만 가게 되는 것입니다.

--- p.13

 

AI 프로젝트가 실패하는 데는 수많은 이유가 있지만, 가장 근본적인 원인은 바로 경영진과 실무진 사이의 AI에 대한 인식과 기대치의 거대한 간극에 있습니다. 이는 마치 여러 장님이 각자 다른 부위를 만지며 코끼리 전체를 상상하는 것과 같습니다. 이 간극이 프로젝트를 표류하게 하고 결국 실패로 이끌기도 합니다.

--- p.45

 

경영진은 AGI급 환상에서 벗어나 AI의 현재 가능성과 한계를 명확히 이해해야 하며, 실무진은 AI 기술의 현실적 구현에 대해 처음부터 솔직하게 이야기하는 편이 좋습니다. 그래야 경영진이 불필요한 기대치를 갖지 않습니다.

--- p.47

 

리더의 진정한 의지는 사람 중심의 AI 도입으로 나타나야 합니다. AI 프로젝트는 현업을 가장 잘 아는 직원들이 각자의 영역에서 변화를 주도할 때 성공합니다. 이를 위해서는 부서 간 벽을 허무는 협업이 필수이며, 수평적 문화 속에서 나오는 집단지성의 목소리가 자유롭게 제안되고 신속하게 경영에 반영되는 통로가 마련되어야 합니다.

--- p.367