AI 도입이 당연해진 시대,

우리 서비스에 AI 기술을 어떻게 적용할 것인가

최근 몇 년 사이 기업의 AI 도입률이 빠르게 증가하는 동시에, 앞으로 출시될 서비스 상당수가 AI로 운영된다는 전제하에 설계되고 있습니다. 이제 고민할 문제는 ‘AI를 사용할 것인가’가 아니라 ‘어떤 일에, 어떤 방식의 AI를 적용할 것인가’입니다. 이 책은 AI 도입을 앞둔 기획자, 개발자, 실무 담당자가 갖춰야 할 기반 지식과 서비스 기획 과정에서 검토해야 할 고려사항을 일목요연하게 정리합니다.

 

LLM은 사람처럼 자연스럽게 말할 수 있지만 실제 서비스나 업무 시스템에 연결하는 순간 이야기가 달라집니다. 제각기 다른 요청에 대해서도 의도를 정확히 읽어내야 하고, 답변의 근거를 통제해 신뢰를 확보해야 하며, 사람의 개입을 줄여 업무 효율을 끌어올려야 합니다. 그래서 요즘 AI 서비스는 LLM에 임베딩, RAG, AI 에이전트 같은 기술을 결합해 고도화하고 기존 추천 시스템 역시 LLM을 접목해 사용자 만족도를 높이고 있습니다.

 

LLM으로 만드는 서비스가 성공하려면 정말 AI가 필요한 문제인지 확인하고, 알맞은 기술(임베딩, RAG, AI 에이전트, 추천 시스템)을 선택한 뒤, 서비스 안에서 AI가 맡을 역할을 정해야 하며, 이 모든 단계에 올바른 판단이 뒷받침되어야 합니다. 막연히 AI 도입을 고민하고 있다면 이 책으로 필요한 지식을 익히고 어떤 판단이 필요한지 짚어보세요.

[목 차]

1장. AI 도입, 어떻게 시작할까

1.1 AI 도입이 당연한 시대

1.2 AI를 도입할지 판단하기

1.3 AI 기술의 흐름과 LLM

___AI, 머신러닝, 딥러닝

___LLM

1.4 데이터의 역할 변화

 

2장. LLM의 작동 원리와 한계

2.1 LLM의 개요

2.2 LLM의 작동 원리

2.3 LLM의 맥락 처리 방법과 토큰 비용

___LLM이 맥락을 기억하는 방식

___토큰 비용의 구조

___AI 모델의 진화 과정

2.4 LLM의 한계

___환각

___지식 마감

___기억력 부족

___아부 현상

___역전의 저주

___프롬프트 인젝션

___편향

 

3장. LLM을 서비스에 연결하는 방법

3.1 원하는 답을 얻기 위한 프롬프트 작성 전략

___구역 나누기

___예시 보여주기

___판단 맡기기

___원하는 답변을 받지 못했을 때

3.2 LLM만으로 부족한 부분을 보완하는 기술

___LLM만으로 해결하기 어려운 문제

___임베딩

___RAG

___AI 에이전트

3.3 LLM으로 만드는 서비스

 

4장. 임베딩: 비슷한 의미 찾기

4.1 임베딩의 개요

___임베딩 모델의 학습 방식

___키워드 검색으로 충분한 경우

___임베딩 검색 파이프라인

___벡터 데이터베이스

4.2 임베딩을 입력 데이터로 활용하는 기술

___임베딩×군집화

___임베딩×RAG

___임베딩×추천 시스템

___임베딩×이상 탐지

4.3 임베딩으로 문제를 해결한 사례

___임베딩×검색: 검색 결과 개선

___임베딩×군집화: 드러나지 않는 문제를 찾아 개선

___임베딩×RAG: 챗봇의 답변 개선

___임베딩×추천 시스템: 추천의 다양성 강화

___임베딩×이상 탐지: 평소와 다른 고객 문의 발견

 

5장. RAG: 문서를 찾아 근거 있는 답변하기

5.1 RAG의 개요

___RAG의 작동 과정

___RAG로 해결 가능한 문제와 한계

___RAG가 필요한 상황

5.2 RAG 서비스 설계 시 고려 사항

___검색 대상 문서 선정

___문서 분할 전략

___검색 결과 전달 방식

___메타데이터 설계

___검색 방식 선택

5.3 RAG 서비스 운영 시 고려 사항

___검색 성능 저해 요소 관리

___RAG 운영 비용 최적화

___답변 구성

___출처 표시

___검색 실패 시 답변 방식

___RAG의 품질 평가

___RAG 운영 리스크

___GraphRAG 도입 기준

 

6장. AI 에이전트: 여러 단계를 연결해 실제 작업 수행하기

6.1 AI 에이전트의 개요

___AI 에이전트의 작동 과정

___AI 에이전트의 구성 요소

___AI 에이전트의 구조

___AI 에이전트로 해결 가능한 문제와 한계

6.2 AI 에이전트 설계 시 고려 사항

___도구 분리 기준

___도구 선택과 사용 규칙

___스킬의 역할과 활용

___자동화 범위 설계

___오케스트레이션 설계

6.3 AI 에이전트로 만들 수 있는 서비스

___업무 자동화형 에이전트

___데이터 조회 및 실행 연결형 에이전트

___RAG 결합형 에이전트

___사람 협업형 에이전트

 

7장. AI 추천 시스템: 사용자에게 맞는 선택지 제안하기

7.1 추천 시스템의 개요

___추천 시스템의 기본 구조

___검색과 추천의 차이

___추천의 목적

___추천에 필요한 데이터

___추천 품질 평가

7.2 기존 추천 방식과 임베딩 추천의 차이

___인기 순 추천

___협업 필터링

___콘텐츠 기반 추천

___연관 규칙 추천

___임베딩 추천

7.3 추천 시스템이 해결해야 할 과제

___콜드스타트

___데이터 희소성

___인기 편향

___다양성 부족

___상황 불일치

7.4 LLM이 결합된 추천 시스템

___LLM 추천의 작동 과정

___LLM 추천의 UX

___추천 조건을 좁히는 방법

___추천 근거와 환각 관리

___기존 추천 방식, 임베딩 추천, LLM 추천 비교

 

8장. 서비스에 맞는 AI 기술 선택하기

8.1 머신러닝이 적합한 서비스

___지도 학습: 분류와 회귀를 이용한 서비스

___비지도 학습: 군집화와 이상 탐지를 이용한 서비스

8.2 LLM, 임베딩, RAG, AI 에이전트에 맞는 서비스

___LLM: 문장을 이해하고 생성하는 서비스

___임베딩: 의미가 비슷한 콘텐츠를 찾는 서비스

___RAG: 근거 문서를 바탕으로 답하는 서비스

___AI 에이전트: 조회와 실행을 연결하는 서비스

___AI 서비스 조합

8.3 서비스 운영과 검증

___클라우드·온프레미스 방식

___AI 기술 검증

 

9장. AI 서비스 기획 프로세스와 1페이지 기획안

9.1 AI가 필요한 문제인지 확인하기

___사용자의 어려움 파악하기

___규칙, 검색, 필터로 충분한지 살펴보기

___기대 효과와 리스크 확인하기

9.2 AI 서비스 흐름 설계하기

___AI 기능 사용 지점 정하기

___필요한 데이터 확인하기

___AI 참고용 데이터와 사용자에게 보여줄 데이터 구분하기

___사용자가 확인하고 조정할 지점 만들기

___사람의 최종 판단 영역 남기기

9.3 작게 만들어 검증하기

___초기 버전의 사용 상황 정하기

___테스트 질문과 성공 기준 만들기

___서비스 공개 전 확인 사항과 출시 절차

___1페이지 서비스 기획안

[본 문]

AI 서비스를 만들 때 막연히 ‘AI로 다 되는 것 아닌가’라고 생각하기 쉽습니다. 그러나 성공적인 AI 서비스를 기획하기 위해서는 눈에 보이는 결과물을 넘어 그 이면에서 AI가 어떻게 작동하는지 알아야 합니다. 서비스의 중심이 되는 LLM을 비롯해 그 한계를 보완해 줄 AI 기술을 어떻게 조합할지 이해하는 과정이 필요합니다. 그런데 시중에는 이러한 관점을 중심으로 다루는 책이 많지 않습니다. 이에 필자는 다양한 AI 기술을 살펴보고, 어떨 때 그 기술을 선택하는지, AI 서비스 안에서 기술들이 어떻게 어우러져 동작하는지 이해할 수 있도록 이 책을 집필했습니다.

 

앞으로 AI는 끊임없이 발전할 것입니다. 그러나 새로운 모델과 기술이 계속 등장하더라도 문제를 확인하고 적절한 기술을 선택하는 일의 본질은 크게 달라지지 않습니다. 이 책이 AI를 이해하고 더 나은 AI 서비스를 설계하는 데 도움이 됐으면 좋겠습니다.

 

이석곤 (AI&빅데이터 아키텍트)

이 책은 현장에서 AI 도입을 검토하는 기획자, PM, 개발자에게 필요한 입문서입니다. 특히 LLM의 한계를 소개하는 데에서 그치지 않고 ‘기획 포인트’와 연결해 실무에서 무엇을 대비해야 하는지 짚어준 부분이 유용했습니다. 전반적으로 개념 설명과 실무적 판단을 균형 있게 담아 AI 서비스를 처음 기획하는 사람이 길잡이로 삼기에 유용합니다.

 

김진원 (AI 활용 교육 강사)

복잡한 AI 기술 용어의 장벽 앞에서 막막함을 느끼는 비개발자와 기획자라면 이 책을 통해 실질적인 돌파구를 찾을 수 있습니다. 세상의 모든 지식을 알고 있는 이야기꾼에 LLM을 비유하는 등 복잡한 수식이나 어려운 용어를 사용하지 않고 AI의 작동 원리를 쉽게 설명합니다. 또한 AI 도입을 검토하는 첫 단계부터 임베딩, RAG, AI 에이전트와 같은 핵심 기술을 실제 서비스에 적용하기까지의 과정을 다뤄 AI 서비스에 필요한 기술을 체계적으로 이해할 수 있었습니다.

 

박진호 (IT 제조 마케팅팀 팀장)

AI와 관련된 새로운 개념이 속속 등장하고 있습니다. AX 컨설팅을 받는 업체가 증가하고, AI 솔루션을 활용해 업무를 개선한 사례도 많이 공유되고 있습니다. 이러한 상황에서 이 책은 AI 기술을 체계적으로 이해하고자 하는 독자에게 도움이 됩니다. LLM, 임베딩, RAG, AI 에이전트가 무엇인지, 어떨 때 사용하는지 쉽게 설명해 줘 AI에 관심이 없던 사람도 부담 없이 이해할 수 있습니다. AI 도입 시 무엇을 고려해야 하는지, 어떤 업무나 서비스에 AI를 접목할 수 있는지 이 책을 통해 쉽게 파악할 수 있습니다.

 

박찬웅 (소프트웨어 엔지니어)

LLM으로 서비스를 기획할 때 무엇을 고려해야 하는지 명확한 가이드를 제공하는 책입니다. 임베딩, RAG, AI 에이전트의 개념을 확실히 잡아주고 활용 사례를 소개하므로 어느 시점에 어떤 기술이 필요하고 무엇을 주의해야 하는지 알 수 있습니다. AI 에이전트 서비스 개발이 빠르게 확산되고 있지만 전체 구조와 제약 및 고려 사항을 파악하기가 쉽지 않은데, 이 책은 그 틀을 세우는 데 도움이 됩니다. 고객 문의, 추천 시스템과 같은 기존 업무 도메인에 AI를 접목하는 방법과 기술 선택 기준까지 담고 있어 기획자와 개발자 모두에게 유용합니다.

 

김동우 (스타트업 개발 PM)

이 책은 개발하려는 서비스에 가장 적합한 AI 기술을 선택할 수 있도록 가이드를 제공한다는 점이 시중의 책들과 차별화되는 가장 큰 특징입니다. 최신 AI 기술이라고 해서 무조건 좋은 것이 아니라, 내가 만들고자 하는 서비스에 가장 적합한 AI 기술을 접목해야 좋은 결과물을 얻을 수 있다는 것을 알게 됐습니다. 이 책을 통해 AI 서비스 기획부터 운영까지 전 과정을 배울 수 있었습니다.

 

장형석 (식품 제조사 기획 팀장)

AI에 대한 정보가 넘쳐나는 지금, 파편화돼 있는 지식을 체계적으로 정리해 준다는 것이 이 책의 가장 큰 장점입니다. 개념부터 실전 활용 영역까지 폭넓게 다루면서도 적절한 예시를 들어 내용을 쉽게 설명한 것이 특히 인상 깊었습니다. 또한 주요 내용을 표로 비교·요약해 줘 자연스럽게 복습하고 응용할 수 있습니다. 중구난방인 AI 지식을 하나로 엮은 AI 교과서를 찾고 있는 독자에게 이 책을 추천합니다.

 

김민영 (HRD 담당자)

‘사내 AI 교육 및 실무 적용 프로젝트’를 맡아 진행하면서 저자의 강의를 들은 적이 있는데, 이 책을 통해 또다시 도움을 받게 됐습니다. 이 책은 AI를 어떻게 실제 서비스와 업무 문제에 연결할 수 있는지 차근차근 설명합니다. 특히 LLM, 임베딩, RAG, AI 에이전트 등의 개념을 ‘어떤 문제를 풀 때 필요한가’라는 관점에서 풀어낸 점이 인상적이었습니다. 현장에서 비전공자와 실무자는 ‘우리 일에 어떻게 적용할 수 있는지’를 가장 궁금해하는데, 이 책은 비전공자도 기술 팀과 대화할 수 있을 만큼 핵심을 짚어주는 동시에 현실적인 판단 기준을 제공합니다. AI 서비스를 기획하거나 조직 내 활용 방안을 고민하고 있다면 이 책에서 답을 찾을 수 있습니다.