LLM부터 RAG, Tool Use, Function Calling, AI 에이전트까지

AI 에이전트 개발에 필요한 핵심 기술과 구현 과정을 한 권으로 익힌다!

생성형 AI의 발전으로 AI 에이전트는 새로운 소프트웨어 개발 방식으로 주목받고 있습니다. 이제 AI는 정보를 검색하고, 외부 도구를 활용하며, 여러 단계를 스스로 계획하고 실행하는 방향으로 발전하고 있습니다.

하지만 AI 에이전트를 제대로 이해하고 구현하려면 단순히 프레임워크 사용법만 익혀서는 부족합니다. LLM은 어떻게 동작하는지, 왜 프롬프트 엔지니어링이 필요한지, RAG는 어떤 문제를 해결하는지, Tool Use와 Function Calling은 어떤 역할을 하는지 먼저 이해해야 합니다.

이 책은 LLM의 한계에서 출발해 프롬프트 엔지니어링, 컨텍스트 관리, 추론, 구조화 출력, 임베딩, 벡터 데이터베이스, RAG, 메모리 관리, Tool Use, Function Calling, AI 에이전트로 이어지는 흐름을 단계적으로 설명합니다. 독자는 각 기술이 왜 등장했는지, 서로 어떻게 연결되는지 자연스럽게 이해할 수 있습니다. 또한 개념 설명에만 머무르지 않고 OpenAI API를 활용한 예제를 중심으로 핵심 기술을 구현하며 AI 에이전트가 실제로 어떤 방식으로 동작하는지 경험할 수 있습니다. 나아가 품질 평가, 성능 최적화, 배포 전략, 운영 자동화까지 다루어 실제 서비스 개발에 필요한 지식도 함께 익힐 수 있습니다.

AI 에이전트를 처음 공부하는 개발자부터 생성형 AI 서비스를 설계하고 구현하려는 실무자까지 이 책은 AI 에이전트 개발에 필요한 핵심 기술을 체계적으로 이해할 수 있는 탄탄한 출발점이 되어 줄 것입니다.

 

이 책에서 다루는 내용

LLM의 동작 원리와 한계 이해

프롬프트 엔지니어링과 컨텍스트 관리

추론 기법과 구조화 출력

임베딩과 벡터 데이터베이스

RAG(Retrieval-Augmented Generation) 구축

Tool Use와 Function Calling 활용

AI 에이전트 설계와 구현

평가, 최적화, 배포 및 운영 전략

[목차]

Part 1 LLM 애플리케이션 개발 기초: LLM 개요와 환경 설정

 

1장 LLM 아키텍처 이해하기

1.1 LLM의 개념과 한계 살펴보기

1.2 최신 LLM 모델의 종류와 선택 기준

2장 개발 환경 설정하기

2.1 파이썬 설치하기

2.2 가상 환경 설정하기

2.3 라이브러리 설치하기

2.4 LLM API 키 관리하기

2.5 기본 동작 확인하기

3장 LLM API 다루기

3.1 LLM API 호출하기

3.2 LCEL 기반의 체인 구축하기

3.3 Tool Use 도입: LLM 기능 확장 준비하기

 

Part 2 LLM 애플리케이션 설계 기초: 프롬프트, 도구, 기억

 

4장 프롬프트 엔지니어링: LLM을 원하는 대로 움직이는 기술

4.1 프롬프트 엔지니어링이란

4.2 지시와 맥락: 프롬프트의 구성 원리 이해하기

4.3 생성 제어: 응답 방식 조절하기

4.4 출력 설계 패턴: 응답을 원하는 형태로 만들기

4.5 역할 부여 패턴: AI의 역할과 행동 기준 설계하기

4.6 인컨텍스트 학습: 예시로 응답 유도하기

4.7 복합 추론 패턴: 문제를 단계별로 나누어 해결하기

5장 Tool Use와 보안: LLM 기능 확장하기

5.1 외부 시스템 연동 패턴: LLM을 외부 도구와 연결하기

5.2 프롬프트 보안: 공격 기법과 방어 전략 살펴보기

6장 임베딩과 벡터 데이터베이스: LLM에 장기 기억 추가하기

6.1 시맨틱 검색: 의미를 이해하는 검색으로의 전환

6.2 임베딩: 텍스트의 의미를 숫자로 변환하기

6.3 벡터 데이터베이스: 의미 기반 검색을 위한 저장과 탐색 구조 다루기

6.4 데이터 정제: 검색 품질을 위해 텍스트 전처리하기

6.5 청킹: 긴 문서를 의미 단위로 나누기

6.6 임베딩 모델 선택: 서비스 목적에 맞는 모델 고르기

6.7 벡터 데이터베이스 구축: 환경에 맞는 저장소 선택하고 구현하기

6.8 검색 품질 개선: 더 정확한 결과를 위한 고급 검색 기법

 

Part 3 RAG 파이프라인 구축: 검색부터 운영까지 실전 아키텍처 설계하기

 

7장 RAG 아키텍처 설계와 전체 구조 파악하기

7.1 RAG 개요

7.2 Naive RAG와 Advanced RAG: 직면 과제와 해결책

7.3 실습 환경 구축하기

7.4 전체 파이프라인 구조 미리 보기

8장 RAG 파이프라인 구현: 검색부터 생성까지 전체 흐름 완성하기

8.1 검색기와 재순위기 구현기

8.2 프롬프트 템플릿 설계하기

8.3 검색 결과와 사용자 질문 결합하기

8.4 상용 API로 응답 생성 및 파싱하기

8.5 RAG 파이프라인 통합 실행하기

9장 검색 시스템 성능 평가: RAG 품질을 검증하고 개선하기

9.1 검색 품질 평가 개요

9.2 검색 평가 지표와 데이터셋 구성하기

9.3 검색 성능 측정하고 고도화하기

10장 메모리와 쿼리 재작성: 대화형 RAG로 확장하기

10.1 대화 이력 관리: 메모리 전략 이해하기

10.2 독립형 질문으로 바꾸기

10.3 실습: 대화형 RAG 파이프라인 통합하고 테스트하기

11장 Ollama 기반 RAG 구현: 로컬 LLM으로 확장하기

11.1 로컬 RAG를 사용하는 이유

11.2 Ollama 환경 구축 및 모델 관리하기

11.3 실습: Ollama 기반 생성기로 교체하기

11.4 로컬 RAG의 모델 선택과 실행 환경 전략

12장 대화형 RAG 서비스 운영: 상태 관리와 데이터베이스 설계하기

12.1 서비스 운영을 위한 상태 관리 구조 이해하기

12.2 실습: PostgreSQL 기반 대화 이력 저장소 구현하기

12.3 기존 RAG 파이프라인과 통합하기

12.4 긴 대화 관리를 위한 요약 전략

 

Part 4 LLM 기능 확장: LLM 응용 기술 다루기

 

13장 Tool Use와 Function Calling: LLM과 외부 도구 연동하기

13.1 Tool Use의 필요성과 작동 구조

13.2 실습: 외부 도구 정의와 실행 구조 구현하기

13.3 Tool Use 사례와 주요 LLM 지원 현황

14장 LLM 에이전트 설계: 자율 작업을 위한 구조 설계 및 구현하기

14.1 LLM 에이전트 개요

14.2 에이전트의 구현하기 위한 핵심 구성 요소

14.3 실습: 간단한 에이전트 구현하기

14.4 에이전트 유형 및 확장 전략

 

Part 5 LLM 애플리케이션 배포와 운영: 안정적 서비스 만들기

 

15장 LLM 애플리케이션 배포 전략: 클라우드와 자체 호스팅 선택하기

15.1 배포의 필요성과 전략 선택: 프로토타입에서 상용 서비스로

15.2 LLM 애플리케이션 구조 이해하기

15.3 클라우드 API 기반 배포 전략 살펴보기

15.4 자체 호스팅 배포 전략 살펴보기

16장 LLM 애플리케이션 최적화 전략: 비용, 성능, 품질 개선하기

16.1 평가와 최적화의 중요성 이해하기

16.2 품질 측정 기준 정의하기

16.3 RAG와 텍스트 생성 평가하기

16.4 비용 최적화 전략: 운영 비용 효율 높이기

16.5 성능 최적화 전략: 응답 속도와 처리량 개선하기

16.6 비용, 처리 성능, 품질의 균형 잡기

17장 LLM 애플리케이션 운영 전략: 관측성과 자동화로 안정성 확보하기

17.1 관측성 설계: 시스템 내부 상태 이해하기

17.2 운영 지표 설계: 시스템 상태를 측정하는 기준

17.3 운영 흐름 설계: 모니터링부터 개선까지의 실행 사이클

17.4 운영 자동화 전략: 무중단 배포와 CI/CD

17.5 지속적인 개선 전략: Build-Measure-Learn 사이클

강찬석 (소프트웨어 엔지니어 AI 스페셜리스트)

이 책은 상용 LLM과 Ollama 기반 모델을 활용해 AI 에이전트를 구현하는 과정을 단계별로 설명하며 구현에 필요한 기술과 원리를 함께 다룹니다. AI 에이전트를 직접 구현해보고 싶은 개발자라면 실습을 따라가며 개발 과정을 단계별로 살펴볼 수 있습니다. 특히 LLM 애플리케이션을 위한 전반적인 파이프라인을 고르게 다루어 관련 업무를 처음 접하는 사람도 전체 흐름을 파악하는 데 도움이 됩니다.

 

김동억 (소프트웨어 엔지니어)

LLM과 RAG를 실제 구현 흐름에 맞춰 설명한 책입니다. 개념 설명과 실습을 함께 구성해 각 기술이 어떻게 연결되는지 자연스럽게 따라갈 수 있으며, RAG 파이프라인 구축부터 벡터 데이터베이스, Tool Use, 에이전트 설계까지 단계적으로 다룹니다. 또한 프롬프트 공격과 방어 전략, 성능 최적화, 운영 및 배포 내용도 포함해 LLM 애플리케이션을 설계하고 운영하는 전체 과정을 한 권으로 정리할 수 있습니다.

 

김동우 (스타트업 개발 PM)

목표 설정과 모델 선택부터 데이터 청킹, 임베딩, 벡터 데이터베이스 설계까지 LLM 기반 서비스를 구축하는 데 필요한 기술 요소를 순서대로 다룹니다. 또한 RAG 파이프라인 구축, 프롬프트 설계, 보안, 비용 최적화와 같은 주제를 함께 설명해 실제 서비스를 개발하고 운영할 때 고려해야 할 사항도 살펴볼 수 있습니다. AI 에이전트를 활용한 서비스를 직접 만들어보고 싶은 독자라면 서비스 기획부터 구현, 운영까지 과정을 순서대로 익힐 수 있는 책입니다.

 

김영익 (백엔드 개발자)

개념 설명과 구현 과정을 균형 있게 담아 LLM을 처음 접하는 독자도 큰 어려움 없이 따라갈 수 있습니다. 또한 AI 에이전트 개발에 필요한 다양한 주제를 폭넓게 다뤄 관련 기술의 전체 흐름을 살펴볼 수 있습니다. AI 에이전트를 활용한 서비스를 개발해야 하는 분께 도움이 될 만한 책입니다.

 

박찬웅 (소프트웨어 엔지니어)

환경 구성부터 프롬프트 작성, 생성 파라미터 이해, 벡터 데이터베이스, RAG 파이프라인 설계, 배포와 운영 전략까지 LLM 애플리케이션 개발에 필요한 내용을 폭넓게 다룹니다. 특히 복잡하게 느껴질 수 있는 개념을 단계별로 설명하고 실습과 함께 구성해 학습 흐름을 따라가기 쉽습니다. LLM 기반 개발을 처음 시작하거나 관련 기술을 체계적으로 정리하고 싶은 독자에게 이 책을 자신 있게 추천합니다.

 

박광하 (풀스택 개발자)

AI 에이전트가 무엇인지 막연하게 알던 독자도 차근차근 따라갈 수 있도록 구성한 점이 좋았습니다. 단순히 개념을 설명하는 데 그치지 않고, 실제 서비스 개발 과정에서 AI 에이전트를 어떻게 활용할 수 있는지 함께 생각해볼 수 있었습니다. 특히 실습을 따라가며 직접 기능을 구현하는 과정에서 각 개념이 실제 구현 과정에서 어떻게 활용되는지 이해하는 데 도움이 됐습니다. 또한 AI 에이전트의 역할과 활용 가능성을 입문자 눈높이에 맞춰 설명한 점이 인상적이었습니다. AI 에이전트와 AI 서비스 개발을 처음 시작하려는 독자에게 좋은 출발점이 되어줄 책입니다.

 

이호훈 (백엔드 개발자)

개념 설명에 이어 직접 구현해볼 수 있는 실습 예제를 구성해 RAG 시스템이 어떤 구성 요소로 이루어지는지, 데이터가 어떤 과정을 거쳐 검색과 생성에 활용되는지 자연스럽게 이해할 수 있습니다. 각 장을 따라가며 실습하다 보면 RAG 애플리케이션이 구축되는 전체 흐름도 함께 파악할 수 있습니다. RAG에 관심은 있지만 구현 경험이 없어 망설였던 분이라면 시작점을 잡는 데 참고하기 좋은 책입니다.

 

허헌 (백엔드 개발자)

LLM 기초 → 프롬프트 엔지니어링 → RAG → AI 에이전트 → 운영 및 배포로 이어지는 구성이 체계적으로 정리되어 AI 서비스 개발 과정을 순서대로 살펴볼 수 있었습니다. 특히 RAG 파이프라인 구축, PostgreSQL과 PGVector를 활용한 벡터 검색 구현, Tool Use와 AI 에이전트 개발 과정은 실제 예제를 바탕으로 동작 원리와 구현 방법을 이해할 수 있도록 구성되었습니다. AI 애플리케이션 개발을 처음 시작하는 개발자는 물론, 구축한 서비스를 실제 운영 환경으로 확장하려는 개발자에게도 추천하고 싶습니다.