프로토타입을 넘어 프로덕션으로!

성공적인 AI 서비스를 위한 32가지 실전 패턴

생성형 AI는 강력한 기능을 제공하지만, 이를 실제 프로덕션 환경에 안정적으로 도입하려면 환각, 비결정적 응답, 지식 공백 등 치명적인 한계를 극복해야 한다. 이 책은 현업 전문가들이 LLM 애플리케이션과 에이전트를 구축할 때 마주치는 핵심 문제를 해결하는 검증된 설계 패턴 32가지를 집대성했다. 최신 연구와 실제 현장의 경험을 바탕으로 패턴마다 명확한 문제 정의, 완전한 예제 코드, 도입 시 장단점까지 상세히 다루어 흔들리지 않는 AI 시스템 구축을 위한 명확한 실무 지침을 제공한다.

[목 차]
  

CHAPTER 1 서론

_1.1 생성형 AI 설계 패턴

_1.2 기초 모델에 기반한 애플리케이션 구축

_1.3 에이전트형 AI

_1.4 세밀한 제어

_1.5 컨텍스트 내 학습

_1.6 사후훈련

_1.7 이 책의 구성

 

CHAPTER 2 콘텐츠 스타일의 제어

_2.1 패턴 1: 로짓 마스킹

_2.2 패턴 2: 문법

_2.3 패턴 3: 스타일 전이

_2.4 패턴 4: 역중립화

_2.5 패턴 5: 콘텐츠 최적화

_2.6 요약

 

CHAPTER 3 지식 추가: 기본

_3.1 패턴 6: 기본 RAG

_3.2 패턴 7: 의미 기반 색인화

_3.3 패턴 8: 대규모 색인화

_3.4 요약

 

CHAPTER 4 지식 추가: 고급

_4.1 패턴 9: 색인 인식 검색

_4.2 패턴 10: 노드 후처리

_4.3 패턴 11: 신뢰할 수 있는 생성

_4.4 패턴 12: 심층 탐색

_4.5 요약

 

CHAPTER 5 모델 능력 확장

_5.1 LLM 추론의 한계

_5.2 패턴 13: 사고 연쇄(CoT)

_5.3 패턴 14: 사고 트리(ToT)

_5.4 패턴 15: 어댑터 조정

_5.5 패턴 16: 지시사항 진화

_5.6 요약

 

CHAPTER 6 신뢰성 개선

_6.1 패턴 17: 심판형 LLM

_6.2 패턴 18: 성찰

_6.3 패턴 19: 의존성 주입

_6.4 패턴 20: 프롬프트 최적화

_6.5 요약

 

CHAPTER 7 에이전트의 행동 능력 활성화

_7.1 패턴 21: 도구 호출

_7.2 패턴 22: 코드 실행

_7.3 패턴 23: 다중 에이전트 협업

_7.4 요약

 

CHAPTER 8 제약 조건 해결

_8.1 패턴 24: 소규모 언어 모델

_8.2 패턴 25: 프롬프트 캐싱

_8.3 패턴 26: 인퍼런스 최적화

_8.4 패턴 27: 성능 저하 테스트

_8.5 패턴 28: 장기 기억

_8.6 요약

 

CHAPTER 9 안전장치 설정

_9.1 패턴 29: 템플릿 생성

_9.2 패턴 30: 조립 후 재구성

_9.3 패턴 31: 자체점검

_9.4 패턴 32: 가드레일

_9.5 요약

 

CHAPTER 10 조합 가능한 에이전트형 작업흐름

_10.1 에이전트형 작업흐름

_10.2 요약

칩 후옌 (『AI 엔지니어링』, 『머신러닝 시스템 설계』 저자)

저자들이 현장에서 쌓아 올린 경험이 이 책에 고스란히 녹아 있다. 이론과 실제 구현의 간극을 메우고 싶은 사람에게 가장 완벽하고 종합적인 가이드가 되어 줄 것이다.

 

마릴리 니카 (『AI 프로덕트 기획과 운영』 저자)

생성형 AI 프로토타입을 실제 프로덕션으로 옮기려는 사람에게 꼭 필요한 명확하고 실용적인 지침서다. 현실에서 마주하는 환각, 신뢰성, 확장성 문제를 해결해 낸 엔지니어링 경험을 이 책에 고스란히 담았다.

 

김연태 (헤렌 CTO)

이 책을 읽으면서 가장 좋았던 점은 지금 만들고 있는 것들에 바로 연결되는 패턴들을 발견할 수 있었다는 점이다. 이미 비슷하게 구현하던 부분도 있었는데, 책에서 정리된 방식을 보며 ‘이렇게 하면 더 좋아지겠다’는 힌트를 얻을 수 있었다. AI를 사용하며 구조의 필요성을 느낀 분들, 또는 만들어 놓은 것은 있지만 프로덕션으로 옮기는 과정이 막막한 분들에게 특히 유용한 책이다.

 

정진필 (네이버 개발자)

각 패턴을 도입할 때 수반되는 지연시간 증가, 인프라 비용, 시스템 복잡도와 같은 엔지니어링 트레이드오프를 회피하지 않고 정면으로 다루고 있어 현업에 바로 적용하기에도 실질적인 도움이 된다. 토이 프로젝트 수준을 넘어 서비스의 안정성과 확장성을 진지하게 고민하는 백엔드 개발자나 AI 엔지니어에게 일독을 권한다.

 

허민 (한국외국어대학교 정보전략팀 과장)

프롬프트 엔지니어링부터 RAG를 포함한 컨텍스트 엔지니어링까지 폭넓게 다룬다. 각 장 말미에 패턴의 특징을 표로 잘 정리해 두어 상황에 맞는 패턴과 솔루션을 빠르게 찾는 데 도움을 준다. 이 책은 AI 엔지니어링의 필독서라 생각하며, 유관 업무를 담당하고 있다면 꼭 한 번 정독하길 바란다.

 

홍준용 (한국산업은행 AI플랫폼팀장)

에이전트 기반 AI 서비스를 설계, 개발, 운영하는 데 필요한 중요한 내용을 알려 주는 보석같은 책이다. 어떤 프레임워크를 선택하고, 어떻게 설계하며 평가할 것인지 단계적으로 친절하게 안내해 실질적으로 많은 도움이 되었다.