홈앤서비스 SK BROADBAND

LLM부터 RAG, Tool Use, Function Calling, AI 에이전트까지
AI 에이전트 개발에 필요한 핵심 기술과 구현 과정을 한 권으로 익힌다!
생성형 AI의 발전으로 AI 에이전트는 새로운 소프트웨어 개발 방식으로 주목받고 있습니다. 이제 AI는 정보를 검색하고, 외부 도구를 활용하며, 여러 단계를 스스로 계획하고 실행하는 방향으로 발전하고 있습니다.
하지만 AI 에이전트를 제대로 이해하고 구현하려면 단순히 프레임워크 사용법만 익혀서는 부족합니다. LLM은 어떻게 동작하는지, 왜 프롬프트 엔지니어링이 필요한지, RAG는 어떤 문제를 해결하는지, Tool Use와 Function Calling은 어떤 역할을 하는지 먼저 이해해야 합니다.
이 책은 LLM의 한계에서 출발해 프롬프트 엔지니어링, 컨텍스트 관리, 추론, 구조화 출력, 임베딩, 벡터 데이터베이스, RAG, 메모리 관리, Tool Use, Function Calling, AI 에이전트로 이어지는 흐름을 단계적으로 설명합니다. 독자는 각 기술이 왜 등장했는지, 서로 어떻게 연결되는지 자연스럽게 이해할 수 있습니다. 또한 개념 설명에만 머무르지 않고 OpenAI API를 활용한 예제를 중심으로 핵심 기술을 구현하며 AI 에이전트가 실제로 어떤 방식으로 동작하는지 경험할 수 있습니다. 나아가 품질 평가, 성능 최적화, 배포 전략, 운영 자동화까지 다루어 실제 서비스 개발에 필요한 지식도 함께 익힐 수 있습니다.
AI 에이전트를 처음 공부하는 개발자부터 생성형 AI 서비스를 설계하고 구현하려는 실무자까지 이 책은 AI 에이전트 개발에 필요한 핵심 기술을 체계적으로 이해할 수 있는 탄탄한 출발점이 되어 줄 것입니다.

* 이 책에서 다루는 내용
- LLM의 동작 원리와 한계 이해- 프롬프트 엔지니어링과 컨텍스트 관리- 추론 기법과 구조화 출력- 임베딩과 벡터 데이터베이스- RAG(Retrieval-Augmented Generation) 구축- Tool Use와 Function Calling 활용- AI 에이전트 설계와 구현- 평가, 최적화, 배포 및 운영 전략

Part 1 LLM 애플리케이션 개발 기초: LLM 개요와 환경 설정

1장 LLM 아키텍처 이해하기
1.1 LLM의 개념과 한계 살펴보기
1.2 최신 LLM 모델의 종류와 선택 기준
2장 개발 환경 설정하기
2.1 파이썬 설치하기
2.2 가상 환경 설정하기
2.3 라이브러리 설치하기
2.4 LLM API 키 관리하기
2.5 기본 동작 확인하기
3장 LLM API 다루기
3.1 LLM API 호출하기
3.2 LCEL 기반의 체인 구축하기
3.3 Tool Use 도입: LLM 기능 확장 준비하기

Part 2 LLM 애플리케이션 설계 기초: 프롬프트, 도구, 기억

4장 프롬프트 엔지니어링: LLM을 원하는 대로 움직이는 기술
4.1 프롬프트 엔지니어링이란
4.2 지시와 맥락: 프롬프트의 구성 원리 이해하기
4.3 생성 제어: 응답 방식 조절하기
4.4 출력 설계 패턴: 응답을 원하는 형태로 만들기
4.5 역할 부여 패턴: AI의 역할과 행동 기준 설계하기
4.6 인컨텍스트 학습: 예시로 응답 유도하기
4.7 복합 추론 패턴: 문제를 단계별로 나누어 해결하기
5장 Tool Use와 보안: LLM 기능 확장하기
5.1 외부 시스템 연동 패턴: LLM을 외부 도구와 연결하기
5.2 프롬프트 보안: 공격 기법과 방어 전략 살펴보기
6장 임베딩과 벡터 데이터베이스: LLM에 장기 기억 추가하기
6.1 시맨틱 검색: 의미를 이해하는 검색으로의 전환
6.2 임베딩: 텍스트의 의미를 숫자로 변환하기
6.3 벡터 데이터베이스: 의미 기반 검색을 위한 저장과 탐색 구조 다루기
6.4 데이터 정제: 검색 품질을 위해 텍스트 전처리하기
6.5 청킹: 긴 문서를 의미 단위로 나누기
6.6 임베딩 모델 선택: 서비스 목적에 맞는 모델 고르기
6.7 벡터 데이터베이스 구축: 환경에 맞는 저장소 선택하고 구현하기
6.8 검색 품질 개선: 더 정확한 결과를 위한 고급 검색 기법

Part 3 RAG 파이프라인 구축: 검색부터 운영까지 실전 아키텍처 설계하기

7장 RAG 아키텍처 설계와 전체 구조 파악하기
7.1 RAG 개요
7.2 Naive RAG와 Advanced RAG: 직면 과제와 해결책
7.3 실습 환경 구축하기
7.4 전체 파이프라인 구조 미리 보기
8장 RAG 파이프라인 구현: 검색부터 생성까지 전체 흐름 완성하기
8.1 검색기와 재순위기 구현기
8.2 프롬프트 템플릿 설계하기
8.3 검색 결과와 사용자 질문 결합하기
8.4 상용 API로 응답 생성 및 파싱하기
8.5 RAG 파이프라인 통합 실행하기
9장 검색 시스템 성능 평가: RAG 품질을 검증하고 개선하기
9.1 검색 품질 평가 개요
9.2 검색 평가 지표와 데이터셋 구성하기
9.3 검색 성능 측정하고 고도화하기
10장 메모리와 쿼리 재작성: 대화형 RAG로 확장하기
10.1 대화 이력 관리: 메모리 전략 이해하기
10.2 독립형 질문으로 바꾸기
10.3 실습: 대화형 RAG 파이프라인 통합하고 테스트하기
11장 Ollama 기반 RAG 구현: 로컬 LLM으로 확장하기
11.1 로컬 RAG를 사용하는 이유
11.2 Ollama 환경 구축 및 모델 관리하기
11.3 실습: Ollama 기반 생성기로 교체하기
11.4 로컬 RAG의 모델 선택과 실행 환경 전략
12장 대화형 RAG 서비스 운영: 상태 관리와 데이터베이스 설계하기
12.1 서비스 운영을 위한 상태 관리 구조 이해하기
12.2 실습: PostgreSQL 기반 대화 이력 저장소 구현하기
12.3 기존 RAG 파이프라인과 통합하기
12.4 긴 대화 관리를 위한 요약 전략

Part 4 LLM 기능 확장: LLM 응용 기술 다루기

13장 Tool Use와 Function Calling: LLM과 외부 도구 연동하기
13.1 Tool Use의 필요성과 작동 구조
13.2 실습: 외부 도구 정의와 실행 구조 구현하기
13.3 Tool Use 사례와 주요 LLM 지원 현황
14장 LLM 에이전트 설계: 자율 작업을 위한 구조 설계 및 구현하기
14.1 LLM 에이전트 개요
14.2 에이전트의 구현하기 위한 핵심 구성 요소
14.3 실습: 간단한 에이전트 구현하기
14.4 에이전트 유형 및 확장 전략

Part 5 LLM 애플리케이션 배포와 운영: 안정적 서비스 만들기

15장 LLM 애플리케이션 배포 전략: 클라우드와 자체 호스팅 선택하기
15.1 배포의 필요성과 전략 선택: 프로토타입에서 상용 서비스로
15.2 LLM 애플리케이션 구조 이해하기
15.3 클라우드 API 기반 배포 전략 살펴보기
15.4 자체 호스팅 배포 전략 살펴보기
16장 LLM 애플리케이션 최적화 전략: 비용, 성능, 품질 개선하기
16.1 평가와 최적화의 중요성 이해하기
16.2 품질 측정 기준 정의하기
16.3 RAG와 텍스트 생성 평가하기
16.4 비용 최적화 전략: 운영 비용 효율 높이기
16.5 성능 최적화 전략: 응답 속도와 처리량 개선하기
16.6 비용, 처리 성능, 품질의 균형 잡기
17장 LLM 애플리케이션 운영 전략: 관측성과 자동화로 안정성 확보하기
17.1 관측성 설계: 시스템 내부 상태 이해하기
17.2 운영 지표 설계: 시스템 상태를 측정하는 기준
17.3 운영 흐름 설계: 모니터링부터 개선까지의 실행 사이클
17.4 운영 자동화 전략: 무중단 배포와 CI/CD
17.5 지속적인 개선 전략: Build-Measure-Learn 사이클