홈앤서비스 SK BROADBAND

대부분의 프로덕션급 AI 시스템에서는 사용자와 AI 모델, 그리고 다양한 데이터 출처가 복잡하게 상호작용한다. 시스템이 잘 돌아가려면 이 상호작용들이 잘 조율되어야 한다. 자율적인 AI 에이전트는 이런 상호작용들을 수집하고 조직화해서 내부적으로 정보 처리나 의사결정, 학습에 활용한다. 이 책은 그런 능력을 갖춘 AI 에이전트를 만드는 방법과 여러 AI 에이전트를 연결해서 다중 에이전트 시스템을 구축하는 방법을 제시한다.

이 책 《AI 에이전트 인 액션》에서는 프로덕션에 바로 배포할 수 있는 수준의 어시스턴트와 다중 에이전트 시스템, 자율적 에이전트를 구축하는 방법을 배울 수 있다. RAG 기반 지식 및 기억 능력과 추론, 계획 수립 등 에이전트의 필수 구성요소들을 익히고, 스스로 소프트웨어 도구를 사용하고 작업을 자율적으로 계획하며 피드백을 통해 스스로를 개선하는 다중 에이전트 애플리케이션을 만든다. 또한 다양한 실습 예제를 통해서 오픈AI 어시스턴츠 API, GPT 넥서스, 랭체인, MS 프롬프트 흐름, 오토젠, 크루AI 같은 최신 도구들을 사용해 본다.

▣ 01장: 에이전트와 그 생태계
1.1 에이전트의 정의
1.2 에이전트의 구성요소
1.3 에이전트가 주목받는 이유
1.4 AI 인터페이스 안쪽의 세상
1.5 AI 에이전트 세상으로의 여정을 시작하며
요약

▣ 02장: LLM의 능력 발휘
2.1 오픈AI API 다루기
__2.1.1 대화 완성 모델에 연결하기
__2.1.2 요청과 응답의 이해
2.2 LM 스튜디오를 이용한 오픈소스 LLM 탐색 및 활용
__2.2.1 LM 스튜디오의 설치와 실행
__2.2.2 LM 스튜디오로 로컬에서 LLM 서빙하기
2.3 프롬프트 엔지니어링을 통한 LLM 프롬프팅
__2.3.1 상세한 쿼리
__2.3.2 페르소나 채택
__2.3.3 구분자 사용
__2.3.4 단계 명시
__2.3.5 예시 제공 전술
__2.3.6 출력 길이 지정
2.4 특정 요구에 최적인 LLM 선택
2.5 연습문제
요약

▣ 03장: GPT 어시스턴트 활용
3.1 챗GPT를 통한 오픈AI 어시스턴츠 탐색
3.2 데이터 과학자 역할을 하는 GPT 만들기
3.3 GPT 커스텀화 및 사용자 정의 작업 추가
__3.3.1 어시스턴트 구축을 돕는 어시스턴트 만들기
__3.3.2 어시스턴트에 사용자 정의 작업 연결
3.4 파일 업로드를 이용한 어시스턴트 지식 확장
__3.4.1 ‘알기 쉬운 미적분’ GPT 만들기
__3.4.2 파일 업로드를 이용한 지식 검색 및 참조 능력 추가
3.5 GPT 게시
__3.5.1 비용이 많이 드는 GPT 어시스턴트
__3.5.2 GPT의 경제 이해하기
__3.5.3 GPT 게시 및 공유
3.6 연습문제
요약

▣ 04장: 다중 에이전트 시스템 살펴보기
4.1 오토젠 스튜디오를 통한 다중 에이전트 시스템 입문
__4.1.1 오토젠 스튜디오 설치 및 사용법
__4.1.2 오토젠 스튜디오에서 스킬 추가하기
4.2 오토젠 라이브러리 활용
__4.2.1 오토젠 설치 및 활용
__4.2.2 코드 출력 향상을 위한 비평 에이전트 추가
__4.2.3 오토젠 캐시 이해하기
4.3 에이전트와 오토젠을 이용한 단체 대화
4.4 크루AI를 활용한 에이전트 크루 구축
__4.4.1 크루AI로 ‘익살꾼’ 에이전트 크루 만들기
__4.4.2 AgentOps를 이용한 에이전트 작동 관측
4.5 크루AI로 다시 살펴보는 코딩 에이전트
4.6 연습문제
요약

▣ 05장: 행동을 통한 에이전트 기능 강화
5.1 에이전트 행동의 정의
5.2 오픈AI 함수 정의와 실행
__5.2.1 LLM API 호출에 함수 추가
__5.2.2 함수 호출 행동의 실행
5.3 시맨틱 커널 소개
__5.3.1 SK 시맨틱 함수 시작하기
__5.3.2 시맨틱 함수와 문맥 변수
5.4 시맨틱 함수와 네이티브 함수의 시너지 효과
__5.4.1 시맨틱 스킬/플러그인 생성 및 등록
__5.4.2 네이티브 함수 적용
__5.4.3 네이티브 함수를 시맨틱 함수에 내장
5.5 상호작용적 서비스 에이전트로서의 시맨틱 커널
__5.5.1 시맨틱 GPT 인터페이스 구축
__5.5.2 시맨틱 서비스 테스트
__5.5.3 시맨틱 서비스 계층을 이용한 상호작용적 채팅
5.6 LLM의 의미 파악 능력을 고려한 시맨틱 서비스 작성
5.7 연습문제
요약

▣ 06장: 자율 어시스턴트 구축
6.1 행동 트리의 소개
__6.1.1 행동 트리의 실행
__6.1.2 행동 트리의 장점
__6.1.3 파이썬과 py_trees를 이용한 행동 트리 구현
6.2 GPT 어시스턴츠 플레이그라운드 살펴보기
__6.2.1 플레이그라운드의 설치 및 실행
__6.2.2 사용자 정의 행동의 사용 및 작성
__6.2.3 어시스턴츠 데이터베이스 설치
__6.2.4 어시스턴트가 로컬에서 코드를 실행하게 하려면
__6.2.5 로그를 이용한 어시스턴트 프로세스 조사
6.3 ABT(에이전트형 행동 트리)의 소개
__6.3.1 어시스턴트를 어시스턴트로 관리하기
__6.3.2 코딩 챌린지 ABT 만들기
__6.3.3 대화형 AI 시스템과 다른 방법들의 비교
__6.3.4 유튜브 동영상을 트위터(현 X)에 게시하기
__6.3.5 필요한 트위터(현 X) 설정
6.4 대화형 자율 다중 에이전트 시스템 만들기
6.5 후방 연쇄를 이용한 ABT 구축
6.6 연습문제
요약

▣ 07장: 에이전트 플랫폼의 구축과 활용
7.1 넥서스 소개: 그저 또 다른 플랫폼만은 아닌 플랫폼
__7.1.1 넥서스 실행
__7.1.2 넥서스 개발 모드
7.2 채팅 애플리케이션 개발을 위한 스트림릿 소개
__7.2.1 스트림릿 채팅 애플리케이션 만들기
__7.2.2 스트리밍 채팅 애플리케이션 만들기
7.3 에이전트의 프로필과 페르소나 개발
7.4 에이전트를 구동하는 에이전트 엔진
7.5 에이전트에게 행동과 도구 제공하기
7.6 연습문제
요약

▣ 08장: 에이전트의 기억과 지식
8.1 AI 애플리케이션에서 검색의 의미와 중요성
8.2 RAG의 기본 원리
8.3 의미 검색과 문서 색인화의 세부 사항
__8.3.1 벡터 유사도 검색 적용
__8.3.2 벡터 데이터베이스와 유사도 검색
__8.3.3 문서 임베딩의 이해
__8.3.4 크로마 DB를 이용한 문서 임베딩 검색
8.4 랭체인을 사용한 RAG 구축
__8.4.1 랭체인을 이용한 문서 분할 및 적재
__8.4.2 랭체인을 이용한 토큰 단위 문서 분할
8.5 에이전트 지식 구축에 RAG 적용
8.6 에이전트형 시스템의 기억 구현
__8.6.1 넥서스의 기억 저장소 활용
__8.6.2 의미 기억과 그 응용
8.7 기억과 지식의 압축
8.8 연습문제
요약

▣ 09장: 프롬프트 흐름을 이용한 효과적인 에이전트 프롬프팅
9.1 체계적인 프롬프트 엔지니어링이 필요한 이유
9.2 에이전트 프로필과 페르소나의 이해
9.3 첫 프롬프트 흐름 설정
__9.3.1 시작하기
__9.3.2 Jinja2 템플릿으로 프로필 만들기
__9.3.3 프롬프트 흐름 API 배포
9.4 프로필의 평가: 루브릭과 그라운딩
9.5 루브릭과 그라운딩
9.6 LLM 프로필을 이용한 그라운딩 평가
9.7 여러 프로필의 비교: 완벽한 프로필 얻기
__9.7.1 LLM 평가 출력의 파싱
__9.7.2 프롬프트 흐름의 일괄 실행
__9.7.3 그라운딩 평가 흐름 만들기
9.8 연습문제
요약

▣ 10장: 에이전트의 추론과 평가
10.1 직접 해법 프롬프팅의 이해
__10.1.1 질의응답 프롬프팅
__10.1.2 퓨샷 프롬프팅
__10.1.3 제로샷 프롬프팅을 이용한 일반성 추출
10.2 프롬프트 엔지니어링과 추론
__10.2.1 사고 연쇄 프롬프팅
__10.2.2 제로샷 CoT 프롬프팅
__10.2.3 단계별 프롬프트 연쇄
10.3 일관된 해답을 위한 평가 활용
__10.3.1 자기일관성 프롬프팅의 평가
__10.3.2 사고 트리 프롬프팅의 평가
10.4 연습문제
요약

▣ 11장: 에이전트의 계획과 피드백
11.1 계획: 모든 에이전트/어시스턴트의 필수 도구
11.2 순차 계획 수립 과정
11.3 순차 플래너 구축
11.4 단계별 플래너의 검토: 오픈AI의 추론 특화 모델
11.5 어시스턴트 및 에이전트형 시스템에서 계획, 추론, 평가, 피드백의 용도와 용법
__11.5.1 계획의 용도와 용법
__11.5.2 추론의 용도와 용법
__11.5.3 평가의 용도와 용법
__11.5.4 피드백의 용도와 용법
11.6 연습문제
요약

▣ 부록A: 오픈AI LLM 활용
A.1 오픈AI 계정 및 키 생성
A.2 애저 오픈AI 스튜디오의 API 키와 배포본

▣ 부록B: 파이썬 개발 환경
B.1 예제 코드 다운로드
B.2 파이썬 설치
B.3 VS 코드 설치 및 설정
B.4 파이썬 개발을 위한 VS 코드 확장 프로그램 설치
B.5 VS 코드로 새로운 파이썬 환경 생성
B.6 Dev Containers 확장 프로그램을 이용한 컨테이너(도커) 활용