전체 문서 목록
쉬운 설명한눈에 보기필수판활용편완전 가이드
AI 에이전트 시스템 한눈에 보기 · 2026-11-10 기준

AI 에이전트 = LLM + 도구 + 루프
설계에 필요한 개념을 한 쪽에

에이전트는 LLM(대규모 언어 모델)이 다음 단계를 스스로 정하며 도구를 반복해서 쓰는 시스템입니다. 이 쪽은 완전 가이드 1~10장의 요점을 그림 다섯 장과 체크리스트 하나로 줄였습니다. 특정 회사 제품을 추천하지 않고, 6개 벤더 공식 문서의 공통 개념을 먼저 봅니다.

벤더 중립 개념 교재MCP 명세 2026-07-28Anthropic · OpenAI · Google ADK · Microsoft · LangChain/LangGraph
아주 쉽게 말하면LLM 은 말을 아주 잘하는 상담원입니다. 에이전트는 그 상담원에게 전화기와 서류함(도구)을 쥐여 주고 "일이 끝날 때까지 알아서 해 보세요"라고 맡긴 비서입니다.
실제로는모델은 "이 도구를 이 값으로 실행해 달라"는 요청만 글로 내놓고, 실제 실행은 앱(또는 벤더 서버)이 합니다. 결과를 다시 모델에 보내면 모델이 다음 행동을 정하고, 도구 사용 요청이 아닌 답이 나올 때까지 이 왕복이 반복됩니다. → 에이전트 루프

1. 에이전트 = LLM + 도구 + 루프

사용자 업무 요청 LLM (두뇌) 다음에 무엇을 할지 판단 도구 (손발) 앱이 실제로 실행 ① 도구 호출 요청 (이름 + 입력값) ② 실행 결과를 붙여 다시 보냄 최종 답 도구 요청이 아니면 끝 점이 한 바퀴 돌 때마다 모델 호출 한 번 · 컨텍스트에 도구 결과가 하나씩 쌓입니다
LLM 한 번 호출은 글 하나를 만들 뿐입니다. 도구와 반복 고리(루프)를 붙여야 에이전트가 됩니다. 단계 수를 미리 알 수 없는 열린 문제에 맞지만, 그만큼 비용과 오류 누적을 감수합니다.

🧠LLM 의 한계

학습 데이터와 이번 요청의 컨텍스트만 보고 글을 만듭니다. 최신·사내 정보와 실제 행동은 도구가 필요하고, 답은 매번 조금씩 다를 수 있습니다(비결정적).

1장 LLM

📏컨텍스트 창

시스템 프롬프트·도구 정의·대화 기록·도구 결과·출력까지 모두 담는 한정된 공간. 많이 넣을수록 정확도가 떨어질 수 있어 고르는 일이 중요합니다.

컨텍스트 창

🔁LLM vs 에이전트

LLM 은 묻는 말에 답하고, 에이전트는 모델이 다음 단계를 스스로 정하며 도구를 루프로 씁니다.

비교 보기

2. 도구 · 함수 호출 · MCP 는 층이 다릅니다

MCP — 연결 규격 여러 AI 앱이 도구·자료를 같은 규격으로 주고받는 공개 표준 함수 호출 · 도구 호출 — 요청 방식 모델이 "이 도구를 이 값으로" 요청 (OpenAI: function calling · Anthropic: tool use) 도구 — 기능 자체 이름 · 설명 · 입력 형식 · 결과. 실행은 앱(또는 서버)이 한다 호스트 (AI 앱) 서버마다 클라이언트 1개 MCP 서버 A 파일 MCP 서버 B 사내 DB 서버끼리는 서로 못 보고 대화 전체는 호스트에만
함수 호출(OpenAI)과 tool use(Anthropic)는 같은 메커니즘이며 필드 이름만 다릅니다. MCP 는 모델이 아니라 앱(호스트)과 서버 사이에서 도구 정의와 실행을 나르는 JSON-RPC(프로그램끼리 요청과 응답을 주고받는 메시지 형식) 규약입니다.

🛠API vs 도구

API 는 코드가 정해진 대로 부르고, 도구는 모델이 상황을 보고 골라 부릅니다. 그래서 도구는 업무 흐름 단위로, 적은 수로, 다음 행동에 꼭 필요한 정보만 돌려주게 설계합니다.

2장 비교

✍️도구 설명이 성능을 좌우

이름·설명·입력 설명은 모델이 언제 어떻게 쓸지 판단하는 근거입니다. 실패하면 무엇이 틀렸고 무엇을 해 볼지 담아 돌려주면 모델이 스스로 고칩니다.

도구 정의

🔌MCP 의 세 가지 제공물

서버는 도구(모델이 부를지 정함)·리소스(앱이 다룸)·프롬프트(사용자가 고름)를 내놓습니다. 전송은 같은 컴퓨터의 STDIO 와 네트워크의 Streamable HTTP 두 가지.

3장 MCP

3. 지식 3층 — 프롬프트 · 스킬 · 메모리/RAG

① 프롬프트 · 지시문 역할 · 목표 · 제약 — ⏱ 항상 실림 ② 스킬 업무 절차 꾸러미 — ⏱ 필요할 때 본문 ③ 메모리 · RAG 겪은 것 · 문서 지식 — ⏱ 찾아서 넣음 컨텍스트 창 이번 호출에 실린 것만 LLM 이 본다 LLM
여섯 수단(지시문·스킬·도구·MCP·메모리·RAG)은 모두 컨텍스트 창이라는 한 자리를 두고 "언제, 얼마나" 실리느냐가 다릅니다. 컨텍스트는 유한한 자원이라, 결과에 꼭 필요한 정보만 가장 적게 골라 싣는 컨텍스트 엔지니어링이 필요합니다.

📝프롬프트 · 지시문

역할·목표·제약·도구 사용 시점·출력 형식. 성공 기준과 평가부터 세우고, 초안 → 시험 → 실패 유형별 수정을 반복합니다. 코드처럼 버전 관리합니다.

4장 지시문

📦스킬

SKILL.md·스크립트·자료를 묶은 폴더. 설명 → 본문 → 자료 순으로 필요할 때만 실립니다. 표준이 아닌 제품 용어이고, 설치 전 출처를 검증합니다. 스킬은 "어떻게", 도구는 "행동", MCP 는 "연결".

스킬·도구·MCP

🗄메모리 vs RAG

메모리는 대화에서 생긴 정보(선호·결정·진행 기록), RAG 는 미리 있는 문서를 조각으로 나눠 임베딩(글의 뜻을 숫자로 바꾸기)·색인해 두고 뜻이 가까운 조각을 찾아 붙이는 방식. 검색 기술은 겹쳐도 출처·수명·범위가 다릅니다.

5장 비교

4. 워크플로 vs 에이전트 — 길을 누가 정하나

워크플로 — 코드가 길을 정함 LLM 호출 1 검사 LLM 호출 2 같은 입력이면 같은 경로 · 예측 가능 · 일관 패턴: 체이닝 · 라우팅 · 병렬화 · 오케스트레이터-워커 · 평가자-최적화 에이전트 — LLM 이 길을 정함 LLM 도구 A 도구 B 도구 C 사람 승인 유연 · 대신 비용과 오류 누적
완전 가이드 6장 [그림 7]의 요약. 실제 시스템은 둘을 섞습니다. 공통 권고는 가장 단순한 해법부터 시작해 나아질 때만 복잡도를 더하는 것입니다.

🧭계획과 반성

에이전트는 계획 → 도구로 행동 → 실제 결과 관찰 → 판단의 고리를 돕니다. 평가자-최적화 패턴이 반성·자기 수정의 대표 형태입니다.

6장 계획

✋사람 승인 · 체크포인트

메일 발송·결제·삭제 같은 부작용 앞에서 멈추고 상태를 저장한 뒤, 승인이 오면 새 대화가 아니라 같은 실행을 이어 갑니다.

사람 승인

🛑재시도와 멈춤 조건

실패는 층별로 재시도·대체·재개로 다루되 부작용이 두 번 일어나지 않게 하고, 완료·반복 상한·규칙 차단·사람 거절 같은 멈춤 조건을 미리 둡니다.

멈춤 조건

5. 멀티 에이전트는 비용과 맞바꿉니다

채팅 한 번 대비 토큰 사용량 (Anthropic 측정, 대략) 채팅 1배 단일 에이전트 약 4배 멀티 에이전트 약 15배 조사 평가에서 성능 차이의 80%를 토큰 사용량이 설명 — 잘 되는 이유와 비싼 이유가 같습니다
그래서 원문은 "작업의 가치가 높아서, 성능이 좋아지는 대신 늘어나는 비용을 치를 만해야 한다"고 말합니다. OpenAI·LangChain·Google ADK·Microsoft 모두 먼저 에이전트 하나로 시작하고, 나눠서 실질적으로 나아질 때만 나누라고 권합니다.

👥왜 나누나

각자 컨텍스트를 가진 에이전트 여럿이 일을 나눕니다. 이득은 컨텍스트 분리·병렬화·분산 개발에서 나옵니다.

7장 단일 vs 멀티

🧩패턴은 "최종 답을 누가 쥐나"

감독자형(하위 에이전트를 도구처럼 부름) vs 핸드오프형(대화 주도권을 넘김). 순차·병렬은 코드가 흐름을 정하는 워크플로입니다.

협업 패턴

📨위임과 검증

위임 지시서에는 목표·출력 형식·도구·경계를 담고, 공유/독립 컨텍스트, 검증 에이전트, 실패 보고, 예산 상한을 함께 설계합니다.

위임

6. 운영 3축 — 권한 · 관측 · 평가

잘 만든 에이전트도 상태 저장·추적·평가·권한이 없으면 믿고 쓸 수 없습니다. 이 쪽은 운영에서 정할 것을 세 축으로 묶었습니다.

🔐권한 — 최소 권한

도구마다 "주지 않음 · 읽기 · 승인 후 실행 · 자동" 중 하나를 고릅니다. 인젝션이 성공해도 피해가 최소가 되게 하는 마지막 벽입니다. 열쇠는 호스트가 쥐고, 생성 코드는 샌드박스(격리된 실행 공간)에서 돌립니다.

9장 최소 권한

🔭관측 — 추적과 감사

요청 하나의 처음부터 끝까지를 트레이스(요청 한 건의 전체 기록)와 스팬(그 안의 모델·도구 호출 하나하나의 기록)으로 남겨, 나쁜 검색어인지 도구 실패인지 가려냅니다. 누가·무엇을·어떤 판단으로 했는지는 감사 로그에 남깁니다.

8장 관측성

📊평가 — 궤적과 최종 답

확률적으로 움직이므로 통과/실패만으로는 부족합니다. 최종 답과 궤적(경로 — 밟은 단계·도구 호출 순서)을 함께 보고, 작게 시작해 평가 세트(정해 둔 시험 문제 묶음)로 반복합니다.

8장 평가
인젝션은 완벽히 막을 수 없다는 전제로프롬프트 인젝션은 사용자(직접)와 에이전트가 읽는 내용(간접·도구 경로)으로 들어오고, 유출은 도구 인자·화면·로그·네트워크로 나갑니다. 여러 겹으로 막되 권한과 격리를 함께 묶습니다. → 9장 인젝션

7. 설계 순서 체크리스트 — 12항목

요구사항이 구조를 정하고, 구조가 부품을 정합니다. 앞 단계의 답이 뒤 단계의 선택지를 줄여 줍니다. 순서는 이 교재의 정리이고, 판단 기준은 각 장의 원문에서 왔습니다.

  1. 요구사항 · 목표 — 무엇을 해야 성공인가, 지표는? → 9장
  2. 전체 아키텍처 — 단순하게, 계획 단계를 투명하게, 도구 인터페이스를 신중하게. → 8장
  3. 에이전트 구성 — 하나로 시작, 나눌 이유가 있을 때만 전문가 추가. → 7장
  4. 사용 LLM — 제품이 아니라 능력(추론·도구 호출·컨텍스트·비용)으로, 역할별로 알맞은 모델에 나눠 보내기(라우팅). → 1장
  5. 도구 구성 — 몇 개의 신중한 도구로 시작, 이름 공간 나누기, 의미 있는 응답. → 2장
  6. MCP 활용 여부 — 여러 호스트가 같은 도구를 쓰는가, 인가가 필요한 원격 서버인가. → 3장
  7. 스킬 · 메모리 — 반복 지침은 스킬, 지속할 사실은 메모리, 찾아 읽을 지식은 RAG. → 4장 · 5장
  8. 워크플로 · 오케스트레이션 — 잘 정의된 일엔 워크플로, 유연성이 필요하면 에이전트. → 6장 · 7장
  9. 권한 · 보안 — 도구별 권한 칸, 신원 방식, 인젝션 대책, 부작용 도구 옆 검사. → 9장
  10. 실행 과정 — 요청 하나가 처리되는 단계, 매 단계 실제 결과로 진행 판단. → 1장
  11. 오류 · 예외 처리 — 재시도·타임아웃·대체·중단·멈춘 자리에서 재개. → 6장 · 9장
  12. 운영 · 평가 — 평가 세트, 판정 방식, 추적, 비용 지표. 결과가 다시 1번을 고칩니다. → 8장 · 9장

이 12항목을 사례 4개(조사·보고서, GitHub 개발, 프로젝트 관리, 업무 자동화)에 적용한 예는 10장 실전 설계에 있습니다.

이제 어디로 갈까요?

그림으로 먼저 감을 잡으려면 쉬운 설명, 손으로 설계해 보려면 활용편(설계 실습 10개)이 빠릅니다. 차근차근 읽으려면 이 순서로 보세요.

자세히 읽기 — 가이드 지도

문서 5종과 장별 내용

1. LLM과 에이전트

컨텍스트 창 · 추론 · 구조화 출력 · 에이전트 루프

열기

2. 도구와 함수 호출

API vs 도구 · 호출 흐름 · 도구 정의 · 오류 처리

열기

3. MCP 아키텍처

호스트·클라이언트·서버 · 제공물 · 전송 · 여러 서버

열기

4. 프롬프트·스킬·컨텍스트

지시문 · 스킬 · 컨텍스트 엔지니어링

열기

5. 메모리와 RAG

단기·장기 메모리 · 임베딩 · 메모리 vs RAG

열기

6. 실행과 제어

계획 · 워크플로 vs 에이전트 · 체크포인트 · 사람 승인 · 재시도

열기

7. 멀티 에이전트

패턴 · 통신 · 위임 · 메모리 공유 · 비용

열기

8. 아키텍처와 프레임워크

층 구조 · 런타임 vs 프레임워크 · 관측 · 평가 · 가드레일

열기

9. 보안과 운영

최소 권한 · MCP 보안 · 인젝션 · 샌드박스 · 감사 · 비용

열기

10. 실전 설계

12항목 틀 · 사례 4가지 · 종합 아키텍처

열기

🎈 쉬운 설명

고등학생도 이해할 수 있게 그림 위주로 한 장에.

쉬운 설명 열기

📗 필수판

각 장의 「처음이라면 이것만」 소절만 모은 짧은 판.

필수판 열기

🧭 활용편

코드 없이 종이·문서 위에서 하는 설계 실습 10개. 결과물은 매번 「설계 노트」 한 장.

활용편 열기

📘 완전 가이드

개념 · 벤더별 차이 · 사례 · 용어집 · 참고 자료까지.

완전 가이드 열기

근거: MCP 명세 2026-07-28 · 6개 벤더 공식 문서 86쪽 · 수집일 2026-11-10