사례로 보는 AI 에이전트

8주 AI 에이전트 PoC 세션: AWS에서 만들고 운영하는 법, 온톨로지의 원리, 그리고 6개 과제와 닮은 사례

오준석, Senior Solutions Architect, AWS Korea | October 2026

오늘 가져가실 세 가지

네 사례에서 반복해서 보인 패턴, 과제가 달라도 똑같이 적용

01
지식을 먼저 구조화한다
모델을 바꾸기 전에, 용어와 관계와 근거를 AI가 읽을 수 있는 형태로 만듭니다.
45% → 84.7%
미래에셋증권 ETF 질의 정답률
02
역할을 나누고 검증자를 둔다
계획, 실행, 검증 에이전트를 분리하고, 사람 승인은 필요한 곳에만 둡니다.
3일 → 30분
LG전자 데이터 분석 업무
03
평가 루프로 운영한다
합성 고객이 테스트하고, 진단부터 수정과 재검증까지 하나의 루프로 돌립니다.
7턴 → 4턴
신한카드 한도 상향 처리 (실패에서 완료로)

6개 과제, 3가지 에이전트 패턴

현업 PoC 3개와 IT 팀 과제 3개, 패턴이 같으면 참고할 사례도 같음

지식 기반 응답
근거를 찾아 출처와 함께 답한다
TASK 01마이데이터 비대면 자산관리 상담현업 부서, 현업 PoC
TASK 05IT 운영지식 위키IT 개발팀, IT 팀 과제
조사와 생성
자료를 모아 초안과 시안을 만든다
TASK 02UX 디자인 기획UX 부서, 현업 PoC
TASK 03보고서 작성(리서치)현업 부서, 현업 PoC
판독과 진단
규칙과 신호로 누락과 이상을 찾는다
TASK 04고객 제출서류 누락 자동 점검IT 개발팀, IT 팀 과제
TASK 06AI 기반 통합관제IT 인프라팀, IT 팀 과제, 내부망

오늘의 순서

1
AWS에서 에이전트 만들기 11분
2
온톨로지 쉽게 이해하기 19분
3
대표 사례 4선 25분
4
과제별 닮은 사례 11분
5
데모 앱, PoC 팁, Q&A 9분

AWS에서 에이전트 만들고 운영하기

Strands Agents, Amazon Bedrock AgentCore, 관측과 평가

에이전트 = 모델 + 도구 + 루프

루프는 SDK에 맡기고, 팀은 도구와 지식에 집중

모델: Amazon Bedrock
목표를 이해하고 다음 행동을 추론하고 계획
도구: Tools (MCP)
지식 검색, DB 조회, 사내 API 호출
지식: Knowledge
약관, 절차, 항목 정의서. 답의 품질을 결정
루프: Agent loop
실행, 관찰, 다음 행동을 목표 달성까지 반복
# strands_agent.py
from strands import Agent, tool

@tool
def search_terms(query: str) -> str:
    """상품 약관에서 관련 조항을 찾는다"""
    return kb_search(query)  # 예시 함수

agent = Agent(
    model="<Bedrock 모델 ID>",
    tools=[search_terms],
    system_prompt="근거 조항을 인용해 답한다",
)
agent("ISA 중도 인출 조건 알려줘")
Strands Agents: AWS 오픈소스 SDK (Python, TypeScript). 멀티 에이전트 패턴: Agents-as-Tools, Graph, Swarm, Workflow. 출처: strandsagents.com

AgentCore: 만든 에이전트를 운영으로

프레임워크와 모델 무관, Strands, LangGraph, OpenAI Agents SDK 등으로 만든 에이전트에 그대로

Runtime세션 격리 서버리스 실행, 장시간 비동기 작업
GatewayAPI와 Lambda를 MCP 도구로 변환, 기존 MCP 서버 연결
Memory멀티턴 단기 기억과 세션을 넘는 장기 기억
Observability단계별 실행 경로 추적과 디버깅 (OTel)
Harness모델, 도구, 프롬프트만 지정하면 도는 관리형 루프
Identity기존 IdP와 연동한 에이전트 인증과 접근 관리
Policy도구 호출을 규칙으로 결정적 통제 (Cedar 호환)
EvaluationsLLM-as-a-Judge와 커스텀 평가기로 자동 채점
Code Interpreter격리 샌드박스에서 분석 코드 실행
Browser관리형 클라우드 브라우저로 웹 작업
Optimizationtrace 기반 개선 추천과 A/B 테스트
은행 관점 핵심: Policy와 Identity로 도구 사용을 결정적으로 통제합니다.
출처: AWS 문서, Amazon Bedrock AgentCore Overview (2026.10 기준, 일부 구성요소 생략). 서울 리전 제공 여부는 사용 전 확인 필요

데모에서 운영으로: 관측, 평가, 개선

같은 trace 위에서 운영 지표와 품질 점수를 함께 확인

01 TRACE
계측
ADOT(OpenTelemetry)로 모든 단계를 기록. AgentCore 밖 에이전트도 가능
02 OBSERVE
관측
CloudWatch GenAI Observability: 지연, 토큰, 오류율, 단계별 trace
03 EVALUATE
평가
Online, On-demand, Batch 평가. Goal success, Correctness, Faithfulness, Helpfulness
04 IMPROVE
개선
Optimization: 개선 추천, 설정 버전 관리, A/B 테스트
TASK 01
User Simulation: 합성 고객으로 미리 검증
actor_profile(context, goal, traits)로 가상 고객을 정의하면 멀티턴 대화를 하고, 끝나면 같은 평가기로 채점합니다.
출처: AWS 문서, AgentCore Observability, Evaluations, User simulation