사례로 보는 AI 에이전트

8주 AI 에이전트 PoC 세션: AWS에서 만들고 운영하는 법, 온톨로지의 원리, 그리고 6개 과제와 닮은 사례

오준석, Senior Solutions Architect, AWS Korea | October 2026

오늘 가져가실 세 가지

네 사례에서 반복해서 보인 패턴, 과제가 달라도 똑같이 적용

01
지식을 먼저 구조화한다
모델을 바꾸기 전에, 용어와 관계와 근거를 AI가 읽을 수 있는 형태로 만듭니다.
45% → 84.7%
미래에셋증권 ETF 질의 정답률
02
역할을 나누고 검증자를 둔다
계획, 실행, 검증 에이전트를 분리하고, 사람 승인은 필요한 곳에만 둡니다.
3일 → 30분
LG전자 데이터 분석 업무
03
평가 루프로 운영한다
합성 고객이 테스트하고, 진단부터 수정과 재검증까지 하나의 루프로 돌립니다.
7턴 → 4턴
신한카드 한도 상향 처리 (실패에서 완료로)

6개 과제, 3가지 에이전트 패턴

현업 PoC 3개와 IT 팀 과제 3개, 패턴이 같으면 참고할 사례도 같음

지식 기반 응답
근거를 찾아 출처와 함께 답한다
TASK 01마이데이터 비대면 자산관리 상담현업 부서, 현업 PoC
TASK 05IT 운영지식 위키IT 개발팀, IT 팀 과제
조사와 생성
자료를 모아 초안과 시안을 만든다
TASK 02UX 디자인 기획UX 부서, 현업 PoC
TASK 03보고서 작성(리서치)현업 부서, 현업 PoC
판독과 진단
규칙과 신호로 누락과 이상을 찾는다
TASK 04고객 제출서류 누락 자동 점검IT 개발팀, IT 팀 과제
TASK 06AI 기반 통합관제IT 인프라팀, IT 팀 과제, 내부망

오늘의 순서

1
AWS에서 에이전트 만들기 11분
2
온톨로지 쉽게 이해하기 19분
3
대표 사례 4선 25분
4
과제별 닮은 사례 11분
5
데모 앱, PoC 팁, Q&A 9분

AWS에서 에이전트 만들고 운영하기

Strands Agents, Amazon Bedrock AgentCore, 관측과 평가

에이전트 = 모델 + 도구 + 루프

루프는 SDK에 맡기고, 팀은 도구와 지식에 집중

모델: Amazon Bedrock
목표를 이해하고 다음 행동을 추론하고 계획
도구: Tools (MCP)
지식 검색, DB 조회, 사내 API 호출
지식: Knowledge
약관, 절차, 항목 정의서. 답의 품질을 결정
루프: Agent loop
실행, 관찰, 다음 행동을 목표 달성까지 반복
# strands_agent.py
from strands import Agent, tool

@tool
def search_terms(query: str) -> str:
    """상품 약관에서 관련 조항을 찾는다"""
    return kb_search(query)  # 예시 함수

agent = Agent(
    model="<Bedrock 모델 ID>",
    tools=[search_terms],
    system_prompt="근거 조항을 인용해 답한다",
)
agent("ISA 중도 인출 조건 알려줘")
Strands Agents: AWS 오픈소스 SDK (Python, TypeScript). 멀티 에이전트 패턴: Agents-as-Tools, Graph, Swarm, Workflow. 출처: strandsagents.com

AgentCore: 만든 에이전트를 운영으로

프레임워크와 모델 무관, Strands, LangGraph, OpenAI Agents SDK 등으로 만든 에이전트에 그대로

Runtime세션 격리 서버리스 실행, 장시간 비동기 작업
GatewayAPI와 Lambda를 MCP 도구로 변환, 기존 MCP 서버 연결
Memory멀티턴 단기 기억과 세션을 넘는 장기 기억
Observability단계별 실행 경로 추적과 디버깅 (OTel)
Harness모델, 도구, 프롬프트만 지정하면 도는 관리형 루프
Identity기존 IdP와 연동한 에이전트 인증과 접근 관리
Policy도구 호출을 규칙으로 결정적 통제 (Cedar 호환)
EvaluationsLLM-as-a-Judge와 커스텀 평가기로 자동 채점
Code Interpreter격리 샌드박스에서 분석 코드 실행
Browser관리형 클라우드 브라우저로 웹 작업
Optimizationtrace 기반 개선 추천과 A/B 테스트
은행 관점 핵심: Policy와 Identity로 도구 사용을 결정적으로 통제합니다.
출처: AWS 문서, Amazon Bedrock AgentCore Overview (2026.10 기준, 일부 구성요소 생략). 서울 리전 제공 여부는 사용 전 확인 필요

데모에서 운영으로: 관측, 평가, 개선

같은 trace 위에서 운영 지표와 품질 점수를 함께 확인

01 TRACE
계측
ADOT(OpenTelemetry)로 모든 단계를 기록. AgentCore 밖 에이전트도 가능
02 OBSERVE
관측
CloudWatch GenAI Observability: 지연, 토큰, 오류율, 단계별 trace
03 EVALUATE
평가
Online, On-demand, Batch 평가. Goal success, Correctness, Faithfulness, Helpfulness
04 IMPROVE
개선
Optimization: 개선 추천, 설정 버전 관리, A/B 테스트
TASK 01
User Simulation: 합성 고객으로 미리 검증
actor_profile(context, goal, traits)로 가상 고객을 정의하면 멀티턴 대화를 하고, 끝나면 같은 평가기로 채점합니다.
출처: AWS 문서, AgentCore Observability, Evaluations, User simulation

온톨로지, 쉽게 이해하기

개념, 관계, 어휘, 규칙. 그리고 직접 돌려 본 데모

LLM은 왜 우리 데이터 앞에서 틀릴까

사람이 쓰는 말과 시스템에 저장된 값 사이의 세 가지 간극

고객 (또는 직원)의 질문"미국국채 ETF 중에 보수가 제일 싼 거 뭐예요?"
?
상품 원장에 실제로 저장된 값ast_cls = 'BD_OVS_GOV'
rgn_cd = 'US'
fee_bp = 5
말의 간극
"미국국채", "미국채", "US Treasury"는 같은 것. DB에는 BD_OVS_GOV 하나뿐입니다.
관계의 간극
미국국채는 해외국채이고, 해외국채는 채권입니다. 이 계층은 테이블 어디에도 적혀 있지 않습니다.
상식의 간극
"보수"는 fee_bp이고 단위는 bp(0.01%p). 담당자는 알지만 DB는 말해 주지 않습니다.

온톨로지 = 개념, 관계, 규칙의 약속

탭을 눌러 은행 예시로 확인

무엇이 있는가
업무에 등장하는 "종류"를 정합니다. 종류(클래스)와 그 종류에 속하는 실제 하나하나(인스턴스)를 구분합니다.
비유: 사전의 표제어
고객계좌상품자산분류운용사
클래스 고객의 인스턴스: 홍길동, 김민지 ...
클래스 상품의 인스턴스: SKY 미국채10년, RIVER 코스피200 ...
어떻게 이어지는가
개념과 개념 사이에 이름 붙은 연결을 정합니다. 방향이 있고, 어떤 종류끼리 이어지는지도 정합니다.
비유: 지도의 길
고객 보유 계좌
계좌 편입 상품
상품 자산분류 자산분류
상품 브랜드 브랜드, 브랜드 운용사 운용사
무엇은 반드시 지켜지는가
항상 참이어야 하는 제약과 업무 규칙입니다. 모델이 추측하지 않도록 시스템이 강제할 수 있습니다.
비유: 규정집
상위, 하위: 미국국채는 해외국채이고, 해외국채는 채권이다
단일값: 상품의 자산분류는 하나뿐이다
상호배타: 주식이면서 채권일 수는 없다
업무 규칙: "배당"은 분배율로 비교한다

모든 지식을 세 단어 문장으로

주어, 관계, 목적어(트리플)를 하나씩 쌓으면 지식 그래프

보유 유형 하위분류 편입 자산분류 상위 상위 홍길동 고객 ISA-001 ISA 계좌 절세계좌 SKY 미국채10년 미국국채 해외국채 채권
버튼을 눌러 트리플을 하나씩 쌓아 보세요.
실선 테두리: 인스턴스(실제 하나)
점선 테두리: 클래스(개념, 종류)
모든 이름과 계좌는 가상 예시

계층이 있으면 "채권"이 저절로 풀린다

개념을 누르면 하위 개념과 해당 상품까지 함께 포함

개념 노드를 눌러 보세요예: "채권 ETF 보여줘". DB에 "채권"이라는 값은 없지만 계층을 따라가면 상품까지 이어집니다.
점선 테두리: 개념(클래스), 실선: 상품(인스턴스). 데모용 가상 ETF 22개 중 이 계층에 연결된 20개만 표시

사람의 말을 DB 값으로 확정하는 사전

대표 이름(prefLabel), 별칭(altLabel), 실제 값을 한 개념에 묶는 어휘(SKOS)

# etf_ontology.ttl (데모에 실제로 쓴 파일 일부)
ex:BdUSGov  a skos:Concept ;
    skos:broader   ex:BdOvsGov ;        # 상위: 해외국채
    skos:prefLabel "미국국채" ;
    skos:altLabel  "미국채", "미 국채", "US Treasury" ;
    ex:sqlFilter   "ast_cls = 'BD_OVS_GOV' AND rgn_cd = 'US'" .

# 업무 상식 (Semantic Layer)
ex:RuleFee  ex:trigger "보수" ;
    rdfs:comment "fee_bp 단위는 bp(1bp = 0.01%p)다. 0.1% = 10bp." .
질문 속 말: "미 국채 ETF 중 보수가 낮은 것"
사전 조회 (LLM 호출 없음)
개념 확정: 미국국채 (상위: 해외국채, 채권)
개념에 붙은 값
조건 확정: ast_cls = 'BD_OVS_GOV' AND rgn_cd = 'US', 규칙: 보수는 fee_bp(bp)
사전에 없는 말이면 추측하지 않고 되묻습니다. 미래에셋증권은 vocabulary.ttl로 같은 일을 합니다.

온톨로지가 에이전트에서 일하는 네 자리

질문이 들어와서 답이 나가기까지, 모델이 추측하던 일을 하나씩 결정적으로

질문 들어옴근거와 함께 답 나감
1
의도 이해
"결제 취소"와 "결제 실패"처럼 비슷한 의도를 속성으로 쪼개 구분
신한카드: Domain, Action, Tag 3속성 인텐트 온톨로지
2
값 확정
사용자의 말을 DB에 있는 실제 값으로 바꾸고, 못 바꾸면 되묻기
미래에셋증권: Ontology Grounding, vocabulary.ttl
3
관계 탐색
여러 관계를 따라가야 답이 나오는 질문을 그래프 조회로
미래에셋증권: Neptune 관계, 시점 조회 / 5부 데모 앱: multi-hop
4
규칙 강제
단위, 금지 조건, 업무 상식을 모델 대신 시스템이 적용
미래에셋증권: Semantic Layer / Canva: 결정론적 도구

벡터 검색, 지식 그래프, 온톨로지는 층이다

경쟁이 아니라 역할 분담, 미래에셋증권은 세 가지를 동시에 조회

벡터 검색 (RAG)
저장
문서 조각과 그 의미 벡터
잘함
비슷한 내용 찾기
약함
정확한 값, 개수, 연결
예: "요즘 주목받는 테마 설명해줘"
미래에셋: OpenSearch 의미 검색
지식 그래프
저장
개체와 관계(트리플)
잘함
여러 단계로 이어진 사실
약함
말이 다르면 시작점을 못 찾음
예: "이차전지 테마에 속한 ETF"
미래에셋: Neptune 관계 조회
온톨로지
저장
개념, 관계, 어휘, 규칙의 약속
잘함
말과 값을 잇고 규칙을 강제
역할
위 두 저장소를 어떻게 쓸지 정함
예: "미국국채"를 'BD_OVS_GOV'로 확정
미래에셋: Grounding, Semantic Layer
정리: 온톨로지는 저장소라기보다 설계도입니다. 그래프 DB 없이 파일과 코드로 시작해도 됩니다(다음 데모가 그렇게 만들었습니다).

AWS에서는 무엇으로 만드나

작게는 파일과 코드, 커지면 그래프 DB와 관리형 GraphRAG

파일과 코드로 시작 PoC 1~2주
개념, 별칭, 규칙을 TTL이나 YAML 파일로 두고, 확정 로직은 도구 함수로. 오늘 D1 데모와 미래에셋증권 YAML 규칙표가 이 방식입니다.
Amazon Neptune
관리형 그래프 DB. 속성 그래프(Gremlin, openCypher)와 RDF(SPARQL)를 모두 지원. 관계와 multi-hop 조회가 많아질 때.
Bedrock Knowledge Bases GraphRAG
S3 문서에서 엔터티와 관계를 자동으로 뽑아 Neptune Analytics 그래프로. 벡터 검색 결과를 그래프로 넓혀 답합니다.
GraphRAG Toolkit (오픈소스)
그래프 구축과 검색을 직접 설계하고 싶을 때. 미래에셋증권은 Phase 1에서 이 도구로 Ontology, ER, Search 방법론을 검증했습니다.
출처: Amazon Neptune 문서(What is Amazon Neptune), Bedrock 문서(Build a knowledge base with Amazon Neptune Analytics graphs). GraphRAG는 2026-10-21 문서 기준 서울 리전 목록에 없음: 도입 전 리전 확인 필요

D1 데모: 같은 모델, 세 가지 입력

미래에셋증권 실험을 작게 재현: 가상 ETF 22개, 질문 12개, Claude Haiku 4.5

A
스키마만
  • 테이블 DDL과 컬럼 주석
  • 지금 많은 Text-to-SQL이 이 상태
B
온톨로지를 설명
  • A + 클래스, 관계, 계층, 별칭을 글로 설명
  • "프롬프트에 온톨로지를 넣었다"
C
온톨로지로 확정
  • B + 사전 조회로 확정한 DB 조건과 업무 규칙
  • 사전에 없는 상품 분류는 되묻기
측정 방법: 질문마다 모드별 1회 호출(temperature 0), 생성 SQL을 실행해 정답 SQL 결과와 같은지 비교. 원장 값은 코드(BD_OVS_GOV, T_BATT), 보수는 bp 단위. 모든 데이터는 가상, 1회 실행, 2026-10-21

D1 영상: 설명할 때와 확정할 때

0:00원장은 코드값으로 저장
0:08어휘: 미국국채의 별칭과 DB 조건
0:14질문 하나를 A, B, C로: A와 B는 빈 결과
0:22질문 12개 전체 실행과 점수
0:53사전에 없는 말: 되묻기
실제 터미널 녹화(2026-10-21), Amazon Bedrock 호출, 무음. 2초 넘는 대기는 2초로 줄임

설명은 값이 아니다: 50%, 33%, 92%

D1 결과(12문항, 1회)와 미래에셋증권 결과(72문항)의 같은 방향

A 스키마만
6/12
B 온톨로지 설명
4/12
C 온톨로지 확정
11/12
참고, 미래에셋증권(국내 ETF 72문항): 스키마만 45%, 온톨로지를 프롬프트에 설명 47.4%, 값 확정 65%, 연합 검색과 Semantic Layer까지 84.7%
설명을 주면 오히려 헷갈린다
B는 개념 이름을 DB 값처럼 썼습니다: thm_cd IN ('미국국채', 'US Treasury', ...)
확정은 같은 모델을 바꾼다
단위(0.1% = 10bp), 계층, 별칭이 조건으로 들어가자 11개를 맞혔습니다.
사전에 없는 말은 되묻는다
C의 오답 1건은 "코스피200"이 사전에 없어 되물은 경우. 사전 범위가 곧 성능입니다.

온톨로지가 늘 이기지는 않는다

D2: 신한카드식 3속성 인텐트 분류를 소형 모델로 재현해 본 결과

회차A 목록에서 직접 선택B 3속성 + 그래프 매칭
1차: 속성 정의 초안24/40 (60.0%)23/40 (57.5%)
2차: 설명과 속성 정의 수정40/40 (100%)24/40 (60.0%)
Amazon Nova Micro, 가상 인텐트 20개(Domain 4, Action 5, Tag 8), 가상 발화 40개, 1회 실행, 2026-10-21. 발화를 설명과 같은 사람이 만들어 쉬운 편
정의가 모호하면 둘 다 무너진다
"한도 올려줘"가 신청인지 변경인지 정하지 않은 1차에서는 두 방식 모두 60% 안팎
작은 규모에서는 직접 선택이 낫다
20개, 설명이 분명하면 소형 모델도 목록에서 바로 고릅니다. 속성 3개를 따로 고르면 오류가 곱해집니다.
신한카드의 조건을 기억하기
51개로 잘게 나뉜 의도, 문맥이 비슷한 쌍, 규제와 비용 때문에 소형 모델만 쓸 수 있는 조건에서 보고된 효과입니다.

온톨로지, 이렇게 작게 시작하세요

미래에셋증권의 순서를 8주 PoC 크기로 줄이면

STEP 1
답해야 할 질문부터
실제 질문 30~50개를 모으고, 정답과 근거를 붙입니다. 이것이 평가셋이 됩니다.
미래에셋: 온톨로지가 답할 질문 목록을 먼저 뽑음
STEP 2
질문에 나온 개념만
질문에 등장한 개념과 관계만 정의합니다. 처음부터 전사 모델을 그리지 않습니다.
예: 상품, 자산분류, 운용사, 계층 3단계
STEP 3
별칭 사전과 규칙
현업이 쓰는 말과 DB 값을 잇고, 담당자의 상식을 규칙으로 적습니다.
예: 미국채는 미국국채, 0.1%는 10bp
STEP 4
측정하고 보강
평가셋으로 단계마다 점수를 재고, 되묻기와 실패 로그로 사전을 채웁니다.
D1: "코스피200" 되묻기가 다음 보강 대상
과제 연결: TASK 01 마이데이터(상품, 자산 용어), TASK 05 운영지식 위키(시스템명, 장애 용어), TASK 04 서류 점검(서류 유형, 필수 항목)이 특히 효과가 큽니다.

대표 사례 4선

LG전자, 신한카드, 미래에셋증권, Canva. 원문 아키텍처로 보기

CASE 1 LG전자: 질문에서 보고서까지

Data Rich, Insight Poor. 무엇을 물어야 할지부터 막히던 마케터의 데이터 분석

BEFORE
요구사항 정의부터 결과 해석까지 평균 2~3주, 데이터 과학자에게 의존
AFTER
데이터 분석 업무 3일 → 30분
초기 구조
Coordinator가 복잡도를 판단하고, Planner가 계획과 추적, Supervisor가 Coder와 Reporter에 배분
적용
워시콤보, 식기세척기 구매 고객 분석, CRM 캠페인 성과 비교 등 실무
LG전자 초기 멀티 에이전트 구조: Coordinator, Planner, Supervisor, Coder, Reporter

Deep Insight 전체 아키텍처

8개 에이전트, 3계층. AgentCore Runtime 위의 Strands 그래프와 격리된 Code Interpreter

계층형 멀티 에이전트와 Agents as Tools

계획 계층이 계획하고 승인받은 뒤, 실행 에이전트는 도구처럼 호출

Deep Insight에서 가져올 6가지 패턴

과제 3(보고서), 4(서류 점검), 6(관제)에 그대로 적용 가능

라우팅 먼저
가벼운 모델(Haiku)이 요청을 분류. 단순 요청엔 비싼 오케스트레이션을 생략
계획 + 사람 승인
Planner가 5~10단계로 분해하고, 사용자가 승인하거나 수정한 뒤 실행
요약 말고 원본 누적
에이전트 간 결과를 요약해 넘기지 않고 파일에 누적. 세부 맥락 손실 방지
검증 에이전트 분리
Validator가 원본 데이터로 다시 계산(허용 오차 0.01). 검증된 값만 인용
역할별 모델 + 선택적 캐싱
반복 호출되는 에이전트만 Prompt Caching. 입력 토큰 비용 최대 90% 절감
격리된 코드 실행
세션별 컨테이너를 Private VPC에서 실행, 인터넷 차단, 1시간 후 자동 종료

운영 화면: 보고서와 관리자 대시보드

작업별 소요시간, 토큰, Cache Hit을 같은 화면에서

워시타워 고객분석, 캠페인 비교, 수익성 분석 보고서 화면
워시타워 고객분석, 캠페인 비교, 수익성 분석 보고서
Deep Insight 관리자 대시보드: 작업별 소요시간, 토큰, Cache Hit
관리자 대시보드: 작업당 15~23분, 토큰 100만 개 이상, Cache Hit 50~70%
리스크: HITL 300초 자동 승인은 금융권에서 무승인 실행으로 해석될 수 있습니다. 타임아웃 시 보류로 바꾸세요. 블로그의 288배 표기는 산술상 144배이므로, 3일에서 30분으로 줄었다는 표현만 인용하세요.

CASE 2 신한카드: 세 가지 혁신

온톨로지 인텐트 분류, 분산형 에이전트 워크플로우, 에이전트 간 대화 기반 self-healing

51개 상담 의도를 온톨로지로 쪼개 분류

규제, 비용, 5초 응답 제약 속에서 소형 모델(sLLM)로 정확도를 올린 방법

1. 3속성 병렬 추출
sLLM이 Domain, Action, Tag를 각각 독립적으로 고른다
2. 그래프 매칭으로 후보 축소
Tag로 거르고, Domain과 Action이 맞는 인텐트만 남긴다
3. 남은 후보만 LLM이 비교
하나면 확정, 여럿이면 원문과 후보 설명을 비교해 선택
신한카드 인텐트 온톨로지 맵 일부: Intent, Domain, Action, Tag 노드
Qwen3 32B 기존84.2%
Qwen3 32B 온톨로지91.0%
Qwen3 235B A22B 기존77.4%
Qwen3 235B A22B 온톨로지88.7%
5초 이내요청당 응답
약 18배비용 절감 (Opus 4.5 대비)
~98%topic switching 감지
작은 32B 모델이 약 7배 큰 235B 모델보다 2.3%p 높음. 측정 조건 비공개 수치이므로 참고용. 2부 D2처럼 조건(51개, 유사 의도, sLLM)이 효과를 만든다는 점도 함께

중앙 오케스트레이터 대신 분산형 구조

각 전문 에이전트가 "내 일인가"만 병렬 판단, 에이전트가 늘어도 응답 시간은 거의 그대로

중앙집중형 에이전틱 AI 아키텍처: Central Orchestrator가 모든 위임을 담당
중앙집중형: Orchestrator가 모든 위임을 맡아 병목
간소화된 분산형 에이전트 AI 아키텍처
분산형: 관련 에이전트만 후속 처리 후 통합

신한카드 AWS 아키텍처

Router Agent, 전문 에이전트(AgentCore Runtime), AgentCore Gateway(MCP), Bedrock

신한카드 AWS 아키텍처: Router Agent, AgentCore Runtime 전문 에이전트, AgentCore Gateway, Lambda, DynamoDB, Bedrock
출처: AWS 기술 블로그, 신한카드 온톨로지 기반 분산형 Agentic AI 챗봇 (2026-06). 다이어그램의 QWEN 30B 표기와 달리 본문 수치는 Qwen3 32B 기준

자율 개선 루프 Tikitaka

합성 고객이 테스트하고 에이전트가 고친다: 수일에서 수주 걸리던 멀티턴 테스트를 자동 루프로

01 SIMULATE
시뮬레이션
실제 고객 데이터에서 도출한 페르소나의 Test Agent가 멀티턴 대화
02 DIAGNOSE
진단
Analyzer Agent가 비정상 패턴과 원인 코드, 함수까지 특정
03 PROPOSE
해결책 제안
Code Reviewer, Solution Designer Agent가 라우팅 로직과 수정안 제시
04 VERIFY
검증과 배포
같은 페르소나로 재테스트, Update Agent가 적용하고 모니터링
한도 조회와 상향 시나리오
7턴 실패 → 4턴 완료
개선 전: 고객번호 입력 요청만 반복. 개선 후: 조회와 상향까지 처리 (AI 평가자 확인)
TASK 01 마이데이터 상담
합성 고객 페르소나, 응답 품질 평가, 코칭과 같은 구조. AgentCore User Simulation과 Evaluations로 시뮬레이션과 채점 구간을 바로 구성
리스크: AI가 코드를 고쳐 배포하는 루프는 금융 변경관리 통제와 충돌합니다. Update 단계에는 사람 승인 게이트를 두세요.

CASE 3 미래에셋증권: 망분리 지식DB

5호망 AWS Private Cloud의 지식DB, 망분리 예외 구간에서만 LLM 호출

미래에셋증권 망 구성: 5호망 AWS Private Cloud 지식DB, AWS DMZ 프록시, 망분리 예외 허용 구간의 Bedrock과 Azure OpenAI
출처: 미래에셋증권 「AI-Ready Data: 온톨로지 기반 금융상품 지식 데이터 혁신 여정」 AWS FSI Forum 발표 (공개 링크 없음)

4-Task 지식 파이프라인

AI-Ready Data: 수집과 파싱, 온톨로지 설계, 지식 추출, 질의와 검색

4-Task 파이프라인: Data Pipeline, Ontology Engineering, Knowledge Extract, Query and Retrieval과 Knowledge Base 저장소
출처: 미래에셋증권 「AI-Ready Data: 온톨로지 기반 금융상품 지식 데이터 혁신 여정」 AWS FSI Forum 발표 (공개 링크 없음)

6대 Challenge와 해법

법령과 업무 상식을 결정적인 규칙으로 옮기기

Challenge해법
1 Ontology Axioms자본시장법 §229 집합투자기구 유형을 폐쇄집합으로. 별칭은 출처별 구분, 단일값과 상호배타 제약
2 Ontology Sampler축 기반 표본: AUM 상위 50개는 23개 축값 중 11개, Sampler 50개는 22개 커버
3 Mapping RulesYAML 규칙표로 코드 수정 없이 확장 (7 네임스페이스, 6 도메인, 이름 맞추기 12종)
4 Thin, Temporal Graph항상 참인 구조와 유효기간 있는 사실을 분리. 새 사실이 옛 사실을 자동 만료
5 Ontology Groundingvocabulary.ttl로 미국국채를 해외채권으로 확정한 뒤 LLM은 질의만 조립. 실패 시 되묻기
6 Semantic Layer배당은 분배율, 배당 질의에 투자지역 필터 금지, 브랜드에서 운용사 매핑
TASK 01, 05: 사내 용어가 많은 과제일수록 5번 Grounding과 6번 Semantic Layer부터. 2부 D1이 바로 이 두 가지를 작게 재현한 것입니다.
출처: 미래에셋증권 「AI-Ready Data: 온톨로지 기반 금융상품 지식 데이터 혁신 여정」 AWS FSI Forum 발표 (공개 링크 없음)

Federated Query Architecture

하나의 질문이 네 저장소를 동시에 조회하고, 근거로 합쳐짐

Federated Query Architecture: Semantic Layer, 의도 분류, 대상 확정, Query Planning, 권한 검증과 Aurora, Neptune, OpenSearch 동시 조회
출처: 미래에셋증권 「AI-Ready Data: 온톨로지 기반 금융상품 지식 데이터 혁신 여정」 AWS FSI Forum 발표 (공개 링크 없음)

무엇이 정확도를 끌어올렸나

국내 ETF 도메인, 자체 벤치마크 72문항, 구성요소를 하나씩 더하며 측정

정확도 막대: 스키마만 45%, 온톨로지 프롬프트 설명 47.4%, 온톨로지로 실제 값 변경 65%, Federation 검색 84.7%
출처: 미래에셋증권 「AI-Ready Data: 온톨로지 기반 금융상품 지식 데이터 혁신 여정」 AWS FSI Forum 발표 (공개 링크 없음)

PoC 이후: 혁신금융서비스 여정

기술 트랙과 규제 트랙을 병렬로, 일정은 발표 시점 기준

2025.12서비스 신청완료
2026.03지정 고시완료
2026.07금융보안원 보안대책 평가완료
2026.08금감원 개시 신청진행 중
2026.09임직원 오픈예정
2027.1Q대고객 오픈예정
Phase기간내용
Phase 12026.02~03상품지식 EBA: GraphRAG Toolkit으로 Ontology, ER, Search 방법론 검증
Phase 22026.04~09지식DB와 지식검색서비스 구축 (AWS Professional Services 협업)
Phase 32026.10~전사 AI 표준 지식 기반, AI-Ready Data 거버넌스
출처: 미래에셋증권 「AI-Ready Data: 온톨로지 기반 금융상품 지식 데이터 혁신 여정」 AWS FSI Forum 발표 (공개 링크 없음). 최신 상황은 별도 확인 필요

CASE 4 Canva: 프로덕션의 세 가지 실패

Canva Code가 스케일 전에 먼저 만든 것, Amazon Bedrock 기반

Monolithic prompt
한 모델이 다섯 가지 일을 하며 최고가 모델 요금을 다섯 번 낸다
기계적 작업에 확률적 생성
CSS 클래스 하나 바꾸려고 HTML 8,000 토큰을 다시 생성
Vibes 기반 마이그레이션
평가가 없으니 신호도 없고, 새 모델이 나오면 hype로 배포
Canva Code, Canva AI 출시 이후 매출 곡선: 2026년 5월 17M MRR, 8주 구간 표시
출처: ANT105 Agentic Engineering, Lessons from Canva (Bryn Price, AWS); AWS Prescriptive Guidance, Agentic Design Patterns (2026-05); Canva 고객 사례

Lesson 1: 모델 말고 에이전트를 분해하라

Architect(Opus)가 계획, Builder와 Editor(Haiku)가 실행

Decompose the agent: Architect(Opus), Builder(Haiku), Editor(Haiku) 역할 분리
출처: ANT105 Agentic Engineering, Lessons from Canva (Bryn Price, AWS); AWS Prescriptive Guidance, Agentic Design Patterns (2026-05); Canva 고객 사례

최종 구조: Sonnet + sub-agent

Sonnet 주 스레드, 평균 총비용 −46%, 사용자 성공 지표 +9%

Smarter model routing with sub-agents: Sonnet 주 스레드, Opus와 Haiku sub-agent, 평균 총비용 -46%, 사용자 성공 지표 +9%
출처: ANT105 Agentic Engineering, Lessons from Canva (Bryn Price, AWS); AWS Prescriptive Guidance, Agentic Design Patterns (2026-05); Canva 고객 사례

Lesson 2, 3: 결정론적 도구와 평가

모델은 확률적 권한, 주변 코드는 결정론적 권한

LESSON 2
replace_text: 정확히 일치하는 부분만 교체
유일하게 일치하지 않으면 에러를 내고 모델이 재시도합니다.
~40× patch 경로 출력 토큰 감소 (약 8,000에서 약 200)
LESSON 3
Eval이 마이그레이션의 활주로다
Opus 4.6 High출력 토큰지연WCAG AA
thinking 끔11k138s1 / 10
thinking 켬37k (3.4×)530s (3.8×)2 / 10
토큰 3.4배, 지연 3.8배로 10개 중 1건 더 통과해서 thinking을 끈 채로 배포. 품질(WCAG, axe-core), 토큰 비용, 지연 3축으로 모든 모델 교체를 검증
같은 원리: 신한카드 규칙 매칭, 미래에셋 Grounding, 2부의 "규칙 강제" 자리. 지켜야 할 것은 코드로, 판단만 모델에게
출처: ANT105 Agentic Engineering, Lessons from Canva (Bryn Price, AWS); AWS Prescriptive Guidance, Agentic Design Patterns (2026-05); Canva 고객 사례

Agentic Design Patterns 8종

AWS Prescriptive Guidance, 과제의 어느 지점에 어떤 패턴을 쓸지

패턴해법PoC 과제 연결
Agentic Loop도구 결과를 한 메시지로 묶어 재호출, 반복 상한모든 과제의 뿌리
Deterministic Overridepre-tool hook으로 반드시 지킬 규칙 강제TASK 01 상담 금지 표현, 고액 처리
Tool Gate선행 도구가 성공하기 전 호출 차단TASK 04 분류, 추출, 대조 순서
Validation-Retry앱 코드로 검증 후 원문 에러로 재시도, 2회 상한TASK 03 수치 검증, TASK 04 필드 검증
Structured Errortransient, validation, permission, prerequisite 4분류TASK 06 조치 권한 오류 재시도 금지
Confidence Routing0~1 점수 대신 4개 이름 라벨로 사람 검토 선별TASK 04 불확실 서류만 사람 검토
Review Pass이진 루브릭 5개 이내로 2차 검토TASK 02 디자인 규칙, TASK 03 인용 점검
Coordinator-Subagent병렬 디스패치, 겹치지 않는 영역TASK 05, 06 지식, 코드, DB 에이전트 분리
출처: ANT105 Agentic Engineering, Lessons from Canva (Bryn Price, AWS); AWS Prescriptive Guidance, Agentic Design Patterns (2026-05); Canva 고객 사례

모든 패턴은 루프의 한 단계를 고친다

Agentic Loop를 먼저 제대로 만들고, 필요한 지점에만 패턴을 추가

Every later pattern modifies one step of the loop: 가운데 Agentic Loop와 도구 호출 지점, 결과 지점의 패턴들
출처: ANT105 Agentic Engineering, Lessons from Canva (Bryn Price, AWS); AWS Prescriptive Guidance, Agentic Design Patterns (2026-05); Canva 고객 사례

네 사례의 공통점: 지식, 역할, 평가

모델을 바꾸기 전에 세 가지를 먼저 설계

패턴LG전자신한카드미래에셋증권Canva
지식 구조화에이전트 간 원본 누적 기록Domain, Action, Tag 인텐트 온톨로지FIBO 기반 온톨로지 + Semantic Layerfeatures.json 스펙, 프로젝트 파일 3종
역할 분리와 검증Planner, Supervisor, Validator내 일인가 판단하는 분산형 에이전트근거, 권한, 출처 검증 후 반환Architect, Builder, Editor + exact-match 도구
평가 루프계획 대비 Task Tracking페르소나 시뮬레이션 후 재테스트72문항 벤치마크로 단계별 측정품질, 비용, 지연 3축 eval
대표 수치3일 → 30분84.2% → 91.0%45% → 84.7%비용 −46%, 성공 +9%

과제별 닮은 사례

6개 과제와 국내외 사례, 각 과제에 가져올 포인트

6개 과제와 국내외 사례 한눈에

패턴이 같은 과제(1과 5, 2와 3, 4와 6)는 서로의 사례도 함께 보기

과제닮은 사례가져올 포인트
TASK 01마이데이터 자산관리 상담PropHero, NewDay, 신한카드근거 기반 답변 + 대화마다 자동 채점
TASK 02UX 디자인 기획미리디(미리캔버스), 위메이드플레이, 카카오스타일, Canva화면 자산을 구조화 스펙으로, 그 위에서 생성과 점검
TASK 03보고서 작성(리서치)LG전자, 링크알파, 서울경제신문작성자와 검증자 분리, 인용 자동 점검
TASK 04고객 제출서류 누락 점검Rocket Close, Sun Finance, 카카오페이손해보험문서 분류, 항목 정의서 기반 추출과 대조
TASK 05IT 운영지식 위키카카오페이증권 춘시리, A1Mobilsoft위키 주기 동기화 + 좋은 답만 지식으로 승격
TASK 06AI 기반 통합관제GS리테일, 삼성계정, 토스뱅크 ZeroOps로그, 지표, 변경 이력 교차 분석. 조치는 사람 승인
사례 출처는 각 과제 장 하단에 표기

TASK 01 마이데이터: 근거로 답하고 채점

과제 목표: 합성 고객 페르소나로 자산 현황 진단, 근거와 함께 답하는 상담 봇, 품질 평가와 코칭

해외 금융, 부동산 투자 자문
PropHero
멀티 에이전트 상담 + Knowledge Bases 근거 답변. 대화가 저장될 때마다 LLM-as-a-Judge가 채점하고 CloudWatch 알림
90%목표 달성 정확도
−30%고객 상담 업무량
해외 금융, 영국 소비자 신용
NewDay
상담원 지원(Agent Assist) RAG. 100문항 이상 골든셋으로 평가해 기준을 넘어야 배포, 운영 중엔 사용자 피드백 수집
90초 → 4초답을 찾는 시간
90%+정확도 (초기 60% 미만)
AWS 기능, 바로 실험
User Simulation
합성 고객을 정의하면 LLM이 고객을 연기하며 멀티턴 대화. 예: context 40대 직장인, 은행 3곳 연동 / goal 노후 대비 상품 조합 / traits 금융 초보, 인내심 낮음
Goal success종료 후 자동 채점
멀티턴같은 평가기로 반복 측정
가져올 것: 골든셋 + 합성 페르소나로 채점되는 상담봇부터. 근거와 점수가 곧 코칭 피드백입니다. 상품과 자산 용어는 2부의 어휘 사전으로 확정하세요.
출처: AWS ML Blog, PropHero (2025.09), NewDay (2025.06); AWS 문서, AgentCore User simulation. 예시 페르소나는 발표자 작성

TASK 02 UX 기획: 화면 자산을 스펙으로

과제 목표: 모바일 뱅킹 앱 화면 자산 정리, 기획 초안, 와이어프레임, 대안 시안 생성 + 디자인 규칙 점검

국내, 디자인 플랫폼
미리디 (미리캔버스)
템플릿 썸네일을 Claude가 color, technique, target, purpose, elements JSON으로 캡셔닝, 임베딩 후 대화형 검색
5만 개+구조화한 템플릿
8~10%DAU 중 챗봇 이용
국내, 게임 UI QA
위메이드플레이
화면 캡처를 Claude가 규칙(구매 팝업, 재화, 아이템 수 변화)으로 판정, 성공과 실패, 단계별 이유를 JSON으로
20분 → 5분게임당 결제 테스트
주 300분절감 예상치
국내, 패션 플랫폼
카카오스타일
이미지 소재, 기획전, 상품 정보로 지면별 포맷과 여러 콘셉트 시안을 생성, 추천 문구 오탈자까지 점검
몇 주 → 몇 시간콘텐츠 제작 시간
다중 콘셉트지면별 시안 자동 생성
가져올 것: 디자인 시스템을 구조화 스펙(JSON)으로 먼저. 초안 생성과 규칙 점검이 같은 데이터 위에서 돕니다. Canva의 features.json도 같은 생각입니다.

TASK 02 참고: 미리캔버스 추천 챗봇

멀티모달 캡셔닝으로 화면 자산을 검색 가능한 메타데이터로

벡터 DB 구축 (빨간 번호)
템플릿 썸네일을 Claude 3 Sonnet이 묘사 텍스트로, 임베딩 후 벡터 DB 저장
채팅 추천 (초록 번호)
ECS 챗봇이 RDS의 대화 이력을 보며 유형, 주제, 색상을 되물어 수집, 검색 쿼리 생성, 유사도 + 메타데이터 필터
모바일 뱅킹 앱에 적용하면
화면 캡처와 Figma 프레임을 같은 방식으로 캡셔닝해 화면 자산 DB를 먼저 구축
미리캔버스 템플릿 추천 챗봇 아키텍처: Bedrock Claude 3 Sonnet 캡셔닝, 임베딩 모델, Vector DB, ECS, RDS

TASK 03 보고서: 쓰는 쪽과 검증하는 쪽

과제 목표: 공개 자료 조사와 구조화, 출처와 함께 보고서 초안, 품질 자동 점검

국내, 가전 마케팅 분석
LG전자 Deep Insight
Planner 계획, Coder 실행, Validator가 원본으로 재계산, 검증된 값만 인용한 DOCX 보고서
3일 → 30분데이터 분석 업무
공개aws-samples 오픈소스
금융 리서치, AI 스타트업
링크알파
뉴스, 애널리스트 리포트, 공시를 요약하고, Audit Agent가 인용 출처를 점검. 원문을 팝업으로 확인
20분 이내종목별 기초 조사 (기존 2시간+)
약 3배같은 시간 다루는 종목 수
국내, 언론
서울경제신문
14개 항목 자가검증 체크리스트 + 수치는 원문과 100% 일치 규칙 + 사람 이중 검수
환각, 오보 0건연간 2,500건 기사 기준, 자체 집계
14개 항목자가검증 체크리스트
가져올 것: "출처 없는 문장은 쓰지 않는다"를 규칙, 체크리스트, 검증 에이전트로 강제하세요.

TASK 04 서류 점검: 정의서가 곧 정답지

과제 목표: 제출 문서 판독과 분류, 필수 항목과 서명 누락을 항목 정의서와 대조해 검증

해외 금융, 모기지 서류
Rocket Close
Textract가 레이아웃, 표, 서명 감지, Bedrock이 60여 문서 유형 분류, 필드 정의와 데이터 사전 기반 추출, 대조 검증
15배처리 속도 (30분에서 2분 미만)
89.71%정확도 (4.4만+ 필드)
해외 금융, 온라인 대출 KYC
Sun Finance
신분증 OCR, Claude로 필드 구조화, 고객 입력값과 대조해 불일치 검출 + 위변조 탐지
90.8%추출 정확도 (기존 79.7%)
5초 미만처리 시간 (기존 최대 20시간)
국내 보험, 보험금 청구
카카오페이손해보험
영수증 여부 판별, 수리처, 발행일, 결제금액 추출, 자동 지급 연결 (자체 OCR 모델 + AWS GPU 인스턴스)
10분 이내고객 대기 시간 (기존 하루+)
3개 필수 항목자동 추출 후 지급 연결
가져올 것: 서류 유형별 필수 항목과 서명 위치를 표로 먼저. 이 표가 서류의 온톨로지이자 정답지입니다. 한국어 서류는 OCR 엔진의 한국어 지원부터 확인하세요.
출처: AWS ML Blog, Rocket Close, Sun Finance (2026.04); 카카오페이 기술블로그 Document AI (if(kakao) 2024)

TASK 05 운영 위키: 좋은 답을 지식으로

과제 목표: 운영 절차와 장애 대응 지식을 출처와 함께 답하고, 질의 이력으로 지식을 보강

국내 증권, DevOps팀
카카오페이증권 춘시리
Confluence 위키를 주기적으로 스캔해 벡터 DB 반영. 문서화 안 된 지식은 학습/ 명령으로 즉시 추가. Bedrock Guardrails
1시간위키 동기화 주기
학습/즉석 지식 추가
국내, 차량관리 솔루션
A1Mobilsoft
총괄 에이전트 + 지식, 코드, DB 에이전트. 과거 해결 사례를 KB 번호로 인용. AgentCore Runtime
2초1차 응답 중앙값 (사람 10분)
31초원인과 해결 제시 (사람 42분)
A1Mobilsoft의 지식 보강 루프
쓸수록 똑똑해지는 위키
  1. 질문, 출처 인용 답변
  2. 좋아요 = 도움 됐다는 명시 신호
  3. 스레드 정제, KB 동기화
  4. 다음 질문부터 반영
14건사람 답변 비교 표본 (작음)
좋아요지식 승격 기준
가져올 것: 위키는 정기 동기화, 빈칸은 학습하기, 좋은 답은 자동 승격. 질의 이력이 곧 지식 보강 데이터이고, 시스템명과 장애 용어는 어휘 사전으로 묶으세요.
출처: 카카오페이 기술블로그 춘시리 (2025.01); AWS 기술 블로그, A1Mobilsoft 운영 자동화 1부, 2부 (2026.07)

TASK 06 관제: 진단은 자동, 조치는 사람

과제 목표: 사내 컨테이너 플랫폼의 로그와 지표를 AI로 진단해 이상 징후와 대응을 돕는 관제 도구

국내, 유통 클라우드인프라팀
GS리테일
Bedrock + MCP로 Datadog, EKS, DB 연동, 가설과 검증 루프로 RCA, 보고서 자동 작성
198초평균 분석 (기존 30분+)
1분 58초EKS Pod Pending 사례
국내, 대규모 계정 서비스
삼성전자 삼성계정
Strands Agents-as-Tools로 수집, 분석, 조치 제안 에이전트 분리. 재시작과 롤백은 범위에서 제외
3분 47초단일 장애 전체 분석
사람최종 실행 권한
국내 은행
토스뱅크 ZeroOps
Bedrock 기반 에이전트가 로그, 지표, 코드 변경, 에러 정보를 조회해 원인 추정과 조치 권고
혁신금융서비스2026.07 금융위원회 지정 (임직원용)
국내 은행규제 틀 안의 관제 에이전트 선례
가져올 것: 내부망 환경이라면 기존 로그와 지표 도구를 MCP로 감싸는 것부터. 실행 권한은 사람에게 둡니다.
출처: AWS 기술 블로그, GS리테일 (2026.04), 삼성계정 Part 2 (2026.03); 한국금융신문 (2026.09); 참고 AWS DevOps Agent 고객 사례 (Banco Bmg, Commonwealth Bank)

온톨로지 위의 에이전트, 그리고 PoC 실행 팁

화면 데모 한 편, 체크리스트, 바로 쓸 자료

D3 데모 앱: 국회 데이터 온톨로지

ontology-assembly (assembly.whchoi.net): 22대 국회 의원, 의안, 표결, 주제, 기사를 하나의 온톨로지로

개념 (2부 3장)
Object Explorer
인물, 입법, 주제, 미디어, 독자, 광고 영역의 클래스와 필드. 클래스를 누르면 인스턴스 목록
31 클래스
Person 인스턴스 306개
관계 탐색 (2부 7장, 세 번째 자리)
온톨로지 관계 그래프
의원, 의안, 표결, 주제, 기사에서 출발해 1~3 hop 관계를 펼침. 2 hop 이상은 Neptune Cypher multi-hop 조회
1~3 hop
노드 더블클릭으로 추가 확장
에이전트 (1부)
데스크 챗봇
같은 온톨로지를 도구로 조회하는 에이전트. planner, graph, analyst, editor 단계와 도구 호출 로그를 화면에 표시
10 도구
답변에 수치와 출처(실 데이터, 합성) 표시
보는 포인트: 은행 과제로 바꾸면 의원은 고객, 의안은 상품, 표결은 거래입니다. 개념, 관계, 에이전트가 같은 데이터 위에 있다는 점을 보세요.

D3 영상: 개념, 관계, 에이전트

assembly.whchoi.net 화면 녹화(2026-10-21), 노란 자막과 커서만 덧붙임, 무음, 74초

PoC 실행 체크리스트

오늘 사례에서 뽑은 다섯 가지, 과제가 달라도 순서는 같음

1
평가셋부터
질문, 정답, 근거로 된 작은 골든셋과 실패 사례 목록을 첫 주에 만든다
NewDay, 미래에셋
2
지식을 구조화
용어 사전, 항목 정의서, 메타데이터. 사용자 말을 실제 값으로 확정
신한카드, 미래에셋, D1 데모
3
작게 시작, 검증은 따로
단일 에이전트로 시작해 필요할 때만 분리. 검증 에이전트는 별도로
LG전자, 링크알파, Canva
4
근거를 화면에
답마다 출처와 조항 표시. 확정 못 하면 되묻고, 없는 건 모른다고
미래에셋, 서울경제
5
첫날부터 trace
관측을 켜고 평가 점수를 대시보드로. 조치성 도구엔 승인 단계
PropHero, 삼성계정
데모 데이에 함께 보여주세요: 평가 점수, 근거가 보이는 응답, trace 화면

바로 시작할 수 있는 자료

링크는 공유 자료에서 클릭 가능

코드와 워크숍
사례 원문

작게 만들고, 채점하고, 운영처럼

8주 PoC를 마무리하며

작게 만들고
질문에 나온 개념부터
어휘 사전과 규칙 파일 하나, 단일 에이전트 하나로 시작합니다.
채점하고
첫 주부터 골든셋
모델을 바꾸기 전에 지식, 역할, 평가를 바꾸고 그때마다 점수를 잽니다.
운영처럼 데모
점수, 근거, trace를 함께
데모 데이에 잘 도는 화면과 함께 근거와 실행 경로를 보여 줍니다.
오준석, Senior Solutions Architect, AWS Korea: Q&A

Thank You

사례로 보는 AI 에이전트, 감사합니다

수고하셨습니다!

← 목차로 돌아가기