프로토타입을 넘어 엔터프라이즈 프로덕션으로: 에이전트 인프라의 전환
주피터 노트북이나 로컬 개발 환경에서 원활하게 동작하는 AI 에이전트가 실제 서비스 환경에 배포되는 순간, 개발팀은 에이전트의 추론 로직과는 무관한 방대한 운영 장벽에 직면하게 됩니다. 다중 사용자 간의 완벽한 세션 격리, 턴(Turn)과 일(Day)을 넘나드는 대화 상태의 영속적 유지, 에이전트가 호출하는 개별 외부 도구에 대한 인증 관리, 그리고 하부 인프라 운영체제(OS) 패치 및 오토스케일링이 대표적입니다.
"노트북에서 작동하는 에이전트는 프로덕션 에이전트가 아닙니다. 실제 사용자가 유입된 이후부터는 에이전트의 추론 능력과는 무관한 운영 업무를 전적으로 떠안아야 합니다."
Amazon Bedrock AgentCore는 이러한 운영 부담을 체계적으로 덜어내기 위해 설계된 플랫폼입니다. 프레임워크나 모델의 종류에 구애받지 않고 엔터프라이즈 규모에서 에이전트를 구축, 연결 및 최적화할 수 있도록 지원합니다. 개발팀은 기존 비즈니스 로직을 전면 재작성할 필요 없이, 플랫폼이 제공하는 핵심 서비스를 단계적으로 결합하여 운영 부하를 격리할 수 있습니다.
| 구분 | 기존 자체 호스팅 환경 | AgentCore 도입 후 전환 |
|---|---|---|
| 연산 및 런타임 | 컨테이너 프로비저닝 및 OS 패치 직접 수행 | 세션별 독립 마이크로VM(microVM) 자동 격리 및 관리 |
| 도구 연동 및 인증 | 에이전트 코드 내 API 키 및 인증 로직 직접 작성 | AgentCore Gateway를 통한 MCP 도구화 및 IAM/JWT 위임 |
| 대화 상태 관리 | 단일 프로세스 메모리에 의존하여 다중 인스턴스 공유 불가 | AgentCore Memory를 통한 프로세스 간 영속적 세션 유지 |
| 보안 및 가드레일 | 애플리케이션 레벨에서 별도 필터링 로직 구현 | Bedrock Guardrails를 통한 유해 콘텐츠 및 프롬프트 인젝션 방어 |
---
AgentCore 핵심 삼각 편대: Runtime, Gateway, Memory의 역할 분담
AgentCore는 에이전트 운영에 필수적인 3대 요소를 서비스 형태로 분리하여 제공합니다.
- AgentCore Runtime: 에이전트 코드가 실행되는 관리형 컴퓨팅 계층입니다. 기본적으로 AWS 관리형 인프라에서 세션당 전용 마이크로VM 환경을 프로비저닝하여 세션 간 완벽한 격리를 보장합니다. 필요에 따라 기업의 자체 Virtual Private Cloud(VPC)와 연결할 수 있으며, OS 패치와 오토스케일링을 자동화합니다.
- AgentCore Gateway: 에이전트가 사용하는 백엔드 API나 비즈니스 기능을 Model Context Protocol(MCP) 표준 도구로 외부에 노출하는 관리형 MCP 서버 역할을 수행합니다. 에이전트는 SigV4(AWS Signature Version 4) 또는 Custom JWT를 통해 Gateway와 통신하며, 도구 호출 시 필요한 실제 권한 부여는 Gateway가 자체 실행 역할을 통해 처리하므로 에이전트 코드에서 자격 증명 관리 부담이 제거됩니다.
- AgentCore Memory: 대화 기록 및 컨텍스트를 장기 보관하는 스토리지입니다. 세션이 종료되거나 프로세스가 재시작되어도 상태를 보존하며, 액터 ID(actor_id)와 세션 ID(session_id)를 기반으로 다중 턴 및 다중 채널 간 일관된 상태를 제공합니다.
이와 더불어 추가 구성 없이 Amazon CloudWatch로 로그, 지표, 분산 추적 데이터를 전송하는 Observability 기능과 개별 도구 호출에 세부 정책을 적용하는 Policy 기능이 유기적으로 결합됩니다.
---
3단계 점진적 마이그레이션: 기존 LangGraph 자산의 보존과 현대화
기존에 로컬 컨테이너나 자체 서버에서 구동되던 LangGraph 기반 고객 지원 에이전트는 3단계를 거쳐 점진적으로 현대화할 수 있습니다.
- Stage 0: 기존 LangGraph 로컬 기준선 기록
- Stage 1: Runtime·Gateway·Memory 인프라 전환
- Stage 2: Strands 기반 모델 주도 기획 전환
- Stage 3: AgentCore Harness 완전 위임
Stage 0: 기준선(Baseline) 정의
기존 에이전트는 `StateGraph` 구조로 고객 의도를 분류(`classify_intent`)하고, 단순 문의에는 `lookup_order`, `process_return`, `search_faq`의 3개 도구를 호출하며, 분노한 고객은 상담원 연결(`escalate`)로 라우팅합니다. 이 단계에서 대화 상태는 단일 프로세스 메모리(`MemorySaver`)에 묶여 있어 다중 인스턴스 확장이 불가능한 한계를 가집니다.
Stage 1: 추론 로직 불변 기반의 인프라 전환
에이전트의 사고 흐름(그래프 토폴로지, 프롬프트, 도구 본체)을 일체 변경하지 않고 런타임 플랫폼만 전환합니다. 실제 코드 변경 분석 결과는 다음과 같습니다.
- 에이전트 내부 코드 변경: 45줄
- 신규 어댑터/글루 코드: 22줄 (LangGraph 도구 노드와 Strands 도구 객체 간의 인터페이스 변환 등)
- 수정 없이 그대로 재사용한 기존 코드: 85줄
이 단계에서 연산 인프라는 Runtime으로 이관되고, `lookup_order`와 `process_return`은 Gateway에 Lambda 기반 MCP 도구로 등록됩니다. `search_faq`와 같이 타 에이전트와 공유할 필요가 없는 기능은 로컬 Python 함수로 유지됩니다. 프로세스 메모리는 First-party 패키지로 제공되는 AgentCore Memory 체크포인터(`langgraph-checkpoint-aws`)로 대체되어 지속성을 확보합니다.
Stage 2 및 Stage 3: 기획 엔진 고도화
Stage 2에서는 정적 분기 로직을 Strands Agents 기반의 모델 주도형 기획(Model-driven planning) 루프로 재구성하며, Stage 3에서는 이를 완전 관리형 AgentCore harness에 위임하여 의존성 업데이트 부담까지 플랫폼으로 넘길 수 있습니다.
---
옴니채널 멀티모달 서비스 구축: WhatsApp 퀵서비스 주문 에이전트
AgentCore는 단일 채널 텍스트 처리를 넘어, 전 세계 20억 명 이상이 사용하는 WhatsApp과 같은 대규모 메시징 플랫폼에서 텍스트, 음성 메모, 실시간 음성 통화를 단일 백엔드로 통합하는 옴니채널 아키텍처에 적용됩니다.
- 채널별 런타임 분리: Meta WhatsApp Business 플랫폼의 단일 웹훅으로 유입된 트래픽은 Amazon SQS를 거쳐 비동기 처리됩니다. 텍스트 메시지는 Amazon Nova 2 Lite(Converse API)를 사용하는 채팅 런타임이 담당하고, 음성 메모는 Amazon Nova 2 Sonic을 통해 16 kHz PCM 오디오 기반의 Speech-to-Speech(전사 과정 없는 직접 음성 처리)로 응답합니다.
- WebRTC 기반 실시간 음성 통화: 전화 통화 요청은 Amazon Kinesis Video Streams(KVS)가 제공하는 관리형 TURN 릴레이를 통해 WebRTC(DTLS/SRTP) 세션으로 연결되며, Nova 2 Sonic이 실시간 대화를 주도합니다. 이 음성 통화 런타임만이 유일하게 VPC 내부에서 동작합니다.
- 통합 MCP 도구 및 교차 채널 메모리: 주문 등록(`PlaceOrder`), 메뉴 조회(`GetMenu`), 장바구니 추가(`AddToCart`) 등의 REST API는 AgentCore Gateway를 통해 MCP 도구로 일원화되어 모든 채널 런타임에 동일하게 제공됩니다. 고객 식별자(해시된 `customer_id`)를 키로 사용하는 AgentCore Memory 덕분에, 텍스트로 주문을 문의하던 고객이 다음 날 전화를 걸어도 이전 대화 컨텍스트를 완벽하게 인식합니다.
---
AI 주도 개발 라이프사이클(AI-DLC): 자동화와 다중 에이전트 보안 검증
AgentCore는 소프트웨어 개발 라이프사이클 전반에 AI를 협력자로 배치하는 AI-DLC(AI-Driven Development Lifecycle) 구축 단계에서도 핵심 뼈대로 작동합니다.
1. SQL 스키마 기반 Mermaid ER 다이어그램 자동 생성
개발자가 SQL DDL 파일을 커밋하면 Amazon S3 및 Lambda 트리거를 통해 Strands 프레임워크 기반 에이전트가 실행됩니다. 에이전트는 Claude Sonnet 4 모델을 활용하여 테이블, 제약조건, 외래키 관계를 파싱하고 `.mmd` 다이어그램 문법을 생성합니다. 대규모 스키마 처리를 위해 청크 분할(Chunked processing) 분석을 수행하며, 90일의 세션 보존 기간을 가진 AgentCore Memory에 분석 이력을 저장하여 증분 스키마 이해를 지원합니다.
2. 다중 에이전트 기반 코드 보안 분석 파이프라인
GitLab CI/CD 파이프라인과 연동된 보안 에이전트는 푸시된 Python 및 Java 코드를 심층 분석하여 구조적 품질, 취약점(CVE), 정책 준수 여부를 검사하고 1~10점 척도의 품질 점수와 권고사항을 산출합니다.
- 다중 에이전트 책임 분리: 메인 분석 에이전트(Strands + Claude Sonnet)는 코드 리뷰에 집중하고, 조직 맞춤형 보안 검증과 의존성 파일 CVE 검사는 Gateway를 통해 Lambda 기반 MCP 도구로 각각 위임 실행됩니다.
- 3가지 메모리 전략(Memory Strategies): 분석 결과 저장을 위해 세분화된 전략이 적용됩니다.
- 시맨틱 전략(Semantic strategy): 세부 취약점 및 위반 내역을 저장하여 맥락 기반 검색 제공
- 요약 전략(Summary strategy): 대시보드 시각화를 위한 집계 지표 및 트렌드 유지
- 사용자 설정 전략(User preference strategy): 세션 간 대시보드 레이아웃 및 필터 설정 추적
---
엔터프라이즈 에이전트 구축 시 고려사항 및 운영 책임 경계
AgentCore를 도입하더라도 인프라와 보안의 모든 영역이 자동화되는 것은 아닙니다. AWS의 공유 책임 모델에 따라 명확한 책임 분계선이 존재합니다.
- AgentCore로 이관되는 영역: 연산 인프라 프로비저닝, 세션별 OS 패치, 마이크로VM 기반 세션 격리, 관리형 MCP 서버 호스팅, 도구 호출 시 실행 역할 기반 자격 증명 처리, 대화 상태 지속 스토리지 관리
- 고객이 직접 관리해야 하는 영역: IAM 정책 세부 정의, Virtual Private Cloud(VPC) 및 NAT 게이트웨이 네트워크 토폴로지 설계, Web Application Firewall(WAF) 규칙 구성, Secrets Manager 자격 증명 로테이션, 그리고 프로덕션 배포 단계에서의 Bedrock Guardrails 콘텐츠 필터링 규칙 설정
엔터프라이즈 팀은 인프라 유지보수라는 비생산적 부담을 AgentCore 관리형 계층으로 축소하는 한편, 비즈니스 기획 로직의 고도화와 데이터 거버넌스 수립에 엔지니어링 역량을 집중할 수 있습니다.