APAC 지역 엔터프라이즈를 위한 베드록의 추론 인프라 확장
아마존웹서비스(AWS)가 자사의 완전 관리형 파운데이션 모델 서비스인 아마존 베드록(Amazon Bedrock)에서 앤트로픽(Anthropic)의 최신 클로드 모델군에 대한 아시아 태평양(APAC) 지역 추론 지원을 대대적으로 확장했습니다.
이번 발표의 핵심은 각 국가 및 리전의 컴플라이언스 요건에 맞춰 두 가지 서로 다른 추론 방식을 제공한다는 점입니다. 한국(서울)과 싱가포르 리전에는 리전 외부로 데이터가 나가지 않는 인리전(In-Region) 추론이 적용되었으며, 인도 리전에는 국가 경계 내에서 트래픽을 분산하는 지리적 교차 리전(Geographic Cross-Region) 추론이 도입되었습니다.
| 대상 리전 | 지원 모델 | 추론 아키텍처 방식 | 데이터 이동 범위 |
|---|---|---|---|
| 아시아 태평양(서울) `ap-northeast-2` | Claude Opus 5, Claude Sonnet 5 | 인리전(In-Region) 추론 | 서울 단일 리전 내부로 엄격히 제한 |
| 아시아 태평양(싱가포르) `ap-southeast-1` | Claude Sonnet 5 | 인리전(In-Region) 추론 | 싱가포르 단일 리전 내부로 엄격히 제한 |
| 아시아 태평양(인도) `ap-south-1`, `ap-south-2` | Claude Opus 5, Claude Sonnet 5, Claude Haiku 4.5 | 지리적 교차 리전(Geographic Cross-Region) | 뭄바이-하이데라바드 리전 간 라우팅 (인도 국경 내) |
서울 및 싱가포르 리전의 단일 리전 추론(In-Region Inference)
서울 리전(`ap-northeast-2`)에는 Claude Opus 5와 Claude Sonnet 5 모델이, 싱가포르 리전(`ap-southeast-1`)에는 Claude Sonnet 5 모델이 인리전 추론 형태로 공식 배포되었습니다.
인리전 추론은 호출이 발생한 해당 AWS 리전 내부에서만 모든 연산과 입출력 데이터 처리가 완결되는 구조입니다.
- 완전한 단일 리전 완결성: 별도의 라우팅 레이어 없이 호출된 리전 내에서만 프롬프트 입력과 모델 출력이 처리되며 전체 라이프사이클 동안 리전 외부로 데이터가 유출되지 않습니다.
- 컴플라이언스 준수: 금융 서비스, 헬스케어, 공공 부문과 같이 엄격한 데이터 레지던시(Data Residency) 요건을 충족해야 하는 워크로드에 필수적입니다.
- 독립적 리소스 관리: 쿼터 소비, 아마존 클라우드워치(Amazon CloudWatch) 지표, AWS 클라우드트레일(AWS CloudTrail) 감사 로그가 모두 해당 리전 단일 스코프로 기록되어 운영 모니터링이 단순화됩니다.
- 용량 정책: 처리량(Throughput)은 해당 단일 리전이 보유한 컴퓨팅 용량과 서비스 쿼터에 종속되며, 표준 온디맨드 요금이 적용됩니다.
인도 리전의 지리적 교차 리전 추론(Geographic Cross-Region Inference)
인도 시장을 대상으로는 Claude Opus 5, Claude Sonnet 5, Claude Haiku 4.5 3종 모델 전체가 지리적 교차 리전 추론 프로필 형태로 제공됩니다.
인도는 뭄바이(`ap-south-1`)와 하이데라바드(`ap-south-2`) 두 곳의 AWS 리전을 보유하고 있으며, 베드록은 이 두 리전을 묶는 지리적 프로필을 구축했습니다.
- 사용자 API 호출 (출발지 리전)
- 지리적 추론 프로필 라우팅
- 인도 내 대상 리전 연산 (ap-south-1 / ap-south-2)
- 결과 반환 및 출발지 리전 로깅
- 국가 경계 내 데이터 체류: 요청 라우팅은 오직 `ap-south-1`과 `ap-south-2` 사이에서만 발생하며 인도 국경 외부로 데이터가 이동하지 않습니다.
- 부하 분산 및 회복 탄력성: 단일 리전 용량에 묶이지 않고 두 리전의 컴퓨트 풀을 공유하여 트래픽 피크 시에도 안정적인 처리량과 일관된 응답 성능을 보장합니다.
- 데이터 저장 분리 원칙: 데이터 전송 시 종단간 암호화(End-to-End Encryption)가 적용되며, 목적지(Destination) 리전에는 사용자 데이터가 영구 저장되지 않고 오직 출발지(Source) 리전에만 유지됩니다.
- 과금 및 로깅 단일화: 백엔드에서 어느 리전이 추론을 수행했는지와 무관하게 모든 과금, 쿼터 차감, CloudWatch 및 CloudTrail 기록은 호출을 시작한 출발지 리전 계정에 집계됩니다.
보안 아키텍처 및 제로 데이터 보존(ZDR)
아마존 베드록의 이번 클로드 모델 확장에는 엔터프라이즈 보안 요구사항을 충족하기 위한 보안 설계가 공통 적용되었습니다.
"Amazon Bedrock uses a zero data retention (ZDR) data security model. This means that by default, Amazon Bedrock does not store model inputs or outputs."
- 제로 데이터 보존(ZDR): 기본 설정상 베드록은 사용자가 입력한 프롬프트나 생성된 모델 출력을 별도로 보존하지 않습니다. 다만 자동 안전 분류기(Safety Classifier)에 의해 플래그가 지정된 콘텐츠의 경우 AWS의 휴먼 리뷰 정책이 적용될 수 있습니다.
- 보안 기능 연동: 엔드포인트 호출 시 가드레일(Amazon Bedrock Guardrails) 및 지능형 프롬프트 라우팅(Intelligent Prompt Routing) 기능을 동일하게 결합하여 모델 입출력 검증을 강화할 수 있습니다.
- 통합 엔드포인트: 개발자는 새로운 `bedrock-runtime` 엔드포인트를 통해 통일된 방식으로 모델을 제어할 수 있습니다.
개발자 구현 방식 및 API 지원
두 추론 방식 모두 아마존 베드록 콘솔의 텍스트 플레이그라운드에서 코드 없이 사전 테스트가 가능하며, 프로덕션 환경을 위해 다양한 SDK 및 API 방식을 지원합니다.
지원 인터페이스
- Amazon Bedrock InvokeModel API: 전통적인 Boto3 및 AWS SDK 기반 모델 호출
- Amazon Bedrock Converse API: 멀티 모델 전환 및 통합 대화형 인터페이스 지원
- Anthropic Messages API: `anthropic` 공식 SDK 패키지를 통한 직접적인 메시지 규격 호출
개발 환경 요구 사항
- AWS CLI 구성 및 베드록 접근 권한이 부여된 AWS IAM 역할/사용자 계정
- Python 환경 라이브러리: `boto3`, `anthropic`, `aws_bedrock_token_generator`
- 서울/싱가포르 리전 호출 시 직접 모델 ID(`anthropic.claude-opus-5`, `anthropic.claude-sonnet-5`) 지정
- 인도 리전 호출 시 인도 전용 지리적 추론 프로필 ID(`IN Anthropic Claude...`) 사용