생성형 AI 솔루션을 구축하고 있다면, 재사용 가능한 자산을 통해 이미 존재하는 구성 요소를 다시 만드는 일을 멈출 수 있습니다: 검색 증강 생성(RAG) 파이프라인, 문서 프로세서, 에이전트 스캐폴딩 등이 그렇습니다. 이는 누적 비용을 발생시킵니다. 고객의 실제 문제를 해결하는 데 쓰이지 않는 시간이 그 비용입니다.
이 게시물에서는 현재 AWS Frontier AI Engineering & Services의 일부가 된 AWS Generative AI Innovation Center의 큐레이션된 23개 프로덕션 준비 자산 카탈로그에 액세스하는 방법을 보여줍니다. 이러한 자산은 개발 시간을 몇 달에서 몇 주로 단축할 수 있으며, 다음과 같은 기업들의 사례가 그 증거입니다: DoorDash, Lyft그리고 Ricoh.
2023년 이후 AWS Generative AI Innovation Center는 오픈 소스 재사용 자산을 공개해 왔습니다. 이러한 프로덕션급 빌딩 블록은 빈 파일 대신 검증된 기반에서 시작할 수 있게 해줍니다. 이 자산들은 측정 가능한 결과를 제공하는 고객 솔루션의 기반이 되었습니다: 테스트 용량 50배 증가, 엔지니어링 시간 90퍼센트 감소, 배포 기간 몇 달에서 몇 주로 압축. 이 게시물에서는 팀들이 생성형 AI 구성 요소를 계속 다시 만드는 이유, 자산이 진정으로 재사용 가능하기 위한 조건, DoorDash 및 Ricoh와 같은 기업들이 이러한 자산을 사용하여 측정 가능한 결과를 달성한 방법, 그리고 카탈로그에서 23개의 오픈 소스 자산에 액세스하고 배포하는 방법을 배우게 됩니다. 사용 가능한 모든 자산의 전체 목록은 이 게시물 끝부분의 자산 카탈로그를 참조하십시오.
문제: 팀들이 계속해서 다시 만드는 이유
생성형 AI 팀 전반에서 중복 개발을 일으키는 세 가지 근본 원인이 있습니다:
- 단일 진실 공급원(source of truth) 부재 – 자산이 여러 저장소, 위키, 드라이브에 흩어져 있습니다. 빌더들은 기존에 무엇이 있는지 찾을 수 없어 처음부터 다시 만듭니다.
- 품질 신호 부재 – 프로덕션 준비 상태, 보안 검토 또는 유지 보수 상태에 대한 검증이 없으면 빌더들은 기존 솔루션을 신뢰할 방법이 없어 자체 코드를 작성하는 것을 기본으로 삼습니다.
- 재사용 문화 부재 – 공유는 비공식적이고 통제되지 않은 상태로 남아 있습니다. 한 팀이 만든 것은 그 팀에 머물러 같은 문제가 반복해서 해결됩니다.
다시 만드는 비용은 누적됩니다. 중복 구축 하나하나가 엔지니어링 시간을 소모하고, 고객 제공을 지연시키며, 유지 보수 부담을 만들어냅니다. AI 생성 코드조차 프로덕션 강화, 보안 검토, 대규모 테스트, 지속적인 유지 보수가 필요합니다. 이러한 자산은 이미 검증되고 보안 검토를 마쳤으며 프로덕션급으로 제공되어 그 검증 부담을 피할 수 있습니다. 팀이 마침내 프로덕션에 도달했을 때는 구별되지 않는 중노동, 즉 첫날부터 재사용 가능했어야 하는 작업에 수 주를 소비한 상태입니다. AWS Frontier AI Engineering & Services는 재사용 가능한 자산을 통해 이 문제를 해결합니다.
재사용 가능한 자산이란 실제로 무엇인가
재사용 가능한 자산은 코드 조각이나 샘플이 아닙니다. 하나의 개별적인 생성형 AI 기능을 구현하는 프로덕션급 구성 가능한 빌딩 블록입니다. 재사용 자산은 공개 전에 품질과 보안이 검증됩니다. 발견 가능성을 위해 명확한 배포 가이드를 포함하며, 고객 계약 전반에 걸친 채택을 추적하도록 계측되어 있습니다. 이러한 자산은 수명 주기 전반에 걸쳐 유지 관리됩니다.
카탈로그의 예로는 RAG 파이프라인 구성 요소, 문서 수집 모듈, 에이전트 스캐폴딩 템플릿, 평가 프레임워크, 프롬프트 관리 패턴이 있습니다. 이 자산들은 프로덕션 환경에서 테스트되고, 보안 규정 준수를 위해 검토되며, 실제 고객 피드백을 바탕으로 개선됩니다.
이것이 일회성 산출물과 신뢰할 수 있는 빌딩 블록의 차이입니다.
실제 결과: 고객 성공 사례
재사용 가능한 자산의 가치는 이론적인 것이 아닙니다. 다음은 팀들이 처음부터 시작하는 대신 검증된 기반 위에서 구축할 때 일어나는 일입니다.
Contact Center GenAI Agent: DoorDash와 Lyft
AWS 사례 연구에 따르면, DoorDash 는 Contact Center GenAI Agent 자산을 사용하여 완전한 음성 기반 셀프서비스 생성형 AI 콜센터 솔루션을 구축했습니다. 보고된 바에 따르면, 이 솔루션은 하루 100,000건 이상의 통화를 2.5초 응답 지연 시간으로 처리하며 테스트 용량 50배 증가를 달성했습니다. Amazon Bedrock 개발 시간을 50퍼센트 단축했습니다. 팀은 2개월 만에 라이브 테스트 준비를 완료했습니다.
Lyft는 동일한 Contact Center GenAI Agent 자산을 활용하여 승객과 운전자를 위한 에이전틱 AI를 구현함으로써, 이 자산이 다양한 고객 참여 모델에서도 활용될 수 있음을 입증했습니다.
Contact Center GenAI Agent는 텍스트 및 음성 채널 모두에 대해 자동화된 질의응답 기능을 제공합니다. 이 솔루션은 RAG 아키텍처를 활용하여 컨텍스트를 유지하면서 멀티턴 대화를 지원합니다. 이 솔루션은 Amazon Connect 와 통합되며, 완전관리형 RAG 기능인 Amazon Bedrock Knowledge Bases를 사용하여 하이브리드 검색 및 메타데이터 필터링을 수행합니다.
자세히 알아보기:
GenAI 지능형 문서 처리: Ricoh
Ricoh는 주요 건강보험 지급 기관, 관리형 진료 기관 및 의료 서비스 제공자를 지원합니다. 이 고객들은 매월 보험 청구서, 불만 사항, 항소 및 임상 기록 등 수십만 건의 중요한 문서를 처리합니다. Ricoh가 더 많은 의료 고객을 지원하기 위해 확장하면서 표준화된 멀티테넌트 문서 처리 방식이 필요해졌습니다. 이 방식은 각 구현마다 고유한 개발과 튜닝을 요구하지 않고도 새로운 구현을 온보딩할 수 있어야 했습니다.
Ricoh는 Accelerated Intelligent Document Processing on AWS 에셋을 기반으로 자동화된 문서 분류 및 추출을 위한 표준화된 멀티테넌트 솔루션을 구축했습니다. 이를 통해 문서 처리를 맞춤형 엔지니어링 병목 지점에서 확장 가능하고 반복 가능한 서비스로 전환했습니다.
결과: 게시된 사례 연구에 따르면, Ricoh 는 처리량을 7배 증가시켜 월 10,000건에서 70,000건으로 늘렸습니다. 배포당 엔지니어링 시간은 90퍼센트 이상(80시간에서 5시간 미만으로) 감소했습니다. 온보딩 시간은 4~6주에서 2~3일로 단축되었습니다. 이 시스템은 이제 트래픽 급증 시 몇 분 만에 1,000개의 문서를 처리하며, 연간 1,900시간 이상의 잠재적 인력 시간 절감 효과를 제공합니다.
이 2025년 블로그 포스트에서 소개된 이 2025년 블로그 게시물는 AWS 서비스를 사용하여 자동화된 문서 처리 및 정보 추출을 수행하는 확장 가능한 서버리스 솔루션입니다. 이 시스템은 광학 문자 인식(OCR)과 생성형 AI를 결합하여 비정형 문서를 규모에 맞게 정형 데이터로 변환합니다. AWS Frontier AI Engineering & Services는 이 에셋을 지속적으로 유지 관리합니다.
자세히 알아보기:
- 블로그 포스트: AWS GenAI Intelligent Document Processing (IDP) Accelerator
- 블로그 포스트: Ricoh가 AWS에서 확장 가능한 지능형 문서 처리 솔루션을 구축한 방법.
- 소스 코드: accelerated-intelligent-document-processing-on-aws
새로운 에셋: 에이전틱 AI의 미래 만들기
팀이 인프라에서 비즈니스 로직으로 초점을 옮길수록 재사용 가능한 에셋의 가치는 더욱 커집니다. 최근 출시된 두 개의 에셋은 재사용 가능한 빌딩 블록이 차세대 에이전틱 애플리케이션 개발을 가속화할 수 있는 방법을 보여줍니다.
Fullstack AgentCore Solution Template (FAST)
Fullstack AgentCore Solution Template (FAST) 스타터 프로젝트 저장소입니다. FAST를 사용하면 어떤 프레임워크나 모델로도 대규모 에이전트를 구축, 연결, 최적화할 수 있는 플랫폼인 Amazon Bedrock AgentCore에 연결된 보안이 적용된 React 프런트엔드를 신속하게 배포할 수 있습니다. 이 구현에서 FAST는 AgentCore의 관리형 인프라와 함께 React 기반 프런트엔드를 사용하여 풀스택 에이전틱 애플리케이션 구축 기간을 몇 주에서 며칠로 단축합니다.
FAST는 인프라를 코드로(IaC) 관리하는 방식으로 30분 이내에 배포할 수 있으며, Amazon Bedrock AgentCore의 기능인 AgentCore memory와 함께 Gateway, Code Interpreter, Observability에 대한 기본 통합을 제공합니다. 인증은 Amazon Cognito를 사용하며 엔터프라이즈 보안 모범 사례에 따라 구성되고, 이 템플릿은 광범위한 문서와 steering 문서를 갖추어 AI 지원 개발을 위해 설계되었습니다.
FAST를 사용하면 구성 요소들이 어떻게 통합되는지 보여주는 완전한 참조 아키텍처에 접근할 수 있으며, 학습하고 확장해 나갈 수 있는 동작하는 풀스택 애플리케이션도 함께 제공됩니다. 모듈형 설계를 통해 요구 사항이 변화함에 따라 주요 구성 요소(아이덴티티 공급자, 프런트엔드 프레임워크, 호스팅 솔루션 또는 에이전트 프레임워크)를 교체할 수 있습니다.
자세히 알아보기:
Agentic Chatbot Accelerator
The Agentic Chatbot Accelerator 는 인프라를 코드로서(IaC) 관리하기 위해 AWS Cloud Development Kit(AWS CDK)을 사용하는 웹 애플리케이션 배포 솔루션으로, 에이전틱 챗봇을 생성할 수 있습니다. Strands Agents와 Amazon Bedrock AgentCore를 기반으로 구축된 이 솔루션은 에이전틱 챗봇 애플리케이션 개발을 간소화합니다.
이 액셀러레이터는 AWS CDK를 사용한 신속한 배포를 제공하며, Strands Agents와 Amazon Bedrock AgentCore를 통해 확장 가능한 에이전트 런타임 관리를 지원합니다. 다양한 챗봇 사용 사례에 맞게 구성 가능하고 확장 가능하며, 고객 배포에서 검증된 인증, 호스팅, 확장을 위한 사전 구성 패턴을 갖추고 있습니다.
자세히 알아보기:
워크스루: 라이브러리에서 자산 사용하기
오픈 소스 카탈로그에서 Contact Center GenAI Agent 자산을 선택하고 사용하는 구체적인 예시를 살펴보겠습니다.
사전 요구 사항
이 워크스루를 따라하려면 다음이 필요합니다:
- AWS CloudFormation 스택, Amazon Connect 인스턴스, Amazon Bedrock 리소스, Amazon Quick Sight 대시보드를 생성할 수 있는 권한이 있는 AWS 계정.
- 적절한 자격 증명으로 설치 및 구성된 AWS Command Line Interface(AWS CLI).
- Amazon Connect 인스턴스(또는 생성할 수 있는 권한).
- Amazon Bedrock에서 Anthropic Claude Sonnet 및 Anthropic Claude Haiku에 대한 액세스.
- 검증 테스트를 위한 Jupyter 노트북 환경.
시나리오
음성 및 텍스트 상호 작용을 모두 처리하고, 회사 지식 베이스를 사용하여 질문에 답변하며, 복잡한 문제를 사람 상담원에게 에스컬레이션하는 고객 지원 솔루션을 구축하고 있습니다.
자산 찾기
GitHub에서 Contact Center GenAI Agent (으)로 이동합니다. README에서는 기능, 아키텍처, 배포 단계에 대한 명확한 개요를 제공합니다. 다음 그림은 Contact Center GenAI Agent의 솔루션 아키텍처를 보여줍니다.
그림 1: Contact Center GenAI Agent의 솔루션 아키텍처
자산 평가
이 자산에는 AWS CDK 인프라를 코드로서 제공하는 보안 검토를 거친 코드, 음성 및 채팅을 위한 Amazon Connect 통합, 그리고 질문 답변을 위한 완전 관리형 RAG 기능인 Amazon Bedrock Knowledge Bases가 포함되어 있습니다. 자동화된 테스트 프레임워크와 대화 분석 대시보드도 내장되어 있습니다.
책임 있는 AI(Responsible-AI) 제어는 아키텍처의 핵심 요소입니다. Amazon Bedrock Guardrails는 환각 감지, 콘텐츠 필터링, 주제 수준 경계를 포함하는 프로덕션급 안전 제어를 시행하여, 에이전트가 첫날부터 정의된 안전 매개변수 내에서 작동하도록 보장합니다.
이 리포지토리는 활발한 유지 관리, 포괄적인 문서, 그리고 프로덕션 준비 상태를 입증하는 고객 성공 사례(DoorDash, Lyft) 링크를 보여줍니다.
솔루션 배포
배포는 4단계로 진행됩니다:
- 리포지토리를 복제하고 종속성을 설치합니다.
- 두 개의 AWS CloudFormation 템플릿을 배포합니다. 하나는 Knowledge Base 스택용이고 하나는 RAG 솔루션 스택용입니다.
- 리포지토리에 포함된 사전 구축된 컨택 플로우를 사용하여 Amazon Connect와 통합합니다.
- 포함된 Jupyter 노트북을 사용하여 배포를 검증합니다.
전체 프로세스는 1시간 미만이 소요됩니다. 이 솔루션에는 실시간 대화 분석을 위한 Amazon Quick Sight 대시보드도 포함되어 있습니다.
자세한 배포 지침 및 사전 요구 사항은 다음을 참조하세요. 배포 가이드.
정리
지속적인 요금이 부과되지 않도록 하려면 이 안내에서 생성한 리소스를 삭제하세요. 배포는 두 개의 AWS CloudFormation 스택을 사용하므로 삭제는 역순으로 진행됩니다:
- AWS CloudFormation 콘솔에서 RAG 솔루션 스택을 삭제합니다.
- AWS CloudFormation 콘솔에서 Knowledge Base 스택을 삭제합니다.
- 통합 과정에서 생성된 Amazon Connect 컨택트 플로우를 제거합니다.
- Amazon Quick Sight 대시보드 및 관련된 SPICE 데이터세트를 삭제합니다.
- 자세한 정리 지침은 다음을 참조하세요: 배포 가이드.
결과
컨택트 센터 솔루션을 처음부터 몇 주에 걸쳐 구축하는 대신, 보안 검토와 테스트를 거친 기반을 며칠 만에 배포할 수 있습니다. 팀은 지식 베이스 사용자 지정, 도메인에 맞는 프롬프트 다듬기, 기존 시스템과의 통합에 집중합니다. 이것이 바로 솔루션을 차별화하는 높은 가치의 작업입니다.
잠재적으로 절감되는 시간: 4–6주의 개발 시간
대신 집중하게 되는 사항: 도메인별 사용자 지정, 프롬프트 엔지니어링, 비즈니스 로직 통합
AWS Generative AI Innovation Center 오픈 소스 자산 액세스
GitHub 및 AWS Labs에서 23개의 재사용 가능한 자산을 오픈 소스로 이용할 수 있습니다. 각 자산에는 빠르게 시작할 수 있도록 배포 가이드, 샘플 코드 및 문서가 포함되어 있습니다.
문서 처리 및 추출
- GenAI Intelligent Document Processing (GenAIDP) – 자동화된 문서 처리를 위한 확장 가능한 서버리스 솔루션입니다.
- Multi-lingual Document Processor (MDP) – 복잡한 멀티모달 문서를 구조화된 텍스트로 변환합니다.
- Intelligent Document Processing with Generative AI – 사용자 지정 문서에서 정보를 추출합니다.
- Extracting Information From Complex Documents – 문서 추출을 위한 실습 워크숍입니다.
- Semi-Structured Documents Automatic Pre-Labeling Tool – Amazon Comprehend를 위한 사전 라벨링을 자동화합니다.
컨택트 센터 및 음성
- Contact Center GenAI Agent – 음성 및 텍스트 채널을 위한 자동화된 질문 응답입니다.
- Live Call Analytics with Agent Assist (LCA) – 고객 및 상담원 음성 통화를 위한 실시간 생성형 AI입니다.
- 컨택 센터: 통화 후 분석(Post Call Analytics, PCA) – 통화 후 녹음물에 대한 생성형 AI 분석.
- 라이브 미팅 어시스턴트(Live Meeting Assistant, LMA) – 브라우저 기반 회의에서 오디오를 캡처하여 전사 및 인사이트를 제공.
- 녹음 음성 인사이트 추출 웹앱(Recorded Voice Insight Extraction Webapp, ReVIEW) – 녹음물을 업로드하고 생성형 AI를 사용하여 질문에 답변.
에이전틱 AI와 챗봇
- 풀스택 AgentCore 솔루션 템플릿(Fullstack AgentCore Solution Template, FAST) – AgentCore 백엔드와 함께 보안이 적용된 React 프런트엔드 배포.
- 에이전틱 챗봇 액셀러레이터(Agentic Chatbot Accelerator) – 에이전틱 챗봇을 위한 웹 애플리케이션 배포.
- 패션 어시스턴트 에이전트(Fashion Assistant Agent) – Amazon Bedrock AgentCore에서 Amazon Titan으로 구축된 패션 어시스턴트.
- 자연어 데이터베이스 에이전트(Natural Language Database Agent) – LangGraph를 사용하여 자연어로 데이터베이스 쿼리.
RAG 및 지식 베이스
- Terraform을 사용하여 Amazon Bedrock Knowledge Bases 배포 – Knowledge Bases를 위한 코드형 인프라.
- RAG 사용 사례에서 사용자를 활용하여 에이전트 개선 – 대화형 RAG를 위한 사용자 지정 LangChain 도구.
- 리랭커 파인튜닝 및 배포 – 검색 품질 향상을 위해 BAAI BGE Reranker를 파인튜닝합니다.
- Amazon MemoryDB의 영구 시맨틱 캐싱 – GenAI 애플리케이션을 위한 영구 시맨틱 캐싱.
개발 및 마이그레이션
- C to Java 코드 변환 – 레거시 코드 마이그레이션을 위한 에이전틱 워크플로.
- OpenAI 마이그레이션 프레임워크 – 대규모 언어 모델(LLM) 마이그레이션을 위한 체계적인 프레임워크.
- 의도 분류를 위한 ModernBERT 파인튜닝 – 스마트 LLM 라우팅 시스템 구축.
인프라 및 운영
- Bedrock 로깅 자동화 – Amazon Bedrock의 로깅 설정 자동화.
- Data Analyst BI – 비전문가를 위한 AI 기반 비즈니스 인텔리전스 도구.
시작하려면:
- 앞서 나열된 자산 중 하나를 선택합니다.
- 사용 사례와 관련된 자산의 README 및 배포 가이드를 검토합니다.
- 리포지토리를 클론하고 배포 지침을 따릅니다.
- 특정 요구 사항에 맞게 자산을 사용자 지정합니다.
- 어드바이저리 지원이 필요하면 AWS Frontier AI Engineering & Services 팀에 문의하십시오.
결론
재구축 비용은 실제이며 누적됩니다. 팀이 RAG 파이프라인을 재구축하거나, 문서 처리 로직을 다시 만들거나, 처음부터 시작할 때 그 시간은 실제 고객 문제를 해결하는 데 사용될 수 있었던 엔지니어링 시간으로 쌓여갑니다.
선별되고 검증된 자산 카탈로그는 생성형 AI 전달의 경제성을 바꿉니다. 대신 작업을 해주는 것이 아니라, 이미 완료된 작업을 다시 하지 않도록 보장함으로써 그렇습니다. 2023년 이후 게시된 23개의 오픈 소스 자산은 수천 시간의 엔지니어링 작업, 수십 건의 고객 협업, 그리고 무수한 교훈을 담고 있습니다. 이들은 오늘 바로 배포할 수 있는 빌딩 블록으로 패키징되어 있습니다.
자산은 오픈 소스입니다. 배포 가이드는 포괄적입니다. 고객 성공 사례는 실제입니다. 현재의 과제에 맞는 자산 하나로 시작하십시오. 전문가의 도움이 필요하면, AWS Generative AI Innovation Center에 문의하십시오.