Airlines haben bereits Apps und Websites, auf denen Reisende Flüge prüfen, Sitze auswählen und Buchungen verwalten, und eine natürliche Sprachebene öffnet diese Aufgaben für gesprochene Anfragen. Mit dieser Sprachebene kann ein Reisender durch Sprechen einen Sitzplatz ändern oder eine Verspätung prüfen, ohne die App zu verlassen oder durch Bildschirme zu navigieren. Der Aufbau erfordert sorgfältige Ingenieursarbeit auf mehreren Ebenen. Sie streamen Audio in beide Richtungen und behalten den Faden eines Gesprächs über viele Gesprächsrunden hinweg. Sie greifen auch auf Ihre bestehenden Backend-Systeme zu, ohne den Agenten eng an sie zu koppeln, und Sie skalieren, wenn der Verkehr vor einem Feiertagswochenende ansteigt.
Dieser Beitrag zeigt Ihnen, wie Sie einer Airline-Anwendung einen sprachgesteuerten Reise-Concierge hinzufügen, der auf drei verwalteten Diensten aufbaut. Amazon Bedrock AgentCore ist eine agentische Plattform zum sicheren Erstellen, Bereitstellen und Betreiben von KI-Agenten im großen Maßstab mit dem Framework und Modell Ihrer Wahl. Amazon Nova Sonic auf Bedrock ist ein Speech-to-Speech-Modell für Echtzeit-Sprache. Amazon Bedrock Knowledge Bases ist ein vollständig verwalteter Retrieval-Augmented-Generation-Dienst, der Antworten in Ihren eigenen Dokumenten verankert. Ein Reisender spricht, und der Concierge ruft seine Reiseroute auf, ändert einen Sitzplatz, aktualisiert eine Mahlzeitenpräferenz, beantwortet eine Frage zu Richtlinien und verbindet ihn auf Anfrage mit einem Live-Agenten.
Der Concierge läuft neben Ihren bestehenden Bildschirmen, anstatt sie zu ersetzen, sodass Reisende in derselben Sitzung zwischen Tippen und Sprechen wechseln. Er läuft auf Diensten, die bei Bedarf skalieren, sodass Sie Ihre Zeit in das Erlebnis statt in die Infrastruktur investieren. Die KI-Ebene verbindet sich mit einem Beispiel-Airline-Backend mit synthetischen Daten, was Ihre Implementierung beschleunigt, wenn Sie das Muster an Ihre eigenen Systeme anpassen. Das Projekt ist in Module aufgeteilt, sodass Sie die Teile wiederverwenden können, die zu Ihrem bestehenden Backend passen, und sie dem Agenten als Tools bereitstellen.
Sie lernen, wie Sie Folgendes tun:
- Bereitstellen eines sprachgesteuerten KI-Concierge auf AWS mit dem AWS Cloud Development Kit (AWS CDK).
- Erstellen eines Agenten mit dem Strands Agents -Framework und Amazon Nova 2.5 Sonic für Echtzeit-Sprache, gehostet auf dem AgentCore runtime, einer Funktion des Amazon Bedrock AgentCore Frameworks.
- Verbinden des Agenten mit Backend-Diensten über das Model Context Protocol (MCP) durch den AgentCore Gateway, eine Funktion von Amazon Bedrock AgentCore.
- Beantworten von Fragen zu Airline-Richtlinien mit Amazon Bedrock Knowledge Bases.
- Übergeben eines Reisenden an einen Live-Agenten mit einer Referenznummer und einer geschätzten Wartezeit.
Lösungsübersicht
Die Architektur trennt Frontend, KI-Agent und Backend-Dienste in unterschiedliche Ebenen, sodass Sie jede Ebene eigenständig entwickeln und skalieren können. MCP ist ein offener Standard zur Verbindung von KI-Anwendungen mit externen Tools und Daten. Er überträgt standardisierte Nachrichten zwischen dem Agenten und dem Backend, was beide lose gekoppelt hält.
Die Lösung stellt die folgenden Dienste bereit.
- Amazon Cognito verwaltet die Benutzerauthentifizierung und temporäre AWS-Anmeldeinformationen für signierten API-Zugriff.
- Amazon Bedrock AgentCore runtime hostet den Agenten mit microVM-Isolation pro Sitzung.
- Amazon Bedrock AgentCore Gateway macht Backend-Endpunkte als auffindbare MCP-Tools verfügbar.
- Amazon API Gateway veröffentlicht das Backend als REST -Endpunkte mit AWS Identity and Access Management (IAM) -Autorisierung.
- AWS Lambda führt die Geschäftslogik für Reiserouten, Sitzpläne, Passagieraktualisierungen, Flugstatus, Prämienprogramm, Richtlinienabfragen und Eskalationen aus.
- Amazon DynamoDB speichert Kundenprofile, Buchungen, Passagiere, Sitzpläne, Kaufhistorie, Präferenzen, Konversationen und Flugendaten.
- Amazon Bedrock Knowledge Bases beantwortet Richtlinienfragen, indem die Antworten auf Ihre Airline-Richtliniendokumente gestützt werden.
- Amazon Simple Email Service (Amazon SES) versendet E-Mail-Benachrichtigungen.
- AWS Amplify hostet das React-Frontend.
Architektur
Das folgende Diagramm zeigt die Lösungsarchitektur, gegliedert in vier Bereiche.
Abbildung 1: End-to-End-Architektur über das Backend, das AgentCore Gateway, die AgentCore-Laufzeitumgebung und das Frontend hinweg
Bereich A umfasst die Backend-Infrastruktur. Fünf CDK-Stacks stellen DynamoDB-Tabellen, Lambda-Funktionen, API-Gateway-Endpunkte, Amazon Bedrock Knowledge Bases und Amazon Cognito bereit.
Bereich B umfasst das AgentCore Gateway. Ein CDK-Stack erstellt das Amazon Bedrock AgentCore Gateway mit dem MCP-Protokoll und stellt jeden Backend-Endpunkt als Tool bereit, das der Agent namentlich aufrufen kann.
Bereich C umfasst die AgentCore-Laufzeitumgebung. Zwei CDK-Stacks stellen die Infrastruktur der Laufzeitumgebung bereit. Amazon Elastic Container Registry (Amazon ECR) speichert das Container-Image, Amazon Simple Storage Service (Amazon S3) hält die Quell-Uploads, und AWS CodeBuild erzeugt das ARM64-Docker-Image. Die Amazon Bedrock AgentCore-Laufzeitumgebung wird mit WebSocket-Unterstützung betrieben und nutzt das Strands Agents Framework mit Amazon Nova 2.5 Sonic.
Bereich D umfasst das Frontend. Ein CDK-Stack deployt die React-App auf AWS Amplify.
Ablauf einer Benutzeranfrage
- Der Benutzer öffnet die Webanwendung, die auf AWS Amplify gehostet wird, in einem Browser oder auf einem Mobilgerät.
- Der Benutzer gibt seine Zugangsdaten auf der Anmeldeseite ein. Amazon Cognito authentifiziert die Anfrage und gibt JSON Web Tokens (JWTs) sowie temporäre AWS-Zugangsdaten zurück.
- Das Frontend öffnet eine SigV4-signierte WebSocket-Verbindung zu Amazon Bedrock AgentCore, um die Voice-Concierge-Sitzung zu beginnen.
- Die Laufzeitumgebung validiert das Token mit Amazon Cognito und initialisiert Amazon Nova 2.5 Sonic über Amazon Bedrock.
- Der Benutzer spricht eine Anfrage. Amazon Nova 2.5 Sonic verarbeitet das Audio und löst Tool-Aufrufe aus. Der Agent übernimmt die Tool-Integration, indem er das AgentCore Gateway über MCP aufruft, um Flugdaten abzurufen, Buchungen zu verwalten und Passagierpräferenzen zu aktualisieren.
- Das AgentCore Gateway leitet Anfragen als REST-API-Aufrufe an Amazon API Gateway weiter, das sie an AWS Lambda-Funktionen routet.
- AWS Lambda-Funktionen fragen Amazon DynamoDB-Tabellen nach Buchungen, Passagieren, Sitzplänen, Bonusprogramm-Status und Fluginformationen ab. E-Mail-Benachrichtigungen werden über Amazon SES versendet.
- Amazon Nova 2.5 Sonic erzeugt eine kontextbezogene Sprachantwort und streamt sie über die WebSocket-Verbindung durch die AgentCore-Laufzeitumgebung zurück zum Benutzer.
- Bei einer Richtlinienfrage fragt das AgentCore Gateway Amazon Bedrock Knowledge Bases direkt über den MCP Knowledge Base Connector ab. Die Knowledge Base liefert die relevanten Richtlinienabschnitte als Zitate an den Agenten zurück.
- Wenn der Benutzer einen Live-Agenten anfordert, protokolliert AWS Lambda die Eskalation in Amazon DynamoDB und gibt eine Referenznummer zurück. AWS Amplify löst dann den Anruf vom Gerät des Benutzers aus, um ihn mit dem Live-Agenten zu verbinden.
Build und Betrieb
Die nächsten beiden Schritte liegen außerhalb der Live-Konversation. Sie beschreiben, wie die Lösung erstellt wird und wie sie im Tagesgeschäft läuft.
- AWS CDK deployt die Lösung mit einem einzigen Skript. Der Build lädt den Agenten-Quellcode zu Amazon S3 hoch und löst AWS CodeBuild aus, um das Container-Image zu erzeugen, das in Amazon ECR für die AgentCore-Laufzeitumgebung gespeichert wird.
- Amazon CloudWatch sammelt Protokolle, Metriken und Warnungen über alle Services hinweg, und AWS Key Management Service (AWS KMS) verschlüsselt Daten im Ruhezustand.
Voraussetzungen
Bevor Sie beginnen, stellen Sie sicher, dass Folgendes vorhanden ist.
- Ein AWS-Konto.
- Modellzugriff in Amazon Bedrock für Amazon Nova 2.5 Sonic in der AWS-Region, in der Sie bereitstellen. Informationen zur Modellverfügbarkeit nach Region finden Sie unter Supported models by AWS Region in Amazon Bedrock. Amazon Bedrock Knowledge Bases verwendet ein serviceverwaltetes Einbettungsmodell, daher benötigen Sie keinen separaten Zugriff auf ein Einbettungsmodell.
- Node.js 20.x oder höher für AWS CDK und die Lambda-Funktionen.
- Python 3.12 oder höher für das Data Seeding und den Test-Client.
- AWS Command Line Interface (AWS CLI) 2.x konfiguriert mit Zugangsdaten.
- AWS CDK CLI 2.x installiert mit
npm install -g aws-cdk, und Ihr Konto wurde gebootstrapped mitnpx cdk bootstrap. - Der begleitende Code aus dem aws-samples GitHub repository.
Deploy the solution with AWS CDK
Die Lösung wird mit einem einzigen CDK-Skript bereitgestellt. Klonen Sie das Repository, konfigurieren Sie Ihre AWS-Anmeldeinformationen und führen Sie das Bereitstellungsskript aus. Detaillierte Bereitstellungsschritte finden Sie in der README im GitHub-Repository.
Das Beispiel-Datenmodell der Airline
API Gateway veröffentlicht eine REST-API mit IAM-autorisierten Endpunkten und Lambda-Integration. Amazon DynamoDB speichert das Beispiel-Datenmodell der Airline mit einstelligen Millisekunden-Latenz und On-Demand-Skalierung. Die Daten umfassen Kundenprofile, Buchungen, Passagiere, Sitzplatzkarten, Kaufhistorie, Präferenzen, Gesprächsprotokolle und Flugstatus.
Beantwortung von Richtlinienfragen mit einer Wissensbasis
Reisende fragen nach Gepäckbestimmungen, Änderungsgebühren, Tierbeförderung und Treuebedingungen. Die Lösung beantwortet diese Fragen mit Retrieval Augmented Generation (RAG) über Amazon Bedrock Knowledge Bases und verankert die Antworten in Ihren Airline-Richtliniendokumenten. Das Repository enthält Beispiel-Richtliniendokumente für Gepäck, Stornierung und Rückerstattung, Änderungen und Umbuchungen, Tarifklassenregeln, Treuebedingungen, Tierbeförderung, besondere Hilfeleistungen und Upgrades.
Sie laden Ihre Dokumente zu Amazon S3 hoch und create the knowledge base once. Von dort übernimmt Amazon Bedrock den Rest, einschließlich Embedding, Chunking, Indizierung, Speicherung und Abruf. Die Speicherung läuft auf Amazon S3 Vectors, einer Funktion von Amazon S3. Smart Parsing bereitet die Quell-PDFs so vor, dass Tabellen und strukturierte Layouts präzise abgerufen werden können. Wenn sich Ihre Richtliniendokumente ändern, synchronisieren Sie die Wissensbasis, und die neuen Inhalte sind sofort verfügbar. Es gibt keine Pipeline, die neu bereitgestellt werden muss.
Die Anbindung der Wissensbasis an den Agenten erfolgt direkt über AgentCore Gateway. Sie fügen die Wissensbasis als Connectors-Ziel hinzu und wählen standardmäßige oder agentenbasierte Retrieval, und das Gateway stellt sie als benanntes MCP-Werkzeug neben Ihren Backend-API-Werkzeugen bereit. Der Agent entdeckt sie zur Laufzeit und ruft sie namentlich auf, ohne dass benutzerdefinierter Lambda- oder Retrieval-Code geschrieben werden muss. Die Einrichtungsschritte finden Sie unter Add a knowledge base as a gateway target.
Um Ihre eigenen Richtlinien zu verwenden, legen Sie Ihre PDF- oder Textdateien in den Ordner für Richtliniendokumente und stellen Sie den Knowledge-Base-Stack erneut bereit.
Voice-KI-Verarbeitung mit Amazon Bedrock AgentCore
Jede Sitzung läuft als verwalteter Container auf AgentCore runtime mit microVM-Isolation, wodurch die Gespräche der Reisenden auch unter Last getrennt bleiben. AgentCore bietet automatische Skalierung, integriertes Monitoring und Sitzungsrouting.
Für Produktionsbereitstellungen fügen Sie Amazon Bedrock Guardrails hinzu, um Prompt-Injection-Versuche zu filtern und die Verankerung der Antworten zu überprüfen. Das Confirm-before-Write-Muster in dieser Lösung bittet die Reisenden, Änderungen vor der Durchführung zu bestätigen. Dieses Muster bietet zusammen mit den Wissensbasis-Zitaten, die Antworten bis zu den Quelldokumenten zurückverfolgen, bereits eine Grundlage verantwortungsvoller KI-Praxis.
Der Agent verwendet das Strands BidiAgents -Framework, um den System-Prompt, die Werkzeuge und den Gesprächsverlauf zu definieren. Amazon Nova 2.5 Sonic bringt die folgenden Fähigkeiten in den Concierge ein.
- Spracherkennung über Akzente hinweg und Robustheit gegenüber Hintergrundgeräuschen.
- Gesprochene Antworten, die sich an den Tonfall der Reisenden anpassen.
- Bidirektionales Streaming mit geringer Latenz.
- Asynchrone Werkzeugaufrufe, die Daten abrufen oder Werkzeugaufrufe parallel ausführen, ohne das Gespräch zu unterbrechen.
- Latency Masking, das während des Wartens auf Werkzeugergebnisse vorläufige gesprochene Antworten erzeugt und das Gespräch natürlich hält.
- Barge-in und natürlicher Sprecherwechsel.
- Kontext, der sich über viele Gesprächsrunden hinweg erhält.
Audio-Streams vom Frontend laufen als 16 kHz PCM über das WebSocket zu AgentCore runtime. Amazon Nova 2.5 Sonic transkribiert die Sprache, der Agent wählt die passenden Werkzeuge aus und ruft sie über MCP auf. Das AgentCore Gateway übersetzt jeden MCP-Aufruf in eine REST-Anfrage, Lambda führt die Logik aus und gibt Ergebnisse zurück, und Amazon Nova 2.5 Sonic verarbeitet diese Ergebnisse zu einer gesprochenen Antwort.
Was ist neu in Amazon Nova 2.5 Sonic
Diese Lösung verwendet Amazon Nova 2.5 Sonic, ein Speech-to-Speech-Modell mit starker Reasoning-Fähigkeit für Echtzeit-Sprache. Bei einem sprachbasierten Concierge, der Backend-Tools aufruft und einem detaillierten System-Prompt folgt, zeigt sich dieses Reasoning auf mehrere praktische Arten:
Besseres Tool-Aufrufen und Abschluss agentischer Aufgaben – Der Agent wählt und verkettet die richtigen Tools zuverlässig über mehrstufige Anfragen hinweg, z. B. das Nachschlagen einer Reiseroute und anschließende Ändern eines Sitzplatzes in einem einzigen Gespräch.
Starke Befehlsbefolgung und Reasoning – Das Modell hält sich eng an den System-Prompt, einschließlich Formatierungsregeln wie dem Buchstabieren von Bestätigungscodes und Flugnummern Zeichen für Zeichen.
Genauer Umgang mit Responsible AI – Das Modell antwortet hilfreich auf echte Reisendenanfragen und geht gleichzeitig sicher mit unangemessenen Anfragen um.
Benutzerauthentifizierung
Die Lösung verwendet Amazon Cognito User Pools und Identity Pools für rollenbasierten Zugriff. Ein Reisender meldet sich mit Benutzername und Passwort an und erhält JWTs, ein Zugriffstoken und ein ID-Token. Das Front-End tauscht das ID-Token mit dem Cognito Identity Pool gegen temporäre AWS-Anmeldeinformationen, die aus einem Zugriffsschlüssel, einem geheimen Schlüssel und einem Sitzungstoken bestehen. Diese Anmeldeinformationen signieren die WebSocket-Verbindung zum AgentCore runtime und die Anfragen an API Gateway mit Signature Version 4 (SigV4). Nur authentifizierte Reisende gelangen zur Anwendung und zu den Service-APIs.
Authentifizierungs- und WebSocket-Verbindungsfluss
Das Front-End verwendet die temporären AWS-Anmeldeinformationen, um eine mit SigV4 signierte WebSocket-Verbindung zum AgentCore runtime zu öffnen und sendet das Zugriffstoken zur Identitätsprüfung. Der Browser streamt dann 16 kHz PCM-Audio und empfängt Sprachantworten und Tool-Benachrichtigungen über dieselbe Verbindung. Kein serverseitiger Proxy liegt dazwischen.
Die folgende Abbildung zeigt die Authentifizierungs- und WebSocket-Verbindungssequenz zwischen dem Browser, Amazon Cognito und dem AgentCore runtime.
Abbildung 2: Ein Reisender authentifiziert sich bei Amazon Cognito, der Browser öffnet eine mit SigV4 signierte WebSocket-Verbindung zum AgentCore runtime, und Amazon Nova 2.5 Sonic streamt Sprache in beide Richtungen
Sprachinteraktion und dynamischer Tool-Aufruf
Ein Reisender bittet darum, seine Sitzplätze zu sehen. Nova 2.5 Sonic transkribiert die Anfrage, und der Agent wählt die benötigten Tools aus. Er ruft sie parallel über das AgentCore Gateway mit MCP auf, und das Gateway übersetzt jeden Aufruf in eine REST-Anfrage an API Gateway. Lambda-Funktionen fragen DynamoDB ab und geben die Ergebnisse zurück, und Nova 2.5 Sonic streamt eine gesprochene Antwort, die alles zusammenführt. Da die Tool-Aufrufe asynchronausgeführt werden, kommt das Gespräch nicht zum Stillstand, während Daten geladen werden.
Die folgende Abbildung zeigt, wie der Agent eine gesprochene Anfrage verarbeitet und dynamisch Backend-Tools über das AgentCore Gateway aufruft:
Abbildung 3: Eine gesprochene Anfrage durchläuft Nova 2.5 Sonic, das AgentCore Gateway, API Gateway, Lambda und DynamoDB, und die Sprachantwort wird zurückgestreamt
Beantwortung einer Richtlinienfrage aus der Wissensbasis
Wenn ein Reisender nach der Gepäckrichtlinie fragt, greift der Agent über das AgentCore Gateway mit seinem nativen Connector auf Amazon Bedrock Knowledge Bases zu. Die Wissensbasis führt agentic retrieval mit einem verwalteten Reranker durch und liefert relevante Richtlinienauszüge als Zitate zurück. Nova 2.5 Sonic formuliert die Antwort und spricht sie dem Reisenden zurück.
Die folgende Abbildung zeigt, wie der Agent eine Richtlinienfrage beantwortet, indem er fundierte Auszüge aus Amazon Bedrock Knowledge Bases abruft:
Abbildung 4: Eine Richtlinienfrage wird von Amazon Bedrock Knowledge Bases beantwortet und dem Reisenden vorgesprochen
Weiterleitung an einen Live-Agenten
Der Concierge übergibt einen Reisenden an eine Person, wenn er eine Anfrage nicht erfüllen kann oder wenn der Reisende dies wünscht. Nachdem der Reisende bestätigt hat, ruft der Agent das Tool EscalateToAgent auf. Lambda erfasst die Weiterleitung in DynamoDB und gibt eine Referenznummer mit einer geschätzten Wartezeit zurück. Der Agent teilt diese Referenznummer mit, und das Amplify-Front-End tätigt den Anruf bei der Support-Leitung. Dieses Beispiel enthält keine Contact-Center-Anwendung, daher hängt die Verbindung zu einer Person von der von Ihnen konfigurierten Support-Nummer ab.
Die folgende Abbildung zeigt den Weiterleitungsfluss, wenn ein Reisender einen Live-Agenten anfordert:
Abbildung 5: Der Agent protokolliert die Weiterleitung in DynamoDB, teilt eine Referenznummer mit, und das Front-End tätigt den Anruf an einen Live-Agenten
Concierge-Durchlauf
Öffnen Sie die Amplify-URL in Ihrem Browser und melden Sie sich mit den AppUser-Anmeldeinformationen an. Wählen Sie die Mikrofon-Schaltfläche, um ein Sprachgespräch zu starten. Der Agent begrüßt Sie mit Namen und ruft Ihre Reiseroute im Hintergrund auf. Von dort aus können Sie natürlich sprechen, um einen Sitzplatz zu ändern, eine Verspätung zu prüfen, eine Richtlinie einzusehen oder einen Live-Agenten zu erreichen. Das folgende Video zeigt eine vollständige Sitzung von der Begrüßung bis zur Weiterleitung.
Das gesamte Gespräch läuft freihändig über eine einzige WebSocket-Verbindung. Der Agent bestätigt jede Änderung, bevor er sie schreibt. Er spricht Flugnummern Zeichen für Zeichen aus, damit sie klar zu hören sind, und ruft Backend-Tools im Hintergrund auf, sodass es keine spürbaren Verzögerungen gibt.
Aufräumen
Um keine Kosten mehr zu verursachen, entfernen Sie die bereitgestellten Ressourcen. Sehen Sie sich zunächst die Löschungen in der Vorschau an und führen Sie dann die Bereinigung aus.
./cleanup-all.sh --dry-run
./cleanup-all.sh
Das Skript zerstört die Ressourcen in umgekehrter Reihenfolge, beginnend mit dem Front-End, dann dem AgentCore runtime, dem AgentCore Gateway und der Backend-Infrastruktur.
Fazit
Dieser Beitrag zeigte Ihnen, wie Sie einen sprachgesteuerten Reise-Concierge auf AWS bauen. Er verwendet Amazon Cognito für die Authentifizierung, Amazon Bedrock AgentCore für das Agent-Hosting, API Gateway und Lambda für die Geschäftslogik, DynamoDB für die Speicherung und Amazon Bedrock Knowledge Bases für Richtlinienantworten. Das geschichtete Design trennt das Front-End, den Agenten und das Backend, sodass sich jeder Teil eigenständig entwickeln und skalieren lässt. Der Concierge verwaltet Reiserouten, Sitzplatzänderungen, Mahlzeitenpräferenzen, Flugstatus, Treuefragen, Richtlinienabfragen und die Weiterleitung an Live-Agenten über MCP-Tools. Amazon Nova 2.5 Sonic bringt latenzarme Sprache, paralleles Tool-Aufrufen und natürliches Unterbrechungsmanagement. Pay-per-Use-Preise und automatische Skalierung halten die Kosten im Einklang mit dem Traffic, und mit der MCP-Integration können Sie eine neue Lambda-Funktion hinzufügen, ohne den Agent-Code anzufassen. Um loszulegen, besuchen Sie das Solution-Repository auf GitHub und passen Sie es an Ihre eigenen Fluggesellschaftssysteme an.
Zusätzliche Ressourcen
- Verwenden des Amazon Nova Sonic Speech-to-Speech-Modells
- Erste Schritte mit Amazon Bedrock AgentCore
- Model Context Protocol Spezifikation
- Amazon Bedrock Knowledge Bases
