Generative KI-Agenten in SageMaker

Generative KI-gestützte Agenten für automatisierte Workflows

Der ständige Druck, die betriebliche Effizienz aufrechtzuerhalten, ist eine Herausforderung für Unternehmen jeder Größe. Diese Herausforderung wird durch die ständig wachsenden Datenmengen, komplexe Systeme und die schiere Anzahl der zu verwaltenden Kundeninteraktionen noch verstärkt. Traditionelle manuelle Prozesse und die oft unzusammenhängende Natur von Informationsquellen können zu erheblichen Engpässen führen. Diese Hindernisse verlangsamen die Entscheidungsfindung und hindern Teams daran, ihre Zeit und Energie auf höherwertige Arbeiten zu konzentrieren, die wirklich etwas bewegen. Generative KI-Agenten stellen eine transformative Lösung dar. Diese Agenten können automatisch mit den bestehenden Systemen eines Unternehmens interagieren, eine breite Palette von Aufgaben ausführen und sofortige Einblicke liefern. Dies ermöglicht es Unternehmen, ihre Abläufe effektiv zu skalieren, ohne dass die Komplexität entsprechend zunimmt.

Amazon Bedrock in SageMaker Unified Studio geht diese allgegenwärtigen Herausforderungen direkt an. Es bietet einen einheitlichen Service, der für die Entwicklung von KI-gestützten Lösungen konzipiert ist. Diese Plattform zentralisiert Kundendaten und ermöglicht Interaktionen in natürlicher Sprache, wodurch sie intuitiv und benutzerfreundlich wird. Ein wesentlicher Vorteil ist die nahtlose Integration mit bestehenden Anwendungen. Es beinhaltet auch wesentliche Amazon Bedrock-Funktionen, darunter eine große Auswahl an Foundation Models (FMs), Funktionen zur Prompt-Entwicklung, Wissensdatenbanken für kontextuelles Verständnis, Agenten für die Aufgabenausführung, Flows für die Workflow-Orchestrierung, Evaluierungstools für die Leistungsüberwachung und Guardrails für eine verantwortungsvolle KI-Entwicklung. Benutzer können bequem über das Single Sign-On (SSO)-System ihres Unternehmens auf diese umfassende Suite von KI-Funktionen zugreifen. Dies fördert die Zusammenarbeit zwischen Teammitgliedern und ermöglicht die Verfeinerung von KI-Anwendungen, ohne dass ein direkter Zugriff auf die AWS Management Console erforderlich ist.

Generative KI-gestützte Agenten für automatisierte Arbeitsabläufe

Amazon Bedrock in SageMaker Unified Studio ermöglicht Ihnen die Erstellung und Bereitstellung hochentwickelter generativer KI-Agenten. Diese Agenten können nahtlos in die Anwendungen, Datenbanken und sogar Drittsysteme Ihres Unternehmens integriert werden. Dieser Integrationsgrad ermöglicht Interaktionen in natürlicher Sprache über Ihren gesamten Technologie-Stack hinweg. Der Chat-Agent fungiert als entscheidende Brücke, die komplexe Informationssysteme mit benutzerfreundlicher Kommunikation verbindet. Durch die Nutzung von Amazon Bedrock-Funktionen und Amazon Bedrock Knowledge Bases erhält der Agent die Fähigkeit, sich mit verschiedenen Datenquellen zu verbinden. Diese Quellen können von JIRA-APIs für die Echtzeitverfolgung des Projektstatus bis hin zu Customer Relationship Management (CRM)-Systemen für den Abruf von Kundeninformationen reichen. Der Agent kann auch Projektaufgaben aktualisieren, Benutzereinstellungen verwalten und vieles mehr.

Diese umfassende Funktionalität bietet verschiedenen Teams innerhalb eines Unternehmens erhebliche Vorteile. Vertriebs- und Marketingteams können schnell auf Kundeninformationen und ihre bevorzugten Besprechungszeiten zugreifen. Projektmanager können JIRA-Aufgaben und -Zeitpläne effizient verwalten und so die Projektabläufe optimieren. Dieser durch den KI-Agenten ermöglichte, optimierte Prozess führt zu einer gesteigerten Produktivität und verbesserten Kundeninteraktionen im gesamten Unternehmen.

Lösungsübersicht

Amazon Bedrock bietet eine kontrollierte, kollaborative Umgebung, alles innerhalb von SageMaker Unified Studio, um generative KI-Anwendungen zu erstellen und zu teilen. Lassen Sie uns in ein praktisches Lösungsbeispiel eintauchen, das die Implementierung eines Kundenmanagement-Agenten demonstriert:

• Agentic Chat: Eine hochentwickelte Agentic-Chat-Anwendung kann mit den Chat-Anwendungsfunktionen von Amazon Bedrock erstellt werden. Diese Chat-Anwendung kann nahtlos in Funktionen integriert werden, die einfach mit anderen AWS-Services erstellt werden können, wie z. B. AWS Lambda für serverloses Computing und Amazon API Gateway für die Erstellung und Verwaltung von APIs.
• Datenmanagement: SageMaker Unified Studio bietet in Verbindung mit Amazon DataZone eine umfassende Datenmanagementlösung durch seine integrierten Services. Organisationsadministratoren haben eine feingranulare Kontrolle über den Zugriff der Mitglieder auf Amazon Bedrock-Modelle und -Funktionen. Dies gewährleistet eine sichere Identitätsverwaltung und eine granulare Zugriffskontrolle, wodurch die Datensicherheit und Compliance gewahrt bleiben.

Bevor wir tief in die Bereitstellung des KI-Agenten eintauchen, ist es hilfreich, die wichtigsten Schritte der Architektur durchzugehen.

Der Workflow läuft wie folgt ab:

1. Benutzerauthentifizierung und -interaktion: Der Benutzer initiiert den Prozess, indem er sich mit seinen SSO-Anmeldeinformationen des Unternehmens vom AWS IAM Identity Center bei SageMaker Unified Studio anmeldet. Nach der Authentifizierung interagiert der Benutzer mit der Chat-Anwendung in natürlicher Sprache, stellt Fragen oder stellt Anfragen.
2. Funktionsaufruf: Die Amazon Bedrock-Chat-Anwendung verwendet intelligent eine vordefinierte Funktion, um relevante Informationen abzurufen. Diese Funktion könnte so konzipiert sein, dass sie JIRA-Statusaktualisierungen oder Kundeninformationen aus der Datenbank abruft. Der Abruf erfolgt über einen sicheren Endpunkt unter Verwendung von API Gateway.
3. Sicherer Zugriff und Lambda-Trigger: Die Chat-Anwendung authentifiziert sich beim API Gateway, um sicher auf den angegebenen Endpunkt zuzugreifen. Diese Authentifizierung wird mit einem zufällig generierten API-Schlüssel erreicht, der sicher in AWS Secrets Manager gespeichert ist. Basierend auf der Anfrage des Benutzers wird die entsprechende Lambda-Funktion ausgelöst.
4. Aktionsausführung: Die Lambda-Funktion, die jetzt aktiviert ist, führt die vom Benutzer angeforderten spezifischen Aktionen aus. Dies beinhaltet den Aufruf der JIRA-API oder die Abfrage der Datenbank mit den erforderlichen Parametern, die vom Agenten bereitgestellt werden. Der Agent ist so konzipiert, dass er eine Vielzahl von Aufgaben bewältigen kann, darunter:
   1. Bereitstellung eines kurzen Überblicks über einen bestimmten Kunden.
   2. Auflistung der letzten Interaktionen mit einem bestimmten Kunden.
   3. Abrufen der Besprechungspräferenzen für einen bestimmten Kunden.
   4. Abrufen einer Liste offener JIRA-Tickets, die einem bestimmten Projekt zugeordnet sind.
   5. Aktualisieren des Fälligkeitsdatums für ein bestimmtes JIRA-Ticket.

Voraussetzungen

Um dieser Lösungsimplementierung zu folgen und Ihren eigenen Kundenmanagement-Agenten zu erstellen, benötigen Sie die folgenden Voraussetzungen:

• AWS-Konto: Ein aktives AWS-Konto ist unerlässlich, um auf die erforderlichen Services zuzugreifen.
• SageMaker Unified Studio-Zugriff: Benutzerzugriff auf Amazon Bedrock innerhalb von SageMaker Unified Studio ist erforderlich.
• Modellzugriff: Sie benötigen Modellzugriff auf Amazon Nova Pro auf Amazon Bedrock. Stellen Sie sicher, dass dieses Modell in einer unterstützten AWS-Region verfügbar ist.
• JIRA-Setup: Eine JIRA-Anwendung, die entsprechende JIRA-URL und ein JIRA-API-Token, das Ihrem Konto zugeordnet ist, sind für die Integration mit JIRA erforderlich.

Es wird davon ausgegangen, dass Sie ein grundlegendes Verständnis der grundlegenden serverlosen Konzepte auf AWS haben, einschließlich API Gateway, Lambda-Funktionen und IAM Identity Center. Obwohl dieser Beitrag keine detaillierten Definitionen dieser Services enthält, werden wir ihre Anwendungsfälle im Kontext der neuen Amazon Bedrock-Funktionen demonstrieren, die in SageMaker Unified Studio verfügbar sind.

Bereitstellung der Lösung

Um die Kundenmanagement-Agentenlösung bereitzustellen, führen Sie die folgenden Schritte aus:

1. Code herunterladen: Laden Sie zunächst den erforderlichen Code aus dem bereitgestellten GitHub-Repository herunter.
2. JIRA-Anmeldeinformationen abrufen: Rufen Sie die Werte für JIRA_API_KEY_ARN, JIRA_URL und JIRA_USER_NAME für die Lambda-Funktion ab. Diese Anmeldeinformationen werden verwendet, um sich bei Ihrer JIRA-Instanz zu authentifizieren.
3. CloudFormation-Stack starten: Verwenden Sie die bereitgestellte AWS CloudFormation-Vorlage. Ausführliche Anweisungen zum Starten des Stacks in Ihrer bevorzugten AWS-Region finden Sie in der Dokumentation zu ‘Erstellen eines Stacks über die CloudFormation-Konsole’.
4. API Gateway-URL: Nachdem der CloudFormation-Stack erfolgreich bereitgestellt wurde, navigieren Sie zur Registerkarte Outputs. Suchen und notieren Sie sich den Wert ApiInvokeURL. Diese URL stellt den Endpunkt für Ihr API Gateway dar.
5. Secrets Manager-Konfiguration: Greifen Sie auf die Secrets Manager-Konsole zu. Suchen Sie die Secrets, die JIRA_API_KEY_ARN, JIRA_URL und JIRA_USER_NAME entsprechen.
6. Secret-Werte aktualisieren: Wählen Sie für jedes Secret die Option Retrieve secret. Kopieren Sie die entsprechenden Variablen, die Sie in Schritt 2 erhalten haben, in den Secret-Klartext-String. Dadurch werden Ihre JIRA-Anmeldeinformationen sicher gespeichert.
7. Bei SageMaker Unified Studio anmelden: Melden Sie sich mit den SSO-Anmeldeinformationen Ihres Unternehmens bei SageMaker Unified Studio an.

Erstellen eines neuen Projekts

Nachdem die Infrastruktur eingerichtet ist, erstellen wir ein neues Projekt in SageMaker Unified Studio:

1. Projekterstellung: Initiieren Sie auf der SageMaker Unified Studio-Landingpage die Erstellung eines neuen Projekts.
2. Projektbenennung: Geben Sie Ihrem Projekt einen beschreibenden Namen (z. B. crm-agent).
3. Profilauswahl: Wählen Sie das Generative AI application development profile und fahren Sie fort.
4. Standardeinstellungen: Akzeptieren Sie die Standardeinstellungen und fahren Sie fort.
5. Bestätigung: Überprüfen Sie die Projektkonfiguration und wählen Sie Create project, um zu bestätigen.

Erstellen der Chat-Agent-Anwendung

Lassen Sie uns nun den Kern unserer Lösung erstellen – die Chat-Agent-Anwendung:

1. Chat-Agent-Initialisierung: Suchen Sie auf der Landingpage des Projekts crm-agent den Abschnitt New auf der rechten Seite. Wählen Sie Chat agent, um mit der Erstellung Ihrer Anwendung zu beginnen.
   Dadurch wird eine Liste der Konfigurationen für Ihre Agentenanwendung angezeigt.

2. Modellauswahl: Wählen Sie im Modellabschnitt ein gewünschtes Foundation Model (FM) aus, das von Amazon Bedrock unterstützt wird. Für diesen crm-agent wählen wir Amazon Nova Pro.

3. System-Prompt-Definition: Geben Sie im Abschnitt ‘System prompt’ den folgenden Prompt an. Dieser Prompt leitet das Verhalten und die Antworten des Agenten. Sie können optional Beispiele für Benutzereingaben und Modellantworten hinzufügen, um die Leistung weiter zu verfeinern.

   Du bist ein Kundenbeziehungsmanagement-Agent, der einem Vertriebsmitarbeiter bei der Planung seiner Arbeit mit Kunden helfen soll. Dir wird ein API-Endpunkt zur Verfügung gestellt. Dieser Endpunkt kann Informationen wie Unternehmensübersicht, Unternehmensinteraktionshistorie (Besprechungszeiten und Notizen), Unternehmensbesprechungspräferenzen (Besprechungstyp, Wochentag und Tageszeit) liefern. Du kannst auch Jira-Aufgaben abfragen und deren Zeitplan aktualisieren. Nachdem du eine Antwort erhalten hast, bereinige sie in ein lesbares Format. Wenn die Ausgabe eine nummerierte Liste ist, formatiere sie als solche mit Zeilenumbruchzeichen und Zahlen.

4. Funktionserstellung: Wählen Sie im Abschnitt Functions die Option Create a new function. Diese Funktion definiert die Aktionen, die der Agent ausführen kann.

5. Funktionsbenennung: Geben Sie Ihrer Funktion einen beschreibenden Namen, z. B. crm_agent_calling.

6. Funktionsschema: Verwenden Sie für das Function schema die im GitHub-Repository bereitgestellte OpenAPI-Definition. Dieses Schema definiert die Eingabe- und Ausgabeparameter für Ihre Funktion.

7. Authentifizierungskonfiguration: Wählen Sie für Authentication method die Option API Keys (Max. 2 Keys) und geben Sie die folgenden Details ein:

   1. Wählen Sie für Key sent in die Option Header.
   2. Geben Sie für Key name x-api-key ein.
   3. Geben Sie für Key value den Secrets Manager-API-Schlüssel ein.

8. API-Server-Endpunkt: Geben Sie im Abschnitt API servers die Endpunkt-URL ein, die Sie aus den CloudFormation-Ausgaben erhalten haben (die ApiInvokeURL).

9. Funktionsabschluss: Wählen Sie Create, um die Funktionserstellung abzuschließen.

10. Anwendungsspeicherung: Wählen Sie im Abschnitt Functions der Chat-Agent-Anwendung die soeben erstellte Funktion aus und wählen Sie Save, um die Anwendungserstellung abzuschließen.

Beispielinteraktionen

Lassen Sie uns einige praktische Beispiele dafür untersuchen, wie dieser Chat-Agent verwendet werden kann:

Anwendungsfall 1: CRM-Analyst ruft Kundendetails ab

Ein CRM-Analyst kann natürliche Sprache verwenden, um in der Datenbank gespeicherte Kundendetails abzurufen. Hier sind einige Beispielfragen, die er stellen könnte:

• ‘Gib mir einen kurzen Überblick über den Kunden C-jkl101112.’
• ‘Liste die letzten 2 Interaktionen für den Kunden C-def456 auf.’
• ‘Welche Kommunikationsmethode bevorzugt der Kunde C-mno131415?’
• ‘Empfehle die optimale Zeit und den optimalen Kontaktkanal, um C-ghi789 basierend auf seinen Präferenzen und unserer letzten Interaktion zu erreichen.’

Der Agent fragt nach Erhalt dieser Anfragen die Datenbank intelligent ab und liefert die entsprechenden Antworten in einem klaren und prägnanten Format.

Anwendungsfall 2: Projektmanager verwaltet JIRA-Tickets

Ein Projektmanager kann den Agenten verwenden, um JIRA-Tickets aufzulisten und zu aktualisieren. Hier sind einige Beispielinteraktionen:

• ‘Was sind die offenen JIRA-Aufgaben für die Projekt-ID CRM?’
• ‘Bitte aktualisiere die JIRA-Aufgabe CRM-3 auf 1 Woche hinaus.’

Der Agent greift auf das JIRA-Board zu, ruft die relevanten Projektinformationen ab und stellt eine Liste der offenen JIRA-Aufgaben bereit. Er aktualisiert auch den Zeitplan einer bestimmten Aufgabe, wie vom Benutzer angefordert.

Aufräumen

Um unnötigeKosten zu vermeiden, führen Sie die folgenden Bereinigungsschritte aus:

1. CloudFormation-Stack löschen: Löschen Sie den CloudFormation-Stack, den Sie zuvor bereitgestellt haben.
2. Funktionskomponente löschen: Entfernen Sie die Funktionskomponente, die Sie in Amazon Bedrock erstellt haben.
3. Chat-Agent-Anwendung löschen: Löschen Sie die Chat-Agent-Anwendung in Amazon Bedrock.
4. Domains löschen: Löschen Sie die Domains in SageMaker Unified Studio.

Kosten

Die Verwendung von Amazon Bedrock in SageMaker Unified Studio verursacht keine separaten Gebühren. Ihnen werden jedoch die einzelnen AWS-Services und -Ressourcen in Rechnung gestellt, die innerhalb des Services verwendet werden. Amazon Bedrock arbeitet nach dem Pay-as-you-go-Modell, d. h. Sie zahlen nur für die Ressourcen, die Sie verbrauchen, ohne Mindestgebühren oder Vorabverpflichtungen.

Wenn Sie weitere Unterstützung bei Preisberechnungen benötigen oder Fragen zur Kostenoptimierung für Ihren spezifischen Anwendungsfall haben, empfiehlt es sich, sich an den AWS Support zu wenden oder Ihren Account Manager zu konsultieren. Sie können Ihnen eine maßgeschneiderte Beratung basierend auf Ihren Bedürfnissen anbieten.