Genereer AI-agenten in SageMaker

Generatieve AI-agenten voor geautomatiseerde workflows

De constante druk om operationele efficiëntie te behouden is een uitdaging voor bedrijven van elke omvang. Deze uitdaging wordt nog versterkt door de steeds toenemende hoeveelheden data, complexe systemen en het enorme aantal klantinteracties dat moet worden beheerd. Traditionele handmatige processen en de vaak onsamenhangende aard van informatiebronnen kunnen leiden tot aanzienlijke knelpunten. Deze obstakels vertragen de besluitvorming en verhinderen teams om hun tijd en energie te besteden aan werk met een hogere waarde dat echt het verschil maakt. Generatieve AI-agenten vertegenwoordigen een transformatieve oplossing. Deze agenten kunnen automatisch communiceren met de bestaande systemen van een bedrijf, een breed scala aan taken uitvoeren en direct inzichten bieden. Hierdoor kunnen organisaties hun activiteiten effectief schalen zonder een overeenkomstige toename van de complexiteit.

Amazon Bedrock in SageMaker Unified Studio pakt deze hardnekkige uitdagingen direct aan. Het biedt een uniforme service die is ontworpen voor het bouwen van AI-gestuurde oplossingen. Dit platform centraliseert klantgegevens en maakt interacties in natuurlijke taal mogelijk, waardoor het intuïtief en gebruiksvriendelijk is. Een belangrijk voordeel is de naadloze integratie met bestaande applicaties. Het bevat ook essentiële Amazon Bedrock-functies, waaronder een brede selectie van foundation models (FMs), mogelijkheden voor prompt engineering, knowledge bases voor contextueel begrip, agents voor taakuitvoering, flows voor workflow-orkestratie, evaluatietools voor prestatiebewaking en guardrails voor verantwoorde AI-ontwikkeling. Gebruikers hebben gemakkelijk toegang tot deze uitgebreide suite van AI-mogelijkheden via het single sign-on (SSO)-systeem van hun organisatie. Dit bevordert de samenwerking tussen teamleden en maakt het mogelijk om AI-applicaties te verfijnen zonder dat directe toegang tot de AWS Management Console nodig is.

Generatieve AI-aangedreven agenten voor geautomatiseerde workflows

Amazon Bedrock in SageMaker Unified Studio stelt u in staat om geavanceerde generatieve AI-agenten te creëren en te implementeren. Deze agenten kunnen naadloos integreren met de applicaties, databases en zelfs systemen van derden van uw organisatie. Dit niveau van integratie maakt interacties in natuurlijke taal mogelijk in uw hele technologiestack. De chat-agent fungeert als een cruciale brug, die complexe informatiesystemen verbindt met gebruiksvriendelijke communicatie. Door gebruik te maken van Amazon Bedrock-functies en Amazon Bedrock Knowledge Bases, krijgt de agent de mogelijkheid om verbinding te maken met diverse databronnen. Deze bronnen kunnen variëren van JIRA API’s voor realtime projectstatus-tracking tot customer relationship management (CRM)-systemen voor het ophalen van klantinformatie. De agent kan ook projecttaken bijwerken, gebruikersvoorkeuren beheren en nog veel meer.

Deze uitgebreide functionaliteit biedt aanzienlijke voordelen voor verschillende teams binnen een organisatie. Verkoop- en marketingteams kunnen snel toegang krijgen tot klantinformatie en hun gewenste vergadertijden. Projectmanagers kunnen JIRA-taken en -tijdlijnen efficiënt beheren, waardoor projectworkflows worden geoptimaliseerd. Dit gestroomlijnde proces, gefaciliteerd door de AI-agent, leidt tot verbeterde productiviteit en verbeterde klantinteracties in de hele organisatie.

Oplossingsoverzicht

Amazon Bedrock biedt een beheerde, collaboratieve omgeving, allemaal binnen SageMaker Unified Studio, om generatieve AI-applicaties te bouwen en te delen. Laten we eens kijken naar een praktische voorbeeldoplossing die de implementatie van een klantbeheeragent demonstreert:

• Agentic Chat: Een geavanceerde agentic chat-applicatie kan worden gebouwd met behulp van de chat-applicatiefuncties van Amazon Bedrock. Deze chat-applicatie kan naadloos worden geïntegreerd met functies die eenvoudig kunnen worden gebouwd met behulp van andere AWS-services, zoals AWS Lambda voor serverless compute en Amazon API Gateway voor het creëren en beheren van API’s.
• Data Management: SageMaker Unified Studio, in combinatie met Amazon DataZone, biedt een uitgebreide oplossing voor gegevensbeheer via de geïntegreerde services. Organisatiebeheerders hebben gedetailleerde controle over de toegang van leden tot Amazon Bedrock-modellen en -functies. Dit zorgt voor veilig identiteitsbeheer en gedetailleerde toegangscontrole, waardoor de gegevensbeveiliging en compliance worden gewaarborgd.

Voordat we dieper ingaan op de implementatie van de AI-agent, is het nuttig om de belangrijkste stappen van de architectuur te doorlopen.

De workflow verloopt als volgt:

1. Gebruikersauthenticatie en -interactie: De gebruiker start het proces door in te loggen bij SageMaker Unified Studio met behulp van de SSO-inloggegevens van hun organisatie van AWS IAM Identity Center. Eenmaal geauthenticeerd, communiceert de gebruiker met de chat-applicatie in natuurlijke taal, stelt vragen of doet verzoeken.
2. Functie-aanroep: De Amazon Bedrock chat-applicatie maakt intelligent gebruik van een vooraf gedefinieerde functie om relevante informatie op te halen. Deze functie kan zijn ontworpen om JIRA-statusupdates of klantinformatie uit de database op te halen. Het ophalen wordt uitgevoerd via een beveiligd eindpunt met behulp van API Gateway.
3. Beveiligde toegang en Lambda-trigger: De chat-applicatie authenticeert zichzelf bij API Gateway om veilig toegang te krijgen tot het aangewezen eindpunt. Deze authenticatie wordt bereikt met behulp van een willekeurig gegenereerde API-sleutel die veilig is opgeslagen in AWS Secrets Manager. Op basis van het verzoek van de gebruiker wordt de juiste Lambda-functie geactiveerd.
4. Actie-uitvoering: De Lambda-functie, nu geactiveerd, voert de specifieke acties uit die door de gebruiker zijn aangevraagd. Dit omvat het aanroepen van de JIRA API of het opvragen van de database met de benodigde parameters die door de agent zijn verstrekt. De agent is ontworpen om verschillende taken uit te voeren, waaronder:
   1. Een beknopt overzicht geven van een specifieke klant.
   2. De recente interacties met een bepaalde klant weergeven.
   3. De vergadervoorkeuren voor een aangewezen klant ophalen.
   4. Een lijst met open JIRA-tickets ophalen die zijn gekoppeld aan een specifiek project.
   5. De vervaldatum voor een bepaald JIRA-ticket bijwerken.

Vereisten

Om deze oplossingsimplementatie te volgen en uw eigen klantbeheeragent te bouwen, hebt u de volgende vereisten nodig:

• AWS-account: Een actief AWS-account is essentieel om toegang te krijgen tot de benodigde services.
• SageMaker Unified Studio-toegang: Gebruikerstoegang tot Amazon Bedrock binnen SageMaker Unified Studio is vereist.
• Modeltoegang: U hebt modeltoegang nodig tot Amazon Nova Pro op Amazon Bedrock. Zorg ervoor dat dit model beschikbaar is in een ondersteunde AWS-regio.
• JIRA-setup: Een JIRA-applicatie, de bijbehorende JIRA-URL en een JIRA API-token dat is gekoppeld aan uw account, zijn nodig voor integratie met JIRA.

Er wordt aangenomen dat u een basiskennis hebt van fundamentele serverless concepten op AWS, waaronder API Gateway, Lambda-functies en IAM Identity Center. Hoewel dit bericht geen diepgaande definities van deze services biedt, zullen we hun use cases demonstreren in de context van de nieuwe Amazon Bedrock-functies die beschikbaar zijn binnen SageMaker Unified Studio.

De oplossing implementeren

Volg deze stappen om de oplossing voor de klantbeheeragent te implementeren:

1. Code downloaden: Begin met het downloaden van de benodigde code uit de meegeleverde GitHub-repository.
2. JIRA-inloggegevens ophalen: Haal de waarden op voor JIRA_API_KEY_ARN, JIRA_URL en JIRA_USER_NAME voor de Lambda-functie. Deze inloggegevens worden gebruikt om te authenticeren bij uw JIRA-instantie.
3. CloudFormation-stack starten: Gebruik de meegeleverde AWS CloudFormation-sjabloon. Raadpleeg de documentatie over ‘Create a stack from the CloudFormation console’ voor gedetailleerde instructies over het starten van de stack in uw gewenste AWS-regio.
4. API Gateway-URL: Nadat de CloudFormation-stack succesvol is geïmplementeerd, navigeert u naar het tabblad Outputs. Zoek en noteer de ApiInvokeURL-waarde. Deze URL vertegenwoordigt het eindpunt voor uw API Gateway.
5. Secrets Manager-configuratie: Open de Secrets Manager-console. Zoek de geheimen die overeenkomen met JIRA_API_KEY_ARN, JIRA_URL en JIRA_USER_NAME.
6. Geheime waarden bijwerken: Kies de optie Retrieve secret voor elk geheim. Kopieer de corresponderende variabelen die u in stap 2 hebt verkregen naar de geheime plaintext-string. Hiermee worden uw JIRA-inloggegevens veilig opgeslagen.
7. Aanmelden bij SageMaker Unified Studio: Meld u aan bij SageMaker Unified Studio met de SSO-inloggegevens van uw organisatie.

Een nieuw project maken

Nu de infrastructuur is opgezet, gaan we een nieuw project maken binnen SageMaker Unified Studio:

1. Project maken: Start op de landingspagina van SageMaker Unified Studio het maken van een nieuw project.
2. Projectnaamgeving: Geef uw project een beschrijvende naam (bijvoorbeeld crm-agent).
3. Profielselectie: Kies het Generative AI application development profile en ga verder.
4. Standaardinstellingen: Accepteer de standaardinstellingen en ga verder.
5. Bevestiging: Controleer de projectconfiguratie en kies Create project om te bevestigen.

De chat-agent-applicatie bouwen

Laten we nu de kern van onze oplossing bouwen: de chat-agent-applicatie:

1. Chat-agent initiëren: Zoek op de landingspagina van het crm-agent-project de sectie New aan de rechterkant. Kies Chat agent om te beginnen met het bouwen van uw applicatie.
   Dit toont een lijst met configuraties voor uw agent-applicatie.

2. Model selecteren: Selecteer onder de modelsectie een gewenst foundation model (FM) dat wordt ondersteund door Amazon Bedrock. Voor deze crm-agent kiezen we Amazon Nova Pro.

3. Systeem-prompt definiëren: Geef in de sectie systeem-prompt de volgende prompt op. Deze prompt begeleidt het gedrag en de reacties van de agent. U kunt optioneel voorbeelden van gebruikersinvoer en modelreacties opnemen om de prestaties verder te verfijnen.

   Je bent een customer relationship management-agent die een verkoper helpt bij het plannen van zijn werk met klanten. Je krijgt een API-eindpunt. Dit eindpunt kan informatie verstrekken zoals bedrijfsoverzicht, bedrijfsinteractiegeschiedenis (vergadertijden en notities), bedrijfsvoorkeuren voor vergaderingen (vergadertype, dag van de week en tijdstip). Je kunt ook Jira-taken opvragen en hun tijdlijn bijwerken. Na ontvangst van een antwoord, maak je het op in een leesbaar formaat. Als de uitvoer een genummerde lijst is, formatteer deze dan als zodanig met nieuwe regeltekens en nummers.

4. Functie maken: Kies in de sectie Functions de optie Create a new function. Deze functie definieert de acties die de agent kan uitvoeren.

5. Functienaamgeving: Geef uw functie een beschrijvende naam, zoals crm_agent_calling.

6. Functieschema: Gebruik voor het Function schema de OpenAPI-definitie die is meegeleverd in de GitHub-repository. Dit schema definieert de invoer- en uitvoerparameters voor uw functie.

7. Authenticatieconfiguratie: Kies voor Authentication method de optie API Keys (Max. 2 Keys) en voer de volgende gegevens in:

   1. Kies voor Key sent in de optie Header.
   2. Voer voor Key name x-api-key in.
   3. Voer voor Key value de Secrets Manager API Key in.

8. API-servereindpunt: Voer in de sectie API servers de eindpunt-URL in die u hebt verkregen uit de CloudFormation Outputs (de ApiInvokeURL).

9. Functie afronden: Kies Create om het maken van de functie af te ronden.

10. Applicatie opslaan: Selecteer in de sectie Functions van de chat-agent-applicatie de functie die u zojuist hebt gemaakt en kies Save om het maken van de applicatie te voltooien.

Voorbeeldinteracties

Laten we enkele praktische voorbeelden bekijken van hoe deze chat-agent kan worden gebruikt:

Use Case 1: CRM-analist haalt klantgegevens op

Een CRM-analist kan natuurlijke taal gebruiken om klantgegevens op te halen die zijn opgeslagen in de database. Hier zijn enkele voorbeeldvragen die ze kunnen stellen:

• ‘Geef me een kort overzicht van klant C-jkl101112.’
• ‘Geef de laatste 2 recente interacties weer voor klant C-def456.’
• ‘Welke communicatiemethode geeft klant C-mno131415 de voorkeur?’
• ‘Beveel de optimale tijd en het optimale contactkanaal aan om contact op te nemen met C-ghi789 op basis van hun voorkeuren en onze laatste interactie.’

De agent zal, na ontvangst van deze verzoeken, op intelligente wijze de database opvragen en de corresponderende antwoorden in een duidelijk en beknopt formaat verstrekken.

Use Case 2: Projectmanager beheert JIRA-tickets

Een projectmanager kan de agent gebruiken om JIRA-tickets weer te geven en bij te werken. Hier zijn enkele voorbeeldinteracties:

• ‘Wat zijn de open JIRA-taken voor project-id CRM?’
• ‘Werk JIRA-taak CRM-3 bij naar 1 week later.’

De agent zal het JIRA-bord openen, de relevante projectinformatie ophalen en een lijst met open JIRA-taken verstrekken. Het zal ook de tijdlijn van een specifieke taak bijwerken zoals gevraagd door de gebruiker.

Opruimen

Voer de volgende opruimstappen uit om te voorkomen dat er onnodige kosten in rekening worden gebracht:

1. CloudFormation-stack verwijderen: Verwijder de CloudFormation-stack die u eerder hebt geïmplementeerd.
2. Functiecomponent verwijderen: Verwijder de functiecomponent die u hebt gemaakt in Amazon Bedrock.
3. Chat-agent-applicatie verwijderen: Verwijder de chat-agent-applicatie binnen Amazon Bedrock.
4. Domeinen verwijderen: Verwijder de domeinen in SageMaker Unified Studio.

Kosten

Het gebruik van Amazon Bedrock binnen SageMaker Unified Studio brengt geen afzonderlijke kosten met zich mee. U wordt echter gefactureerd voor de afzonderlijke AWS-services en -resources die binnen de service worden gebruikt. Amazon Bedrock werkt volgens een pay-as-you-go-model, wat betekent dat u alleen betaalt voor de resources die u verbruikt, zonder minimumkosten of verplichtingen vooraf.

Als u meer hulp nodig hebt bij prijsberekeningen of vragen hebt over het optimaliseren van de kosten voor uw specifieke use case, is het raadzaam om contact op te nemen met AWS Support of uw accountmanager te raadplegen. Zij kunnen u op maat gesneden advies geven op basis van uw behoeften.