Agenti IA per Aziende con Amazon Bedrock

Agenti IA Generativi per Flussi di Lavoro Automatizzati

La pressione costante per mantenere l’efficienza operativa è una sfida affrontata da aziende di tutte le dimensioni. Questa sfida è ulteriormente amplificata dai volumi di dati in continua crescita, dai sistemi complessi e dal numero elevato di interazioni con i clienti che devono essere gestite. I processi manuali tradizionali e la natura spesso disgiunta delle fonti di informazione possono portare a colli di bottiglia significativi. Questi ostacoli rallentano il processo decisionale e impediscono ai team di dedicare tempo ed energia a lavori di maggior valore che fanno davvero la differenza. Gli agenti di IA generativa rappresentano una soluzione trasformativa. Questi agenti possono interfacciarsi automaticamente con i sistemi esistenti di un’azienda, eseguire un’ampia gamma di attività e fornire informazioni immediate. Ciò consente alle organizzazioni di scalare le proprie operazioni in modo efficace senza un corrispondente aumento della complessità.

Amazon Bedrock in SageMaker Unified Studio affronta direttamente queste sfide pervasive. Offre un servizio unificato progettato per la creazione di soluzioni basate sull’intelligenza artificiale. Questa piattaforma centralizza i dati dei clienti e consente interazioni in linguaggio naturale, rendendola intuitiva e facile da usare. Un vantaggio chiave è la sua perfetta integrazione con le applicazioni esistenti. Incorpora inoltre funzionalità essenziali di Amazon Bedrock, tra cui un’ampia selezione di modelli di base (FM), funzionalità di prompt engineering, knowledge base per la comprensione contestuale, agenti per l’esecuzione di attività, flussi per l’orchestrazione del flusso di lavoro, strumenti di valutazione per il monitoraggio delle prestazioni e guardrail per lo sviluppo responsabile dell’IA. Gli utenti possono accedere comodamente a questa suite completa di funzionalità di intelligenza artificiale tramite il sistema single sign-on (SSO) della propria organizzazione. Ciò favorisce la collaborazione tra i membri del team e consente il perfezionamento delle applicazioni di intelligenza artificiale senza richiedere l’accesso diretto alla AWS Management Console.

Amazon Bedrock in SageMaker Unified Studio ti consente di creare e distribuire sofisticati agenti di IA generativa. Questi agenti possono integrarsi perfettamente con le applicazioni, i database e persino i sistemi di terze parti della tua organizzazione. Questo livello di integrazione consente interazioni in linguaggio naturale nell’intero stack tecnologico. L’agente di chat funge da ponte cruciale, collegando sistemi informativi complessi con comunicazioni user-friendly. Sfruttando le funzioni di Amazon Bedrock e le Amazon Bedrock Knowledge Base, l’agente acquisisce la capacità di connettersi a diverse fonti di dati. Queste fonti possono variare dalle API JIRA per il monitoraggio dello stato del progetto in tempo reale ai sistemi di gestione delle relazioni con i clienti (CRM) per il recupero delle informazioni sui clienti. L’agente può anche aggiornare le attività del progetto, gestire le preferenze dell’utente e molto altro.

Questa funzionalità completa offre vantaggi significativi a vari team all’interno di un’organizzazione. I team di vendita e marketing possono ottenere un rapido accesso alle informazioni sui clienti e ai loro orari di incontro preferiti. I project manager possono gestire in modo efficiente le attività e le tempistiche di JIRA, ottimizzando i flussi di lavoro del progetto. Questo processo semplificato, facilitato dall’agente IA, porta a una maggiore produttività e a migliori interazioni con i clienti in tutta l’organizzazione.

Panoramica della Soluzione

Amazon Bedrock offre un ambiente governato e collaborativo, tutto all’interno di SageMaker Unified Studio, per creare e condividere applicazioni di IA generativa. Analizziamo un esempio pratico di soluzione che dimostra l’implementazione di un agente di gestione dei clienti:

  • Chat Agentica: Un’applicazione di chat agentica sofisticata può essere creata utilizzando le funzionalità dell’applicazione di chat di Amazon Bedrock. Questa applicazione di chat può essere integrata perfettamente con funzioni facilmente realizzabili utilizzando altri servizi AWS, come AWS Lambda per il calcolo serverless e Amazon API Gateway per la creazione e la gestione delle API.
  • Gestione dei Dati: SageMaker Unified Studio, in combinazione con Amazon DataZone, offre una soluzione completa di gestione dei dati attraverso i suoi servizi integrati. Gli amministratori dell’organizzazione hanno un controllo granulare sull’accesso dei membri ai modelli e alle funzionalità di Amazon Bedrock. Ciò garantisce una gestione sicura delle identità e un controllo granulare degli accessi, mantenendo la sicurezza e la conformità dei dati.

Prima di approfondire l’implementazione dell’agente IA, è utile esaminare i passaggi chiave dell’architettura.

Il flusso di lavoro si svolge come segue:

  1. Autenticazione e Interazione dell’Utente: L’utente avvia il processo accedendo a SageMaker Unified Studio utilizzando le credenziali SSO della propria organizzazione da AWS IAM Identity Center. Una volta autenticato, l’utente interagisce con l’applicazione di chat utilizzando il linguaggio naturale, ponendo domande o effettuando richieste.
  2. Invocazione della Funzione: L’applicazione di chat di Amazon Bedrock utilizza in modo intelligente una funzione predefinita per recuperare le informazioni pertinenti. Questa funzione potrebbe essere progettata per recuperare gli aggiornamenti sullo stato di JIRA o le informazioni sui clienti dal database. Il recupero viene eseguito tramite un endpoint sicuro utilizzando API Gateway.
  3. Accesso Sicuro e Trigger Lambda: L’applicazione di chat si autentica con API Gateway per accedere in modo sicuro all’endpoint designato. Questa autenticazione viene ottenuta utilizzando una chiave API generata casualmente e archiviata in modo sicuro in AWS Secrets Manager. In base alla richiesta dell’utente, viene attivata la funzione Lambda appropriata.
  4. Esecuzione dell’Azione: La funzione Lambda, ora attivata, esegue le azioni specifiche richieste dall’utente. Ciò comporta la chiamata dell’API JIRA o l’interrogazione del database con i parametri necessari forniti dall’agente. L’agente è progettato per gestire una varietà di attività, tra cui:
    1. Fornire una panoramica concisa di un cliente specifico.
    2. Elencare le interazioni recenti con un determinato cliente.
    3. Recuperare le preferenze di incontro per un cliente designato.
    4. Recuperare un elenco di ticket JIRA aperti associati a un progetto specifico.
    5. Aggiornare la data di scadenza per un particolare ticket JIRA.

Prerequisiti

Per seguire l’implementazione di questa soluzione e creare il tuo agente di gestione dei clienti, avrai bisogno dei seguenti prerequisiti:

  • Account AWS: Un account AWS attivo è essenziale per accedere ai servizi necessari.
  • Accesso a SageMaker Unified Studio: È richiesto l’accesso utente ad Amazon Bedrock all’interno di SageMaker Unified Studio.
  • Accesso al Modello: Avrai bisogno dell’accesso al modello Amazon Nova Pro su Amazon Bedrock. Assicurati che questo modello sia disponibile in una regione AWS supportata.
  • Configurazione di JIRA: Un’applicazione JIRA, il relativo URL JIRA e un token API JIRA associato al tuo account sono necessari per l’integrazione con JIRA.

Si presume che tu abbia una conoscenza di base dei concetti fondamentali di serverless su AWS, tra cui API Gateway, funzioni Lambda e IAM Identity Center. Sebbene questo post non fornisca definizioni approfondite di questi servizi, dimostreremo i loro casi d’uso nel contesto delle nuove funzionalità di Amazon Bedrock disponibili all’interno di SageMaker Unified Studio.

Distribuzione della Soluzione

Per distribuire la soluzione dell’agente di gestione dei clienti, segui questi passaggi:

  1. Download del Codice: Inizia scaricando il codice necessario dal repository GitHub fornito.
  2. Recupero delle Credenziali JIRA: Ottieni i valori per JIRA_API_KEY_ARN, JIRA_URL e JIRA_USER_NAME per la funzione Lambda. Queste credenziali verranno utilizzate per l’autenticazione con la tua istanza JIRA.
  3. Avvio dello Stack CloudFormation: Utilizza il modello AWS CloudFormation fornito. Fai riferimento alla documentazione su ‘Create a stack from the CloudFormation console’ per istruzioni dettagliate sull’avvio dello stack nella tua regione AWS preferita.
  4. URL di API Gateway: Dopo che lo stack CloudFormation è stato distribuito correttamente, vai alla scheda Outputs. Individua e annota il valore ApiInvokeURL. Questo URL rappresenta l’endpoint per il tuo API Gateway.
  5. Configurazione di Secrets Manager: Accedi alla console di Secrets Manager. Trova i segreti corrispondenti a JIRA_API_KEY_ARN, JIRA_URL e JIRA_USER_NAME.
  6. Aggiornamento dei Valori Segreti: Scegli l’opzione Retrieve secret per ogni segreto. Copia le variabili corrispondenti ottenute nel passaggio 2 nella stringa di testo normale del segreto. Ciò memorizzerà in modo sicuro le tue credenziali JIRA.
  7. Accesso a SageMaker Unified Studio: Accedi a SageMaker Unified Studio utilizzando le credenziali SSO della tua organizzazione.

Creazione di un Nuovo Progetto

Con l’infrastruttura in atto, creiamo un nuovo progetto all’interno di SageMaker Unified Studio:

  1. Creazione del Progetto: Nella pagina di destinazione di SageMaker Unified Studio, avvia la creazione di un nuovo progetto.
  2. Denominazione del Progetto: Assegna un nome descrittivo al tuo progetto (ad esempio, crm-agent).
  3. Selezione del Profilo: Scegli il profilo di sviluppo dell’applicazione di IA generativa e procedi.
  4. Impostazioni Predefinite: Accetta le impostazioni predefinite e continua.
  5. Conferma: Rivedi la configurazione del progetto e scegli Create project per confermare.

Costruzione dell’Applicazione dell’Agente di Chat

Ora, costruiamo il nucleo della nostra soluzione: l’applicazione dell’agente di chat:

  1. Avvio dell’Agente di Chat: All’interno della pagina di destinazione del progetto crm-agent, individua la sezione New sul lato destro. Scegli Chat agent per iniziare a costruire la tua applicazione.
    Verrà presentato un elenco di configurazioni per la tua applicazione agente.

  2. Selezione del Modello: Nella sezione del modello, seleziona un modello di base (FM) desiderato supportato da Amazon Bedrock. Per questo crm-agent, sceglieremo Amazon Nova Pro.

  3. Definizione del Prompt di Sistema: Nella sezione del prompt di sistema, fornisci il seguente prompt. Questo prompt guiderà il comportamento e le risposte dell’agente. Puoi facoltativamente includere esempi di input dell’utente e risposte del modello per perfezionarne ulteriormente le prestazioni.

    Sei un agente di gestione delle relazioni con i clienti incaricato di aiutare un venditore a pianificare il proprio lavoro con i clienti. Ti viene fornito un endpoint API. Questo endpoint può fornire informazioni come la panoramica dell'azienda, la cronologia delle interazioni dell'azienda (orari e note delle riunioni), le preferenze di incontro dell'azienda (tipo di riunione, giorno della settimana e ora del giorno). Puoi anche interrogare le attività di Jira e aggiornare la loro timeline. Dopo aver ricevuto una risposta, ripuliscila in un formato leggibile. Se l'output è un elenco numerato, formattalo come tale con caratteri di nuova riga e numeri.

  4. Creazione della Funzione: Nella sezione Functions, scegli Create a new function. Questa funzione definirà le azioni che l’agente può eseguire.

  5. Denominazione della Funzione: Assegna alla tua funzione un nome descrittivo, come crm_agent_calling.

  6. Schema della Funzione: Per lo Function schema, utilizza la definizione OpenAPI fornita nel repository GitHub. Questo schema definisce i parametri di input e output per la tua funzione.

  7. Configurazione dell’Autenticazione: Per Authentication method, scegli API Keys (Max. 2 Keys) e inserisci i seguenti dettagli:

    1. Per Key sent in, scegli Header.
    2. Per Key name, inserisci x-api-key.
    3. Per Key value, inserisci la chiave API di Secrets Manager.
  8. Endpoint del Server API: Nella sezione API servers, inserisci l’URL dell’endpoint ottenuto dagli output di CloudFormation (il ApiInvokeURL).

  9. Finalizzazione della Funzione: Scegli Create per finalizzare la creazione della funzione.

  10. Salvataggio dell’Applicazione: Nella sezione Functions dell’applicazione dell’agente di chat, seleziona la funzione appena creata e scegli Save per completare la creazione dell’applicazione.

Esempi di Interazioni

Esploriamo alcuni esempi pratici di come questo agente di chat può essere utilizzato:

Caso d’Uso 1: Analista CRM che Recupera i Dettagli del Cliente

Un analista CRM può utilizzare il linguaggio naturale per recuperare i dettagli del cliente memorizzati nel database. Ecco alcune domande di esempio che potrebbero porre:

  • ‘Dammi una breve panoramica del cliente C-jkl101112.’
  • ‘Elenca le ultime 2 interazioni recenti per il cliente C-def456.’
  • ‘Quale metodo di comunicazione preferisce il cliente C-mno131415?’
  • ‘Consiglia l’orario e il canale di contatto ottimali per raggiungere C-ghi789 in base alle loro preferenze e alla nostra ultima interazione.’

L’agente, dopo aver ricevuto queste richieste, interrogherà in modo intelligente il database e fornirà le risposte corrispondenti in un formato chiaro e conciso.

Caso d’Uso 2: Project Manager che Gestisce i Ticket JIRA

Un project manager può utilizzare l’agente per elencare e aggiornare i ticket JIRA. Ecco alcune interazioni di esempio:

  • ‘Quali sono i task JIRA aperti per l’ID progetto CRM?’
  • ‘Aggiorna il task JIRA CRM-3 a 1 settimana.’

L’agente accederà alla bacheca JIRA, recupererà le informazioni pertinenti sul progetto e fornirà un elenco di task JIRA aperti. Aggiornerà anche la timeline di un’attività specifica come richiesto dall’utente.

Pulizia

Per evitare di incorrere in costi non necessari, esegui i seguenti passaggi di pulizia:

  1. Elimina lo Stack CloudFormation: Elimina lo stack CloudFormation che hai distribuito in precedenza.
  2. Elimina il Componente Funzione: Rimuovi il componente funzione che hai creato in Amazon Bedrock.
  3. Elimina l’Applicazione dell’Agente di Chat: Elimina l’applicazione dell’agente di chat all’interno di Amazon Bedrock.
  4. Elimina i Domini: Elimina i domini in SageMaker Unified Studio.

Costo

L’utilizzo di Amazon Bedrock all’interno di SageMaker Unified Studio non comporta alcun addebito separato. Tuttavia, ti verranno fatturati i singoli servizi e le risorse AWS utilizzati all’interno del servizio. Amazon Bedrock opera su un modello pay-as-you-go, il che significa che paghi solo per le risorse che consumi, senza tariffe minime o impegni iniziali.

Se hai bisogno di ulteriore assistenza con i calcoli dei prezzi o hai domande sull’ottimizzazione dei costi per il tuo caso d’uso specifico, ti consigliamo di contattare il supporto AWS o di consultare il tuo account manager. Possono fornire una guida personalizzata in base alle tue esigenze.