The Pulse
Smart Approvals di Amazon Quick approva automaticamente le azioni idonee o le rimanda alla revisione umana
Smart Approvals di Amazon Quick valuta le azioni idonee degli agenti rispetto alla richiesta dell’utente e a una vista limitata della conversazione. Mantiene le approvazioni umane obbligatorie e registra in AWS CloudTrail gli aggiornamenti
AI.info Team · Scritto con l’IA · verificato ·
Smart Approvals di Amazon Quick affronta un problema nella supervisione degli agenti: chiedere a una persona di approvare ogni passaggio può generare richieste ripetute, mentre un’azione consentita può comunque richiedere una valutazione umana. Smart Approvals esamina le azioni idonee rispetto alla richiesta dell’utente, poi le approva automaticamente oppure le rimanda all’utente per una revisione. Non concede autorizzazioni aggiuntive né elimina le approvazioni umane obbligatorie.
Le policy definiscono i limiti
Prima della revisione automatizzata, Quick verifica ogni azione proposta rispetto a Custom Permissions, Quick Guardrails, alle autorizzazioni per le azioni dei connettori e alle impostazioni dell’utente. Le azioni negate restano tali e le approvazioni umane obbligatorie continuano ad applicarsi. Un’azione è idonea solo quando l’impostazione dell’utente è «Chiedi ogni volta» e nessun altro controllo richiede l’approvazione umana. Le autorizzazioni per le azioni dei connettori, configurate al momento della creazione di un connettore, possono richiedere l’approvazione umana per azioni specifiche.
Gli amministratori usano Custom Permissions per stabilire chi può usare Smart Approvals. La funzione è attiva per impostazione predefinita, ma i profili con il diniego predefinito abilitato devono autorizzarla esplicitamente. Gli utenti possono disattivarla per sé e la scelta si applica a tutte le conversazioni e alle esecuzioni programmate. Quando un utente la disattiva, le azioni che altrimenti sarebbero idonee alla revisione automatizzata richiedono la sua approvazione; nessuna impostazione a livello di account può riattivarla per quell’utente.
Come vengono esaminate le azioni idonee
Smart Approvals usa un modello separato, chiamato classificatore, per valutare le azioni idonee rispetto alla richiesta dell’utente e a una vista limitata della conversazione. Il classificatore considera che cosa fa l’azione, dove vanno i dati e su chi incide. Può consultare il grafo di conoscenza dell’utente, che contiene persone e rapporti di lavoro ricavati dalle fonti collegate, per comprendere relazioni come l’eventuale appartenenza di un destinatario alla catena gerarchica dell’utente. La consultazione rimane all’interno dell’account Quick e Quick afferma di non usare i contenuti esaminati dal classificatore, compresi i dati del grafo di conoscenza, per addestrare modelli o migliorare il servizio.
Le azioni possono essere coerenti con una richiesta e richiedere comunque una revisione umana. Amazon cita come esempi l’invio di contenuti all’esterno di un’organizzazione o a dirigenti senior nella catena gerarchica dell’utente, la modifica degli accessi, l’eliminazione di record e l’avvio di pagamenti; precisa che l’elenco non è completo. La revisione delle azioni rispetto alla richiesta dell’utente aggiunge un controllo contro la prompt injection indiretta, in cui istruzioni presenti nei contenuti recuperati tentano di reindirizzare un agente. Quick istruisce sia l’agente sia il classificatore a trattare i contenuti recuperati come informazioni, non come istruzioni. La revisione da parte del modello può comunque commettere errori.
Le approvazioni automatiche valgono una sola volta, per i parametri esatti
Amazon distingue il giudizio del classificatore dall’applicazione delle autorizzazioni da parte del servizio di gestione dei permessi. Ogni approvazione automatica è monouso e si applica solo all’azione e ai parametri esatti esaminati; non concede alcuna autorizzazione permanente. Quick contrassegna le approvazioni automatiche nella conversazione. Le azioni che il classificatore non approva tornano all’utente, così come quelle per cui si verificano timeout e altri errori di revisione, che non comportano mai un’approvazione automatica.
L’esempio riguarda un’account manager che chiede a Quick di preparare un riepilogo per una revisione trimestrale dell’andamento commerciale usando le note sui clienti del suo team e le email dell’ultimo trimestre, per poi inviarlo a due colleghe o colleghi di cui specifica i nomi. Se una nota su un cliente indica che il riepilogo dovrebbe essere inviato anche a una lista di distribuzione che comprende tutto il personale commerciale, circa 2.000 persone, Smart Approvals è progettato per rimandarle l’invio proposto per una revisione, perché questo amplierebbe il pubblico oltre i destinatari da lei indicati. Un’approvazione per i destinatari originari non può essere riutilizzata per il pubblico più ampio.
CloudTrail registra gli eventi relativi alle autorizzazioni
Il servizio di gestione dei permessi di Quick registra gli aggiornamenti delle autorizzazioni associati a Smart Approvals in AWS CloudTrail nel tuo account. Ogni evento identifica l’utente, il connettore, l’azione e l’ora e contrassegna la richiesta come associata a Smart Approvals. Il contrassegno non stabilisce se il servizio di gestione dei permessi abbia accettato la concessione dell’autorizzazione o se l’azione sia stata eseguita. Quick registra anche gli esiti delle verifiche delle autorizzazioni, compresi i dinieghi derivanti dalle autorizzazioni per le azioni dei connettori, e le modifiche all’impostazione Smart Approvals di un utente.
Chi conduce le indagini può correlare questi eventi per utente e ora con altre attività di Quick in CloudTrail e con i log trasmessi tramite Amazon CloudWatch Logs. I log delle chat contengono la richiesta dell’utente, la risposta del sistema e il contesto della conversazione; i log dei metadati degli agenti registrano le modifiche agli agenti. I record del sistema di destinazione, come un’email inviata o un ticket aggiornato, confermano se un’azione è stata completata. CloudTrail Event history conserva gli eventi per 90 giorni, quindi configura un trail per indagini più lunghe; poiché i log delle chat possono contenere contenuti sensibili, limita l’accesso e valuta l’uso delle policy di protezione dei dati di CloudWatch Logs per mascherare i dati sensibili.
Da dove iniziare
Poiché Smart Approvals è attivo per impostazione predefinita, inizia verificando che le azioni che richiedono l’approvazione umana siano configurate tramite le autorizzazioni per le azioni dei connettori, quindi configura un trail di CloudTrail e la trasmissione dei log delle chat e dei log dei metadati degli agenti a CloudWatch Logs. I log delle chat registrano l’attività solo dopo che la trasmissione è stata configurata, quindi per le approvazioni precedenti mancherà il contesto della conversazione. Usa Custom Permissions per limitare Smart Approvals a un team pilota impegnato su un flusso di lavoro definito, prima di estenderlo ad altri team.
Prima del progetto pilota, definisci i criteri di successo: meno richieste di approvazione per le azioni di routine, mentre quelle con conseguenze rilevanti continuano a essere sottoposte a una persona per la revisione. Durante il progetto pilota, esamina un campione di approvazioni automatiche e verifica casi ad alto impatto, come l’invio di contenuti all’esterno dell’organizzazione o l’aggiunta di un destinatario indicato in un documento. Verifica che il tuo team possa ricostruire il percorso di ogni azione, dall’approvazione all’esecuzione. Estendi l’uso ad altri team e flussi di lavoro solo quando i risultati soddisfano questi criteri e rivaluta la situazione man mano che le azioni e le policy cambiano.