Vai al contenuto
AI.info

The Pulse

LangSmith aggiunge controlli di accesso alle tracce per i clienti Enterprise

I clienti LangSmith Enterprise possono limitare l’accesso agli input e agli output delle tracce, impostare i permessi dei gruppi e controllare l’accesso tramite metadati. I controlli stabiliscono chi può visualizzare le tracce archiviate, senza richiedere copie oscurate o duplicate.

LangSmith aggiunge controlli di accesso alle tracce per i clienti Enterprise

I clienti LangSmith Enterprise possono ora limitare chi vede gli input e gli output registrati nelle tracce degli agenti di IA, consentendo al contempo ad altri utenti di esaminare i dati operativi. LangChain afferma che i controlli permettono agli ingegneri di eseguire il debug degli agenti senza dover necessariamente vedere messaggi sensibili o risposte dei modelli.

I nuovi controlli riguardano la visibilità di input e output, i permessi per i gruppi di utenti e le policy di accesso basate sui metadati delle tracce. Sono disponibili nei piani LangSmith Enterprise.

Separare i contenuti dai dati di debug

Le tracce registrano il comportamento di un agente, compresi input e output come i messaggi degli utenti e le risposte dei modelli. Questi campi possono contenere informazioni sui clienti, tra cui nomi, informazioni sanitarie o dettagli di pagamento.

I controlli su input e output consentono agli amministratori di limitare l’accesso a queste parti di una traccia, lasciando visibili le altre informazioni. Per esempio, un ingegnere potrebbe esaminare gli alberi delle esecuzioni e le statistiche sulle prestazioni, come la latenza e il costo, senza vedere i messaggi sottostanti.

LangChain afferma che gli ingegneri possono usare queste informazioni operative per indagare su problemi come chiamate agli strumenti ripetitive o lente. Agli utenti che hanno bisogno di un quadro completo si può concedere l’accesso a input e output.

Permessi per gruppi e tracce

Gli amministratori possono organizzare gli utenti in gruppi e impostare i permessi per ciascuno spazio di lavoro. Questi permessi si aggiungono ai controlli di accesso basati sui ruoli e sugli attributi già esistenti nell’organizzazione, mantenendo le restrizioni attuali, come policy diverse per i dipendenti di regioni diverse.

L’azienda cita l’esempio di un gruppo di professionisti sanitari autorizzati a visualizzare input e output per annotare le tracce, affiancato da un gruppo di ingegneri limitato agli alberi delle esecuzioni, alla latenza e all’uso dei token. È quindi possibile assegnare ai gruppi l’accesso in base ai rispettivi ruoli.

Gli amministratori possono anche definire policy basate sugli attributi a livello di traccia, utilizzando i metadati dell’esecuzione radice. Ogni policy confronta i metadati di una traccia con le condizioni stabilite dall’organizzazione.

Per esempio, una policy potrebbe usare gli ID cliente per consentire agli addetti all’assistenza di accedere soltanto alle tracce dei clienti che seguono. Potrebbe anche usare un ID utente per limitare gli sviluppatori alle tracce dei propri agenti di programmazione, a condizione che l’attributo pertinente sia acquisito nei metadati dell’esecuzione radice.

Tracce archiviate e mascheramento

I controlli possono essere combinati. Un team di assistenza potrebbe vedere input e output relativi ai propri clienti, mentre gli ingegneri potrebbero vedere gli alberi delle esecuzioni e i dati sulle prestazioni di tutte le tracce, con input e output nascosti. La policy del team di assistenza potrebbe poi essere aggiornata per un altro cliente senza modificare i permessi del team su input e output né l’accesso degli ingegneri.

LangChain afferma che le tracce complete possono essere inviate a LangSmith e archiviate al suo interno senza richiedere copie oscurate o duplicate; i controlli stabiliscono che cosa può visualizzare ciascun team. Questo approccio è diverso dal rimuovere le informazioni prima dell’invio.

Una documentazione separata di LangChain descrive i metodi per proteggere i dati prima che raggiungano il backend. Tra le opzioni figurano nascondere input e output, trasformare i metadati e usare il mascheramento o l’anonimizzazione basati su regole per oscurare informazioni selezionate. La documentazione osserva che l’anonimizzazione può influire sulle prestazioni in presenza di espressioni regolari complesse o payload di grandi dimensioni.

Fonti

  1. LangChain
  2. LangChain

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli