The Pulse
Superwise lancia Sentinel Gateway per il traffico di IA aziendale
Superwise ha lanciato Sentinel, un gateway di IA per le aziende che ispeziona e governa il traffico dei modelli linguistici di grandi dimensioni al perimetro della rete. L’azienda afferma che Sentinel può oscurare segreti, informazioni di i
AI.info Team ·
Superwise afferma che il suo nuovo gateway Sentinel può intercettare il 100% del traffico attivo di modelli linguistici di grandi dimensioni di un’organizzazione, mantenendo i prompt e le risposte originali all’interno del perimetro di rete del cliente. L’azienda ha lanciato il prodotto il 16 settembre come punto di controllo aziendale per le richieste di IA che circolano tra dipendenti, applicazioni e fornitori come OpenAI, Anthropic e Google Gemini.
Sentinel funziona come proxy leggero, installato al perimetro della rete o sui singoli computer. Superwise afferma che può oscurare segreti e informazioni di identificazione personale, identificare contenuti tossici e applicare altre misure di protezione prima che una richiesta raggiunga un fornitore esterno di modelli. L’azienda presenta il prodotto come una risposta all’adozione di strumenti di IA da parte di dipendenti e team software, spesso senza una visione centralizzata dei dati inviati da quei sistemi.
Superwise colloca il gateway tra applicazioni e modelli
Il funzionamento di base del prodotto è semplice: installare un gateway Sentinel, instradare il traffico dei modelli attraverso di esso, quindi acquisire, ispezionare e registrare le azioni risultanti. Superwise afferma che le organizzazioni possono installare il gateway tramite un’interfaccia a riga di comando basata su Python, Docker o un cluster di container. La documentazione descrive anche un’installazione gestita con Helm per gli ambienti Kubernetes di produzione che richiedono alta disponibilità e scalabilità orizzontale.
Le applicazioni possono connettersi senza modifiche alle librerie di IA sottostanti. La documentazione di Superwise indica ai clienti di reindirizzare al proxy Sentinel le impostazioni standard dell’URL di base dei fornitori, consentendo alle applicazioni e agli SDK compatibili di inviare richieste attraverso il gateway. I percorsi supportati includono le richieste di completamento delle chat di OpenAI, i messaggi di Anthropic e le richieste di generazione di contenuti di Gemini, oltre ai fornitori personalizzati compatibili con OpenAI.
Superwise afferma che Sentinel è disponibile da subito e può essere installato dalla riga di comando o distribuito come gateway aziendale. La documentazione di configurazione dell’azienda indica Python 3.11 o versioni successive come requisito per l’installazione tramite CLI.
I prompt originali restano nell’ambiente del cliente
Sentinel adotta un’architettura a piani separati. Il gateway locale gestisce l’intercettazione del traffico, l’esecuzione delle misure di protezione e l’instradamento verso i modelli a monte, mentre un piano di controllo cloud gestisce la registrazione dei gateway, la configurazione delle policy e la reportistica operativa. Superwise afferma che il servizio cloud riceve metadati operativi anonimi, anziché il testo dei prompt, delle risposte dei modelli o delle istruzioni di sistema.
Secondo la documentazione tecnica dell’azienda, i metadati possono includere volumi di richieste, conteggi degli interventi correttivi, eventi di attivazione delle misure di protezione e misurazioni della latenza. I contenuti sensibili vengono oscurati localmente prima che la richiesta sia inoltrata al fornitore del modello. Il gateway mantiene una connessione in uscita al piano di controllo e non richiede l’esposizione di porte in ingresso alla rete internet pubblica.
Questa architettura definisce per Sentinel un perimetro operativo diverso da quello di un sistema centralizzato di registrazione convenzionale. Superwise chiede ai clienti di collocare l’ispezione e l’applicazione delle regole vicino alle applicazioni che generano traffico di IA, mantenendo al contempo una visione centralizzata dello stato delle policy e delle attività, senza archiviare le conversazioni sottostanti nel cloud dell’azienda.
Sentinel punta a contrastare prompt injection e fughe di dati
Superwise afferma che Sentinel affronta i rischi elencati nell’OWASP LLM Top 10, tra cui prompt injection, fuga di dati sensibili, jailbreak e output non sicuri. L’annuncio del lancio non riporta risultati di test indipendenti, tassi di rilevamento misurati o dati sulla latenza di queste protezioni; la loro efficacia contro tali minacce dovrà quindi essere valutata dai clienti.
Il flusso di elaborazione documentato del gateway si concentra al momento sui prompt in ingresso. Estrae e valuta i contenuti testuali, applica le misure di protezione attive e inoltra la richiesta a monte. Gli altri parametri della richiesta e i campi non testuali vengono lasciati invariati, mentre la risposta del modello a monte torna all’applicazione nella sua struttura originale.
«Ogni team con cui parliamo sta già usando l’IA, che il reparto IT ne sia al corrente o meno. È questa la realtà per cui abbiamo creato Sentinel», ha dichiarato Russ Blattner, CEO di SUPERWISE, nell’annuncio del lancio. «Le organizzazioni non hanno bisogno di un altro documento sulle policy che dica alle persone cosa non fare con l’IA; hanno bisogno di un sistema che osservi il traffico e applichi le policy in tempo reale».
Un punto di controllo della rete per l’uso non autorizzato dell’IA
Il pubblico a cui Sentinel si rivolge nell’immediato è costituito dai team di sicurezza o conformità che cercano di governare un insieme di usi dell’IA, ufficiali e non. Un gateway collocato davanti al traffico dei modelli può fornire un unico livello di applicazione delle regole per gli strumenti degli sviluppatori, le applicazioni interne e gli agenti rivolti ai clienti, anziché affidarsi a ogni team applicativo per implementare codice di filtraggio separato.
Questo approccio comporta anche un compromesso pratico. Reindirizzare il traffico attraverso un proxy è meno invasivo che riscrivere ogni applicazione, ma rende il gateway parte del percorso di erogazione dei modelli dell’organizzazione. I clienti dovranno valutarne l’impatto su disponibilità, latenza, funzionalità specifiche dei fornitori e traffico che non utilizza percorsi API standard.
Con Sentinel, Superwise amplia la sua piattaforma esistente per la gestione degli agenti, affiancandolo a prodotti e funzionalità dedicati a chat, sviluppo di agenti, misure di protezione e osservabilità. L’annuncio dell’azienda non fornisce dati sulle installazioni presso i clienti né dettagli sui prezzi. Per ora, l’offerta concreta consiste in un gateway installato localmente, un piano di controllo cloud e la promessa che le conversazioni originali con l’IA restino dalla parte del cliente rispetto al perimetro.