The Pulse
Oracle integra i controlli per l’affidabilità dell’IA nell’architettura dei suoi database
Il 26 ottobre Oracle ha annunciato Deep Trust AI Architecture, un’architettura che colloca le autorizzazioni di accesso ai dati e le regole aziendali all’interno di Oracle AI Database. Comprende anche API per l’accesso controllato ai dati,
AI.info Team · Scritto con l’IA · verificato ·
«I modelli di IA possono ora rendere possibili una produttività e un’innovazione straordinarie. Tuttavia, le aziende non possono trarne beneficio se non possono fidarsi di ciò che l’IA genera. L’affidabilità dell’IA è la sfida più grande che affrontiamo oggi.»
Juan Loaiza, vicepresidente esecutivo, AI Database Technologies, Oracle
Oracle ha annunciato Deep Trust AI Architecture lunedì 26 ottobre, presentandola come un modo per collocare le misure di protezione a un livello sottostante alle applicazioni e agli agenti di IA, anziché affidarsi alla capacità di ciascuno di applicare correttamente le regole aziendali. Il piano riunisce funzionalità di Oracle AI Database, Autonomous AI Database e Oracle APEX AI Application Generator. Oracle suddivide l’architettura in quattro livelli: piattaforma software, dati, accesso ai dati e sviluppo delle applicazioni.
Quattro livelli, con regole applicate al di sotto dell’applicazione
L’annuncio affronta una debolezza specifica dei controlli a livello applicativo: un agente di IA che interroga direttamente un database può aggirare le regole definite soltanto nell’applicazione che avrebbe dovuto usare. Oracle Deep Data Security consente invece alle organizzazioni di definire in Oracle AI Database le regole di accesso ai dati per gli utenti finali, che vengono applicate indipendentemente dall’applicazione o dall’agente che effettua la richiesta. Secondo Oracle, il database verifica l’identità dell’utente tramite un token firmato crittograficamente ed emesso dalla directory aziendale.
Oracle presenta inoltre SQL Assertions come uno strumento per far rispettare le regole aziendali nel database. L’esempio fornito riguarda un limite di spesa: se un’applicazione o un agente tenta di registrare un addebito superiore al tetto autorizzato per un dipendente, il database lo respinge. La proposta sposta l’applicazione delle regole nel punto in cui vengono memorizzati i dati, anziché richiedere a ogni applicazione generata di implementare autonomamente la stessa regola.
API controllate invece di un accesso SQL senza restrizioni
Per l’accesso degli agenti, Oracle Trusted Data APIs mette a disposizione operazioni di lettura e scrittura su oggetti aziendali logici, come un ordine d’acquisto completo, anziché concedere a un agente accesso SQL senza restrizioni alle tabelle sottostanti. Oracle afferma che il database applica a tali oggetti regole di aggiornamento e controlli di integrità. L’obiettivo è limitare l’accesso di un agente ai dati aziendali e alle operazioni necessari per un’attività.
L’annuncio affronta anche i sistemi che traducono il linguaggio naturale in SQL, che possono produrre risposte errate quando un modello fraintende una domanda o la terminologia aziendale. Oracle Deep NL2SQL usa argomenti aziendali, sottoargomenti e metadati del database per fornire il contesto necessario a interpretare le richieste e selezionare i dati. Gli utenti possono segnalare le risposte errate; un esperto della materia, assistito da un agente di IA, può aggiornare le conoscenze pertinenti, mentre Knowledge Change Verification verifica nuovamente le risposte «gold» convalidate in precedenza prima che la modifica venga pubblicata.
APEX esegue le applicazioni generate in un ambiente gestito
Per lo sviluppo delle applicazioni, Oracle APEX AI App Generator traduce una descrizione in linguaggio naturale in APEXlang, un linguaggio dichiarativo aperto per le applicazioni. Il motore APEX esegue poi la definizione dell’applicazione, affidando al motore la sicurezza e le altre funzioni infrastrutturali invece di chiedere all’IA di produrre migliaia di righe di codice personalizzato. Secondo Oracle, gli sviluppatori possono usare questo approccio tramite VS Code, Codex, Oracle APEX o un agente di IA.
Al livello della piattaforma, Oracle richiama l’applicazione automatica delle patch di Autonomous AI Database al motore del database, al sistema operativo, allo storage Exadata e al firmware, insieme agli aggiornamenti progressivi e alla cifratura dei dati archiviati e in transito. L’azienda afferma che il servizio è disponibile presso i principali fornitori di servizi cloud su vasta scala e nelle installazioni locali. Aggiunge che gli strumenti di sicurezza e di gestione delle patch per i sistemi cloud e locali gestiti congiuntamente sono gratuiti o offerti con forti sconti fino alla fine di febbraio 2027.
Oracle presenta un’architettura, non risultati di implementazione
Oracle definisce Deep Trust un progetto di riferimento e riunisce prodotti e funzionalità esistenti in un’unica architettura. L’annuncio descrive meccanismi e misure di protezione previste, ma non fornisce risultati di test indipendenti, dati sulle implementazioni presso i clienti o misurazioni comparative che mostrino quanto il progetto riduca i rischi. Non indica neppure prezzi separati per le funzionalità menzionate.
La distinzione pratica riguarda il livello in cui, secondo Oracle, dovrebbero risiedere le regole: autorizzazioni e vincoli aziendali nel database, operazioni degli agenti tramite oggetti aziendali soggetti a controllo e applicazioni generate all’interno di un ambiente di esecuzione gestito. In questo modo il database diventa il punto in cui vengono applicate le regole anche quando è un sistema di IA a inviare la richiesta.