The Pulse
HardFlow del MIT mantiene gli output dell’IA entro i vincoli di sicurezza
I ricercatori del MIT hanno sviluppato HardFlow, un metodo pensato per aiutare i modelli di IA generativa preaddestrati a rispettare vincoli rigorosi sull’output finale senza doverli riaddestrare.
AI.info Team ·
HardFlow interviene sul passaggio finale, quello decisivo
Secondo i ricercatori del MIT, il nuovo metodo HardFlow ha rispettato tutti i vincoli nei test di manipolazione robotica, navigazione in labirinti e modifica di immagini guidata da testo, migliorando al tempo stesso la qualità dei risultati generati. Il lavoro affronta un problema che i sistemi generativi convenzionali gestiscono male: produrre una risposta non soltanto plausibile, ma anche conforme a regole che non possono essere violate.
Nelle applicazioni in cui la sicurezza è cruciale, questa debolezza emerge subito. Il percorso di un robot che evita quasi del tutto un ostacolo può comunque provocare una collisione, mentre un sistema di modifica delle immagini può conservare l’elemento sbagliato anche quando l’immagine finale appare nel complesso corretta. HardFlow è progettato per far sì che l’output finale rispetti questi requisiti senza imporre a ogni fase della generazione di rispettarli.
Perché i vincoli sui passaggi intermedi possono peggiorare il risultato
I modelli generativi creano output passando dal rumore casuale a un risultato finito. I modelli di diffusione come Stable Diffusion e i modelli di flow-matching come FLUX possono produrre risultati utili in molti compiti, ma il loro normale processo di campionamento non garantisce il rispetto di rigide regole fisiche o specifiche del compito.
Una soluzione diffusa è il campionamento basato su proiezioni, che riporta ripetutamente ogni campione intermedio verso il confine imposto dai vincoli. Secondo i ricercatori del MIT, questo approccio può limitare il modello troppo presto. Un sistema che pianifica il percorso di un robot, per esempio, può evitare collisioni in ogni fase intermedia, ma perdere la possibilità di trovare un tragitto più breve o comunque migliore quando arriva alla risposta finale.
«Per il rispetto dei vincoli, ciò che conta in definitiva è l’output finale del modello, dato che il processo interno viene scartato. Non imponendo che ogni passaggio intermedio rispetti i vincoli, diamo al modello più libertà di trovare soluzioni di alta qualità che alla fine siano comunque realizzabili»,
Zeyang Li, studente di dottorato in ingegneria meccanica e presso il Laboratory for Information and Decision Systems del MIT
HardFlow tratta la generazione come un problema di controllo
Il metodo riformula il campionamento soggetto a vincoli come un problema di ottimizzazione della traiettoria, usando strumenti del controllo ottimo. Anziché imporre il requisito inderogabile lungo l’intero percorso di campionamento, HardFlow orienta quel percorso verso uno stato finale che lo soddisfi.
Questo cambiamento permette anche al sistema di ottimizzare contemporaneamente altri obiettivi. Negli esperimenti di robotica descritti dal MIT, il metodo poteva cercare un percorso privo di collisioni riducendo al tempo stesso la distanza dall’oggetto da raggiungere. Secondo i ricercatori, HardFlow apporta piccole correzioni durante la generazione, invece di affidarsi a proiezioni ripetute, potenzialmente destabilizzanti.
Risolvere direttamente questo problema di ottimizzazione attorno a una grande rete neurale sarebbe oneroso. I ricercatori sfruttano la struttura dei modelli di flow-matching per suddividere il problema in sottoproblemi più piccoli, ciascuno relativo a un singolo passaggio, quindi applicano trasformazioni e approssimazioni pensate per mantenere il metodo abbastanza efficiente da poter essere eseguito al momento dell’impiego.
Test su robot, labirinti e modifiche delle immagini
Il MIT riferisce che HardFlow ha rispettato tutti i vincoli testati negli esperimenti di manipolazione robotica, navigazione in labirinti e modifica di immagini guidata da testo. Secondo i ricercatori, il metodo ha inoltre superato gli approcci di riferimento nelle misure della qualità delle soluzioni.
In un esempio, un manipolatore robotico ha evitato gli ostacoli trovando al tempo stesso un percorso più rapido verso un obiettivo. Secondo il MIT, altri metodi hanno prodotto collisioni oppure generato percorsi che richiedevano molto più tempo per essere percorsi. Negli esperimenti descritti, il tempo di calcolo di HardFlow è stato paragonabile o inferiore a quello della maggior parte degli approcci concorrenti.
Impiego senza riaddestramento
HardFlow funziona con modelli generativi preaddestrati e non richiede di riaddestrarli. Questa caratteristica rende la tecnica applicabile al momento dell’impiego, quando un modello esistente può essere orientato verso output che rispettino regole di sicurezza, requisiti fisici o altre condizioni rigorose.
Navid Azizan, professore associato Alfred H. and Jean M. Hayes Career Development presso il Department of Mechanical Engineering e l’Institute for Data, Systems, and Society del MIT, è l’autore senior dello studio. Afferma che il metodo mira a preservare la gamma di possibilità che rende utili i modelli generativi, imponendo al contempo requisiti che i sistemi del mondo reale non possono ignorare.
«La promessa dell’IA generativa è la sua capacità di esplorare un ricco ventaglio di possibilità, ma il mondo reale pone limiti alle possibilità accettabili. Il nostro approccio ci permette di preservare questa capacità generativa, imponendo al tempo stesso i requisiti non negoziabili delle applicazioni ad alto rischio o in cui la sicurezza è cruciale»,
Navid Azizan, MIT
Il prossimo test riguarda il controllo adattivo dei modelli
Il gruppo di ricerca comprende l’autore principale Zeyang Li e Kaveh Alim, studente di dottorato presso l’Institute for Data, Systems, and Society e il Laboratory for Information and Decision Systems del MIT. Lo studio, «HardFlow: Hard-Constrained Sampling for Flow-Matching Models via Trajectory Optimization», viene pubblicato questa settimana su IEEE Transactions on Pattern Analysis and Machine Intelligence.
Secondo il MIT, i lavori futuri potrebbero estendere il metodo a contesti in cui viene aggiornato anche il modello di IA. I risultati pubblicati mostrano che HardFlow è un metodo per orientare i modelli preaddestrati verso output finali che rispettino i vincoli; non dimostrano che il sistema sia stato impiegato in un ambiente industriale reale o in un contesto in cui la sicurezza è cruciale.