Non autodecidibile: gli LLM non sanno tracciare il confine di ciò che un verificatore di agenti può controllare

Abstract degli autori

Un verificatore di agenti si trova davanti a due tipi di regole: quelle che un controllo fisso può risolvere e quelle che richiedono un giudice. Un team che elabora i propri controlli stabilisce questa distinzione in partenza. Quando invece i requisiti provengono dall’esterno, come nella finanza, nella sanità e nel diritto, l’agente applica regole che non ha scritto: la distinzione va quindi fatta durante l’esecuzione, per ogni predicato di ogni regola su ogni azione, a un ritmo che nessun revisore può verificare. Ogni sistema di escalation presuppone che un modello possa prendere questa decisione da sé, che sia autodecidibile. Su sei corpora, tra cui l’AI Act, le linee guida FINRA e un agente per il credito già operativo, raccogliamo circa 22.000 etichette prodotte da quattro modelli sviluppati da tre laboratori. I modelli concordano quasi perfettamente quando la risposta è ovvia, ma la concordanza crolla sui testi normativi; i loro errori vanno in direzioni opposte, perciò nessun modello può essere considerato la scelta prudente. Inoltre, sulle regole dell’agente operativo sbagliano tutti allo stesso modo, sostenendo a torto che basti un controllo fisso: è il tipo di errore che non viene mai sottoposto a escalation. Introduciamo CoVer (corroborate-then-verify), che considera l’unanimità una candidatura e ammette un predicato solo se il controllo sintetizzato per quel predicato resiste a un intervento, legge campi che l’agente non può scrivere e regge a riformulazioni deterministiche. Questo filtro respinge gran parte di ciò che la corroborazione ammette erroneamente, a scapito di una copertura ridotta: un costo che riportiamo anziché cercare di eliminarlo con la messa a punto. L’alternativa più ovvia, la concordanza con un giudice di riferimento, non certifica nulla: passa dal 30% al 77% nelle diverse fasce di calibrazione, mentre la quota effettivamente decidibile resta invariata, perché un giudice scelto tra i modelli messi sotto accusa conferma il punto cieco che condivide con loro. L’autodecidibilità non è una capacità da far emergere in un modello, ma un confine che il verificatore deve costruire.