YANchor-4B: ragionamento efficace su orizzonti lunghi in tempo O(N) con memoria O(1)

Abstract degli autori

Il ragionamento su orizzonti lunghi richiede di poter accedere alle informazioni precedenti mantenendo gestibile il costo della generazione. L’attenzione sull’intera cronologia comporta requisiti crescenti di archiviazione e calcolo, mentre la compressione ricorrente può far perdere dettagli precisi. Presentiamo quindi YANchor-4B, un modello ricorrente di uso generale che conserva informazioni cruciali sotto forma di ANchors, da recuperare nelle fasi successive del ragionamento. Oltre a generare in tempo $O(N)$ con memoria $O(1)$, YANchor permette un ragionamento efficace su orizzonti lunghi grazie al suo meccanismo di memoria multidimensionale. Per esempio, su problemi matematici impegnativi raggiunge un pass@1 medio dell’82,93% su AIME 2024--2026 e del 63,64% su HMMT, superando nettamente modelli analoghi a tempo lineare e stato costante, anche di dimensioni maggiori. Su H100 offre inoltre un throughput della generazione lunga in batch superiore di diverse volte rispetto alle baseline Transformer e ibride. Le valutazioni su decine di benchmark dimostrano infine la superiorità di YANchor nelle capacità di uso generale.