Vai al contenuto
AI.info

Ricerca

Che cosa autorizza a concludere una valutazione? Un censimento della riproduzione delle affermazioni in Inspect Evals, vincolato a un commit

I benchmark possono essere eseguiti senza che sia chiaro quali conclusioni i loro risultati autorizzino. Congeliamo una vasta raccolta di valutazioni e tentiamo di riprodurne le affermazioni storiche.

Che cosa autorizza a concludere una valutazione? Un censimento della riproduzione delle affermazioni in Inspect Evals, vincolato a un commit
arXiv
2608.19269
Pubblicato
2026-08-18
Autori
Xi Qin, Jizhou Tong

Abstract degli autori

I benchmark possono essere eseguiti senza che sia chiaro quali conclusioni i loro risultati autorizzino. Congeliamo una vasta raccolta di valutazioni e tentiamo di riprodurne le affermazioni storiche. La maggior parte delle unità si ferma perché le evidenze necessarie alla riproduzione non sono vincolate. Dove la riproduzione è possibile, affermazioni diverse restano stabili a diversi livelli di risoluzione. Rendiamo esplicito ed eseguibile questo passaggio inferenziale, che altrimenti rimane implicito.

Il riassunto di questo paper è disponibile solo in inglese: leggilo nella pagina inglese.

Leggi il paper originale su arXiv