Ricerca
Che cosa autorizza a concludere una valutazione? Un censimento della riproduzione delle affermazioni in Inspect Evals, vincolato a un commit
I benchmark possono essere eseguiti senza che sia chiaro quali conclusioni i loro risultati autorizzino. Congeliamo una vasta raccolta di valutazioni e tentiamo di riprodurne le affermazioni storiche.

- arXiv
- 2608.19269
- Pubblicato
- 2026-08-18
- Autori
- Xi Qin, Jizhou Tong
Abstract degli autori
I benchmark possono essere eseguiti senza che sia chiaro quali conclusioni i loro risultati autorizzino. Congeliamo una vasta raccolta di valutazioni e tentiamo di riprodurne le affermazioni storiche. La maggior parte delle unità si ferma perché le evidenze necessarie alla riproduzione non sono vincolate. Dove la riproduzione è possibile, affermazioni diverse restano stabili a diversi livelli di risoluzione. Rendiamo esplicito ed eseguibile questo passaggio inferenziale, che altrimenti rimane implicito.
Il riassunto di questo paper è disponibile solo in inglese: leggilo nella pagina inglese.
Leggi il paper originale su arXiv