Criticità ricorsiva dell’automiglioramento dell’IA

Abstract degli autori

L’IA viene usata sempre più spesso nel processo di R\&D che produce i futuri sistemi di IA. Studiamo le condizioni in cui questo ciclo di feedback diventa autoamplificante. Il nostro modello descrive come il tasso di crescita delle capacità dell’IA dipenda dalla produttività di base della ricerca, dal feedback ricorsivo e dalla crescente difficoltà di compiere progressi nella ricerca. Ricaviamo un numero di riproduzione ricorsiva, $\mathcal{R}_{\mathrm{AI}}$, che determina se gli effetti dei miglioramenti si amplificano o si attenuano nei cicli di sviluppo successivi. Questa grandezza mette a confronto la forza del feedback con la velocità con cui compiere ulteriori progressi diventa più difficile. Quando $\mathcal{R}_{\mathrm{AI}}>1$, gli effetti dei miglioramenti si accumulano nei cicli di sviluppo successivi, portando il sistema in un regime autoamplificante. Quando $\mathcal{R}_{\mathrm{AI}}<1$, i loro effetti si attenuano da un ciclo all’altro. La transizione dipende dalla struttura del ciclo di feedback dell’R\&D sull’IA e non si verifica necessariamente a un particolare livello di capacità del modello. Un sistema può quindi entrare in un regime autoamplificante prima che l’accelerazione diventi visibile, mentre possono verificarsi rapidi progressi anche in assenza di autoamplificazione. Una maggiore produttività di base della ricerca può accelerare i progressi senza cambiare il fatto che il sistema sia o meno autoamplificante, ma la durata del ciclo di sviluppo diventa una scala temporale che limita l’amplificazione. La crescente difficoltà della ricerca può porre fine a un periodo di autoamplificazione. L’estensione del modello a più attori della ricerca mostra che i miglioramenti condivisi tra organizzazioni possono rendere autoamplificante l’ecosistema della ricerca nel suo complesso anche quando nessun singolo attore lo è. Il quadro teorico individua proprietà misurabili dei sistemi di R\&D sull’IA che possono aiutare a distinguere l’amplificazione ricorsiva dai rapidi progressi dovuti ad altre cause: la forza del feedback ricorsivo, l’efficacia con cui i miglioramenti si trasferiscono ai sistemi successivi, la durata dei cicli e la crescente difficoltà di compiere ulteriori progressi.