The Pulse
Un modèle de langage améliore ses propres poids lors d’un test présenté dans un preprint
Un modèle de langage de 27B paramètres a modifié ses propres poids sans entraînement et a progressé sur des problèmes inédits, rapportent des chercheurs. L’équipe a également testé si le modèle pouvait réparer une copie endommagée.

Un modèle de langage ouvert de 27B paramètres a modifié ses propres poids et gagné 6,6 points de pourcentage en précision sur des problèmes qu’il n’avait pas vus, rapportent des chercheurs dans un nouveau preprint. L’article de Jiajun Fan et de ses collègues a été soumis à arXiv le 16 novembre, puis révisé le 18 novembre.
Les chercheurs appellent cette approche la réécriture de soi. Au lieu de faire appel à un autre modèle pour effectuer les changements ou de lancer un processus d’entraînement classique, ils ont donné au modèle accès à ses propres poids, à des réponses d’entraînement évaluées et à des outils pour effectuer des tests sur lui-même.
Comment la modification a fonctionné
Le modèle pouvait effectuer une action par tour : exécuter du code sur ses poids, tester une modification ou examiner ses états cachés. Selon les auteurs, la procédure n’a utilisé ni gradients, ni optimiseur, ni modèle plus puissant ; la modification soumise a ensuite été évaluée sur des problèmes tenus à l’écart du modèle.
Dans une expérience, le modèle a examiné les différences entre ses états cachés et a modifié les poids là où il avait mesuré une différence. L’équipe a testé le modèle modifié sur 490 problèmes mis de côté, avec huit réponses pour chaque problème, selon un protocole d’évaluation appariée fixé à l’avance.
Au cours d’une série de huit sessions suivant un protocole qui vérifiait les modifications sur des problèmes d’entraînement réservés avant leur soumission, la précision du modèle utilisé a augmenté ou est restée stable, rapporte l’article. Les modifications des deuxième et huitième sessions ont donné de meilleurs résultats que le modèle initial sur les problèmes mis de côté, avec une différence significative, tandis que le modèle a retiré ses modifications lors de cinq sessions.
Chaque session repartait des poids de base, au lieu de commencer avec les poids soumis lors de la session précédente. Une modification soumise remplaçait le modèle utilisé ; une modification retirée le laissait inchangé.
Réparer une copie endommagée
Dans une expérience distincte, les chercheurs ont remplacé par du bruit un bloc des poids d’une copie et ont indiqué au modèle que certaines valeurs avaient été corrompues. Selon l’article, le modèle intact a modifié la copie endommagée sans réentraînement.
Les chercheurs affirment que le modèle a localisé la matrice corrompue sans lire les poids intacts et a écrit ses propres valeurs au lieu de restaurer les valeurs d’origine. La réparation a été mise au point à l’aide de problèmes de mathématiques sous forme de texte, puis testée sur des tâches d’image qu’il n’avait pas vues.
Sur six benchmarks d’image inédits, comportant chacun 100 problèmes, la copie réparée a atteint 83 % de la précision du modèle de base, rapportent les auteurs. Sur ScreenSpot-v2, ils indiquent que la précision est passée de 0 % pour la copie endommagée à 89 % après réparation, contre 93 % pour le modèle de base.
Des résultats différents selon la taille
L’équipe a également comparé des modèles d’une même famille comptant 2B, 4B, 9B et 27B paramètres, en leur donnant la même tâche et les mêmes outils. Le modèle de 2B n’a effectué aucune modification, tandis que ceux de 4B et de 9B ont dégradé leurs propres performances, selon l’article. Seul le modèle de 27B s’est amélioré et a réparé sa copie endommagée lors de ces tests.
L’article relève une différence dans les budgets alloués aux sessions : avec le budget commun à toutes les tailles, le modèle de 27B a franchi davantage d’étapes nécessaires à sa propre réécriture, tandis que d’autres sessions consacrées à ses propres poids indiquaient un budget de tokens plus court, laissant plus de temps pour effectuer des tests. Les auteurs indiquent que chaque session à l’origine des gains les plus importants a duré quelques heures sur un seul GPU, et que la modification obtenue reste inscrite dans les poids sans ajouter de calcul à chaque réponse ultérieure.
Sources
- Source originale · Prépublication Language Models Can Rewrite Their Own Weights arXiv:2611.21885
Articles liés
- Une étude révèle que les garde-fous de sécurité de l’IA peuvent produire des explications non étayées
- Un mathématicien d’Anthropic affirme que Claude l’a aidé à démontrer l’hypothèse de Riemann
- Les chercheurs de ToolPulse reconstituent les flux de travail d’agents d’IA à partir de traces de cache
- Sakana AI crée un groupe de recherche en sécurité axé sur la cyberdéfense par l’IA
- Une enquête d’Adecco établit un lien entre la refonte du travail liée à l’IA et des gains de temps déclarés plus importants