The Pulse
Un’inchiesta australiana mette in luce i consigli pericolosi di Microsoft Copilot
Il deputato australiano Andrew Hastie ha riferito a una commissione parlamentare che Microsoft Copilot gli aveva suggerito di rispondere «congratulazioni!» a un elettore che stava pensando di ricorrere alla morte volontaria medicalmente ass
AI.info Team ·
La risposta suggerita da Copilot mette sotto esame il giudizio dell’IA
Microsoft Copilot ha suggerito al deputato australiano Andrew Hastie di rispondere «congratulazioni!», «che bello sentirti» o «è una notizia meravigliosa!» dopo che un elettore con una malattia terminale gli aveva scritto di avere intenzione di ricorrere alla morte assistita volontaria.
Hastie ha sollevato la questione venerdì 18 settembre, nel corso dell’inchiesta parlamentare australiana sull’intelligenza artificiale. Ha usato l’esempio per sostenere che i sistemi gestiti da aziende americane possono fallire clamorosamente quando si trovano ad affrontare situazioni personali e culturali delicate. The Guardian ha riferito dell’episodio avvenuto durante l’audizione.
L’episodio non dimostra che Copilot abbia causato un danno o che l’elettore abbia seguito il suo consiglio. Mostra però quanto sia rischioso considerare un assistente di scrittura generalista un consulente affidabile per messaggi che riguardano la morte, la malattia o altre situazioni di fragilità.
Andrew Hastie invoca il controllo australiano
Hastie ha usato l’incidente per sostenere la sua richiesta di sistemi di IA sviluppati e gestiti in Australia, anziché dipendere interamente da servizi ospitati e controllati all’estero. Il deputato del Partito liberale ha anche sostenuto che l’Australia dovrebbe garantirsi l’accesso a modelli avanzati, imponendo al contempo alle aziende di operare nel rispetto della legge australiana.
La commissione mista parlamentare australiana sull’intelligenza artificiale è stata istituita il 20 agosto 2026. Tra i temi del suo mandato figurano le capacità sovrane nel campo dell’IA, l’adozione dell’IA da parte degli enti governativi, la sovranità dei dati, gli effetti dell’IA sulle persone vulnerabili e i rischi per la sicurezza nazionale. La commissione dovrà presentare la sua relazione entro il 30 novembre 2026, secondo la pagina della commissione sul sito del Parlamento australiano.
La disputa durante l’audizione non riguardava soltanto l’opportunità di usare l’IA. I funzionari governativi e della difesa hanno sostenuto che l’Australia corre dei rischi anche se non riesce ad accedere ai sistemi più avanzati.
Funzionari informatici mettono in guardia dal rinunciare ai modelli avanzati
Abigail Bradshaw, direttrice generale dell’Australian Signals Directorate, ha dichiarato alla commissione che la sua agenzia usa l’IA avanzata per difendersi da quelli che ha definito «attori informatici ostili altamente capaci». Ha detto che l’agenzia dipende interamente da capacità di elaborazione situate negli Stati Uniti e che potrebbe perdere capacità considerevoli se, durante un conflitto, le fosse negato l’accesso.
«Se un avversario digitale ha accesso a modelli più recenti e più capaci dei nostri, potrebbe riuscire a individuare e sfruttare le vulnerabilità di sistemi e reti prima che riusciamo a individuarle», ha detto Bradshaw, secondo il resoconto dell’audizione pubblicato dal Guardian.
Il suo avvertimento ha messo in luce la tensione centrale dell’inchiesta. L’Australia vuole un maggiore controllo sui dati, sulle infrastrutture di calcolo e sull’accesso ai modelli, ma i funzionari sostengono anche che escludere i principali sviluppatori statunitensi potrebbe lasciare le agenzie australiane con strumenti meno efficaci di quelli usati dagli attori che cercano di fermare.
La difesa vuole mantenere in Australia capacità di calcolo, dati e decisioni
Chris Crozier, responsabile dell’IA del dipartimento della Difesa, ha detto che il governo sta portando avanti un piano per infrastrutture nazionali che coinvolge Google e una rete di centri dati collegati tra loro. Le strutture sarebbero separate dagli Stati Uniti, con l’obiettivo di garantire che una decisione presa all’estero non possa disattivare i sistemi australiani.
«Non vogliamo usare strumenti di IA che si trovano all’estero … vogliamo che le capacità di calcolo, le applicazioni, i dati e il processo decisionale siano tutti in Australia.»
Chris Crozier, responsabile dell’IA, Dipartimento australiano della Difesa, citato da The Guardian
I funzionari hanno riferito alla commissione che coinvolgere in Australia le principali aziende di IA potrebbe anche facilitare l’intervento delle forze dell’ordine contro gli abusi e altre minacce sulle loro piattaforme. Il governo sta consultando le parti interessate su standard che potrebbero obbligare le aziende a segnalare incidenti e violazioni in materia di sicurezza, a riservare capacità di calcolo per la ricerca australiana e a rispettare condizioni legate alla costruzione di grandi centri dati.
Le norme sul diritto d’autore aprono un altro fronte
L’audizione ha anche messo in luce una disputa sui dati usati per addestrare i sistemi di IA. Jenna Priestly, segretaria aggiunta presso il dipartimento del procuratore generale australiano, ha detto che le modifiche proposte alla normativa sul diritto d’autore potrebbero incidere sull’accesso ai contenuti realizzati all’estero e distribuiti in Australia, oltre che alle opere australiane.
Priestly ha detto che gli sviluppatori volevano addestrare i modelli su «forse miliardi» di contenuti e ha sostenuto che negoziare con ogni titolare dei diritti sarebbe stato praticamente impossibile. I gruppi del settore creativo si sono opposti a qualsiasi sistema predefinito che consentirebbe alle aziende di raccogliere opere pubblicate online dagli australiani senza accordi di licenza.
Il governo ha dichiarato di voler presentare entro la fine del 2026 una bozza di legge che definisca standard più ampi per l’IA. Bradshaw ha detto alla commissione che le decisioni sull’addestramento e sull’accesso sono urgenti, perché gli sviluppatori potrebbero scegliere altri paesi se l’Australia ritarda.
L’esempio di Copilot citato da Hastie dà a questo dibattito politico una dimensione umana: un sistema progettato per aiutare a scrivere un messaggio ordinario ha dato un consiglio palesemente inadeguato a un elettore che parlava della fine della propria vita. La commissione deve ora soppesare questo fallimento rispetto all’argomento della sicurezza, secondo cui le agenzie australiane non possono permettersi di restare indietro rispetto ai sistemi usati dagli operatori informatici ostili.