The Pulse
Il direttore tecnologico di Palantir attribuisce all’errore umano l’attacco a una scuola in Iran
Il direttore tecnologico di Palantir, Shyam Sankar, ha difeso l’IA militare e contestato le notizie secondo cui un eccessivo affidamento sul sistema Maven dell’azienda avrebbe contribuito al mortale attacco contro una scuola a Minab, in Ira
AI.info Team · Scritto con l’IA ·
«Dovremmo aspettare il rapporto conclusivo. Ma posso dire che quelle notizie sono inesatte.»
Shyam Sankar, direttore tecnologico, Palantir
Il direttore tecnologico di Palantir, Shyam Sankar, ha respinto le affermazioni secondo cui il personale militare si sarebbe affidato troppo all’IA prima che un attacco mortale colpisse una scuola a Minab, in Iran. Intervistato da Margaret Brennan di CBS News a «Face the Nation» l’11 ottobre, ha detto che l’indagine conclusiva del Pentagono dovrebbe accertare che cosa sia successo, pur esprimendo la propria opinione: «la causa probabile è un errore umano».
Sankar contesta la ricostruzione del ruolo di Maven
Brennan ha chiesto a Sankar del servizio di Bloomberg secondo cui parte del personale si sarebbe affidata troppo all’IA di Maven, la piattaforma militare realizzata da Palantir. Sankar ha definito inesatto il servizio. Non ha descritto le prove su cui basa la sua conclusione e ha detto di non sapere quando il Pentagono pubblicherà il rapporto conclusivo.
CBS News ha riferito che almeno 123 alunni sono stati uccisi nell’attacco a Minab. Alla domanda se il problema fosse dovuto a informazioni di intelligence non aggiornate o a un errore umano nell’inserimento delle informazioni nel sistema, Sankar ha ribadito che occorre attendere il rapporto conclusivo, poi ha ripetuto che il servizio di Bloomberg era inesatto. Ha detto che Palantir aveva informato il Congresso sulle capacità di Maven, ma ha rimandato al Dipartimento della Difesa le domande su che cosa fosse andato storto nell’attacco.
Palantir afferma di aver aggiunto controlli basati sull’IA
Sankar ha detto che, dopo l’attacco, Palantir ha sviluppato ulteriori agenti di IA per sottoporre a una seconda verifica una parte maggiore del lavoro. Ha descritto questi controlli come esterni al processo di cui Palantir è responsabile, ma ha detto che l’azienda è intervenuta in risposta all’urgenza dell’accaduto. Non ha specificato che cosa verifichino gli agenti, come vengano testati o se il Pentagono li abbia adottati.
Nella ricostruzione di Sankar, la risposta di Palantir si affianca alla sua tesi secondo cui l’IA supporta il processo di selezione degli obiettivi, anziché sceglierli autonomamente. Sankar ha descritto il processo come l’individuazione di bersagli legati a un obiettivo militare, il loro confronto con gli elenchi dei bersagli da non colpire e la verifica della loro vicinanza alle infrastrutture civili. Ha sostenuto che il software può rendere questi passaggi più replicabili anche quando il tempo stringe, pur riconoscendo che l’errore umano resta un rischio.
Un processo di selezione degli obiettivi più rapido, secondo Sankar
Per illustrare il vantaggio operativo dichiarato, Sankar ha detto che pianificare 1.000 attacchi in un giorno avrebbe richiesto in precedenza due settimane di lavoro a 50 persone; con l’IA, ha affermato, una sola persona potrebbe farlo in quattro ore. Ha presentato questo confronto come una misura della capacità di pianificazione, non dell’operazione a Minab né di un risultato prestazionale verificato in modo indipendente.
Il confronto lascia irrisolto un netto disaccordo. L’inchiesta di Bloomberg ha attribuito l’attacco in parte a un eccessivo affidamento su Maven, mentre Sankar ha respinto questa ricostruzione e ha previsto che gli investigatori riscontreranno un errore umano. La sua dichiarazione secondo cui Palantir ha aggiunto controlli basati sull’IA indica una risposta concreta, ma l’intervista non ha chiarito se quei controlli affrontino il problema oggetto dell’indagine. Il rapporto conclusivo del Pentagono, che Sankar ha detto di attendere, resta la ricostruzione ancora da pubblicare di quanto accaduto.