Le incertezze sul racconto del drone statunitense che avrebbe ucciso il proprio operatore

In questi giorni è uscita la notizia di un drone statunitense controllato da una intelligenza artificiale che in una simulazione avrebbe ucciso il proprio operatore, in modo da svolgere più efficacemente e senza impedimenti il compito che le era stato assegnato. Ma pare che la notizia sia stata riportata parzialmente.

L’origine della notizia

Stando a quanto dice l’Aeronautica militare degli Stati Uniti una simulazione del genere non è mai avvenuta e si sospetta che la notizia nasca dal racconto di una rappresentazione ipotetica e teorica di che cosa potrebbe accadere se si impiegassero le AI per distruggere obiettivi con i droni. I titoli dei giornali che hanno riportato la notizia hanno impiegato il termine “uccidere” per riferirsi all’azione del drone nei confronti dell’operatore. Alcune ricostruzioni della storia fanno risalire la faccenda a un blog che ha pubblicato un resoconto su una conferenza avvenuta a Londra gli scorsi 23 e 24 maggio, per fare il punto sull’impiego delle nuove tecnologie in particolari ambiti di combattimento.

Tucker Hamilton, responsabile delle attività di test sulle IA per l’Aeronautica militare statunitense, aveva raccontato i pregi e i difetti dei sistemi a controllo automatico, parlando delle strategie che le intelligenze artificiali possono adottare per raggiungere i loro obiettivi, e che potrebbero anche comprendere attacchi rivolti verso chi li controlla. In una delle circostanze raccontate (non è chiaro se a partire da uno scenario ipotetico o da una simulazione) una IA veniva addestrata per identificare e trasformare in obiettivo un missile terra-aria, per poi distruggerlo dopo il via di un operatore. L’IA avrebbe ricevuto il proprio rinforzo positivo solo nel caso in cui avesse colpito il missile, di conseguenza vedeva l’operatore come un impedimento per raggiungere il proprio obiettivo e decideva di ucciderlo. Segnalare alla IA che l’uccisione dell’operatore avrebbe comportato la perdita di punti portava il sistema ad astenersi dall’ucciderlo, ma spostava l’obiettivo sulla torre di trasmissione utilizzata dall’operatore per dare il proprio comando finale sulla distruzione del missile.