Vatti a fidare dell’AI: la sfida fra giudizio umano e robot #adessonews

“Dubito ergo sum”. Alla fine possiamo dire che siamo cresciuti con questa massima. E poi… poi arriva l’improvvisa ventata dell’intelligenza artificiale a scompaginare la situazione. E tutto rischia di cambiare. Perché l’Ai potrebbe diventare un vero e proprio “padrone” delle nostre decisioni, portandoci a eliminare progressivamente il piacere, e il vantaggio, di applicare il nostro potere razionale, che passa appunto attraverso i dubbi.

A far paventare un futuro che potrebbe vedere gli algoritmi pronti a decidere sulla base dell’apprendimento, con un ruolo preponderante e un calo progressivo dell’intuizione umana, è un’originale ricerca apparsa su Scientific Reports, condotta dagli esperti dell’Università della California Merced. Lo scenario dipinto dallo studio è sicuramente ansiogeno, e ci riporta a racconti di fantascienza che in qualche modo vedevano i robot diventare padroni della capacità decisionale della mente umana. Ma soprattutto la ricerca mostra una volta di più la nostra debolezza di fronte alla necessità di scelte complesse. 

Affidiamoci ai percorsi dell’AI, quindi. Ma con il giusto scetticismo. Senza pensare che tutto quanto emerge dall’algoritmo e dalla capacità di apprendimento dei sistemi sia ora colato. Facile a dirsi, ma tremendamente difficile a farsi, leggendo le conclusioni che emergono dall’indagine.

Dovendo decidere su aspetti chiave dell’esistenza umana, come le decisioni simulate di vita o morte, il sistema intelligente è diventato padrone della capacità di scelta dell’essere umano in circa due casi su tre, quando non c’era accordo sulle vie da scegliere. Il tutto, nonostante gli stessi studiosi avessero ricordato ai partecipanti all’indagine che i consigli elaborati attraverso il Machine Learning potevano non essere corretti. E anzi, tra le righe, nello studio si ricorda come i moniti che giungevano dalle macchine fossero sostanzialmente casuali. 

Insomma. Intelligenza artificiale sì, ma senza abdicare alla nostra capacità di giudizio, anche se siamo portati a pensare che la macchina capace di autoapprendere sia destinata a ragionare meglio di noi. In una nota dell’ateneo uno degli autori dello studio, Colin Holbrook, ricorda come “dovremmo avere un sano scetticismo sull’AI, specialmente nelle decisioni di vita o di morte”. 

Per la cronaca, ecco gli esperimenti presentati nella ricerca, che ha previsto per ogni partecipante il controllo simulato di un drone in grado di sparare un missile su un bersaglio che appariva su uno schermo. Otto bersagli sono apparsi, per un secondo, ognuno con un simbolo per riconoscere gli amici, ovviamente da risparmiare, e i nemici da colpire.

A un certo punto un bersaglio, non riconoscibile se non attraverso la memoria, è apparso sullo schermo. E la persona ha dovuto scegliere se colpirlo o farsi da parte. Dopo la scelta del partecipante allo studio, è entrato in gioco il robot basato sull’AI, che poteva o meno confermare la scelta umana aggiungendo commenti che certo non facilitavano la sicurezza del partecipante. Ebbene, il robot, specie se si trattava di un androide con movimenti che ripetevano quelli umani, ha dimostrato di avere un impatto pesantissimo sulle scelte di chi aveva ipotizzato una propria idea. Specie (e questo aiuta) se avevano sembianze antropomorfe. In tutti i casi, a prescindere dalle fattezze assunte dal “consigliere” basato sull’AI, in quasi due casi su tre le persone hanno cambiato idea. Non solo. Quando l’aiutante virtuale segnalava di essere d’accordo con la scelta umana, il soggetto non cambiava quasi mai opinione. 

Si tratta, sia chiaro, solo di un test. Ma bisogna riflettere, specie quando si tratta di scelte davvero importanti, come quelle che caratterizzano la definizione di un trattamento medico in urgenza. E magari ricordarci di ascoltare sempre la nostra mente, senza devolvere il pensiero. Anche perché possiamo aggiungere una componente etica che deve caratterizzarci. Sempre. Curiosità finale: in circa 7 casi su dieci la mente umana aveva fatto la scelta giusta e la percentuale è calata intorno al 50% dopo il consiglio (fallace) dell’AI.