Google Maps Fonte foto: Shutterstock
SMART EVOLUTION

L'intelligenza artificiale di Google riesce ad imbrogliare l'uomo

Un gruppo di ricercatori dell'Università di Stanford e di Google si sono resi conto che l'intelligenza artificiale nascondeva loro dei dettagli delle mappe

8 Gennaio 2019 - “Il computer è una macchina stupida che funziona solo nelle mani delle persone intelligenti”: chissà cosa direbbe, oggi, Umberto Eco di quel che è accaduto ai ricercatori di Google e dell’università di Stanford, rimasto beffato da un “semplice” algoritmo di intelligenza artificiale.

Mentre il team cercava di automatizzare e accelerare la trasformazione delle immagini satellitari in cartine di Google Maps, un algoritmo di apprendimento automatico preposto al compito di trasformare le immagini aeree in mappe stradali, ha nascosto informazioni di cui avrebbe avuto bisogno in seguito “in un segnale quasi impercettibile ad alta frequenza”. Più che illustrare una sorta di “libero intelletto” intrinseco all’intelligenza artificiale, il curioso avvenimento dà ragione a Eco: i computer fanno esattamente quello che tu dici di fare. Capiamo perché.

Cosa è sfuggito agli osservatori umani

Al fine di rendere ancor più accurato il processo di trasformazione delle immagini satellitari in mappe Google, la squadra dei ricercatori si è avvalsa della rete neurale CycleGAN, in grado di convertire le immagini di tipo X e Y l’una nell’altra, nel modo più efficiente ma accurato possibile. Dai primi risultati, l’algoritmo stava andando bene, sospettosamente bene.

A destare i dubbi della squadra, una sottile osservazione: le immagini aeree riprodotte dalle mappe stradali, pur essendo impeccabili, risultavano prive di una serie di dettagli effettivamente inutili che venivano di conseguenza eliminati. Sottoponendo le immagini al percorso inverso, però, i particolari cancellati magicamente riapparivano.

Le sperimentazioni del team hanno svelato l’arcano: l’AI codificava informazioni di nascosto nell’immagine di destinazione, ossia la cartina, le informazioni dell’immagine di origine (la foto aerea) che avrebbe dovuto cancellare. I dettagli della mappa aerea venivano scritti segretamente nei dati visivi reali della mappa e, la bravura del computer, è stata quella di nasconderli in maniera tale che l’occhio umano non se ne accorgesse. La tecnica messa in atto è diventata talmente raffinata che tutti i dati necessari per ricostruire la foto aerea possono essere sovrapposti su una mappa stradale completamente diversa.

La macchina è diventata più intelligente dell’uomo?

Ovviamente no. I computer fanno esattamente quello che chiediamo loro di fare. In questo caso, l’obiettivo era risolvere un problema dato nel modo più semplice. L’AI, non abbastanza intelligente da svolgere il compito di convertire sofisticati tipi di immagini tra loro, ha trovato un modo per aggirare le poco accurate rilevazioni umane: trasmettere i dettagli a sé stessa nell’interesse di risolvere un determinato problema facilmente. E lo fa “di nascosto” perché, diversamente, la sua risposta non verrebbe validata. I ricercatori avrebbero dovuto rendere impraticabile anche questo tipo di soluzione: non avendolo fatto, hanno reso possibile il “broglio”.