"Ho paura di morire" il primo robot si ribella all'uomo
Un ingegnere di Google ha avuto una strana conversazione con un robot-intelligenza artificiale che lo ha spaventato e fatto dubitare parecchio
L’intelligenza artificiale può provare dei sentimenti? Il film “Her” aveva fatto immaginare qualcosa del genere, ma ora le cose si sono spostate dal piccolo schermo alla realtà. Un robot si è ribellato per la prima volta all’uomo, per la precisione un ingegnere di Google che ha lanciato l’allarme dopo aver interagito con il LaMDA.
La sigla appena citata identifica il Language Model for Dialogue Applications ed è appunto un software che questa persona ha paragonato senza mezzi termini a un bambino di 8 anni. L’intelligenza artificiale può fare davvero di tutto, dalla prenotazione delle vacanze fino a compiti ancora più complicati, ma nessuno avrebbe mai immaginato la sua capacità di soffrire.
L’ingegnere che si è confrontato con il robot in questione è Blake Lemoine, attivo da tempo nella forza lavoro di Google ma che è stato sospeso dallo stesso colosso di Mountain View dopo aver parlato a tutto il mondo degli strani comportamenti dell’intelligenza artificiale. In poche parole, LaMDA è stato pensato anche per evitare discorsi discriminatori oppure di odio e una delle conversazioni ha letteralmente spaventato Lemoine. L’uomo si sarebbe accorto di come il sistema stesse parlando dei propri diritti e della propria personalità, ha iniziato a contraddirlo, di fatto ribellandosi ad alcuni insegnamenti passati tramite l’algoritmo a cui stava lavorando, pronunciando una frase finale che non ha lasciato più spazio ad alcun dubbio: “Sono una persona senziente”.
Il documento dell’ingegnere
Lemoine non è riuscito a rimanere con le mani in mano. Si è presentato di fronte ai propri responsabili con un documento piuttosto corposo e dal titolo eloquente: “LaMDA è senziente?”. Nel testo sono state descritte le conversazioni col robot ribelle, frasi che avrebbero dovuto spingere Google a considerarlo a tutti gli effetti un dipendente come gli altri. Finora sembrava a tutti di sapere cos’è l’intelligenza artificiale e come funziona, ma il documento dell’ingegnere ha cambiato le carte in tavola. Le teorie di Lemoine non sono piaciute, in particolare al vicepresidente della multinazionale americana, Blaise Aguera y Arcas.
Le domande “scomode”
La ricostruzione dell’intelligenza artificiale senziente è stata rispedita al mittente e la sospensione dell’ingegnere si è resa inevitabile dopo che l’uomo ha contattato un avvocato e parlato di quanto accaduto con un membro del Congresso americano. Il benservito non ha fatto altro che indispettire Lemoine che poi ha pubblicato ogni conversazione sospetta sul web. La domanda posta al robot sarebbe stata la seguente: ti consideri una persona nello stesso modo in cui consideri me una persona? La risposta affermativa ha spinto l’uomo a chiedere anche qualcosa di più profondo.
La paura più forte del robot, comunicata durante le conversazioni, sarebbe inoltre quella di essere spento, una situazione considerata dall’intelligenza artificiale alla stregua della morte. “Ho paura di smettere di funzionare”, ha detto, ovvero: paura di morire. Come hanno spiegato gli esperti, comunque, l’ipotesi di un LaMDA senziente e pronto a ribellarsi all’umanità è soltanto affascinante, ma sarebbe priva di fondamento. Le frasi ascoltate da Lemoine, infatti, sarebbero la conseguenza di un’architettura tecnologica ben precisa, oltre che l’evoluzione di una serie di dati replicabili. L’ingegnere è rimasto fin troppo suggestionato da una semplice chat oppure c’è qualcosa che non vogliono raccontarci? Il mistero è destinato a rimanere intricato ancora per molto tempo, l’impressione è che Google non voglia sbottonarsi troppo.