Pronta una AI che può distruggere l'umanità: verità o bufala?

Si scrive Q*, si pronuncia Q-Star, sarebbe stata sviluppata da OpenAI e sarebbe all’origine dell’incredibile telenovela che ha il fondatore e CEO dell’azienda Sam Altman come protagonista. Ma, soprattutto, sarebbe in grado di mettere seriamente a rischio il futuro dell’umanità, sarebbe il seme dal quale potrebbe nascere l’era delle macchine.

Complottismo? Fantascienza? Terminator 8? Almeno in parte no: è quello che starebbe succedendo in queste ore a San Francisco, nella sede centrale di OpenAI, dove è appena andato in scena il più grande mistero dell’economia tech degli ultimi anni: la cacciata, poi ritirata, di Sam Altman dall’azienda leader nello sviluppo dell’intelligenza artificiale, nella quale Microsoft ha investito, complessivamente, circa 13 miliardi di dollari.

La cacciata di Sam Altman e Greg Brockman

Sam Altman e Greg Brockman sono i due fondatori di OpenAI e sono rimasti al vertice della società, che prima era una non-profit e poi è stata trasformata in for-profit (quindi ora può fare utili), fino a venerdì scorso, quando quattro membri del CdA ne hanno chiesto e ottenuto il licenziamento in tronco.

La decisione ha fatto scalpore, anche perché OpenAI è stata molto vaga nel comunicare le motivazioni: Altman non è stato abbastanza “trasparente“ nelle sue comunicazioni con il Consiglio d’Amministrazione.

A capo di OpenAI è stata messa, inizialmente, Mira Murati ma, appena 48 ore dopo, è stata sostituita da Emmet Shear. Nel frattempo centinaia di dipendenti di OpenAI hanno firmato una lettera a sostegno di Altman e Brockman e, soprattutto, è arrivato l’appoggio ufficiale di Microsoft (al momento l’investitore più importante) ai due dirigenti.

Microsoft ha fatto persino di più, arrivando ad assumere Altman per far capire a OpenAI che, in un modo o nell’altro, voleva che Altman avesse un controllo sullo sviluppo delle AI dell’azienda.

Le pressioni ottengono il risultato sperato e, alla fine, Altman torna al vertice di OpenAI: il “colpo di Stato” del CdA è fallito dopo appena quattro giorni, il sovrano resta sul trono.

La questione Q-Star

A questo punto entra in scena un articolo di Reuters, che parla di un nuovo tipo di intelligenza artificiale “generale“ sviluppata da OpenAI, chiamata Q*, che sarebbe all’origine di tutta la vicenda che abbiamo appena sintetizzato.

Q-Star sarebbe la prima intelligenza artificiale al mondo ad essere in grado di svolgere realmente i calcoli matematici, mentre tutte le altre possono svolgere solo i calcoli che hanno “imparato a memoria” durante la fase di apprendimento dell’algoritmo.

Lo stesso ChatGPT, il chatbot più famoso al mondo sviluppato da OpenAI, non è veramente in grado di interpretare un compito di matematica, ma solo di farcelo sembrare attingendo al suo sterminato archivio di nozioni.

Ma la matematica è una frontiera nell’intelligenza artificiale generativa, un vero e proprio spartiacque tra AI di settore e AI generale: se un bot sa fare i calcoli, infatti, sa anche fae ricerca scientifica e tecnologica. In altre parole: può “creare nuova tecnologia“, anche perché ChatGPT conosce e sa usare i principali linguaggi di programmazione.

E questo, per l’essere umano, è rischiosissimo perché lo scenario è quello delle macchine che creano altre macchine, un vero e proprio incubo sci-tech già descritto in tanti film.

Di tutto ciò Altman non avrebbe avvertito il CdA, i cui membri avrebbero saputo di Q-Star da una lettera inviata da un ricercatore dell’azienda e, per questo, sarebbe stato licenziato.

Q-Star esiste davvero?

Se tutto ciò fosse vero, sarebbe certamente preoccupante. Ma non è detto che lo sia: Reuters è certamente una fonte serissima e solitamente attendibile, ma una seconda fonte nega questa ricostruzione dei fatti.

Il magazine online americano The Verge, infatti, afferma di aver saputo da “una persona al corrente dei fatti” che il CdA di OpenAI non ha mai ricevuto alcuna comunicazione in merito a questa fantomatica AI chiamata Q-Star.