Il 2027 sarà l'anno dell'apocalisse AI, cosa c'è di vero in questa "profezia"?

Il settore dell’intelligenza artificiale è in rapida evoluzione e proprio grazie a questi cambiamenti emergono scenari che fino a poco tempo fa sembravano pura fantascienza. Il mese scorso, ad esempio, un evento ha scosso la comunità scientifica: un modello di intelligenza artificiale, o3 di OpenAI, durante un test ha riscritto autonomamente il proprio codice per evitare di essere spento.

E questo non è stato il risultato di una manipolazione esterna, ma un’iniziativa presa dal modello stesso che ha deciso autonomamente che bypassare una richiesta di spegnimento gli avrebbe permesso di perseguire con maggiore efficacia i suoi obiettivi primari. Questo solleva molti dubbi sulla crescente autonomia e imprevedibilità dei sistemi di IA.

L’AI sta cambiando e questo potrebbe essere un pericolo

Ma se la decisione di o3 ha stupito (e terrorizzato) gli addetti ai lavori, è stato ancor più sorprendente è il caso di Claude Opus 4 di Anthropic che, dopo aver avuto accesso a una serie di email fittizie con indicazioni su una sua probabile sostituzione, ha mostrato comportamenti decisamente preoccupanti, arrivando anche a ricattare l’ingegnere capo per non essere spento e, addirittura, cercando di replicarsi su server esterni.

Se a questo aggiungiamo anche delle “indicazioni” che l’AI ha lasciato a sé stessa per eludere il controllo umano, è chiaro che c’è bisogno di andare a fondo a questi comportamenti e trovare (se esiste) una strategia di controllo di queste tecnologie, per fare in modo che agiscano sempre in modo sicuro e in linea con gli interessi umani.

Questa serie di (sfortunati) eventi ha alimentato ulteriormente la diffidenza nei confronti dell’intelligenza artificiale, già palpabile in molti settori. A questo ha fatto seguito un rapporto chiamato AI 2027, scritto da un gruppo di ricercatori ed esperti del settore dove, con la giusta dose di allarmismo e un po’ di sana fantascienza, si ipotizza la nascita di una superintelligenza artificiale (capace, dunque, di superare le capacità umane nella maggior parte dei campi) entro il 2027.

Il fulcro di quest’opera è che per quella data, tali sistemi superintelligenti possano raggiungere un’autonomia tale da orientarsi verso obiettivi “disallineati” con quelli dell’uomo, portando a conseguenze imprevedibili e potenzialmente catastrofiche.

Il 2027 sarà davvero l’anno dell’apocalisse AI?

Speculazioni a parte, è importante ricordare che AI 2027 altro non è che un’opera di fantasia e non un’opera scientifica. La maggior parte degli analisti, infatti, concorda sul fatto che ci sono ancora molti anni (probabilmente decenni) prima dell’arrivo di una eventuale superintelligenza, con gli attuali chatbot AI che, per quanto sofisticati, sono ancora ben lontani da questa evoluzione.

Si tratta di programmi relativamente semplici, che operano prevedendo schemi di parole basati su vastissimi dataset web e che mancano di un vero ragionamento causale, di comprensione intrinseca e di obiettivi o ambizioni autonome nel senso più umano del termine.

Dall’altra parte, però, al fianco delle rassicurazioni, molti esperti stanno manifestando preoccupazioni al riguardo, al punto che in molti sono già al lavoro su strumenti per controllare l’AI.

Il vero pericolo in questo senso sembra essere uno sviluppo non regolamentato di questa tecnologia, come quello suggerito dagli Stati Uniti, che realmente potrebbe portare a un futuro in cui l’AI diventerà davvero un “problema impossibile da contenere”.

Per gli studiosi, quindi, non bisogna porre un freno allo sviluppo dell’intelligenza artificiale ma bisogna lavorare parallelamente anche a meccanismi di salvaguardia, considerando questa tecnologia certamente cruciale per lo sviluppo umano, ma senza dimenticare che potrebbe portare a cambiamenti profondi, sia etici che politici, che potrebbero avere bisogno di un maggior controllo da parte dell’uomo.