OpenAI crea l'IA che riconosce i testi scritti dalle IA
I creatori di ChatGPT hanno creato un algoritmo di machine learning in grado di capire se un testo è stato generato dall’intelligenza artificiale
Se ChatGPT è per molti una delle tecnologie più innovative dell’ultimo periodo, per altri è anche diventata una preoccupazione. Stiamo parlando di professori ed educatori, che attualmente non sanno se gli scritti presentati dagli alunni sono opera loro e dell’intelligenza artificiale.
OpenAI, ecco l’algoritmo che scova l’AI
Per cercare di venire incontro a queste necessità, che sono sicuramente molto sentite in ambito educativo, OpenAI, la stessa software house che ha creato la “chiacchierata” ChatGPT, ha realizzato un classificatore basato su un algoritmo di machine learning in grado di capire se il testo è stato scritto da un essere umano o dall’intelligenza artificiale.
Questo algoritmo di apprendimento automatico, come qualsiasi altro, è continuamente “addestrato”. In questo specifico caso, i dati che servono per tenerlo aggiornato e migliorato costantemente arrivano da pezzi di testo scritti da persone e da “una varietà di provider che utilizzano l’AI per generare testo”, tra cui appunto, ChatGPT.
In pratica, il classificatore confronta i testi che parlano di uno stesso argomento e dovrebbe essere in grado di capire se questo è scritto di proprio pugno da una persona o è stata l’intelligenza artificiale a generarlo.
L’algoritmo di OpenAI è ora inaffidabile
Diciamo “dovrebbe” perché da quanto ammesso dalla stessa OpenAI al momento questo classificatore “non è del tutto affidabile”. Infatti, per ora è stato in grado di rilevare solo il 26% di testo scritto dall’intelligenza artificiale in inglese in una serie di “sfide” che gli sono state propinate. Sono stati rilevati anche alcuni falsi positivi (9%), ovvero un testo scritto da una persona è stato erroneamente catalogato come realizzato dall’AI e viceversa.
Le cose sono migliorate quando all’algoritmo sono stati inviati testi con oltre 1.000 caratteri, ma al tempo stesso, come dichiara OpenAI, le cose vanno “significatamene peggio” se il testo è scritto in una lingua diversa dall’inglese. Per questi motivi OpenAI, contrassegna il testo come probabilmente scritto dall’AI solo se il classificatore è molto sicuro.
Nonostante tutto però OpenAI dichiara che il nuovo classificatore è migliore di quello precedente su cui stava già lavorando l’azienda. La stessa società sta coinvolgendo, negli Stati Uniti, gli educatori per discutere sulle capacità e i limiti di ChatGPT applicata al mondo scolastico.
Al tempo stesso, consiglia di non utilizzare solo l’algoritmo per determinare se uno scritto è realizzato da un umano o dall’intelligenza artificiale, ma di valutare altri fattori.