OpenAI annuncia Sora: rischio deepfake alle stelle
OpenAI ha presentato Sora, il nuovo strumento che permette di creare video di massimo 60 secondi in altissima risoluzione partendo da un semplice comando testuale
OpenAI ha presentato ufficialmente Sora, l’innovativo modello AI che permette agli utenti di creare video in altissima risoluzione della durata massima di un 1 minuto.
Stando alle prime dichiarazioni dell’azienda statunitense OpenAI Sora è in grado di realizzare scene estremamente complesse, anche con diversi personaggi, movimenti specifici e dettagli molto accurati sia per il soggetto che per lo sfondo del filmato.
Perciò, in poche parole, l’utente può inserire nell’apposita casella di testo una descrizione testuale anche piuttosto accurata, lasciando che il sistema realizzi il prodotto finale nella maniera più fedele al testo stesso.
Come funziona OpenAI Sora
Il nuovissimo sistema di OpenAI utilizza delle sofisticate reti neurali che gli consentono di creare video realistici, comprendendo, ad esempio, il funzionamento delle leggi della fisica, in modo che i vari oggetti sullo schermo interagiscano col mondo reale in maniera coerente.
Con queste capacità il modello è perfettamente capace di posizionare i vari soggetti all’interno delle scene e farli muovere in modo naturale, facendoli interagire con il contesto in modo convincente e (quasi) mai artificioso.
Questo, stando alle ulteriori dichiarazioni di OpenAI, è frutto del grande lavoro fatto dagli sviluppatori per aiutare il modello ad avere una “profonda comprensione del linguaggio”, in modo che possa interpretare ogni richiesta e ricreare quanto descritto nel modo più accurato possibile.
Oltretutto è il primo prodotto di questo tipo a consentire la creazione di filmati fino a 60 secondi senza dover dare indicazioni fotogramma per fotogramma, lasciando che sia lo strumento stesso a elaborare logicamente le indicazioni, mantenendo una certa coerenza nella “ripresa”.
Bisogna sottolineare, però, che Sora non è sempre perfetto (esattamente come accade per i tool della concorrenza) e in certi casi potrebbe avere difficoltà nella comprensione delle descrizioni o mostrare situazioni “assurde” o poco coerenti. Naturalmente è solo una questione di tempo prima che questo strumento diventi ancora più efficiente, migliorando di volta in volta le sue performance.
Infine è importante ricordare che Sora non è in grado di riconoscere solo i comandi testuali ma può anche creare un video partendo da immagini fisse e addirittura completare video già esistenti, aggiungendo altri fotogrammi, prolungando la durata del filmato.
OpenAI Sora, il rischio deepfake
Per ora Sora può essere utilizzato solamente da un ristretto gruppo di ricercatori che stanno valutando i potenziali rischi e le potenziali implicazioni negative derivanti dall’utilizzo di questo tool. Nel progetto sarebbero coinvolti anche alcuni artisti visuali che avrebbero il compito di fornire dei feedback sui video realizzati.
Pur non essendo ancora disponibile, però, è chiaro che questo strumento potrebbe rivoluzionare per sempre le modalità di creazione di contenuti digitali, anche se non mancano i dubbi, riguardo la creazione di deepfake che, con una tecnologia del genere, potrebbero essere ancora più credibili.
Naturalmente per evitare il proliferare sul web di contenuti falsi, diverse aziende del settore, inclusa OpenAI, stanno lavorando all’inclusione all’interno dei prodotti creati con Sora (e altri tool del genere) dei metadati C2PA, che permetteranno di identificare immagini e video generati dall’intelligenza artificiale. Un modo per garantire agli utenti maggiore trasparenza e consentire loro di capire facilmente la provenienza di ciò che viene condiviso in rete.
