Amazon Q: il chatbot AI "ha le allucinazioni"

Amazon Q è la risposta di Amazon a ChatGPT, almeno per quanto riguarda il settore business. Il nuovo chatbot, però, sembra avere ancora diversi problemi tanto che, in un documento interno all’azienda, diffuso dal magazine Platformer, si evidenziano le “allucinazioni” di Amazon Q che potrebbe fornire risposte dannose e inappropriate. Il chatbot, che è ancora in versione preview, ha ancora ampi margini di miglioramento.

Amazon Q: primi problemi per il chatbot

Pensato per un utilizzo aziendale, Amazon Q dovrebbe essere il nuovo chatbot con cui Amazon punta a semplificare il lavoro con la suite di servizi AWS. Si tratta, quindi, di un chatbot AI pensato per il mondo business, destinato a ricoprire un ruolo sempre più importante per l’accesso ai servizi dell’azienda. Ci sono, però, ancora diversi problemi.

Il documento interno diffuso da Platformer, infatti, evidenzia le difficoltà del chatbot che avrebbe delle vere e proprie allucinazioni, fornendo fin troppo spesso informazioni errate o inappropriate al proprio interlocutore. Amazon Q potrebbe, ad esempio, fornire informazioni di sicurezza non aggiornate, mettendo a rischio gli account dei clienti.

Il chatbot AI, inoltre, potrebbe essersi fatto sfuggire informazioni riservate come l’ubicazione dei data center AWS oltre che dettagli relativi a funzionalità inedite, ancora in sviluppo, e a programmi di sconti interni, da non divulgare pubblicamente. Al momento, quindi, Amazon Q non avrebbe raggiunto un livello di maturità sufficiente e non sarebbe ancora in grado di garantire l’affidabilità richiesta a un chatbot AI da usare in ambito aziendale.

È tutto sotto controllo secondo Amazon

La notizia dei problemi di Amazon Q ha, rapidamente, ottenuto un’importante ribalta mediatica tanto che un portavoce dell’azienda ha rilasciato una risposta ufficiale in merito alla questione. Amazon ha smentito i problemi del suo chatbot AI, evidenziando come sia normale per i dipendenti condividere feedback, tramite canali interni e sistemi di ticketing, durante la fase di sviluppo di un nuovo servizio.

Amazon, in questo momento, sta lavorando sui feedback ricevuti, sottolinea il portavoce, con l’obiettivo di migliorare Amazon Q in vista del suo rilascio globale. Il chatbot AI ha ancora margini di miglioramento. Da notare che l’azienda ha sottolineato che “Q non ha fatto trapelare informazioni riservate”, smentendo, almeno in parte, i problemi evidenziati dal report trapelato online nei giorni scorsi.

In ogni caso, Amazon Q, per il momento, è disponibile solo in una versione preview. C’è ancora tempo per migliorare il chatbot, eliminando i suoi difetti e la sua tendenza a divulgare informazioni errate/inappropriate. Nel corso delle prossime settimane, quindi, Q dovrebbe registrare significativi passi in avanti, diventando più efficiente e completo.