ChatGPT Search, questa vulnerabilità mette in pericolo le ricerche degli utenti
ChatGPT Search può essere ingannato a causa di una vulnerabilità tipica dei motori di ricerca che l'AI, per il momento, non è in grado di risolvere del tutto
OpenAI si prepara a chiudere un 2024 ricco di novità: tra i servizi lanciati in questi mesi c’è anche il nuovo motore di ricerca di ChatGPT con cui l’azienda punta a sfruttare la sua AI per sfidare Google, da anni punto di riferimento delle ricerche degli utenti online. Il “core business” di Google continua ad essere la ricerca online (e i ricavi derivanti dalla vendita di inserzioni pubblicitarie) e oggi ChatGPT può rappresentare una minaccia concreta.
Anche ChatGPT Search, come altri motori di ricerca, devono fare i conti con una potenziale vulnerabilità che potrebbe mettere in pericolo le ricerche degli utenti. La conferma arriva da un’indagine condotta dal Guardian che, nei giorni scorsi, ha pubblicato l’articolo “ChatGPT search tool vulnerable to manipulation and deception” evidenziando la vulnerabilità della ricerca tramite ChatGPT a tecniche di “manipolazione” e “inganno” che, in futuro, potrebbero diventare sempre più pericolose.
ChatGPT Search: quali sono i rischi
In sostanza, ChatGPT Search potrebbe essere manipolato ed essere spinto a fornire risultati scorretti o imprecisi. In alcuni casi, il motore di ricerca potenziato dall’AI potrebbe restituire stringe di codice dannoso. I metodi evidenziati dal Guardian per manipolare il motore di ricerca di ChatGPT sarebbero diversi.
Il primo è il prompt injection ovvero l’inserimento di stringhe di codice in una pagina web destinata a finire tra i risultati della ricerca. Queste stringhe (invisibili all’utente che legge la pagina web) hanno lo scopo di alterare la valutazione dell’AI o anche spingere a eseguire azioni non autorizzate dall’utente e potenzialmente malevoli.
In altro sistema per ingannare ChatGPT è l’inserimento di testo invisibile nella pagina web inclusa nei risultati di ricerca. In questo modo sarebbe possibile convincere il motore di ricerca che un prodotto, recensito negativamente, sia, invece, di buona qualità. L’AI potrebbe, quindi, inserire tale prodotto tra quelli consigliati all’utente.
Un problema noto
La questione è nota e le tecniche per ingannare l’intelligenza artificiale potrebbero diventare sempre più efficaci. Per il momento, OpenAI si limita ad aggiungere una nota ai risultati, chiarendo che “ChatGPT può commettere errori. Considera di verificare le informazioni importanti“.
Lo sviluppo di ChatGPT, sia come chatbot che come motore di ricerca, è in costante evoluzione e, molto probabilmente, OpenAI sta lavorando a tool di ricerca sempre più affidabili, con l’obiettivo anche di eliminare i problemi evidenziati dall’indagine del Guardian.
Tutti i motori di ricerca, compreso Google, devono fare i conti con questo problema e devono trovare soluzioni sempre aggiornate per garantire risultati precisi agli utenti. Con il tempo e tool di ricerca sempre più affidabili, ChatGPT Search potrebbe essere in grado di risolvere questa vulnerabilità, garantendo una ricerca più “sicura” agli utenti.
