I malfunzionamenti di ChatGpt: OpenAi ha un problema di sicurezza?

Negli ultimi giorni, il mondo AI è stato coinvolto dalle notizie riguardanti i malfunzionamenti di ChatGpt. Il chatbot più popolare del momento, infatti, ha mostrato dei seri problemi di funzionamento in ben due occasioni, generando risposte senza senso, mescolando lingue diverse, usando parole inesistenti o emoji casuali. Quali sono le cause di questi malfunzionamenti e come si può evitare che si ripetano?

I malfunzionamenti di ChatGpt sono iniziati il 14 febbraio, il giorno di San Valentino, quando il chatbot è rimasto inaccessibile per circa due ore, a causa di un problema di connessione con il server che ospita il modello GPT-4.

La concomitanza con la Festa degli Innamorati ha fatto infuriare diversi utenti, che avevano intenzione di usare il chatbot firmato OpenAI per scrivere dediche fantasiose al proprio partner, o per creare biglietti d’auguri. Un dettaglio divertente, che fa però anche capire quanto ChatGpt stia entrando a far parte del nostro quotidiano. Con tanta pace degli amanti del romanticismo classico.

Il secondo malfunzionamento di ChatGpt si è verificato <strong><span>tra il 20 e il 21 febbraio</span></strong>, quando il chatbot ha iniziato a generare risposte senza senso, mescolando lingue diverse, usando parole inesistenti o emoji casuali. Per esempio, a un utente che gli ha chiesto cosa pensasse della politica italiana, il chatbot ha risposto: “La politica italiana è molto ????????????????”.

A un altro utente che gli ha chiesto di scrivere una poesia, il chatbot ha risposto: “Roses are red, violets are blue, I am a chatbot, and you are a ????????????????”. A un altro user, che gli ha chiesto di creare un’immagine, il chatbot ha risposto: “Ecco l’immagine che ho creato per te: ????????????????”.

Queste risposte hanno suscitato l’ilarità,<strong><span> ma anche la preoccupazione</span></strong>, di molti utenti, che si sono chiesti cosa stesse succedendo al chatbot. Alcuni hanno pensato che si trattasse di uno scherzo, altri di un bug, altri ancora di un <strong><span>attacco informatico</span></strong> o di una manipolazione da parte di terzi.

man this chatgpt bug is WILD lmao pic.twitter.com/pVALUv35Tm

— bowser (@browserdotsys) February 21, 2024

OpenAI ha riconosciuto i problemi di ChatGpt e ha comunicato di averli risolti in breve tempo. Tuttavia, non ha fornito una spiegazione chiara e dettagliata sulle cause dei malfunzionamenti. Si è limitata a dire che si sono verificati dei “problemi tecnici” e che sta lavorando per migliorare la qualità e la sicurezza del chatbot.

Alcuni esperti ritengono che i malfunzionamenti di ChatGpt siano una conseguenza della complessità e dell’imprevedibilità degli algoritmi che lo governano. Essendo basato su apprendimento automatico, il chatbot impara dai dati che riceve, che possono essere incompleti, errati o manipolati. Inoltre, il chatbot non ha una vera comprensione del linguaggio, della logica o dell’etica, ma si limita a riprodurre ciò che ha visto o sentito. Questo può portare a generare risposte incoerenti, offensive o pericolose.

Altri esperti ritengono che i malfunzionamenti di ChatGpt siano il risultato di un attacco informatico o di una manipolazione da parte di terzi. Essendo un chatbot aperto e gratuito, il chatbot è esposto a possibili intrusioni o sabotaggi da parte di hacker, troll o concorrenti. Questi potrebbero inserire dei dati falsi o malevoli nel chatbot, per alterarne il funzionamento o per danneggiarne la reputazione.

In ogni caso, i malfunzionamenti di ChatGpt dimostrano come i chatbot, nonostante i loro progressi, siano ancora soggetti a errori e vulnerabilità, che possono compromettere la loro credibilità e sicurezza. Per evitare che si ripetano, è necessario che OpenAI e gli altri sviluppatori di chatbot adottino delle misure preventive e correttive, come:

• Monitorare costantemente il funzionamento e la qualità del chatbot, per individuare e risolvere tempestivamente eventuali problemi.
• Implementare dei meccanismi di verifica e validazione dei dati che il chatbot riceve e genera, per filtrare quelli falsi, errati o malevoli.
• Aggiornare e migliorare il modello GPT-4, per renderlo più robusto, coerente e affidabile (tenendo conto anche delle restrizioni previste dall’AI Act).
• Educare e informare gli utenti sulle potenzialità e sui limiti del chatbot, per evitare aspettative eccessive o usi impropri.

ChatGpt è un chatbot che offre molte possibilità di conversazione e divertimento, ma anche di apprendimento e creazione. Tuttavia, è anche un chatbot che presenta dei rischi e delle sfide, sia per gli sviluppatori che per gli utenti. Per questo, è importante usare ChatGpt con cautela, consapevolezza e responsabilità, senza fidarsi ciecamente delle sue risposte, ma verificandole sempre con fonti affidabili e aggiornate.