Il bug di ChatGPT causa il caos poiché l’intelligenza artificiale genera risposte senza senso

ChatGPT è diventato rapidamente uno degli strumenti di intelligenza artificiale più popolari al mondo, ma un recente bug ha fatto sì che il popolare chatbot generasse risposte inaspettate.

ChatGPT è una delle applicazioni AI più popolari del creatore OpenAI . Ma questo è molto diverso dal loro nuovo software di generazione video AI “Sora” . Dopo aver subito miglioramenti e persino una modifica all’avanzato sistema GPT-4 , il chatbot può ancora generare alcune risposte discutibili, senza la necessità di jailbreak di alcun tipo.

Il bug è stato individuato per la prima volta sul subreddit ChatGPT , che è pieno di post che riportano risposte “senza senso”. Un post è intitolato “Sembrava come guardare qualcuno impazzire lentamente”, in cui la risposta inizia forte, ma lentamente inizia a vacillare fino a diventare un’assoluta assurdità. Sembra che queste allucinazioni facciano sì che l’intelligenza artificiale per l’apprendimento delle lingue inizi semplicemente a usare frasi senza contesto.

ChatGPT 4 impazzisce? L’intelligenza artificiale sta cercando di dirmi qualcosa… da u/Looksky_US in ChatGPT

Le “allucinazioni” dell’intelligenza artificiale sono piuttosto comuni tra i moduli di apprendimento delle lingue e, anche se ChatGPT potrebbe essere uno dei più avanzati in circolazione, queste risposte dimostrano che c’è ancora molto lavoro da fare.

Una storia virale del giornalista tecnologico Ed Zitron spiega inoltre che alcune aziende potrebbero raggiungere i “limiti superiori” di ciò che è possibile fare utilizzando l’intelligenza artificiale e quanto possano essere realmente accurati i risultati.

OpenAI è consapevole dei problemi diffusi

OpenAI

OpenAI ha riconosciuto gli errori attuali con ChatGPT nella sua pagina di stato del servizio . La nota dell’incidente recita: “Stiamo indagando sulle segnalazioni di risposte inaspettate da ChatGPT”. e che l’azienda ha identificato il problema e sta lavorando a una soluzione.

Al momento in cui scrivo, la questione non è stata ancora risolta. Tuttavia, OpenAI ha una comprovata esperienza nel correggere errori e scappatoie per creare risposte inaspettate, come l’ormai famigerato exploit “ Grandma ”.