O bug do ChatGPT causa o caos enquanto a IA gera respostas absurdas

O ChatGPT rapidamente se tornou uma das ferramentas de IA mais populares do mundo, mas um bug recente fez com que o popular chatbot gerasse respostas inesperadas.

ChatGPT é um dos aplicativos de IA mais populares do criador OpenAI . Mas isso está muito longe de seu novo software de geração de vídeo “Sora” AI. Depois de passar por refinamentos e até mesmo por uma mudança no sistema avançado GPT-4 , o chatbot ainda pode gerar algumas respostas questionáveis, sem a necessidade de jailbreaks de qualquer espécie.

O bug foi detectado pela primeira vez no subreddit ChatGPT , que está cheio de postagens relatando respostas “absurdas”. Uma postagem é intitulada “Foi como ver alguém enlouquecer lentamente”, onde a resposta começa forte, mas lentamente começa a vacilar em um absurdo absoluto. Parece que essas alucinações fazem com que a IA de aprendizagem de línguas comece a usar frases sem contexto.

ChatGPT 4 enlouquecendo? A IA está tentando me dizer algo… por u/Looksky_US no ChatGPT

As “alucinações” de IA são bastante comuns entre os módulos de aprendizagem de idiomas e, embora o ChatGPT possa ser um dos mais avançados que existem, essas respostas provam que ainda há mais trabalho a ser feito.

Uma história viral do colunista de tecnologia Ed Zitron explica ainda que algumas empresas podem estar atingindo os “limites superiores” do que é possível usar a IA e quão precisos os resultados podem realmente ser.

OpenAI está ciente dos problemas generalizados

Logotipo da OpenAI na ilustração GPT-4 da OpenAI — OpenAI

A OpenAI reconheceu os erros atuais do ChatGPT em sua página de status do serviço . A nota do incidente diz: “Estamos investigando relatos de respostas inesperadas do ChatGPT”. e que a empresa identificou o problema e está trabalhando para corrigi-lo.

No momento da redação deste artigo, o problema ainda não foi resolvido. No entanto, a OpenAI tem um histórico muito bom de correção de erros e brechas para criar respostas inesperadas, como a agora infame exploração “ Vovó ”.