Błąd ChatGPT powoduje chaos, ponieważ sztuczna inteligencja generuje bezsensowne odpowiedzi

ChatGPT szybko stał się jednym z najpopularniejszych narzędzi AI na świecie, jednak niedawny błąd spowodował, że popularny chatbot generował nieoczekiwane odpowiedzi.

ChatGPT to jedna z najpopularniejszych aplikacji AI twórcy OpenAI . Jest to jednak dalekie od ich nowego oprogramowania do generowania wideo AI „Sora”. Po przejściu udoskonaleń, a nawet zmianie na zaawansowany system GPT-4 , chatbot może nadal generować pewne wątpliwe odpowiedzi, bez potrzeby jakiegokolwiek jailbreakowania .

Błąd został po raz pierwszy wykryty na subreddicie ChatGPT , który jest pełen postów zgłaszających „nonsensowne” odpowiedzi. Jeden z postów nosi tytuł „To było jak obserwowanie, jak ktoś powoli wariuje” i reakcja zaczyna się od mocnego, ale powoli zaczyna przechodzić w absolutny nonsens. Wygląda na to, że te halucynacje powodują, że sztuczna inteligencja ucząca się języka po prostu zaczyna używać wyrażeń bez kontekstu.

ChatGPT 4 wariuje? Sztuczna inteligencja próbuje mi coś powiedzieć… autor: u/Looksky_US w ChatGPT

„Halucynacje” sztucznej inteligencji są dość powszechne wśród modułów do nauki języków i chociaż ChatGPT może być jednym z najbardziej zaawansowanych z nich, odpowiedzi te dowodzą, że jest jeszcze wiele do zrobienia.

Wirusowa historia autorstwa felietonisty technologicznego Eda Zitrona wyjaśnia dalej, że niektóre firmy mogą osiągać „górne granice” możliwości wykorzystania sztucznej inteligencji i tego, jak dokładne mogą być naprawdę dokładne wyniki.

OpenAI jest świadoma powszechnych problemów

OpenAI

OpenAI potwierdziło obecne błędy w ChatGPT na swojej stronie statusu usługi . W notatce o zdarzeniu czytamy: „Badamy raporty o nieoczekiwanych odpowiedziach od ChatGPT”. oraz że firma zidentyfikowała problem i pracuje nad jego rozwiązaniem.

W chwili pisania tego tekstu problem nie został jeszcze rozwiązany. Jednakże OpenAI ma całkiem niezłe doświadczenie w naprawianiu błędów i luk w celu tworzenia nieoczekiwanych reakcji, takich jak obecnie niesławny exploit „ Babcia ”.