Der ChatGPT-Fehler verursacht Chaos, da die KI unsinnige Antworten generiert

ChatGPT hat sich schnell zu einem der beliebtesten KI-Tools der Welt entwickelt, doch ein kürzlich aufgetretener Fehler hat dazu geführt, dass der beliebte Chatbot unerwartete Antworten generiert.

ChatGPT ist eine der beliebtesten KI-Anwendungen des Entwicklers OpenAI . Aber das ist weit entfernt von ihrer neuen KI-Videogenerierungssoftware „Sora“ . Nach Verbesserungen und sogar einer Änderung am erweiterten GPT-4-System kann der Chatbot immer noch einige fragwürdige Antworten generieren, ohne dass Jailbreaks jeglicher Art erforderlich sind .

Der Fehler wurde erstmals im Subreddit ChatGPT entdeckt , das voller Beiträge ist, die „unsinnige“ Antworten melden. Ein Beitrag trägt den Titel „Das fühlte sich an, als würde man jemandem dabei zusehen, wie er langsam verrückt wird“, wo die Reaktion zunächst heftig war, sich dann aber langsam in völligen Unsinn verwandelte. Es scheint, dass diese Halluzinationen dazu führen, dass die Sprachlern-KI einfach anfängt, Phrasen ohne Kontext zu verwenden.

Wird ChatGPT 4 verrückt? Die KI versucht mir etwas zu sagen… von u/Looksky_US in ChatGPT

KI-„Halluzinationen“ sind bei Sprachlernmodulen weit verbreitet, und auch wenn ChatGPT eines der fortschrittlichsten Module auf dem Markt ist, beweisen diese Reaktionen, dass noch viel zu tun ist.

Eine virale Story des Tech-Kolumnisten Ed Zitron erklärt weiter, dass einige Unternehmen möglicherweise an die „oberen Grenzen“ dessen stoßen, was mit KI möglich ist und wie genau Ergebnisse tatsächlich sein können.

OpenAI ist sich der weit verbreiteten Probleme bewusst

OpenAI

OpenAI hat die aktuellen Fehler bei ChatGPT auf seiner Service-Statusseite bestätigt . In der Vorfallnotiz heißt es: „Wir untersuchen Berichte über unerwartete Antworten von ChatGPT.“ und dass das Unternehmen das Problem identifiziert hat und an einer Lösung arbeitet.

Zum Zeitpunkt des Verfassens dieses Artikels war das Problem noch nicht gelöst. Allerdings hat OpenAI eine ziemlich gute Erfolgsbilanz bei der Behebung von Fehlern und Lücken, um unerwartete Reaktionen hervorzurufen, wie zum Beispiel den mittlerweile berüchtigten „ Grandma “-Exploit.