ChatGPT 已迅速成為世界上最受歡迎的人工智慧工具之一，但最近的一個錯誤導致流行的聊天機器人產生意外的回應。
ChatGPT是OpenAI的創建者最受歡迎的人工智慧應用程式之一。但是，這與他們新推出的「Sora」人工智慧影片生成軟體相去甚遠。經過改進甚至對先進的GPT-4 系統進行更改後，聊天機器人仍然可以產生一些有問題的回應，而不需要任何類型的越獄。
該錯誤首先是在 ChatGPT reddit子版塊上發現的，其中充滿了報告「無意義」回應的貼文。一篇貼文的標題是“這感覺就像看著某人慢慢發瘋”，其中的反應一開始很強烈，但慢慢地開始變得毫無意義。看來這些幻覺導致語言學習人工智慧開始使用沒有上下文的短語。
人工智慧「幻覺」在語言學習模組中相當普遍，儘管 ChatGPT 可能是其中最先進的模組之一，但這些反應證明還有更多工作要做。
科技專欄作家 Ed Zitron 的一篇病毒式報告進一步解釋說，一些公司可能已經達到了人工智慧所能達到的“上限”，以及輸出的準確程度。
OpenAI 意識到普遍存在的問題
OpenAI 已在其服務狀態頁面上承認 ChatGPT 目前有錯誤。事件記錄中寫道：“我們正在調查有關 ChatGPT 意外響應的報告。”該公司已發現該問題並正在努力解決。
截至撰寫本文時，該問題尚未解決。然而，OpenAI 在修復錯誤和漏洞以產生意外回應方面擁有良好的記錄，例如現在臭名昭著的「Grandma」漏洞。
發佈留言