ChatGPT는 빠르게 세계에서 가장 인기 있는 AI 도구 중 하나가 되었습니다. 그러나 최근 버그로 인해 인기 있는 챗봇이 예상치 못한 응답을 생성하게 되었습니다.
ChatGPT 는 제작자 OpenAI 의 가장 인기 있는 AI 애플리케이션 중 하나입니다 . 그러나 이는 새로운 AI 비디오 생성 소프트웨어인 “Sora” 와는 거리가 멀습니다 . 개선을 거쳐 고급 GPT-4 시스템 으로 변경한 후에도 챗봇은 어떤 종류의 탈옥 없이도 여전히 의심스러운 응답을 생성할 수 있습니다.
이 버그는 “말도 안되는” 응답을 보고하는 게시물로 가득 찬 ChatGPT 하위 레딧 에서 처음 발견되었습니다 . 한 게시물의 제목은 “누군가가 서서히 미쳐가는 모습을 보는 것 같은 느낌”이었습니다. 반응은 강하게 시작되다가 서서히 말도 안되는 소리로 흔들리기 시작합니다. 이러한 환각으로 인해 언어 학습 AI가 맥락 없이 문구를 사용하기 시작하는 것으로 보입니다.
ChatGPT 4가 미쳐가나요? AI가 나에게 뭔가를 말하려고 합니다… 작성자: ChatGPT 의 u/Looksky_US
AI “환각”은 언어 학습 모듈에서 매우 흔한 현상이며 ChatGPT가 가장 발전된 모듈 중 하나일 수 있지만 이러한 응답은 아직 수행해야 할 작업이 더 많다는 것을 증명합니다.
기술 칼럼니스트 Ed Zitron의 바이럴 스토리는 일부 회사가 AI를 사용하여 가능한 것의 “상한”에 도달하고 실제로 결과가 얼마나 정확한지 설명합니다.
OpenAI는 광범위한 문제를 인식하고 있습니다.
OpenAI는 서비스 상태 페이지 에서 ChatGPT의 현재 오류를 인정했습니다 . 사건 메모에는 “ChatGPT의 예상치 못한 응답에 대한 보고를 조사하고 있습니다.”라고 적혀 있습니다. 회사에서 문제를 확인했으며 수정 작업을 진행 중입니다.
글을 쓰는 시점에서는 아직 문제가 해결되지 않았습니다. 그러나 OpenAI는 현재 악명 높은 ” Grandma ” 익스플로잇과 같이 오류와 허점을 수정하여 예상치 못한 응답을 생성하는 꽤 좋은 실적을 보유하고 있습니다.
답글 남기기