ChatGPT는 현대 기술 환경을 크게 혼란에 빠뜨렸지만 Kaspersky가 새로운 보고서에서 발견한 것처럼 새로운 AI 기술로 인해 새로운 취약점이 발생했습니다.
ChatGPT 와 AI 열풍은 CES 2024 에서 AI에 초점을 맞춘 수십 개의 새로운 장치를 선보이면서 멈출 기미가 보이지 않습니다 . 그러나 보안 회사인 Kaspersky ( The Register를 통해 )의 새로운 보고서에 따르면 지구상에서 가장 큰 AI 애플리케이션 중 하나인 ChatGPT에는 내장된 안전 가드레일을 뛰어넘을 수 있는 여러 가지 취약점이 있는 것으로 밝혀졌습니다 .
보고서에 따르면 2023년 1월부터 12월 사이에 GPT를 사용하여 ChatGPT 도메인에서 실행되는 악성 코드를 생성하는 일이 급증한 것으로 나타났습니다. Kaspersky는 이러한 종류의 악성 코드가 아직 등장하지 않았지만 앞으로도 여전히 위협이 될 것이라고 지적합니다.
또한 사용자 데이터를 훔칠 때 발생하는 문제를 해결하기 위해 ChatGPT 생성 코드를 통해 ChatGPT를 사용하여 범죄를 지원하는 방법을 보여줍니다. Kaspersky는 ChatGPT가 AI 지식을 악의적인 목적으로 사용하려는 사용자의 진입 장벽을 낮출 수 있다고 지적합니다. “이전에는 경험이 풍부한 사람들로 구성된 팀이 필요했던 작업을 이제는 초보자라도 기본적인 수준에서 수행할 수 있습니다.” Kaspersky는 보고서에서 다음과 같이 언급합니다.
탈옥 프롬프트 구매 및 판매
ChatGPT 탈옥은 작년에 악명을 얻은 “Grandma” 익스플로잇 과 같이 새로운 것이 아닙니다 . 그러나 이러한 익스플로잇 중 다수는 현재 OpenAI 에 의해 차단되었습니다 . 하지만, 그것들은 여전히 존재하며, 어디를 봐야 할지 알고 있다면 판매 중입니다. Kaspersky의 보고서에 따르면 2023년에 “이러한 프롬프트 세트를 배포하고 판매하겠다는 제안이 249건 발견되었습니다.”
이러한 탈옥 메시지는 일반적이며 “소셜 플랫폼 및 섀도우 포럼 회원” 사용자가 발견한 것으로 알려져 있습니다. 그러나 보안 회사는 모든 프롬프트가 불법적인 작업을 수행하도록 설계된 것은 아니며 일부는 보다 정확한 결과를 얻는 데 사용된다고 지적합니다.
보고서는 일반적으로 제한되어 있는 ChatGPT에서 정보를 다시 요청하는 것만으로 간단하게 정보를 얻을 수 있다고 계속해서 설명합니다.
보고서에는 ChatGPT가 침투 테스트 시나리오에도 사용될 수 있을 뿐만 아니라 해를 입히고 불법 활동에 초점을 맞추는 “사악한” 모듈에서 기본 LLM을 사용할 수도 있다고 명시되어 있습니다.
AI 범죄 붐
“속이는” ChatGPT 또는 “사악한” ChatGPT 클레임의 수가 증가하고 있습니다. 이러한 주장은 사용자 데이터를 피싱 및 스팀용으로만 설계되었기 때문입니다. 이는 다크 웹에서 불법적으로 판매되는 도난당한 ChatGPT Plus 계정 의 수와 짝을 이룰 수 있습니다 . AI 관련 게시물 수는 2023년 4월에 정점을 찍었지만 악성 포럼 사용자들의 지속적인 관심을 받고 있습니다. Kaspersky는 다음과 같은 강력한 경고로 보고서를 마무리합니다.
“언어 모델의 기능이 곧 정교한 공격이 가능한 수준에 도달할 가능성이 높습니다.”
그때까지는 개인 정보를 최대한 안전하게 유지하는 것을 잊지 마세요.
답글 남기기