AI犯罪ブームのさなか、数百のChatGPTジェイルブレイクが「シャドウフォーラム」で販売される

ChatGPT は現代の技術環境を大きく破壊しましたが、カスペルスキーが新しいレポートで発見したように、新しい AI テクノロジーには新たな脆弱性が伴います。

ChatGPTとAIの流行は止まる気配がないようで、CES 2024 では AI に焦点を当てた多数の新しいデバイスが展示されています。しかし、地球上で最大の AI アプリケーションの 1 つである ChatGPT には、組み込みの安全ガードレールを飛び越えることができるいくつかの脆弱性が存在することが判明したことが、セキュリティ会社 Kaspersky の新しいレポート ( The Register経由) で明らかになりました。

2023 年 1 月から 12 月にかけて、ChatGPT ドメインで実行されるマルウェアを作成するために GPT を使用するブームが報告されています。カスペルスキーは、この種のマルウェアはまだ出現していないが、将来的には依然として脅威であると指摘している。

また、ChatGPT がユーザーデータを盗む際に発生する問題を解決するコードを生成することにより、ChatGPT が犯罪を支援するためにどのように使用されるかについても紹介します。 Kasperskyは、ChatGPTはAIの知識を悪意のある目的で利用しようとするユーザーの参入障壁を下げることができると指摘している。「以前はある程度の経験を持つ人々のチームが必要だったアクションが、今では新人でも基本的なレベルで実行できるようになりました。」 Kaspersky はレポートの中で次のように述べています。

脱獄プロンプトの売買

ChatGPT の脱獄は、昨年悪名を博した「Grandma」エクスプロイトのように、新しいものではありません。ただし、これらのエクスプロイトの多くは現在、 OpenAIによって阻止されています。しかし、どこで探せばよいか知っていれば、それらはまだ存在しており、販売されています。カスペルスキーの報告書によると、2023年中に「そのようなプロンプトセットを配布および販売するという申し出が249件見つかった」という。

これらの脱獄プロンプトは一般的であるとされており、「ソーシャルプラットフォームのユーザーやシャドウフォーラムのメンバー」によって発見されています。ただし、セキュリティ会社は、すべてのプロンプトが違法なアクションを実行するように設計されているわけではなく、一部はより正確な結果を得るために使用されると指摘しています。

レポートでは、通常は制限されている ChatGPT からの情報の取得は、再度質問するだけで簡単であると続けています。

レポートでは引き続き、ChatGPT は侵入テストのシナリオでも使用できるほか、危害を加えようとする違法な活動に焦点を当てた「邪悪な」モジュールで基本的な LLM を使用することもできると述べています。