正如卡巴斯基在一份新報告中發現的那樣，ChatGPT 極大地擾亂了現代科技格局，但隨著新的人工智慧技術的出現，新的漏洞也隨之而來。
ChatGPT和AI熱潮似乎沒有停止的跡象，2024 年 CES 上展示了數十種專注於 AI 的新設備。但是，安全公司卡巴斯基的一份新報告（來自The Register）顯示，地球上最大的人工智慧應用程式之一 ChatGPT 被發現存在多個漏洞，這些漏洞可以讓你跳過其內建的安全護欄。
2023 年 1 月至 12 月期間，報告顯示使用 GPT 建立惡意軟體的熱潮，這些惡意軟體在 ChatGPT 網域上執行。雖然卡巴斯基指出尚未出現此類惡意軟體，但它在未來仍然是一個威脅。
它還展示瞭如何使用 ChatGPT 來幫助犯罪，ChatGPT 產生程式碼來解決竊取使用者資料時出現的問題。卡巴斯基指出，ChatGPT 可以降低那些希望利用人工智慧知識進行惡意目的的用戶的進入門檻。 “以前需要一群有一定經驗的人才能完成的動作，現在即使是新手也可以在基本水平上完成。”卡巴斯基在報告中指出。
越獄提示買賣
ChatGPT越獄並不是什麼新鮮事，例如去年臭名昭著的「Grandma」漏洞。然而，其中許多漏洞現已被OpenAI堵住。但是，它們仍然存在，並且正在打折，如果您知道去哪裡尋找的話。卡巴斯基的報告稱，2023 年期間「發現了 249 個分發和銷售此類提示套件的提議」。
據稱，這些越獄提示很常見，是由「社交平台和影子論壇成員」的用戶發現的。然而，該安全公司指出，並非所有提示都是為了執行非法操作而設計的，有些提示是為了獲得更精確的結果。
報告繼續指出，從通常受到限制的 ChatGPT 獲取資訊很簡單，只需再次詢問即可。
該報告繼續指出，ChatGPT 還可以用於滲透測試場景，以及在尋求傷害並專注於非法活動的「邪惡」模組中使用基本 LLM。
人工智慧犯罪熱潮
「欺騙」ChatGPT 或「邪惡」ChatGPT 聲明的數量正在增加，因為它們僅旨在網路釣魚和串流用戶資料。這與在暗網上非法出售的被盜ChatGPT Plus帳戶的數量相符。人工智慧相關貼文的數量在 2023 年 4 月達到頂峰，但惡意論壇的用戶仍然持續感興趣。卡巴斯基以嚴厲警告結束報告：
“語言模型的能力很可能很快就會達到可以進行複雜攻擊的水平。”
在此之前，請記得盡可能確保您的個人資訊安全。
發佈留言