Die regionalen Beschränkungen für den Chatbot wollen die Hacker umgehen. Ein Exploit für ChatGPT ist zudem auf Reddit verfügbar. Der Chatbot erzeugt Hassreden, wenn gewünscht.
Verschiedene Bedrohungsakteure versuchen inzwischen, den Chatbot, ChatGPT und Open AI zu kompromittieren, so der der Sicherheitsanbieter Check Point. Vor allem gegen die technischen Einschränkungen, die eingehende Anfragen aus Russland blockieren sollen richten sich die Angriffe.
Pete Nicoletti, Chief Information Security Officer bei Check Point sagte: „Wir haben festgestellt, dass russische Hacker versuchen, die georegionalen Beschränkungen für ChatGPT zu durchbrechen.“ Jedoch seien russische Hacker nur eine von vielen Parteien, die versuchten, sich durch Auskundschaften des Codes Zugang zu ChatGPT zu verschaffen. „Es wird von guten und schlechten Akteuren genutzt.“
Auf Reddit ist ein Exploit für ChatGPT verfügbar. Bei einem Event für Partner und Kunden von Check Point sagte Nicoletti zudem, dass auf Reddit ein versuchter Exploit namens DAN aufgetaucht sei. DAN, das für „Do anything now“ stehe, nutze ChatGPT, um Texte zu erzeugen, die Vorgaben von OpenAI zu Hassreden umgehen sollen.
Ob es inzwischen Zero-Day-Exploits für ChatGPT gebe, sei noch unklar, so der Sicherheitsexperte weiter. Eine erweiterte Form einer Phishing-Attacke sei wohl der wahrscheinlichste Angriffsvektor.
Nicoletti sagte: „Sie werden sehr gezielt auf Nutzer zugeschnitten sein, da sie bereits über Ihre Bankdaten verfügen, aber jetzt können sie eine viel spezifischere Sprache verwenden, um sie für jedes einzelne Opfer relevant zu machen“, und verglich den Ansatz mit einer Art „narrow-casting“-Datendienst, der ein massives Targeting ermöglicht.
Gil Shwed Check-Point-CEO erklärte auf der Veranstaltung 2023 zum „Jahr der KI“. Über das gesamte Portfolio hinweg werde sein Unternehmen zunehmend künstliche Intelligenz einsetzen.