Dabei nutzen Hacker Tools, um die Beschränkungen von ChatGPT zu umgehen. Der Chatbot hilft danach ungewollt bei der Entwicklung von Malware oder der Verfeinerung von Betrugsmaschen.
Die Forscher von CheckPoint, einem Sicherheitsanbieter, haben von Hackern entwickelte Tools entdeckt, die es den Cyberkriminellen erlauben, die Sicherheitsbeschränkungen von ChatGPT zu umgehen.
ChatGPT’s hoher Bekanntheitsgrad lockt seit längerem schon Cyberkriminelle an. Forscher stießen bereits im März auf neue Malware-Familien, die den Namen von ChatGPT nutzen, um ihre Opfer hinter’s Licht zu führen. Es handelt sich meist um mobile Apps oder Browsererweiterungen, die ChatGPT-Tools imitieren – hauptsächlich, um Anmeldedaten zu stehlen.
Auch bei der Erstellung von Schadsoftware unterstützt der Chatbot die Hacker. Office-Dokumente, PDFs und bildbasierte Ziele sowie betrügerische Python-Programmskripte, die kryptografische Operationen durchführen sind hier nur einige Beispiele für Infostealer. Die Befürchtung der CheckPoint Sicherheitsforscher ist, dass künstliche Intelligenzen auf diesem Weg im Lauf der Zeit mehr über die Entwicklung von Malware lernen und zukünftig in der Lage sind, noch stärkere Schadprogramme zu erstellen, die dann ein großes Problem darstellen.
Das Schreiben besonders echt wirkender Phishing-E-Mails ist ein weiterer Einsatzzweck für ChatGPT. Die Federal Trade Commission in den USA hat bereits davor gewarnt, dass ChatGPT dazu verwendet werden könnte, den Internet-Betrug „zu beschleunigen“. Für Krypto-Betrugszwecke wird ChatGPT ebenfalls ausgenutzt. Das ChatGPT-Logo haben Hacker zum Beispiel umfunktioniert und den Namen von Elon Musk gestohlen, um so Opfer zu Krypto-Werbeaktionen zu locken.