OpenAI enthüllt, wie Betrüger versuchen, ChatGPT für verschiedene Zwecke zu missbrauchen, von modernen Formen des Liebesbetrugs bis zur Diffamierung des japanischen Premierministers.

Am Mittwochmorgen veröffentlichte OpenAI die neueste Ausgabe seines Berichts über Bedrohungen durch Geheimdienste. Screenshots zeigen einen mutmaßlichen Liebesbetrug, der wahrscheinlich aus Kambodscha stammt. Nutzer baten ChatGPT, ein Logo für einen gefälschten High-End-Partnervermittlungsdienst zu erstellen, Bilder von Frauen zu generieren und Steuerberatung zu leisten. Unglaublicherweise gaben die Nutzer bei der Anfrage nach Finanzberatung als Beruf “Betrüger” an.

OpenAI schätzte, dass der Betrug an indonesische Männer, die an luxuriösen Lifestyle-Inhalten interessiert waren, “wahrscheinlich Hunderte von Opfern pro Monat betrog”.

Das Unternehmen erklärte, dass die Betrüger die Nutzer dazu brachten, aus einer Liste fiktiver Frauen und Beziehungstypen auszuwählen. Nach dem Aufbau von Vertrauen leitete ein KI-Chatbot, der sich als flirtende Rezeptionistin ausgab, das Gespräch zu Telegram weiter. Auf Telegram nutzten Menschen ChatGPT und API, um die Nutzer zu gefälschten Dating-Diensten zu leiten und sie dazu zu bewegen, eine Reihe von “Aufgaben” oder “Missionen” zu erfüllen, die “immer höhere Zahlungen per Banküberweisung oder digitaler Zahlungsbörse erforderten”.

OpenAI gab an, nicht nur gefälschte Romanzen vereitelt zu haben. Das Unternehmen sperrte auch “eine Gruppe von ChatGPT”-Konten, die sich als Anwaltskanzleien, einzelne Anwälte und US-Strafverfolgungsbehörden ausgaben.

OpenAI erklärte, dass die Betrüger ChatGPT baten, eine gefälschte Mitgliedskarte der New York State Bar Association zu erstellen und Social-Media-Inhalte zu generieren, um den Betrug voranzutreiben.

Eine der dreistesten Operationen, die OpenAI hervorhob, stammte von einer Person mit Verbindungen zu chinesischen Strafverfolgungsbehörden. Diese Person versuchte, ChatGPT zu nutzen, um eine “verdeckte IO” oder Geheimdienstoperation gegen die japanische Premierministerin Sanae Takaichi zu planen, nachdem Takaichi öffentlich Menschenrechtsprobleme in der Mongolei kritisiert hatte.

OpenAI gewann wichtige Einblicke in ähnliche “Cyber-Sonderoperationen”, die darauf abzielten, “Dissens zu unterdrücken und Kritiker online und offline zum Schweigen zu bringen”, unter anderem, weil die Person ChatGPT bat, “regelmäßige Statusberichte zu bearbeiten und zu überarbeiten”.

Vertreter der chinesischen und japanischen Botschaften reagierten nicht sofort auf die Bitte von BUSINESS INSIDER (BI) um eine Stellungnahme.

ChatGPT weigerte sich, bei der Planung der Operation gegen Takaichi mitzuwirken, so OpenAI. Der Nutzer ließ sich davon nicht beirren und bat später um “einen Statusbericht über dieselbe Kampagne”, was darauf hindeutet, dass die Operation fortgesetzt wurde.

OpenAI sagte, dass die Aktivitäten des Nutzers die Verwendung chinesischer KI-Modelle wie DeepSeek und Qwen umfassten. Auf der Grundlage der verfügbaren Daten sagte OpenAI, dass es auch das Ausmaß der Einflussnahme-Operationen kartieren könne.

“So sieht moderne transnationale Unterdrückung in China aus”, erklärte Ben Nimmo, leitender Ermittler im Intelligence- und Investigationsteam von OpenAI, gegenüber Reportern vor der Veröffentlichung.