Berichten zufolge gibt ChatGPT Passwörter in Unterhaltungen preis

Generative KI kann unter bestimmten Umständen unglaublich nützlich sein, aber es gab auch viele Probleme damit. Ungenaue Informationen, gelegentliche Werbung und einige gruselige Vorfälle haben uns gezeigt, dass wir noch weit vom Zeitalter der revolutionären KI entfernt sind. Jetzt ist ein weiteres Problem mit ChatGPT aufgetaucht.

ChatGPT gibt angeblich private Unterhaltungen anderer Benutzer weiter, von denen einige private Anmeldeinformationen wie Benutzernamen und Passwörter enthalten. In den aufgetauchten Screenshots können wir eine Kopie einer privaten Unterhaltung sehen, die zwei Paare von Anmeldeinformationen enthält, die sich auf ein Supportsystem beziehen, das von Mitarbeitern eines Apothekenportals für verschreibungspflichtige Medikamente verwendet wird. Die Unterhaltung zeigt einen Mitarbeiter, der den KI-Chatbot verwendet, um Probleme mit dem Portal zu beheben, und der seine Frustration über dessen schlechte Konstruktion zum Ausdruck bringt. Obwohl ChatGPT aufzeichnet, was Sie ihm sagen, sofern Sie sich nicht abmelden, scheint es seltsam, dass Sie es dazu bringen können, diese privaten Mitteilungen tatsächlich herauszugeben, und es macht uns Sorgen darüber, wie ChatGPT Trainingsdaten speichern und verwalten könnte.

OpenAI/Ars Technica

Die durchgesickerte Konversation geht über diese Screenshots hinaus und enthält Dinge wie den Namen der App, die Store-Nummer und einen Link, der zusätzliche Anmeldedatenpaare offenlegt. All dies geschah offenbar, indem ChatGPT den Benutzern eine seltsame, völlig zusammenhanglose Antwort gab, nachdem sie eine nicht damit zusammenhängende Anfrage gestellt hatten. Andere durchgesickerte Konversationen zu ähnlichen Vorfällen umfassen verschiedene Themen, darunter Details eines unveröffentlichten Forschungsvorschlags, einer Präsentation und eines PHP-Skripts. Die Wahrscheinlichkeit, dass Ihnen so etwas passiert, geschweige denn Ihren Daten, ist wirklich gering, aber es sollte unerwähnt bleiben, dass Sie Ihre persönlichen Daten überhaupt nicht an einen Chatbot weitergeben sollten. Wenn Sie dies getan haben, sollten Sie wahrscheinlich Ihre Anmeldedaten ändern. Sie werden nie wissen, wer Ihre Passwörter erhält.

OpenAI teilte Ars Technica mit, dass dieser Vorfall untersucht wird. In der Vergangenheit hatte OpenAI ChatGPT aufgrund eines Fehlers offline genommen, der Chatverlaufstitel eines Benutzers für nicht verwandte Benutzer offenlegte, sodass das Unternehmen zumindest in der Vergangenheit versucht hat, Probleme zu beheben (möglicherweise erfolglos).

Quelle: Ars Technica