OpenAI hat ein Opt-in-Feature in ChatGPT deaktiviert, das das öffentliche Teilen von Gesprächen über einen Schalter mit der Bezeichnung „Dieses Gespräch auffindbar machen“ ermöglichte, nachdem Berichte bekannt wurden, die zeigten, dass Tausende von geteilten Chats von Suchmaschinen wie Google und Bing indexiert wurden.

Während des Experiments generierten Nutzer, die auf „Teilen“ klickten und dann das Kästchen für die Auffindbarkeit ankreuzten, öffentliche Links unter chatgpt.com/share.

Diese URLs wurden von Suchmaschinen gecrawlt und konnten über einfache Abfragen wie `site:chatgpt.com/share` gesucht werden.

Fast Company identifizierte über 4.500 öffentliche Chat-Links, die von Google indexiert wurden, einige enthielten persönliche oder sensible Informationen, einschließlich Namen, Standorte, Lebensläufe, Hinweise zur psychischen Gesundheit und Arbeitsplatzdiskussionen.

Obwohl keine expliziten Benutzerkennungen enthalten waren, legte der Inhalt in vielen Fällen identifizierbare Details offen.

Der Chief Information Security Officer von OpenAI, Dane Stuckey, beschrieb die Funktion als ein „kurzlebiges Experiment“ und räumte ein, dass sie „zu viele Gelegenheiten geboten hat, für die Menschen versehentlich Dinge zu teilen, die sie nicht beabsichtigt hatten“.

Das Unternehmen bestätigte, dass die Einstellung zur Auffindbarkeit in allen Benutzerkonten entfernt wurde und dass die Zusammenarbeit mit Google und anderen Suchanbietern läuft, um bereits indexierte Links zu löschen, mit dem Ziel, den Prozess bis zum folgenden Morgen abzuschließen – den 1.–2. August 2025.

Trotz mehrerer Bestätigungsschritte während des Teilens – und der Anonymisierung der Chatverläufe – schienen viele Nutzer nicht zu wissen, dass das Ankreuzen des Auffindbarkeitskästchens ihre Gespräche für die globale Suchindexierung zugänglich machen würde.

OpenAI räumte ein, dass die Sprache und Präsentation der Funktion möglicherweise nicht ausreichend klar waren.

Die Sichtbarkeit sensibler Inhalte, die von persönlichem Trauma über Jobbewerbungen und Gesundheitsfragen bis hin zu propietärem Code und Arbeitsplatzproblemen reichte, führte zu Kritik von Sicherheitsanalysten, die darauf hinwiesen, dass der Vorfall größere Herausforderungen beim Entwerfen von Datenschutzmaßnahmen und der Klarheit der Benutzeroberfläche in KI-Tools aufzeigte.

OpenAI betonte, dass der Vorfall nicht auf einen Datenschutzverstoß zurückzuführen war, sondern auf eine optionale, benutzeraktivierte Funktion.

Das Unternehmen bestätigte auch, dass das Löschen eines Gesprächs oder Links innerhalb von ChatGPT nicht automatisch bedeutet, dass es aus den Suchmaschineneinträgen entfernt wird, bis diese Suchmaschinen die zwischengespeicherten Einträge erneut crawlen.

Getrennt davon berichteten Quellen, dass die KI-App von Meta weiterhin das öffentliche Indizieren von geteilten Gesprächen über Google erlaubt.

Als Reaktion auf die Berichterstattung über den Vorfall von OpenAI hat Meta klarere Warnungen zur Sichtbarkeit eingeführt, obwohl sein auffindbarkeitsermöglichendes „Entdecken“-Feed weiterhin der Suchmaschinenindizierung unterliegt.