Bedenken wegen Datenschutz: ChatGPT auch in Kanada unter Beschuss

In Kanada ist eine von der Regierung initiierte Untersuchung zum US-Unternehmen OpenAI eingeleitet. Dieses entwickelt den KI-Bot ChatGPT, der sich seit November des Vorjahres steigender Beliebtheit unter Internetnutzern erfreut. Grundlage des Vorgehens sei eine Beschwerde. Diese habe eine „Sammlung, Verwendung und Weitergabe von persönlichen Daten ohne Zustimmung“ behauptet.

Bereits am Freitag, 31. März, hat Italiens Regierung die Nutzung von ChatGPT massiv eingeschränkt. Zur Begründung zog die zuständige Behörde auch dort Bedenken in Sachen Datenschutz heran. OpenAI habe die Vorgaben der Europäischen Datenschutz-Grundverordnung (EU-DSVGO) nicht eingehalten. Zudem gebe es keine ausreichenden Jugendschutzvorkehrungen. In Deutschland gibt es ebenfalls bereits eine Debatte über eine mögliche Einschränkung des multifunktionellen Bots.

Sammelt der Bot unautorisiert Daten?

In der Vorwoche hatten Tesla-CEO Elon Musk und weitere CEOs und Experten aus dem IT-Bereich eine Nachdenkpause bei der Entwicklung künstlicher Intelligenz gefordert. In einem offenen Brief zitierten die Unterzeichner Bedenken ob der rasanten Entwicklung der Anwendungsmöglichkeiten. Die Potenziale von KI entwickelten sich in einem Tempo, das die Frage nach der Kontrollierbarkeit der Technologie durch den Menschen aufwerfe.

Kanadas Datenschutzbeauftragter Philippe Dufresne erklärte zu der von ihm eingeleiteten Untersuchung:

Wir müssen mit dem rasanten technologischen Fortschritt Schritt halten – und ihm sogar voraus sein.“

Die Führung in Ottawa will unter anderem eruieren, ob ChatGPT auch unautorisiert persönliche Daten sammle.

Salvini fordert EU-weite Vereinbarung zu ChatGPT

Bereits am Montag hat OpenAI der italienischen Regierung eine umfassende Zusammenarbeit angeboten, um die volle Nutzbarkeit der KI wiederherzustellen. Das Unternehmen sicherte zu, die europäischen Bestimmungen zum Datenschutz zu respektieren. Man sei bereit, über eine gemeinsame Vorgehensweise zu beraten, um die Bedenken aus Rom auszuräumen.

Infrastrukturminister Matteo Salvini machte dabei deutlich, an einer zeitnahen Lösung interessiert zu sein. Ein Ausfall der Nutzbarkeit könne italienischen Start-ups und dem IT-Standort Italien schaden. Auch deshalb appellierte Salvini an die Europäische Kommission, sich um eine gesamteuropäische Lösung zu bemühen. Mittlerweile haben auch andere EU-Länder Italiens Datenschutzbehörde ersucht, sie über den Fortgang der Untersuchung auf dem Laufenden zu halten.

KI auf Kommunikation trainiert – nicht auf inhaltliche Richtigkeit

ChatGPT funktioniert auf der Grundlage von maschinellem Lernen und der Verknüpfung verfügbarer Daten über neuronale Netze. Das bedeutet, dass die Menge und Qualität der Daten, mithilfe derer der Bot trainiert wird, über die Form der Kommunikation entscheidet. ChatGPT und andere leistungsfähige KI-Bots sind in der Lage, menschenähnlich zu kommunizieren – und das in mehreren Sprachen.

Die Verwendung des Bots ist grundsätzlich sicher. Die Nutzung setzt voraus, dass der Anwender registriert ist. Die KI erhebt keine Daten selbst, sondern ist auf Daten angewiesen, die Nutzer selbst zuvor ins Internet gestellt hatten. Zugriff auf personenbezogene Daten wie Name, Adresse oder Kontodaten hat ChatGPT nicht – es sei denn, Nutzer übermitteln diese freiwillig. In einigen Fällen haben Nutzer die KI bereits verwendet, um Passwörter zu generieren.

Auch ist die inhaltliche Richtigkeit der Ergebnisse, die der Bot auf Anfragen liefert, nicht gewährleistet. Die Version 4 ist diesbezüglich eine Weiterentwicklung des Vorgängermodells und liefert auch Quellen. Allerdings sind auch dadurch unzutreffende Aussagen der KI nicht ausgeschlossen.

Daten von ChatGPT stammen aus öffentlich zugänglichen Quellen

ChatGPT sammelt oder verwertet keine Daten, die seine Nutzer nicht auch selbst – wenngleich mit deutlich größerem Aufwand – über Suchmaschinen oder öffentlich zugängliche Quellen auffinden könnten. Zu den Daten, auf die der Bot zurückgreift, gehören unter anderem auch öffentlich in sozialen Netzwerken zur Verfügung gestellte Nutzerinformationen.

Experten raten dringend davon ab, persönliche oder sensible Daten in ChatGPT oder andere KI-Tools einfließen zu lassen. OpenAI führt in seinen Datenschutzrichtlinien aus, wie das Unternehmen Daten, die ihm zugänglich werden, verwendet. Dritten stellt OpenAI Daten demnach nur nach Maßgabe gesetzlicher Verpflichtungen zur Verfügung.

Allerdings behält sich OpenAI auch vor, Daten, die Nutzer dem Bot übermitteln, zum Training und zur Verbesserung der KI heranzuziehen.