„Alexa, wie war ich?!“ – Cloud-Cam-Software von Amazon filmt unbemerkt Intim-Videos

Um die Qualität der Software zu verbessern, werten Mitarbeiter von Amazon Bildmaterial von Cloud-Cams aus, sollte es zuvor zu Fehlalarm gekommen sein. Bloomberg zufolge sollen dabei auch intime Details die Runde gemacht haben.

Der Amazon-Konzern ist erneut im Zusammenhang mit einer seiner Anwendungen künstlicher Intelligenz für die eigenen vier Wände ins Gerede gekommen. Bereits im Zusammenhang mit seiner Sprachassistentin Alexa musste Amazon einräumen, dass der Nutzer bei bestimmten Einstellungen in Kauf nimmt, dass Mitarbeiter die Gespräche in seiner Wohnung mithören und in weiterer Folge verschriftlichen.

Die Funktion soll der Verbesserung der Software dienen, die beauftragten Mitarbeiter unterliegen strengen Geheimhaltungspflichten. Es ist davon auszugehen, dass auch andere Anbieter oder Entwickler von Sprachassistenten auf ähnliche Weise arbeiten.

„Clips, die Hauseigentümer mit hoher Wahrscheinlichkeit nicht geteilt wissen wollen“

Nun enthüllte die Nachrichtenplattform Bloomberg, dass auch Bilder und Videosequenzen, die das Alarm- und Sicherheitssystem Cloud Cam in Wohnungen aufgezeichnet hat, zu Zwecken der Sichtung an Mitarbeiter in Indien und Rumänien geschickt wurden. „Obwohl Amazon darauf beharrt, dass alle Mitschnitte freiwillig übermittelt werden“, heißt es dort, „haben Teams auch Clips zu Gesicht bekommen, die Hauseigentümer mit hoher Wahrscheinlichkeit nicht geteilt wissen wollen, darunter auch seltene Sequenzen von Menschen, die miteinander Geschlechtsverkehr haben“.

Der ebenfalls über Alexa durch Stimmen steuerbare Kameraservice Cloud Cam enthält nach eigener Beschreibung „alles, was Sie brauchen, um Ihr Zuhause sicher zu erhalten, unter anderem das stetig einsatzbereite Bewegungsmelder-Feature, das hilft, von Anfang an Aktivitäten einzufangen“. Da es sich um ein System handelt, das auf künstlicher Intelligenz (KI) beruht, muss es allerdings auch stetig weiterentwickelt werden, um Impulse richtig deuten zu können.

Bloomberg zufolge sollen Mitarbeiter in Indien und Rumänien Clips übermittelt bekommen haben, bei denen die KI zu Unrecht angeschlagen haben soll. Die Sichtung soll der Verbesserung des Produkts dienen – beispielsweise indem dieses lernt, Haustiere oder geladene Gäste von Einbrechern zu unterscheiden – und Fehlalarm verhindern, da diese zur Unzufriedenheit von Kunden führen. Allerdings seien dazu nicht nur Inhalte vom Kunden selbst proaktiv gemeldet und übermittelt worden.

Keine explizite Erwähnung in den AGBs

Im Zusammenhang mit den Optimierungsbemühungen sollen nicht nur Clips von hausinternen Testern, sondern auch solche von Kunden an die Kontrollabteilung gelangt sein, wo täglich etwa rund 150 Videos gesichtet und ausgewertet würden. Die Kunden müssen allerdings zuvor in diese Option eingewilligt haben.

In den Nutzungsbedingungen selbst sei jedoch, wie Bloomberg eruierte, nichts explizit davon zu lesen, dass Videos zur Problembehandlung von Amazon-Mitarbeitern gesichtet würden. Lediglich auf einer Q&A-Seite im Internet werde darauf hingewiesen.

Ein Amazon-Sprecher versicherte, dass „wir die Privatsphäre ernst nehmen und Nutzer der Cloud Cam die volle Kontrolle darüber haben, wer ihre Videos zu Gesicht bekommen wird“. Lediglich als Fehlalarm gemeldete Aufnahmen würden durch Mitarbeiter gesichtet werden. Alle anderen Sequenzen blieben privat.

Es gebe eine engmaschige Kontrolle darüber, wer die Videos sehen dürfe, mit schwerwiegenden Restriktionen bezüglich Zugriffs- und Kommunikationsoptionen. Dennoch, so verriet ein Whistleblower Bloomberg, „hat das andere Mitarbeiter nicht davon abgehalten, Aufnahmen an Nicht-Teammitglieder weiterzuleiten“. Im Fall der Sex-Szenen soll nicht nur die Entschlossenheit, künftige Fehlalarme zu vermeiden, das Motiv gewesen sein.