KI-Bildgenerator schränkt Dienste wegen Missbrauchs ein

Wegen wiederholten Missbrauchs seiner Software hat der KI-Bildgenerator Midjourney seine Dienste eingeschränkt. Beim Erstellen von Bildern kann nun etwa das Wort „verhaften“ nicht mehr verwendet werden, wie die Nachrichtenagentur AFP am Donnerstag feststellte. Außerdem wurde das Angebot einer kostenlosen Testversion ausgesetzt.

Der Dienst von Midjourney erzeugt mittels künstlicher Intelligenz höchst realistisch aussehende Bilder auf der Grundlage von schriftlichen Vorgaben der Nutzer. In den vergangenen Tagen sorgte insbesondere ein künstlich erstelltes Bild von Papst Franziskus in einer glänzend weißen Daunenjacke sowie eines, das die Verhaftung von Ex-US-Präsident Donald Trump zeigt, für Aufsehen.

Ein mit KI-Software manipuliertes Bild zeigt angeblich Bidens Verhaftung. Foto: Screenshot von Twitter-Post

Genial! Nachdem von einer KI entworfene Fotos von Trumps angeblicher Verhaftung im Netz verbreitet wurden, hat man hier mal den Spieß umgedreht. Und auch wenn’s fake ist, ist es dennoch Balsam für die Seele.

Folgen @unblogd pic.twitter.com/eLSADPiGVt

— Neues Forum Freiheit (@nf_freiheit) March 24, 2023

Beim Versuch, ein ähnliches Bild zu generieren, blendet Midjourney jetzt den Hinweis ein, dass das Word ‚verhaftet‘ verboten sei. Verbunden mit der Warnung: „Die Umgehung dieses Filters, um gegen unsere Regeln zu verstoßen, kann dazu führen, dass Ihr Zugang gesperrt wird.“

„Aufgrund einer Kombination aus außerordentlicher Nachfrage und Missbrauch von Testversionen deaktivieren wir vorübergehend kostenlose Testversionen, bis wir unsere nächsten Verbesserungen am System implementiert haben“, erklärte außerdem Midjourney-Gründer David Holz. (afp)