Auf der Plattform X werden durch das KI-System Grok Bilder erzeugt, die Frauen sexualisieren und Kinder in sexualisierter Weise darstellen oder „entkleiden“.

Diese Bilder entstehen auf gezielte Aufforderung von Nutzern, ermöglicht durch unzureichende Schutzmechanismen des Systems und der Plattform selbst. Auch die kürzliche Einführung einer Bezahlschranke für diese KI-Funktion stellt keine ausreichende Schutzmaßnahme dar.  Es handelt sich nicht um harmlose Technikexperimente, sondern um eine Form digitaler sexualisierter Gewalt. KI-generierte Inhalte können die Menschenwürde verletzen, Übergriffe im digitalen Raum fördern und zur Normalisierung sexualisierter Darstellungen beitragen, insbesondere von Minderjährigen.

Dass dies möglich ist, ist ein Problem der Regulierung und Durchsetzung. Denn das EU-Recht hat hierzu bereits klare Vorgaben getroffen. Die Bundesregierung ist daher nicht nur befugt, sondern verpflichtet, gegen solche Praktiken vorzugehen.

Wir erwarten, dass die Bundesregierung als Vorreiter geltendes EU-Recht konsequent umsetzt, und fordern sie auf, unverzüglich folgende Maßnahmen zu ergreifen:

1.    Sexualisierte KI-Darstellungen von realen oder realistisch wirkenden Frauen und insbesondere Kindern ausdrücklich zu verbieten, unabhängig von einer Kennzeichnung als „fiktiv“ oder „KI“.

2.    Plattformen und KI-Anbieter haftbar zu machen, wenn sie durch unzureichende Schutzmechanismen die Erzeugung oder Verbreitung solcher Inhalte ermöglichen.

3.    Wirksame Sanktionen festzulegen, insbesondere empfindliche Bußgelder und die Abschaltung derjenigen KI-Funktionen, mit denen solche Inhalte erzeugt werden.

4.    Bei wiederholten oder systematischen Verstößen den Betrieb der betreffenden KI-Funktion und ggf. der Plattform in Deutschland zu untersagen.

5.    Nutzer:innen rechtlich zur Verantwortung zu ziehen, wenn sie vorsätzlich KI-Systeme zur Erzeugung sexualisierter Darstellungen von Kindern oder nicht einwilligenden Personen einsetzen und/oder verbreiten.

Digitale Gewalt ist reale Gewalt. Wenn Tech-Konzerne wie X ihre KI-Modelle ohne ethische Leitplanken auf die Gesellschaft loslassen, ist der Staat zum Schutz seiner Bürger:innen verpflichtet. Der Schutz von Kindern und die Menschenwürde dürfen nicht am Geschäftsmodell einer Plattform scheitern.

Wir erwarten den Schutz von Frauen und Kindern vor technologischer Ausbeutung. Jetzt.

Über uns

Wir sind Frauen, die sich entschieden haben zu handeln, weil die Regierung es nicht tut.

Nala Wahle arbeitet als Beraterin einer Bundestagsabgeordneten im Deutschen Bundestag und ist Aktivistin. Als Betroffene von Menschenhandel, sexualisierter Gewalt sowie digitaler Gewalt in Form von Bedrohungen und der Verbreitung von Nacktbildern weiß sie aus eigener Erfahrung, welche realen Gefahren von digitalen Plattformen ausgehen können. Plattformen wie X (ehemals Twitter) bieten durch fehlende Regulierung, mangelhafte Moderation und den Einsatz von Künstlicher Intelligenz neue Werkzeuge für Täter, um Gewalt auszuüben, zu normalisieren und zu verbreiten. Für Nala ist klar: Frauen, Kinder und alle Menschen müssen wirksam vor digitaler Gewalt, KI-Missbrauch und deren Instrumentalisierung geschützt werden. Wegsehen ist keine Option, politisches Handeln ist Pflicht.

Nadine Primo ist selbstständige Autorin und Speakerin. In ihrer Arbeit setzt sie sich seit Jahren mit weiblicher Selbstbestimmtheit, anhaltenden diskriminierenden Strukturen im Patriarchat und Gewalterfahrungen auseinander. Frauen, die sich öffentlich äußern, Missstände benennen und Veränderung fordern, sehen sich online wie offline regelmäßig mit Anfeindungen, Drohungen und Hass konfrontiert. Auch Nadine Primo ist selbst betroffen. Gerade deshalb ist es ihr ein zentrales Anliegen, konsequent gegen Frauenhass im Netz vorzugehen. Moralisch-ethische Verantwortung darf nicht an Plattformgrenzen enden und rechtliche Standards müssen für alle gelten, auch für Tech-Milliardäre und ihre Plattformen.

Mit dieser Petition fordern wir Verantwortung, Schutz und verbindliche Regeln. Digitale Räume sind keine rechtsfreien Räume. Menschenwürde, Sicherheit und Gleichberechtigung müssen auch online gelten.

(Aus Transparenzgründen teilen wir mit, dass die Petition am 12.01.25 durch konkrete Forderungen an die entsprechenden Bundesministerien angepasst wurde.)