Deepfake-Missbrauch gegen Parlamentarierinnen ist seit Jahren dokumentiert, diskutiert, angeprangert — rechtliche Konsequenzen für die KI-Anbieter, deren Modelle dabei eingesetzt werden, gab es bislang kaum. Jess Asato, Labour-Abgeordnete im britischen Unterhaus, will das ändern. Sie klagt als erste Politikerin direkt gegen xAI: Grok-Nutzer haben das Modell verwendet, um sexuell explizite Bilder von ihr zu generieren sowie ein Video, das sie bewusstlos und als Ziel eines sexuellen Übergriffs darstellt. Das Material wurde anschließend auf X verbreitet.
Grok als Werkzeug — und wer das Werkzeug verantwortet
Die rechtliche Konstruktion ist hier der Kern. Asato klagt nicht gegen die Nutzer, die Grok eingesetzt haben. Sie klagt gegen xAI selbst — auf Grundlage britischer Gesetze zum Missbrauch privater Informationen und zum Datenschutz. Die Argumentation laut Engadget: Wer ein Modell baut und betreibt, das solche Inhalte generiert, übernimmt Mitverantwortung für das, was daraus entsteht. Asato fordert finanziellen Schadensersatz — und eine einstweilige Verfügung, die xAI zur Einhaltung britischen Rechts verpflichtet.
Das klingt nach einer Selbstverständlichkeit, ist aber in Großbritannien bislang ungetestetes rechtliches Terrain. Wer haftet, wenn ein KI-Modell für etwas Schädliches eingesetzt wird — der Nutzer allein, oder auch das Unternehmen, das das Modell gebaut hat? Ich beobachte das bei KMU-Kunden, die zunehmend mit KI-generierten Inhalten konfrontiert werden: gefälschte Kundenbewertungen, fingierte Korrespondenz, manipulierte Vertragsunterlagen. Die Frage, wer dafür geradestehen muss, bleibt in jedem dieser Fälle praktisch ungeklärt.
Erster Test — aber nicht der letzte
Asatos Klage ist kein Einzelfall, sondern ein Testlauf. Ähnliche rechtliche Schritte laufen in den USA — darunter Klagen anderer Betroffener wie Ashley St. Clair sowie aus Baltimore. Parallel dazu gibt es Untersuchungen in der EU und in Kalifornien. Das Besondere an der britischen Klage: Sie zielt explizit auf ein Haftungspräzedenz für KI-Unternehmen und nicht nur auf die unmittelbaren Nutzer.
Der Ausgang entscheidet mit darüber, ob KI-Anbieter künftig für nutzergenerierten Output ihrer Modelle einstehen müssen — oder ob die Plattform weiter argumentieren kann, dass die Verantwortung allein beim jeweiligen Nutzer liegt. Eine Stellungnahme von xAI ist bislang nicht bekannt. Das Schutzversprechen, das KI-Anbieter üblicherweise formulieren — Missbrauch verstoße gegen die Nutzungsbedingungen, damit erledige sich die Sache — greift hier nicht überzeugend, wenn das Modell erkennbar für genau diesen Missbrauch verwendet wurde und die Plattform ihn trotzdem verbreitet hat.
Der EU AI Act reguliert ab 2025 Hochrisiko-KI-Systeme und thematisiert explizit nicht-konsensuelle intime Inhalte. Aber zwischen Regulierung auf dem Papier und tatsächlich durchgesetzter Haftung vor Gericht liegt viel Raum. Asatos Klage versucht, diesen Raum durch ein britisches Gericht zu verkleinern — und britische Richter werden entscheiden müssen, wie weit die Verantwortungskette zwischen Werkzeug und Werkzeughersteller tatsächlich reicht.
