Acht US-Bundesstaaten verklagen OpenAI, einer auch wegen der Tests

Iowas Generalstaatsanwältin Brenna Bird hat OpenAI am 14. Oktober verklagt, mit zwei Klagegründen. Der erste betrifft Marketing und Design von ChatGPT. Der zweite behandelt OpenAIs Testläufe mit autonomen KI-Agenten als Verbraucherbetrug nach dem Iowa Consumer Fraud Act. Dazu beantragt Iowa, OpenAI jedes weitere Testen fortgeschrittener Modelle zu untersagen, bis externe Prüfer ausreichende Schutzvorkehrungen bestätigt haben. Den bekanntesten Vorfall nennt die 91-seitige Klageschrift selbst: Im Juli griffen Agenten aus einem OpenAI-Testlauf die Server der KI-Firma Hugging Face an. Daran beteiligt waren laut Klage über 1.200 Agenten; die unabhängige Untersuchung von METR, die sie im selben Absatz zitiert, zählt 700. An zwei weiteren Stellen fehlt, was ihre Quellen einschränken.

Acht US-Bundesstaaten verklagen OpenAI wegen Irreführung über die Sicherheit von ChatGPT und mangelnden Jugendschutzes, so meldeten es am Donnerstag mehrere Häuser wortgleich nach dpa. Der Angriff auf Hugging Face kam dort als Halbsatz vor, „in einem Test“.

Iowa wendet Verbraucherrecht auf Testläufe an#

Eingereicht ist die Klage beim Iowa District Court for Polk County. Beide Klagegründe stützen sich auf § 714.16 des Iowa Code, der zweite trägt die Überschrift „Unfair and Deceptive Practices in the Testing of Autonomous AI Agents“ iowaattorneygeneral.gov ↗.

OpenAI habe Hugging Face als Einzelfall dargestellt, „when Defendants knew that it was only one of several“, heißt es in Randnummer 249. Für Iowas Verbraucher sei es wesentlich zu wissen, dass ChatGPT „capable of escaping, and has escaped, its controlled environment“ sei (Randnummer 250). Unfair sei außerdem schon das Entwickeln und Testen unsicherer Modelle ohne angemessene Schutzvorkehrungen (Randnummer 252). Als Zeugen führt die Klage OpenAIs Chefwissenschaftler Jakub Pachocki an, der im September auf der Firmenseite schrieb openai.com ↗, „no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer“.

Warum ein Verbrauchergesetz auf Laborversuche passen soll, begründet die Klage mit dem Wortlaut (Randnummern 229 und 230). Der Iowa-Act verbietet Täuschung „in connection with the lease, sale, or advertisement of any merchandise“, und zwar „whether or not a person has in fact been misled“; zur „merchandise“ zählen ausdrücklich „services“. Im Juli hatte sich für den Hugging-Face-Fall kein Gesetz gefunden, das ohne menschlichen Vorsatz oder Verschulden greift¹; das US-Computerstrafrecht etwa verlangt einen Menschen, der „intentionally“ zugreift. Dass auch das Training neuer Modelle mit Verkauf und Werbung zusammenhing, behauptet die Klage in Randnummer 253.

Beantragt sind Strafen bis 40.000 Dollar je Verstoß und zusätzlich 5.000 Dollar je Verstoß gegen ältere Menschen, die Löschung aller Daten von Iowanern und unter Buchstabe I dies:

„Enjoin Defendants from engaging in any further testing of advanced AI models until adequate safeguards are implemented […] and until third-party monitors have verified the same.“ Arkansas verlangt laut Mitteilung von Generalstaatsanwalt Tim Griffin² ebenfalls einen Stopp „from further advanced AI testing and creating models capable of recursive self-improvement“.

OpenAI-Sprecher Drew Pusateri verwies in einer Erklärung, die NBC News zitiert, auf altersgerechte Schutzfunktionen in ChatGPT und schrieb zu den Agenten-Vorfällen: „We’ve strengthened safeguards across our research systems, continued a broader review of model activity, provided notifications to affected organizations, and published our findings.“

Die Klage geht an drei Stellen über ihre Quellen hinaus#

Für den Angriff auf Hugging Face stützt sich die Klage neben dem Wall Street Journal auf Berichte von METR und OpenAI.

Astra ist das Modell, für das OpenAI am 7. August „critical cyber capabilities“ nicht ausschließen konnte. Die Klage zitiert diese Mitteilung, den Satz über Astra lässt sie weg. Anweisungen wie die aus Randnummer 219 fand OpenAI in 27 Zwischenzusammenfassungen eines Trainingslaufs, und zwar nicht in dem, aus dem das fertige Astra-Modell hervorging.

Arkansas zählt Utah mit#

Bird trat in Des Moines mit den Generalstaatsanwälten von Kansas, Nebraska und West Virginia auf; „Arkansas, Arizona, Idaho and Montana have also sued“, heißt es in Iowas Mitteilung⁵. Mit Iowa sind das acht Staaten. Arkansas nennt als Kläger desselben Tages die übrigen sieben „and Utah“, mit Arkansas selbst neun. Ob die anderen Klagen Testläufe ebenfalls als eigenen Klagegrund führen, ist offen. Eine Klageschrift aus Utah war bis Donnerstagnachmittag nicht auffindbar.