Dem KI-Unternehmen OpenAI drohen juristische Probleme: Der US-Bundesstaat Florida will den ChatGPT-Entwickler wegen der Gefährdung von Kindern und Jugendlichen belangen. Risiken seien bewusst ignoriert worden.
Der US-Bundesstaat Florida hat das KI-Unternehmen OpenAI und dessen Geschäftsführer Sam Altman verklagt. Der Generalstaatsanwalt wirft dem Unternehmen in der zivilrechtlichen Klage vor, Risiken seines Chatbots ChatGPT für Kinder und Jugendliche bewusst verschwiegen und kommerzielle Interessen in den Vordergrund gestellt zu haben.
OpenAI habe interne Sicherheitswarnungen unter Verschluss gehalten und Nutzerinnen und Nutzer über die Gefahren des Produkts getäuscht. Dadurch seien auch „Kinder einer großen Gefahr ausgesetzt“ worden. In der Klage wird OpenAI und Altman zur Last gelegt, sie hätten der schnellen Vermarktung und kommerziellen Gewinnerzielung Vorrang vor der Sicherheit von Nutzenden eingeräumt.
Staatsanwalt kritisiert fehlende Alterskontrolle
OpenAI habe ein Produkt auf den Markt gebracht, das zur Gewalt ermutige und süchtig mache. Die Klage bezieht sich auf zwei Schießereien, bei denen die Täter Berichten zufolge während der Planung ihrer Verbrechen Fragen an ChatGPT gestellt haben sollen. In der Klage heißt es auch, ChatGPT sammle Daten von Minderjährigen, ohne dass es eine angemessene Aufsicht durch Eltern gebe.
Der Staatsanwalt kritisierte zudem das Fehlen einer Altersverifizierung für die App. Die Nutzung von ChatGPT ist für Kinder unter 13 Jahren verboten, unter 17 ist die Zustimmung der Eltern erforderlich. Eine formelle Altersverifikation ist aber nicht erforderlich. Stattdessen hatte OpenAI im Januar ein System eingeführt, das das Alter der Nutzen schätzen und das Verhalten der App entsprechend anpassen soll.
