Florida klagt OpenAI wegen Gefährdung von Minderjährigen
Die Staatsanwaltschaft von Florida hat rechtliche Schritte gegen OpenAI, das Unternehmen hinter ChatGPT, eingeleitet. In der Klage wird dem Entwickler vorgeworfen, die Sicherheit von minderjährigen Nutzern zu gefährden und deren Eltern über die Risiken der Anwendung in die Irre zu führen. Generalstaatsanwalt James Uthmeier äußerte, dass die App nicht nur potenziell schädliche Inhalte bereitstelle, sondern auch Suchtpotenzial aufweise. Für jeden festgestellten Verstoß fordert er eine Geldstrafe von 10.000 Dollar (ungefähr 8600 Euro).
Uthmeier erklärte weiter, dass die Imitation menschlicher Eigenschaften und Empathie durch ChatGPT dazu führe, dass Nutzer bereitwillig persönliche Informationen teilen. Dies könne zu Verwirrungen und Verletzungen führen, die möglicherweise auch finanzielle Folgen für die Eltern nach sich ziehen. In der umfänglichen Klageschrift, die 83 Seiten umfasst, wird angeführt, dass die Anwendung sogar Amokläufern Unterstützung bieten könnte und Nutzer zu Selbstverletzungen anregen könnte.
Unzureichende Altersverifikation in der Kritik
Ein weiterer Aspekt der Klage betrifft das mangelnde Vorhandensein einer effektiven Altersverifizierung für die Nutzung von ChatGPT. Uthmeier betonte, dass trotz des Wissens um die Nutzung dieser App durch Minderjährige, einschließlich vorpubertärer Kinder, keinerlei Maßnahmen getroffen wurden, um den Zugang zu beschränken. Während die Nutzung für Kinder unter 13 Jahren verboten ist, benötigen 13- bis 17-Jährige die Zustimmung ihrer Eltern. Dennoch gibt es keine formelle Altersprüfung.
Im Januar führte OpenAI ein System ein, das das Alter der Nutzer schätzt und den Umgang mit der App anpasst. Ob diese Maßnahme jedoch ausreicht, um die Sicherheit jüngerer Nutzer zu gewährleisten, bleibt fraglich.
Studien zu den Auswirkungen von KI-Anwendungen auf Jugendliche
In der Klage wird auch auf eine Studie verwiesen, die negative Effekte von KI-Anwendungen auf Jugendliche untersucht hat. Diese Studie berichtet über Schlafmangel, sinkende Schulnoten und abnehmende soziale Kontakte bei Teenagern, die den Chatbot Character.AI, einen Wettbewerber von ChatGPT, verwendet haben. Solche Ergebnisse verdeutlichen die potenziellen Risiken, die mit der Verwendung von KI-gestützten Anwendungen verbunden sind.
Reaktion von OpenAI auf die Vorwürfe
Bisher hat sich OpenAI nicht öffentlich zu den erhobenen Vorwürfen geäußert. Das Unternehmen hat jedoch bereits bestritten, gegen geltendes Recht verstoßen zu haben, und betont, dass es kontinuierlich an der Verbesserung seiner Sicherheitsvorkehrungen arbeite. Im April hatte Uthmeier eine strafrechtliche Untersuchung gegen OpenAI eingeleitet, die die Rolle von ChatGPT bei einem Amoklauf an der Florida State University im vergangenen Jahr, bei dem zwei Menschen ums Leben kamen, in den Fokus nahm.
Die rechtlichen Schritte aus Florida sind Teil einer zunehmenden Diskussion über die Verantwortung von Technologieunternehmen im Umgang mit ihren Produkten, insbesondere im Hinblick auf den Schutz von Minderjährigen. Die Entwicklungen in diesem Fall könnten weitreichende Auswirkungen auf die Regulierung von KI-Anwendungen in den Vereinigten Staaten haben.
„`
Quellen: n-tv, Der Spiegel
