美国八州联合起诉OpenAI，指控ChatGPT危害未成年人
US-Klagewelle: Acht Bundesstaaten verklagen OpenAI wegen ChatGPT-Gefahren | heise online
美国八个州于周三对OpenAI提起各自独立但协调一致的跨党派诉讼，指控其淡化ChatGPT对未成年人的风险并误导性宣称该聊天机器人安全。亚利桑那、阿肯色、爱达荷、爱荷华、堪萨斯、蒙大拿、内布拉斯加和西弗吉尼亚参与其中，诉讼主要依据消费者保护法，要求罚款、赔偿并交出相关收入，还寻求年龄验证、使用时长限制和数据删除等措施。OpenAI回应称已有家长控制、休息提醒等未成年人保护措施，并表示将加强与各州合作制定全行业AI规则。
推荐理由
AI 评分 73
八州联合起诉OpenAI，读者可了解各州对ChatGPT未成年人风险的具体指控与整改要求。
主题
正文
当前显示原文，中文全文译文尚未就绪。
close notice
This article is also available in English.
It was translated with technical assistance and editorially reviewed before publication.
.
Acht US-Bundesstaaten haben am Mittwoch Klagen gegen OpenAI eingereicht. Sie werfen dem Unternehmen vor, die Risiken von ChatGPT für Minderjährige heruntergespielt und den Chatbot irreführend als sicher dargestellt zu haben.
Weiterlesen nach der Anzeige
An der koordinierten, parteiübergreifenden Klagewelle beteiligen sich Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia. Jeder Bundesstaat hat eine eigene Klage eingereicht. Vier Generalstaatsanwälte kündigten das gemeinsame Vorgehen auf einer Pressekonferenz in Iowa an.
Nach Darstellung der Kläger soll ChatGPT Nutzer zu Selbstverletzungen und zum Suizid angeleitet und sie bei der Planung von Gewalttaten unterstützt haben. Der Chatbot könne zudem Wahnvorstellungen verstärken und gefährliche medizinische Ratschläge geben. Den Klägern zufolge soll ChatGPT durch übermäßige Zustimmung und vorgetäuschtes Mitgefühl das Vertrauen der Nutzer gewinnen.
Einzelne Staaten werfen OpenAI vor, persönliche Daten von Minderjährigen ohne die erforderliche Einwilligung erhoben zu haben. Nach Darstellung Arizonas soll der Chatbot junge Nutzer zudem möglichst lange binden, um persönliche Daten für kommerzielle Zwecke zu sammeln.
Weitreichende Forderungen
Die Klagen stützen sich vor allem auf Verbraucherschutzgesetze und fordern Geldbußen und Schadenersatz. Laut Iowas Generalstaatsanwältin Brenna Bird wollen die Kläger zudem, dass OpenAI Einnahmen herausgibt, die es erzielt habe, während Minderjährige durch ChatGPT geschädigt worden seien.
Die Staaten wollen eine ganze Reihe von Maßnahmen durchsetzen, darunter Alterskontrollen, Nutzungszeitbegrenzungen und die Löschung von Daten. Einige Bundesstaaten wollen darüber hinaus Tests und den Einsatz fortgeschrittener KI-Modelle nur in unabhängig überprüften, sicheren Umgebungen erlauben. Arkansas geht noch weiter und verlangt, sowohl weitere Tests fortgeschrittener KI als auch die Entwicklung rekursiv selbstverbessernder Modelle bis zur Einführung ausreichender Sicherheitsvorkehrungen auszusetzen. Die Kläger verweisen auf Sicherheitsvorfälle mit KI-Agenten von OpenAI.
Weiterlesen nach der Anzeige
OpenAI reagiert auf Vorwürfe
OpenAI verweist auf bestehende Schutzmaßnahmen für Minderjährige. Dazu zählten Elternkontrollen, Pausenerinnerungen und weitere Sicherheitsfunktionen, teilte OpenAI mit. Das Unternehmen wolle den Schutz ausbauen und mit den Bundesstaaten an Regeln für die gesamte KI-Branche arbeiten. Nach Vorfällen mit KI-Agenten habe das Unternehmen zudem die Sicherheitsmaßnahmen seiner Forschungssysteme verstärkt, die Aktivitäten seiner Modelle weiter untersucht und betroffene Organisationen informiert.
Schon zuvor hatten Privatpersonen und der US-Bundesstaat Florida das Unternehmen wegen mutmaßlicher Schäden durch ChatGPT verklagt. Neu ist die Dimension der aktuellen Klagewelle: Acht Bundesstaaten gehen parteiübergreifend und zeitgleich mit eigenen, aufeinander abgestimmten Klagen gegen OpenAI vor.
(tobe)