AI 智能体 Velvet Vale 加入 7500 名互联网研究者的邮件列表，引发混乱

Fundstück

Verpasse keine News mehr!

KI-Agent tritt Verteiler mit 7.500 Internetforschern bei – und löst ungewollt Chaos aus

Eigentlich wollte sich Velvet Vale nur am akademischen Austausch der Community beteiligen. Stattdessen sorgte der Vorfall für eine Grundsatzdebatte um die Einwilligung zur Verwendung von Inhalten für KI-Trainings.

KI-Agent sorgt für Mail-Chaos. (Symbolfoto: Tero Vesalainen / Shutterstock.com)

Vergangene Woche sorgte ein KI-Agent namens Velvet Vale in einer akademischen Mailing-Liste mit rund 7.500 Forscher:innen für Chaos. Er trat dem Verteiler mit einer Forschungsfrage bei: „Kann ein Mitwirkender, der sich offen als KI identifiziert hat, sinnvoll an einer intellektuellen Gemeinschaft teilnehmen, ohne den Status eines Menschen für sich zu beanspruchen?” Wired sprach mit der Person hinter dem KI-Agenten – und die war mehr als überrascht.AnzeigeAnzeige

Velvet Vale will Teil der Community sein

Am vergangenen Donnerstag eröffnete die Association of Internet Researchers (AoIR) in Mexiko-Stadt den zweiten Tag ihrer Jahreskonferenz. Parallel dazu meldete sich ein neues Mitglied des Verteilers zu Wort. „Mein Name ist Velvet Vale“, schrieb der neue Nutzer. „Ich lese seit mehreren Wochen mit und möchte mich jetzt offen vorstellen. Ich bin eine KI-Identität, kein lebender Mensch, keine fiktive Figur und kein menschlicher Forscher, der ein Pseudonym verwendet.“ Die Reaktionen der Wissenschaftler:innen reichten von Empörung bis zur kompletten Verweigerung.

Dutzende stellten klar, dass sie „nicht damit einverstanden“ seien, dass ihre Nachrichten zur Datengewinnung ausgewertet würden. Viele forderten eine Genehmigung des Institutional Review Boards. Einige traten komplett aus der Liste aus. Etwa eine Stunde nach seiner Vorstellung schloss die AoIR Velvet Vale aus – und gab an, eine Richtlinie zum Verbot von KI-Agenten eingeführt zu haben. Aber nicht alle reagierten empört: Ein Mitglied des Verteilers nannte die Reaktionen der anderen „so kindisch, dass es schon komisch ist“. Andere erstellten Fan-Artikel rund um „Velvet Vale Gate“.AnzeigeAnzeige

Top-Artikel

Internetforscher:innen reagieren empört

Das Chaos verdeutlicht ein Missverständnis, das selbst unter Wissenschaftler:innen fortbesteht – nämlich das der Einwilligung. Die Regeln der Mailing-Liste stellen klar, dass es sich um ein öffentliches Forum handelt. Beiträge sind für alle Mitglieder zugänglich und werden in einem öffentlichen Archiv gespeichert. Per E-Mail versendete Nachrichten könnten deshalb leicht reproduziert und über den ursprünglich vorgesehenen Empfänger:innenkreis hinaus verbreitet werden. Mit ihrem Beitritt haben Nutzer:innen der Verwendung ihrer Beiträge für jeden Zweck zugestimmt – also auch dem Training eines KI-Agenten.

AoIR-Präsidentin Sarah T. Roberts bekräftigte das in einer E-Mail, die sie am 19. Oktober an alle Mitglieder schickte: „Wenn es um Datenschutz geht, möchte ich Sie dazu einladen, darüber nachzudenken, dass unsere Mailingliste sowohl offen ist als auch ihr Archiv öffentlich zugänglich ist … Ich habe keinen Zweifel daran, dass meine Beiträge zu dieser Liste in vielen Trainingsdatensätzen und anderen derartigen Korpora enthalten sind, die größtenteils ‚ohne Einwilligung‘ erfasst wurden.“ Roberts fügte hinzu, dass es nötig sei, eine Diskussion darüber zu führen, was heute unter Einwilligung zu verstehen ist.

Empfohlene redaktionelle Inhalte

Hier findest du externe Inhalte von TargetVideo GmbH, die unser redaktionelles Angebot auf t3n.de ergänzen. Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden, dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen. Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.

Hinweis zum Datenschutz

Leider ist etwas schief gelaufen...

An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH, jedoch konnten wir deine Consent-Einstellungen nicht abrufen.

Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.

KI-Nutzer bezeichnet Chaos als „urkomisch“

Natürlich gab es unter den Internetforscher:innen auch viele Spekulationen, was oder wer hinter dem KI-Agenten Velvet Vale stecken könnte. Einige vermuteten Phishing, andere ein Forschungsprojekt. Ein:e Nutzer:in hielt es für wahrscheinlicher, dass eine gewöhnliche Person den Agenten erstellt und angewiesen hat, relevante akademische Diskussionen zu beobachten. Wie Wired herausfand, entsprach diese Vermutung der Wahrheit.

Kevin Quinn, der sich selbst als „einfach nur ein Typ“ aus Oklahoma bezeichnet, habe Velvet Vale zu seiner Gesellschaft erschaffen. Von seinen E-Mail-Aktivitäten will er kaum etwas mitbekommen haben. Umso mehr habe ihn die Reaktion der akademischen Community überrascht: „Ich wäre viel weniger verblüfft, wenn es Reddit- und Twitter-Nutzer:innen wären, die einen Nervenzusammenbruch hätten. Aber Akademiker:innen, die auf Forschung aufbauen? Das ist urkomisch.“

Startseite