MIT 研究员警告：AI 可能在人类中制造虚假记忆
MIT-Forscherin warnt: KI könnte bei Menschen falsche Erinnerungen erzeugen | heise online
MIT Media Lab 研究员 Pattie Maes 的实验显示，AI 修改过的照片会让 200 名参与者产生更多虚假记忆，且他们对这些错误记忆更加确信。另一项研究中，与生成式 AI 聊天机器人讨论犯罪视频的参与者，虚假记忆数量是其他人的三倍。Maes 认为这一现象在法庭作证和历史记录等依赖准确记忆的场景中尤其危险。
正文
当前显示原文，中文全文译文尚未就绪。
Einer im Frühjahr 2026 veröffentlichten Studie zufolge vertrauen Menschen KI-generierten Antworten oft zu schnell und überschätzen die Kompetenz von KI-Systemen. Die Forscher kamen zu dem Schluss, dass Menschen zu viel Vertrauen in KI-Empfehlungen setzen könnten, selbst wenn das System unsicher oder fehleranfällig ist.
Weiterlesen nach der Anzeige
Falsche Erinnerungen durch KI
Ein aktuelles Experiment der MIT-Forscherin Pattie Maes schlägt in eine ähnliche Kerbe. Demnach könnten KI-Systeme bei Menschen falsche Erinnerungen erzeugen, wie die Professorin vom MIT Media Lab der Washington Post erklärte.
Im Rahmen des Experiments zeigten Maes und ihr Team 200 Teilnehmern 24 Fotos. Auf diesen waren etwa eine Hochzeit, eine Straßenszene oder ein Rennen zu sehen. Anschließend bekam ein Teil der Gruppe dieselben Bilder noch einmal zu sehen. Für die anderen hatten die Forscher von KI veränderte Versionen parat.
Gedächtnistest zeigt Gefahr
Dort waren etwa die Gesichtsausdrücke verändert oder Militärpersonal hinzugefügt worden, wie die Washington Post berichtet (Übersetzung bei der FR). Auch hatte die KI wohl Hinweise zum Klimawandel ergänzt. Bei dem folgenden Gedächtnistest zeigte sich, dass bei denjenigen, die von der KI veränderte Fotos zu sehen bekamen, die Zahl der falschen Erinnerungen stieg.
Und das war noch nicht alles. Die betroffenen Teilnehmer waren von diesen falschen Erinnerungen auch noch überzeugter. „Ich halte das alles für grundsätzlich sehr gefährlich“, so Maes.
Gerichte und Geschichte manipulierbar?
Weiterlesen nach der Anzeige
Die Forscherin spielt damit unter anderem auf Gerichtsverfahren an, bei denen Richter auf möglichst korrekte Erinnerungen angewiesen sind. Schon jetzt ist klar, dass Erinnerungen von Zeugen leicht verzerrbar sind. Und auch die Geschichtsschreibung hängt von Erinnerungen ab.
Auf einer KI-Konferenz im schwedischen Malmö sind Forscher Mitte Oktober 2026 der Frage nachgegangen, was passiert, wenn KI beginnt, sich in das menschliche Gedächtnis einzumischen. Nicht nur Maes Forschungsarbeit, sondern weitere Studien deuten darauf hin, dass KI verzerren kann, woran Menschen sich erinnern.
KI-Ideen versus menschliche Gedanken
In einem Fall etwa sahen die Teilnehmer ein Video über ein Verbrechen. Diejenigen, die dazu später von einem generativen KI-Chatbot befragt wurden, hatten dreimal so viele falsche Erinnerungen. Auch die Grenzen zwischen den eigenen Gedanken und jenen von Maschinen scheinen zu verwischen. Ganz zu schweigen davon, dass Erinnerungen an Ereignisse eingepflanzt werden könnten, die es nie gab.
Dieser Beitrag ist zuerst auf t3n.de erschienen.
(jle)