Falsche Erinnerungen und künstliche Intelligenz

Der Einsatz von Systemen der künstlichen Intelligenz greift in grundlegende Mechanismen der menschlichen Informationsverarbeitung und Gedächtnisbildung ein. Während derartige Technologien ursprünglich entwickelt wurden, um kognitive Prozesse zu unterstützen oder abnehmende Gedächtnisleistungen im Alter und bei neurodegenerativen Erkrankungen zu kompensieren, zeigen empirische Untersuchungen zunehmend unbeabsichtigte Nebenwirkungen auf das menschliche Erinnerungsvermögen und die Urteilskraft.

Das menschliche Gedächtnis funktioniert nicht wie ein statisches Archiv, sondern als rekonstruktiver Prozess, der anfällig für äußere Einflüsse ist. Wenn Menschen mit digital modifizierten Bildmedien, automatisierten Zusammenfassungen oder dialogorientierten Systemen interagieren, zeigt sich eine deutliche Zunahme falscher Erinnerungen. Manipulationen in visuellen Inhalten oder suggestive Falschinformationen in Textform können dazu führen, dass Personen nicht nur fehlerhafte Details in ihr Gedächtnis übernehmen, sondern auch eine hohe Zuversicht bezüglich der Richtigkeit dieser erfundenen oder verzerrten Schilderungen entwickeln. Dies betrifft Szenarien wie die Rekonstruktion von Unfallabläufen, die Wahrnehmung politischer Ereignisse oder die Zuordnung eigener und maschinell generierter Ideen.

Neben der Erzeugung falscher Erinnerungen führt die kontinuierliche Auslagerung von Denk- und Abrufprozessen zu einer Veränderung der neuronalen Aktivität und zum schleichenden Verlust eigener Fähigkeiten. Wenn argumentative Aufgaben oder Rechercheprozesse von Algorithmen übernommen werden, nimmt die tiefere kognitive Durchdringung ab, was sich in einer schwächeren Vernetzung der Gehirnareale sowie einer erschwerten Erinnerung an selbst verfasste Inhalte äußert. Dieser Effekt des Kompetenzverlusts lässt sich auch in professionellen Anwendungsfeldern beobachten, wo die routinemäßige Nutzung technischer Assistenzsysteme dazu führen kann, dass die eigenständige Diagnose- oder Analysefähigkeit nachlässt, sobald die technische Unterstützung wegfällt.

Diese Entwicklungen stellen auch gängige Sicherheits- und Kontrollkonzepte infrage. Häufig wird gefordert, dass der Mensch als kritische Kontrollinstanz agieren muss, um maschinelle Fehlleistungen zu korrigieren. Da synthetisch erzeugte Informationen jedoch das menschliche Gedächtnis und die eigene Wahrnehmung nachhaltig verändern können, verliert der Mensch unter Umständen die objektive Grundlage, die für eine unbeeinflusste Überprüfung notwendig wäre. Die Grenze zwischen eigenen Gedanken, Wahrnehmungen und maschinell eingepflanzten Details verschwimmt dadurch zunehmend.

Literatur

Maes, P., Nave, G., Shaw, S., & Sim, M. (2025). Cognitive surrender and false memory formation in human-AI interaction. Journal of Cognitive Technology & Human Behavior, 18(2), 112–129.