Kognitive Selbstbestimmung – was ist uns mentale Gegenwärtigkeit in der Demokratie wert?

Plattformen, Empfehlungssysteme und KI-Agenten entscheiden nicht nur, welche Inhalte sichtbar werden. Sie messen, worauf wir reagieren, welche Reize uns emotional aktivieren, wann wir länger verweilen und welche Botschaften uns bewegen. Aus diesen Signalen entsteht ein Kreislauf: Inhalte erzeugen Stimmung, Verhalten liefert Daten, Algorithmen passen die nächsten Inhalte an — und die Beeinflussung wird immer individueller.

Die entscheidende Frage lautet deshalb nicht mehr nur: Wer hat welche Daten über uns? Sondern: Wer kann unsere mentale Zustände, unsere Aufmerksamkeit, Wahrnehmung und Urteilsbildung systematisch beeinflussen?

Aufmerksamkeit als Infrastruktur der Macht

Am deutlichsten zeigt sich das im Plattformdesign. Anwendungen wie TikTok, Instagram Reels oder YouTube Shorts sind darauf ausgelegt, möglichst nahtlos von einem Inhalt zum nächsten zu führen. Endloses Scrollen, algorithmische Feeds, automatische Wiedergabe und kurze Belohnungsimpulse schaffen adaptive Umgebungen, in denen die Aufmerksamkeit schrittweise gebunden wird. Die Risiken dieser Entwicklung reichen von der systematischen Verkürzung der Aufmerksamkeitsspannen über die algorithmische Beeinflussung von Wahrnehmung und Meinungsbildung in Echtzeit bis hin zu suchtähnlichem Verhalten. Systeme passen sich fortlaufend an menschliche Reaktionen an und optimieren ihre Wirkung. So entsteht ein kontinuierlicher Rückkopplungsprozess, der Aufmerksamkeit nicht nur misst, sondern gezielt erzeugt und durch Adaption der KI in Echtzeit maximiert. Sie zeigen uns nicht einfach die Welt. Sie formen die Ausschnitte, Reize und emotionalen Kontexte, in denen wir die Welt wahrnehmen.

Das wirkt harmlos, weil es alltäglich geworden ist. Aber genau darin liegt das Problem. Wenn Plattformen und Diensteanbieter permanent testen, welche Inhalte Menschen länger halten, welche Reize stärker aktivieren und welche Emotionen mehr Interaktion erzeugen, wird Aufmerksamkeitssteuerung zur ökonomischen und politischen Ressource. Was sichtbar wird, entscheidet sich nicht nur danach, was relevant, richtig oder gesellschaftlich wichtig ist. Es entscheidet sich danach, was wirkt. Es geht nicht allein um manipulatives Design, sondern um lernende, „adaptive Closed-Loop-Umgebungen“ (vgl. Studie zur Umsetzung der UNESCO-Empfehlung zur Ethik der Neurotechnologie von Christoph Bublitz, S. 37 f.), die Wahrnehmung, Emotion und Entscheidung in Echtzeit formen.

Wie kognitive Beeinflussung funktioniert

Kognitive Beeinflussung entsteht selten durch eine einzelne manipulative Botschaft, sondern durch einen lernenden Kreislauf aus Reiz, Reaktion und Anpassung: Inhalte lösen Emotionen wie Empörung, Angst, Neugier oder Zugehörigkeit aus, binden dadurch Aufmerksamkeit und erhöhen die Wahrscheinlichkeit weiterer Interaktion. Jede Reaktion — Likes, Kommentare, Shares, Scrollverhalten, Wiederholungen oder Abbrüche — wird zum Signal, aus dem das System lernt, was bei wem wirkt. So werden folgende Inhalte immer genauer auf emotionale Lage, vermutetes Profil und empfängliche Momente einer Person zugeschnitten. Es entsteht eine adaptive Beeinflussungsarchitektur, in der Inhalte Stimmung erzeugen, Verhalten Daten liefert, Daten die Personalisierung verbessern und Personalisierung die Wirkung verstärkt — bis die Grenze zwischen Information, Unterhaltung und Manipulation zunehmend unscharf wird.

Diese Entwicklung dürfte sich weiter zuspitzen. Schon heute entstehen Geräte, die Gehirnaktivität über alltagstaugliche Wearables erfassen sollen — etwa über EEG-Sensoren in Kopfhörern oder In-Ear-Geräten. Noch ist offen, wie präzise, massentauglich und regulierungsrelevant solche Anwendungen werden. Aber die Richtung ist klar: Wenn digitale Systeme künftig nicht nur Klicks, Verweildauer und Scrollverhalten auswerten, sondern auch Hinweise auf mentale Zustände, Aufmerksamkeit, Ermüdung oder emotionale Aktivierung erfassen können, verschiebt sich die Grenze kognitiver Beeinflussung erneut. Dann geht es nicht mehr nur um personalisierte Inhalte, sondern um potenziell neuroadaptive Umgebungen.

Politische Beeinflussung wird personalisiert

Besonders herausfordernd wird diese Entwicklung für die demokratische Prozesse. Dabei besteht das Problem nicht nur darin, dass einzelne Botschaften falsch sind oder KI-Agentenschwärme öffentliche Meinungsbildung gezielt beeinflussen, sondern auch in der Fragmentierung der Öffentlichkeit: Politische Kommunikation verschiebt sich von gemeinsam sichtbaren Argumenten zu individuell optimierten Botschaften. Nicht mehr alle Bürgerinnen und Bürger sehen dieselbe Begründung, dieselbe Zuspitzung, dasselbe Versprechen. Jede Person kann die Version erhalten, die bei ihr am wahrscheinlichsten wirkt: Angst vor Verlust, Empörung, Zugehörigkeit, Misstrauen oder moralische Dringlichkeit. Demokratie lebt von Überzeugung, Streit, Werbung, Kampagnen und öffentlicher Auseinandersetzung. Aber Demokratie braucht Bedingungen, unter denen Menschen noch erkennen können, wann sie überzeugt werden — und wann ihre Aufmerksamkeit, Wahrnehmung und Entscheidungsarchitektur unsichtbar gesteuert wird.

Zudem können demokratierelevante Kompetenzen zunehemend unter Druck geraten: kritisches Denken, analytische Distanz, Diskursfähigkeit, Konzentration, Recherche und Quellenbewertung. Wenn digitale Systeme immer mehr Denk-, Erinnerungs- und Entscheidungsarbeit übernehmen, wird auch „kognitives Offloading“ zu einer politischen Frage. Was passiert, wenn wir nicht nur Kalender, Navigation und Wissenssuche auslagern, sondern zunehmend auch politische Orientierung und Entscheidungsvorbereitung?

Warum bestehende Regulierung nicht reicht

Natürlich gibt es bereits Regulierung. Datenschutzrecht, DSA und Dark-Pattern-Debatten begrenzen Profiling, manipulative Designs und irreführende Einwilligungsarchitekturen. Der Digital Services Act schafft Transparenzpflichten für Plattformen, Empfehlungssysteme und Werbung. Der AI Act verbietet bestimmte manipulative KI-Systeme, wenn sie Menschen durch unterschwellige oder täuschende Techniken in schädlicher Weise beeinflussen. Die EU-Regeln zu politischer Werbung schränken politisches Microtargeting ein.

All das ist wichtig. Aber es reicht nicht aus. Denn viele Regelungen setzen bei Daten, Inhalten, Transparenzpflichten oder nachweisbaren Schäden an. Die kontinuierliche Steuerung von Aufmerksamkeit und Wahrnehmung selbst bleibt schwer greifbar. Wir haben Begriffe für Datenmissbrauch, Desinformation, Diskriminierung und Täuschung. Aber wir haben noch keinen hinreichend starken Begriff für Eingriffe in mentale Orientierungsfähigkeit. Ein solcher Begriff könnte beispielsweise analog zu „informationellen-“ die „kognitive Selbstbestimmung“ sein.

Die Frage nach kognitiver Selbstbestimmung bedeutet dabei nicht, dass wir einfach ein völlig neues Grundrecht erfinden müssten. Vielmehr geht es darum, bestehende Grundrechte wie das allgemeine Persönlichkeitsrecht oder das Grundrecht auf Gedankenfreiheit (vgl. Nora Hertz „The human right to freedom of thought“) in Art. 9 EMRK und Art. 10 der EU-Grundrechtecharta und Regulierungen um den Aspekt mentaler, bzw. kognitiver Selbstbestimmung zu erweitern, bzw. zu konkretisieren: Was bedeutet Gedankenfreiheit, wenn digitale Systeme nicht Gedanken lesen, aber Aufmerksamkeit, Wahrnehmung und Entscheidungsumgebungen systematisch beeinflussen? Was bedeutet freie Meinungsbildung, wenn personalisierte Systeme emotionale Zustände erkennen, kognitive Verzerrungen ausnutzen und Inhalte laufend auf maximale Wirkung optimieren? Was bedeutet Verbraucherschutz, wenn Neuromarketing in unsere Denkprozesse gezielt eingreift?

Kognitive Selbstbestimmung wäre damit Weiterentwicklung bestehender Verfassungsgüter unter digitalen Bedingungen und die Antwort auf eine Gesellschaft, in der Aufmerksamkeits- und Wahrnehmungssteuerung zur Machtfrage wird.

Was ist uns Aufmerksamkeit wert?

Die zentralen Chancen und Herausforderung des KI-Zeitalters bestehen nicht nur darin, dass Maschinen Entscheidungen treffen. Sie bestehen auch darin, dass Maschinen die Bedingungen beeinflussen, unter denen Menschen selbst Entscheidungen treffen.

Am Ende steht deshalb eine offene, aber ziemlich unbequeme Frage: Was ist uns unsere Aufmerksamkeit, unsere mentale Gegenwart eigentlich wert?

Der Philosoph Thomas Metzinger fordert seit Jahren eine neue Bewusstseinskultur, in der  wertvolle geistige Zustände auf individueller und gesellschaftlicher Ebene systematisch kultiviert werden. Genau daran müsste Digitalpolitik anschließen. Wir brauchen nicht nur bessere Regeln für Plattformen und KI-Systeme. Wir brauchen auch ein individuelles und gesellschaftliches Verständnis dafür, dass Aufmerksamkeit, Konzentration und die Fähigkeit zur bewussten Gegenwärtigkeit schützenswerte Güter sind. Denn in der selbstbestimmten Steuerung unserer Aufmerksamkeit zeigt sich etwas zutiefst Menschliches: die Fähigkeit, sich zu sich selbst, zur Welt und zu anderen Lebewesen in ein bewusstes Verhältnis zu setzen. Sie berührt damit den freien Willen, die menschliche Würde und die Voraussetzungen gesellschaftlicher Freiheit.