Die Friedensnobelpreisträgerin Maria Ressa und Audrey Tang, ehemalige Digitalministerin Taiwans, sehen die Demokratie in Gefahr. Ein Desinformations-Experte relativiert: Stimmbürger liessen sich nicht so einfach manipulieren.

Gioia da Silva
23.01.2026, 05.30 Uhr

Um überzeugende Desinformation zu streuen, braucht es bald vielleicht keine Menschen mehr.

Illustration Simon Tanner / NZZ

Es ist die Stunde der Alarmisten – einmal mehr. Seit der ersten Veröffentlichung von Chat-GPT mahnen Forscher, Politikerinnen und Prominente regelmässig, KI bedrohe das demokratische System. Gerade hat ein 22-köpfiges Autorenteam einen Leitartikel in «Science» publiziert, dem berühmten Fachverlag für wissenschaftliche Studien. Im Text erklären die Verfasser, wie «bösartige Schwärme» von KI-Agenten die öffentliche Meinung beeinflussen könnten.

Das entworfene Szenario ist ungemütlich: Tausende von KI-betriebenen Agenten könnten sich in Schwärmen zusammenfinden und öffentliche Debatten auf digitalen Plattformen gezielt verzerren, mahnen die Autoren. Anders als bisherige Bot-Gruppen auf den sozialen Netzwerken agierten diese KI-Systeme strategisch, koordiniert, seien lernfähig und plattformübergreifend. Sie könnten sowohl auf die Meinungsbildung von Einzelpersonen einwirken wie auch den gesamten öffentlichen Diskurs manipulieren.

Die Autoren des Artikels wissen, wovon sie sprechen: Die philippinische Journalistin Maria Ressa hat für ihren Einsatz für die Redefreiheit den Friedensnobelpreis erhalten, wurde mit ihrer Kritik an sozialen Netzwerken berühmt und war jahrelang digitalen Hetzkampagnen ausgesetzt. Audrey Tang ist Taiwans ehemalige Digitalministerin, eine Vordenkerin für digitale Demokratie in einer Gesellschaft, die sich permanent gegen chinesische Einflussnahme wehren muss. Und Gary Marcus ist einer der schärfsten Kritiker der gegenwärtigen KI-Entwicklung. Dazu kommen 19 weitere Autoren von renommierten Forschungseinrichtungen. Mit Frank Schweitzer ist auch ein emeritierter Professor der ETH Zürich beteiligt.

Hauptsächlich geschrieben haben den Text aber zwei Autoren aus Norwegen: Jonas Kunst, Professor für Kommunikation an der Norwegischen Business School, und Daniel Thilo Schroeder, Angestellter der privaten Forschungsstiftung Sintef. Sie sagen, die Gefahren von KI für die Demokratie seien bisher unterschätzt und übersehen worden.

Wie KI-Agenten künstlichen Konsens simulieren könnten

Konkret warnen sie unter anderem vor künstlich simuliertem Konsens. «Stellen Sie sich vor, ein böswilliger Aktor würde ein Kollektiv von hundert gefälschten Social-Media-Profilen betreiben. Alle diese Profile tun so, als gehörten sie zu republikanisch gesinnten Menschen», beginnt Kunst eine Erklärung. «Gleichzeitig betreibt er zweites Kollektiv, ebenfalls mit hundert Profilen. Und die tun so, als gehörten sie zu demokratisch gesinnten Menschen.»

Manipulatoren könnten die Profile zu manchen Themen kontrovers diskutieren lassen. «Aber bei einem gewissen Thema finden die Profile plötzlich einen Kompromiss.» Menschen lesen diese Debatten mit, und für sie sehe es danach aus, als hätte der Kompromiss eine «Art tiefere Wahrheit», erklärt Kunst. Denn scheinbar hätten sich ja Nutzer mit unterschiedlichen Meinungen darauf einigen können.

Dieses Prinzip der Einflussnahme ist altbekannt. Es wird als Astroturfing bezeichnet und appelliert an den Gruppendruck. Scheinen alle Nutzer im eigenen Umfeld das Gleiche zu denken, liegt der Schluss nahe: Sie haben recht. Abweichende Meinungen werden aus Angst vor Ablehnung nicht geäussert.

Astroturfing ist eine Art der Täuschung, bei der künstlich erzeugte Netzwerke den Eindruck erwecken, sie seien eine legitime gesellschaftliche Bewegung.

Der Begriff «Astroturf» stammt ursprünglich von einem amerikanischen Hersteller von Kunstrasen. Im politischen Kontext dient er als Abgrenzung zu echten Graswurzelbewegungen, bei denen normale Bürger eine gesellschaftliche oder politische Initiative starten.

Die Graswurzelbewegung ist also das authentische Gegenstück zum Astroturfing. Für durchschnittliche Nutzer von sozialen Netzwerken sieht aber beides gleich aus.

Die Bot-Netzwerke, die es für solche Kampagnen braucht, waren bisher aufwendig zu betreiben. Nur mit viel Handarbeit stellten die Manipulatoren sicher, dass die Bots nicht sofort als künstlich erkannt werden konnten. Das war teuer.

Autonome KI-Agenten werden die Kosten nun massiv senken, prognostizieren die Autoren des «Science»-Leitartikels. «Eine einzige Person könnte Tausende von KI-Agenten betreiben», schreiben sie. Sprachmodelle könnten sich auch problemlos der Wortwahl jener Gruppen anpassen, die sie beeinflussen wollen.

Ausserdem könnten sie so eingestellt werden, dass sie menschliches Verhalten imitieren: also nur eine begrenzte Anzahl von Posts absetzen und dies nur zu bestimmten Tageszeiten. In A/B-Tests könnten sie weiter ermitteln, welche ihrer Botschaften am meisten überzeugen. So steigerten sie ihren Einfluss kontinuierlich.

Das zeigt: Bald könnten die Zeiten vorbei sein, in denen gefälschte Profile an unpassender Sprache erkannt werden konnten oder an einer unglaubwürdigen Menge an Postings mitten in der Nacht.

Unbeteiligter Forscher relativiert die Gefahr

Aber nicht alle Desinformations-Experten wollen in KI-Agenten eine Gefahr für die Demokratie erkennen. Sacha Altay forscht an der Universität Zürich über die Effekte von Desinformation und stellt immer wieder fest: Der Einfluss von vorsätzlich in die Welt gesetzten Falschinformationen auf Wahlen und Abstimmungen ist verschwindend klein.

Dass KI tatsächlich ein Instrument sein wird, mit dem böswillige Manipulatoren die öffentliche Debatte innerhalb von Demokratien nach ihrem Gutdünken umkrempeln können – das glaubt er nicht.

Sprachmodelle wie Chat-GPT seien zwar gut darin, Menschen mit Argumenten zu überzeugen, sagt Altay. Das zeigten Studien mit Probanden, die sich auf ein intensives Gespräch mit dem Chatbot einliessen.

«Aber wer geht schon auf Instagram, um stundenlang mit einer fremden Person über ein politisches Thema zu chatten?», fragt Altay. Sowieso, sagt er, würden die meisten Menschen die sozialen Netzwerke zur Unterhaltung nutzen, nicht für ihre politische Meinungsbildung. Interessierten sie sich für Politik, fänden sie auf den Plattformen aber durchaus seriöse journalistische Quellen.

Trotzdem ist es noch zu früh, um das Phänomen der KI-Agenten als unbedenklich für die Demokratie beiseitezulegen. Denn wie so oft bei neuen Technologien wird erst langsam klar, wie sie langfristig wirken.

KI wird immer besser – das ist die Realität. Was echt ist und was computergeneriert, ist in den sozialen Netzwerken nicht mehr immer klar zu unterscheiden. Damit müssen Wählerinnen und Wähler umgehen können.

Man kann nicht alles glauben, was man liest, hört oder sieht. Dieses Grundgefühl könnte sich grundsätzlich auf das Vertrauen in Informationen auswirken. Aus der Forschung weiss man, was dann passiert: Man glaubt primär jenen Informationen, die ins eigene Weltbild passen.

Gut möglich, dass KI-Agenten also nicht den Standpunkt Tausender von Stimmbürgern ändern werden. Sondern dass genau das Gegenteil passiert: Ihre politischen Präferenzen werden stabiler.