Wie Künstliche Intelligenz die Demokratie beeinflusst

Katja Muñoz im Interview mit Eva-Maria Verfürth

Es wurde schon viel darüber diskutiert, wie digitale Desinformationskampagnen, Bots und Trolle Wahlen beeinflussen – man denke an die Enthüllungen rund um Cambridge Analytica bei den US-Wahlen 2016 oder die russischen Manipulationsversuche. Mittlerweile gibt es noch viel mehr technische Möglichkeiten: Wie wirkt sich Künstliche Intelligenz (KI) auf Meinungsbildung und Demokratie aus?

KI ist ein Werkzeug, das in alle Richtungen beschleunigend wirkt. Zum Beispiel bei der Content-Erstellung: KI ermöglicht es, hyperpersonalisierte Inhalte sehr schnell und sehr kostengünstig zu erstellen. Man kann mit KI-Tools heute umsonst zehnsekündige Deepfake-Videos erstellen. Das nutzen demokratische Parteien, die strategisch kommunizieren möchten – aber auch Akteure, die Informationsräume manipulieren wollen. 

Wozu nutzen politische Parteien in Deutschland KI?

Zum einen für Weiterbildung: Das Bündnis Sahra Wagenknecht (BSW) hat zum Beispiel für Debattentrainings ein KI-Modell genutzt, das Gegenargumente liefert. Einige Kandidat*innen der Sozialdemokratischen Partei Deutschlands (SPD) lassen sich Texte zusammenfassen und auf dem Weg zwischen Terminen als Podcasts vorlesen. Parteien nutzen KI aber auch, um Daten besser zu verarbeiten und gezieltere politische Narrative für unterschiedliche Wählergruppen zu entwickeln. Die Volt-Partei hat solche Strategien genutzt und ist bei der Europawahl von 0,7 % (2019) auf 2,5 % (2024) gewachsen, was für eine so junge Partei eine bemerkenswerte Entwicklung ist. 

Wann wird der Einsatz von KI problematisch?

Problematisch wird es natürlich, wenn KI genutzt wird, um falsche Tatsachen zu suggerieren und zu täuschen, oder wenn synthetische Bilder nicht gekennzeichnet werden. Letzteres ist durch die KI-Verordnung in der EU inzwischen auch verboten. In Deutschland hat etwa die AfD-Partei Poster mithilfe von KI erstellen lassen und dafür hochgradig emotionale Bilder genutzt, ohne sie zu kennzeichnen. Einen Fall in Göppingen fand ich besonders interessant: Auf dem Plakat war eine Frau abgebildet, daneben stand „Dr. Stefanie Müller“ und ein Zitat, in dem sie erklärt, weshalb sie AfD-Mitglied ist. Frau Dr. Stefanie Müller existiert aber nicht – und auch das war nicht gekennzeichnet.

Sie haben angesprochen, dass Parteien ihre Inhalte mit KI gezielter auf einzelne Zielgruppen zuschneiden können. Das ist erst einmal nichts Neues: Jede Partei versucht, Wählergruppen strategisch anzusprechen. Aber wie verändert es die gesellschaftliche Debatte, wenn dies nun viel genauer möglich ist, verstärkt das nicht die Filterblasen?

Ja, durchaus. Man kann mit KI sehr genaue Wählerprofile für bestimmte Regionen erstellen, inklusive der Interessen und Motivationen der Menschen. Auf dieser Grundlage kann man dann in unterschiedlichen Regionen verschiedene Botschaften platzieren. In Michigan zum Beispiel hat die mit Elon Musk verbundene Future Coalition PAC in einem Bezirk mit vielen muslimischen Bürger*innen Kamala Harris als Israel-Freundin dargestellt – und im nächsten Bezirk, in dem eher jüdische und konservativ-christliche Wähler*innen lebten, als Palästina-Unterstützerin. Solch eine extrem personalisierte Platzierung von hoch emotionalen Narrativen fördert Polarisierung und macht es schwer, wieder zusammenzukommen. Das schadet langfristig dem demokratischen Konsens. Ein oder zwei Prozentpunkte mehr an der Wahlurne mögen kurzfristig attraktiv sein, aber die Konsensfindung, die die Demokratie langfristig trägt, wird dabei gestört.

Gesellschaftliche Polarisierung ist insbesondere durch die Debatten auf Social-Media-Plattformen schon länger ein wachsendes Problem. Was ist neu?

KI beschleunigt viele Prozesse und senkt die Ressourcenschwelle, auch für nichtstaatliche Akteure, die Kampagnen durchführen wollen. Bot-Netzwerke, die autonom agieren, sind heute wesentlich einfacher und billiger einzusetzen als früher. Dafür braucht man heute keine großen Trollfabriken mehr. 

Für ein Forschungsprojekt aus dem Jahr 2024 haben Sie die Wahlen in sechs Ländern beobachtet, unter anderem in Indien. Wie haben die Parteien dort KI eingesetzt?

In erster Linie hat KI hier wie ein Gleichmacher gewirkt. Erstmals konnten auch kleinere, kommunale Parteien auf Ressourcen wie Grafikdesign, Texterstellung und strategische Kommunikation zugreifen. Die großen Parteien wiederum haben vor allem ihre traditionellen Kampagnenmethoden mit KI-Unterstützung ausgeweitet. Hyperpersonalisiertes Microtargeting ist bei knapp einer Milliarde Wahlberechtigten eine enorme Herausforderung, aber mit KI war da viel möglich. Beispielsweise wurde ein KI-Avatar mit der Stimme eines Gouverneurs erstellt, der Wahlberechtigte über Whats­App anrief oder mit ihnen chattete. Je nach Region wurde die Botschaft angepasst; in Gebieten mit vielen Landwirt*innen sprach der vermeintliche „Gouverneur“ beispielsweise über Subventionen. Die Leute wussten allerdings nicht, dass sie mit einem Bot sprachen. Wenn man einen Anruf vom Gouverneur bekommt und ein bisschen mit ihm plaudern kann, fühlt man sich natürlich ganz anders angesprochen.

Was wurde noch gemacht?

Es gab sogar ein Deepfake eines verstorbenen Politikers, der in KI-Videos eine Wahlempfehlung aussprach. Das war auch alles mit der Familie des Verstorbenen abgesprochen. Aber nicht alle Anwendungen waren so ausgefallen; KI wurde auch viel für Übersetzungen genutzt. Indien hat 22 offizielle Landessprachen, dazu viele Dialekte. Ansprachen des Premierministers Narendra Modi wurden simultan in lokale Sprachen übersetzt und die Mimik angepasst, was mehr emotionale Nähe und Verbundenheit schafft und politische Inhalte zugänglicher macht. Darüber hinaus gab es aber natürlich auch unhaltbar viel Desinformation.

Viele von diesen KI-Einsatzmöglichkeiten sind zweischneidig – sie können Politik zugänglicher machen, aber auch Spaltung vorantreiben. Kann KI auch zur Stärkung von Demokratie beitragen?

Absolut. Da ist das Beispiel einer Bürgerinitiative aus Kentucky in den USA sehr spannend. Die Stadt Bowling Green hat eine Forschungsgruppe von Google – das Jigsaw-Team – gebeten, eine Methodik und ein KI-Tool zu entwickeln, um Bürgermeinungen einzuholen und auszuwerten. Die Stadt hat eine stark durchmischte Wählerschaft und wollte die Kommunikation mit der Bevölkerung verbessern. Befragungen wurden offline an sogenannten „Third Places“ durchgeführt, also sozialen Begegnungsorten wie Bibliotheken oder Friseursalons, zu denen Menschen persönlich hingehen. Dort konnten Bürger*innen Fragen beantworten. Parallel gab es eine Online-Möglichkeit. Alles anonym, aber mit Verifikation, sodass keine Person mehrfach teilnehmen konnte. Das wurde über die ganze Stadt ausgerollt und etwa zehn Prozent der Bevölkerung haben sich beteiligt, was ein außergewöhnlich hoher Anteil ist. 

KI wurde dann genutzt, um diese Daten zu analysieren, Beleidigungen herauszufiltern und echte Anliegen herauszuarbeiten – und das Ganze an die lokale Regierung weiterzugeben. Die große Beteiligung an der Umfrage zeigt, dass der Wunsch nach Teilhabe noch da ist, egal, was die Medien über Polarisierung sagen. Wenn Menschen das Gefühl haben, dass ihre Stimme gehört wird, dann machen sie auch mit.

Das ist ein interessantes Beispiel, denn die Befragung hat nicht nur online, sondern auch offline stattgefunden. Was kann KI hier leisten – und was nicht?

KI ist keine Lösung für alles. Bestimmte Anliegen werden über Menschen besser gelöst. Aber KI kann helfen, Massen an Daten zu verarbeiten, Hass herauszufiltern und die zugrunde liegenden Bedürfnisse zu identifizieren – und auch Stimmen einzubeziehen, die sich sonst vielleicht nicht äußern würden. Das ist genau das Gegenteil von dem, was online oft passiert, wo Menschen sehr gezielt auseinandergetrieben werden. Dagegenzuhalten ist schwer – aber möglich. Der Wahlerfolg von Zohran Mamdani, dem Bürgermeister von New York, war so ein Beispiel. Er wurde ja viel als Internet-Sensation gefeiert, aber das alleine war es nicht.

Das Wahlkampfteam von Mamdani hat in den letzten Monaten vor der Wahl in der ganzen Stadt an Türen geklopft und das persönliche Gespräch gesucht, und auch Mamdani selbst war viel auf der Straße unterwegs. Liegt darin das Geheimnis?

Es liegt in einer Symbiose aus Online- und Offline-Mobilisierung. Mamdanis Kampagne hat sehr effektiv über Partizipation mobilisiert. Darum geht es bei Demokratiearbeit auch in erster Linie: Teilhabe zu stärken. Und dafür kann man auch Technologien nutzen, etwa um wieder mehr Stimmen einzubeziehen oder zu ermöglichen, dass sich nicht immer die Lautesten in den Vordergrund drängen können. 

Regulierung ist wichtig, um der KI-Nutzung Grenzen zu setzen. Sie erwähnten zum Beispiel die neue Kennzeichnungspflicht für KI-Inhalte in der EU. Doch nicht überall gibt es solche Gesetze. Wie ist die Lage im Globalen Süden?

Diese Länder haben meist keinen regulatorischen Rahmen. Die großen Tech-Firmen sind schon in Europa sehr resistent gegenüber Auflagen, und Anliegen aus dem Globalen Süden ignorieren sie häufig vollständig. Andererseits ist dort das Bewusstsein für den manipulativen Charakter von Social Media oft höher. Junge Menschen mobilisieren sich online, treffen sich dann aber physisch in der Bar. Das ist keine bewusste Strategie, sondern einfach gelebte Kommunikation. Und sie nutzen die Technologie für ihre Anliegen: In Nepal zum Beispiel hat die Regierung versucht, die GenZ-Proteste durch einen Internet-Shutdown zu unterdrücken – was komplett nach hinten losgegangen ist. Die Proteste wurden größer, die Regierung trat zurück, und die Wahl der Interimspremierministerin fand über die Plattform Discord statt. Hier wurde eine soziale Plattform zum Demokratieinstrument. Hier im Globalen Norden sind die Systeme festgefahrener und können nur langsam auf neue Herausforderungen reagieren, was einige Akteure nutzen, um Zwietracht zu säen. Im Globalen Süden, wo die Jugend demografisch einen viel größeren Anteil ausmacht, ist der Frust größer, die Mobilisierung stärker – und auch die Bereitschaft größer, Technologie kreativ und inklusiv einzusetzen. Das finde ich ziemlich beeindruckend.

Katja Muñoz ist Senior Research Fellow im Zentrum für Geopolitik, Geoökonomie und Technologie der Deutschen Gesellschaft für Auswärtige Politik (DGAP). Sie forscht zum Zusammenspiel von Künstlicher Intelligenz, Demokratie und hybriden Bedrohungen.
LinkedIn