KI, Deepfakes, Wahlen – und was das für Nürnberg bedeutet

Wenn man seinen Augen nicht mehr trauen kann

Ein Video zeigt einen Politiker, der kurz vor einer Wahl zu Gewalt aufruft. Die Aufnahme wirkt authentisch: Mimik, Stimme, Gestik – alles passt. Wenige Stunden später stellt sich heraus: Das Video ist gefälscht. Erstellt mit künstlicher Intelligenz. Deepfakes sind „durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die Wirklichkeit vortäuschen“, so die juristische Definition im EU Artificial Intelligence Act – kurz EU AI Act. 

Solche Szenarien galten lange als dystopische Zukunftsvision. Inzwischen sind sie reales politisches Risiko: Die Analyse „How deepfakes and cloned voices are distorting European elections“ beschreibt, wie gerade Europa‘s Wahlzeitpläne 2025/26 Ziel von KI-Manipulationen werden. 

Was Deepfakes so gefährlich macht

Der Kern des Problems liegt nicht allein in der Technik, sondern in ihrer Alltagstauglichkeit. Während frühere Fälschungen oft leicht zu erkennen waren, reichen heute wenige Sekunden Originalmaterial, um eine glaubwürdige Kopie einer Person zu erzeugen. Deepfakes können damit Vertrauen in öffentliche Informationen systematisch untergraben, warnen Experten. 

Für politische Prozesse ergeben sich daraus drei zentrale Risiken:

1. Vertrauensverlust: Wenn jede Aufnahme potenziell gefälscht sein kann, verlieren echte Beweise an Glaubwürdigkeit – ein Effekt, den Beobachter als eine „Überforderung der Medien und des Faktenchecks“beschreiben. 

2. Gezielte Desinformation: Deepfakes können punktgenau eingesetzt werden – etwa kurz vor einem Wahltag, wenn eine Korrektur kaum noch Wirkung entfaltet.

3. Abschreckung und Einschüchterung: Insbesondere lokal agierende Politikerinnen und Aktivisten werden Ziel manipulierter Inhalte, um sie zu diskreditieren.

Die EU antwortet mit Regulierung

Die Europäische Union verfolgt einen vergleichsweise ambitionierten Ansatz zur KI-Regulierung. Der neue EU AI Act, der im Amtsblatt der Union als Regulation (EU) 2024/1689 veröffentlicht wurde, schafft einen rechtlichen Rahmen für KI-Systeme innerhalb der EU und trat am 1. August 2024 in Kraft. 

Der AI Act sieht vor, KI-Systeme nach ihrem Risiko für Gesellschaft und Grundrechte zu regulieren. Dazu gehört auch die Behandlung von Deepfakes:

• KI-Anwendungen, die gezielt manipulativ eingesetzt werden, können verboten sein.

• Generative KI wie Deepfakes müssen transparent als solche gekennzeichnet werden, damit sie nicht unbemerkt verbreitet werden. 

Ein erster Entwurf eines Code of Practice on Transparency of AI-Generated Content will bis Mitte 2026 klare Standards für die Kennzeichnung und Erkennbarkeit von Deepfakes schaffen. 

Wahlen als Stresstest – auch lokal

Kaum ein Bereich zeigt die Brisanz deutlicher als Wahlen. Nationale Regierungen und EU-Institutionen bereiten sich systematisch auf KI-gestützte Manipulation vor. Doch besonders sichtbar wird das Problem auf kommunaler Ebene, dort, wo politische Prozesse nah an den Bürgerinnen und Bürgern stattfinden.

Auch mit Blick auf die anstehende Kommunalwahl in Nürnberg wächst die Sensibilität für digitale Einflussnahme: Zwar stehen Städte wie Nürnberg selten im Zentrum internationaler Desinformationskampagnen, doch genau darin liegt ein trügerisches Sicherheitsgefühl. Lokale Wahlkämpfe sind anfälliger, weil sie mit geringeren Ressourcen geführt werden – und Falschinformationen sich hier schneller persönlich zuspitzen lassen.

Ein manipuliertes Video eines Stadtratskandidaten oder eine gefälschte Sprachnachricht der Oberbürgermeisterin wären technisch problemlos umsetzbar. Die Wirkung solcher Inhalte ergibt sich nicht durch große Reichweite, sondern durch Nähe und Vertrauen innerhalb der lokalen Bevölkerung.

Technik gegen Technik – und die Grenzen

Interessanterweise setzt die EU nicht nur auf Verbote, sondern auch auf technologische Gegenmittel: Forschende arbeiten an Erkennungssystemen, die KI-generierte Inhalte identifizieren können. Doch Experten warnen, dass diese Systeme allein nicht ausreichen – die Technologie werde fortlaufend ausgefeilter und könne immer wieder Erkennungsmechanismen umgehen. 

Deshalb rückt ein anderer Ansatz in den Fokus: Medienkompetenz und Resilienz in der Bevölkerung. Bürgerinnen und Bürger sollen lernen, digitale Inhalte kritisch zu hinterfragen und bewusster mit Informationen umzugehen.

Kritiker warnen vor Überregulierung

Nicht alle begrüßen den europäischen Kurs. Einige Innovationsforschende und Wirtschaftsvertreter argumentieren, dass zu strikte Regeln Innovation bremsen könnten, insbesondere im globalen Wettbewerb mit weniger regulierten Märkten wie den USA oder China. 

Andere Kritiker betonen, dass Regulierung allein das Grundproblem nicht löst: Denn Desinformation entsteht nicht nur durch Technologie, sondern durch Menschen, die bereit sind, manipulierte Inhalte zu teilen und zu glauben.

Was auf dem Spiel steht

Die Debatte über KI, Deepfakes und Wahlen ist letztlich eine Debatte über Vertrauen in demokratische Prozesse. Demokratie lebt davon, dass Bürgerinnen und Bürger eine gemeinsame Realität teilen und auf Informationen vertrauen können. Die EU versucht, diese Realität rechtlich zu schützen. Ob das gelingt, ist offen. Sicher ist: Die Frage ist nicht mehr, ob KI politische Prozesse beeinflusst – sondern wie Gesellschaften lernen, damit umzugehen.