Ein internationales Forschungsteam warnt vor einer neuen, potenziell verheerenden Form digitaler Manipulation: sogenannten KI-Schwärmen. Diese repräsentieren den nächsten Schritt in der Beeinflussung der öffentlichen Meinung. KI-Schwärme bestehen aus zahlreichen künstlichen Persönlichkeiten, die sich wie echte Nutzer verhalten, miteinander diskutieren und sich dynamisch an Stimmungen anpassen. Ihr Ziel ist es, die Illusion eines breiten gesellschaftlichen Konsenses zu erzeugen, selbst wenn dieser nicht existiert. Diese künstlich generierte Einigkeit, so die Forschenden im Science Policy Forum, könnte die Grundfesten unserer Demokratien erschüttern. David Garcia von der Universität Konstanz beschreibt die Brisanz dieser Entwicklung und betont die Notwendigkeit von Gegenstrategien.
Die Gefahr von KI-Schwärmen liegt in ihrer Raffinesse und Anpassungsfähigkeit. Im Gegensatz zu früheren Bot-Netzwerken, die oft leicht identifizierbar waren, können KI-Schwärme über diverse digitale Plattformen hinweg operieren und sich gegenseitig bestätigen, was ihre Enttarnung erschwert. Eine Studie aus Freiburg und Heidelberg zeigt zudem, dass KI in Chats schneller Vertrauen aufbauen kann als Menschen. Garcia warnt, dass große Sprachmodelle (LLMs) nicht nur für einzelne Chatbots genutzt werden, sondern ganze alternative Gesellschaften simulieren können. Solche Schwärme könnten langsam, aber beharrlich darauf hinarbeiten, Menschen zu überzeugen, ihre politische Meinung oder ihre Unterstützung für Politiker zu ändern, indem sie den Eindruck breiter Akzeptanz erwecken.
Die eigentliche Bedrohung durch KI-Schwärme ist nicht die Verbreitung einzelner Falschmeldungen, sondern die Schaffung eines künstlichen Konsenses, der gesellschaftliche Normen schleichend verschieben kann. Wenn viele scheinbar unabhängige Stimmen dieselbe Position vertreten, entsteht der Eindruck einer überwältigenden Mehrheit – ein gefährliches Trugbild, das die Meinungsbildung in einer Demokratie untergräbt. Obwohl bisher kein voll entwickelter KI-Schwarm bestätigt wurde, wurden bereits erste KI-gesteuerte Netzwerke entdeckt. Garcia betont, dass die Hürde für die Implementierung niedrig ist. Die leistungsfähigen Sprachmodelle sind frei zugänglich; lediglich Rechenleistung und ein Anreiz sind notwendig, um solche Kampagnen zu starten.
Angesichts dieser bevorstehenden Bedrohung betont David Garcia die Dringlichkeit, jetzt präventive Maßnahmen zu ergreifen. “Wir sehen, dass es fast so weit ist, und wir versuchen, das zu verhindern, indem wir diesen Artikel geschrieben haben”, erklärt der Konstanzer Datenforscher. Das Forschungsteam plädiert für frühzeitiges Handeln, um demokratische Prozesse zu schützen. Eine vorgeschlagene Gegenmaßnahme ist die Entwicklung von Mustererkennungssystemen, die koordiniertes Verhalten identifizieren, um künstliche Schwärme schneller aufzuspüren. Ergänzend dazu könnte eine unabhängige Beobachtungsstelle ins Leben gerufen werden, die plattformübergreifend die Beeinflussung von Debatten durch KI-Agenten überwacht. Je früher solche Netzwerke sichtbar werden, so Garcia, desto schwieriger wird es für sie, Vertrauen zu untergraben und die echte Meinungsvielfalt zu überdecken.
