Künstliche Intelligenz gegen digitale Desinformation

Desinformation hat nicht mit dem Russland-Ukraine-Krieg begonnen; sie ist vielmehr Teil einer hybriden Kriegführung, die es schon lange gibt. Gefälschte Videos, Texte und Fotos werden meist gezielt verbreitet, um die öffentliche Meinung zu manipulieren oder Wahrnehmungen zu steuern. Teams, die in diesem Bereich arbeiten, analysieren wie zivile Medienhäuser Veröffentlichungen und Lagen in der Gesellschaft und erstellen sogenannte Lagebilder.

Textdaten lassen sich heute mit gängigen Algorithmen besser auswerten. Viele Armeen setzen verschiedene Technologien zur Textanalyse ein. Bilder zu analysieren ist dagegen komplexer. Weil Text seit Langem ein beliebtes Kommunikationsmittel ist, wurden für ihn mehr Analysefähigkeiten aufgebaut. Für Beeinflussungskampagnen werden jedoch zunehmend Bilder und Videos genutzt. Besonders häufig begegnen sie uns in ironischen Darstellungen aktueller Ereignisse.

Das Projekt „Image Aware“ der Bundeswehr etwa kann mithilfe künstlicher Intelligenz Bilder und Videos automatisch erfassen und Analysten unterstützen. Solche KI-gestützten Projekte helfen, Lage und Stimmung im Einsatzgebiet zu beurteilen.

Diese Programme erfassen öffentlich zugängliche Daten aus sozialen Medien und dem Nachrichtenverkehr und erkennen und kategorisieren die darin enthaltenen Fotos, Videos und Texte. Das Funktionsprinzip ist folgendes: Der Analyst gibt den gesuchten Text in das Programm ein, das Programm durchsucht den großen Datenbestand nach semantischen Mustern und präsentiert dem Analysten die Ergebnisse. Die künstliche Intelligenz verringert dabei die Komplexität der Inhalte. Die gewonnenen Inhalte werden automatisch in die Landessprache übersetzt. So entsteht ein aussagekräftigeres Ergebnis als aus den reinen Quelldaten.

In hybriden Konfliktlagen machen solche Analysen die Tätigkeit operativer Einheiten wirksamer. Zudem lassen sich Ergebnisse der Bildanalyse mit denen der Textanalyse abgleichen, was ein genaueres Ergebnis liefert. Solche Software senkt die Arbeitslast der Analysten erheblich und spart damit auch spürbar Personal.

Diese KI-gestützten Programme spielen nicht nur eine entscheidende Rolle im Kampf gegen Desinformation, sondern sind auch zu einem wichtigen Baustein für immer genauere und wirksamere Strategien geworden. Technischer Fortschritt kann einen starken Schutz gegen irreführende Inhalte bieten, mit denen böswillige Einzelpersonen und Gruppen die öffentliche Wahrnehmung beeinflussen wollen. Deshalb ist es entscheidend für einen dauerhaft wirksamen Kampf gegen Desinformation, technische Fortschritte laufend zu verfolgen und in bestehende Systeme zu integrieren. Wer mit den Entwicklungen in diesem Bereich nicht Schritt hält, dem wird der Kampf gegen Desinformation zunehmend schwerer fallen. [1]