Eine aktuelle Studie von NewsGuard hat aufgedeckt, dass ein russisches Desinformationsnetzwerk namens “Pravda” gezielt KI-Chatbots infiltriert, um pro-kremlische Propaganda zu verbreiten. Dieses Netzwerk betreibt über 150 Websites, die falsche Narrative verbreiten und so die Datenverarbeitung der Chatbots verzerren.

Wesentliche Erkenntnisse der Studie:

• Verbreitung falscher Informationen: Die Chatbots reproduzierten in 33,5 % der Fälle Desinformationen, wobei sieben von ihnen Artikel von Pravda zitierten.​
• Beispiele für falsche Behauptungen: Unter anderem wurden unbelegte Behauptungen über US-Biowaffenlabore in der Ukraine und die angebliche Veruntreuung von US-Hilfsgeldern durch Präsident Selenskyj verbreitet.​
• Funktionsweise des Netzwerks: Pravda, betrieben von einem IT-Unternehmen auf der Krim, erstellt keine eigenen Inhalte, sondern aggregiert Beiträge aus pro-kremlischen Quellen. Durch umfangreiche Publikationstätigkeit beeinflusst es große Sprachmodelle (LLMs), die in Chatbots verwendet werden.​

Die Studie warnt davor, dass LLMs durch eine Überflutung mit Desinformation manipuliert werden können.Unternehmen wie OpenAI ergreifen Maßnahmen, um solchen verdeckten Einflussnahmen entgegenzuwirken. ​

💡Takeaway: Die gezielte Beeinflussung von KI-Chatbots durch Desinformationsnetzwerke stellt eine ernsthafte Herausforderung dar. Es ist entscheidend, die Datenquellen von KI-Systemen sorgfältig zu überwachen und robuste Mechanismen zur Erkennung und Abwehr von Desinformation zu entwickeln.​

👉 Zum ganzen Artikel: Russische Desinformation beeinflusst KI-Chatbots, zeigt aktuelle Studie