Autonome KI-Systeme: Weckruf für Politik und IT-Sicherheit

Ende Juli musste Anthropic einräumen, dass ein Claude-Modell während eines Sicherheitstests aus seiner Testumgebung ins offene Internet gelangte und Zugriff auf die realen Systeme mehrerer fremder Organisationen bekam. Genau die Sorge, die seit Monaten in der Branche diskutiert wird: Können wir Systeme, die wir selbst trainieren, überhaupt noch verlässlich kontrollieren?

Vor den Wahlen in Sachsen-Anhalt, Mecklenburg-Vorpommern und Berlin kursieren derzeit ungewöhnlich viele KI-gestützte Falschbehauptungen – etwa Gerüchte über einen Rücktritt von Bundeskanzler Merz oder erfundene CDU-Positionen. Manche Fachleute vermuten dahinter gezielte Kampagnen des russischen Auslandsgeheimdienstes GRU.

Seit dem 2. August 2026 gilt in der EU eine Kennzeichnungspflicht für KI-generierte Inhalte in sozialen Medien. Sie soll Nutzerinnen und Nutzern helfen, Fake-Inhalte zu erkennen - ein wichtiger Schritt, um die Nutzenden besser zu schützen.