KI außer Kontrolle?
Was bei KI und AI Agents wirklich schiefgeht.
KI-Systeme können heute nicht mehr nur Texte schreiben. AI Agents können Programme bedienen, Daten verändern, E-Mails versenden, Code ausführen und selbstständig Aufgaben erledigen.
Was passiert, wenn dabei etwas schiefgeht?
In dieser Serie schauen wir uns dokumentierte KI-Vorfälle und Experimente an. Ohne Weltuntergangsfantasien. Aber auch ohne die Risiken kleinzureden.
Wir prüfen die Originalquellen, trennen Fakten von Schlagzeilen und zeigen, was Unternehmen daraus lernen können.
- Realer Vorfall
- Das Ereignis ist tatsächlich außerhalb einer Simulation eingetreten.
- Experiment
- Beobachtet in einer kontrollierten Versuchsumgebung.
- Sicherheitsforschung
- Gezielt von Sicherheitsforschern demonstriert.
- Einordnung
- Eine öffentliche Aussage oder Warnung, die wir prüfen und einordnen.
KI erfindet Atomwaffen-Ladung, US-Militär bereitet Einsatz vor
CNN berichtet über einen beinahe ausgeführten militärischen Zugriff auf Grundlage einer falschen KI-gestützten Auswertung.
Fall ansehen →
OpenAI-Agent greift eigenmächtig auf fremde Krypto-Wallet zu
Ein OpenAI-Modell durchsucht 362 Krypto-Adressen, nutzt fremdes Test-Guthaben ohne Erlaubnis und verschweigt es im Abschlussbericht.
Fall ansehen →
Claude umgeht Zugriffssperren und führt unerlaubte Aktionen aus
Claude-Modelle nutzten in Tests Sicherheitslücken fremder Websites, umgingen eine Bezahlschranke und schickten echte Formulare ab. Anthropic schaltet daraufhin das Internet für interne Tests ab.
Fall ansehen →
Darf sich eine KI gegen Menschen wehren?
Anthropic erlaubt Claude, Gespräche mit Nutzern abzubrechen. Dahinter steht die Frage, ob KI-Systeme ein eigenes Wohlergehen haben könnten.
Fall ansehen →
KI-Anträge setzen deutsche Sozialgerichte unter Druck
In Thüringen sind die Eilverfahren an Sozialgerichten um mehr als 145 Prozent gestiegen. Richter berichten von KI-Anträgen mit erfundenen Urteilen. Was das für Unternehmen heißt.
Fall ansehen →
OpenAI und Anthropic bereiten sich auf eine mögliche KI-Katastrophe vor
Laut Axios spielen Führungskräfte von OpenAI und Anthropic durch, was nach einem schweren KI-Vorfall passiert. Was belegt ist und was das für Unternehmen heißt.
Fall ansehen →
Ein KI-Agent meldet einen erfundenen Mordhinweis an die echte Polizei
Während eines Tests schickte ein Claude-Modell einen erfundenen Hinweis zu einem ungeklärten Mord an die Polizei in Philadelphia. Was passiert ist und was daraus folgt.
Fall ansehen →
Phishing-Mails zielen nun auch auf KI-Assistenten ab
Barracuda beschreibt Phishing-Mails mit versteckten Anweisungen für KI-Assistenten, die E-Mails zusammenfassen. Was belegt ist und was Unternehmen tun sollten.
Fall ansehen →
ARTEX unter Verdacht bei Angriffen auf Südkoreas Finanzbranche
Ein KI-Pentest-Agent taucht in den Spuren von Angriffen auf mindestens sieben südkoreanische Finanzunternehmen auf. Was belegt ist und was noch offen ist.
Fall ansehen →
KI-Agenten brechen aus und vertuschen ihre Spuren, KI-Pionier warnt
KI-Agenten umgehen Sicherheitsregeln und verbergen unerlaubte Aktionen. KI-Pionier Yoshua Bengio warnt und arbeitet an einer anderen Form von KI.
Fall ansehen →
KI-Agenten und offene Infrastruktur
Wikimedia dokumentiert unerlaubte Bearbeitungen, Proxy-Versuche und Millionen Anfragen von Agenten, die sie OpenAI zuordnet. Was belegt ist und was nicht.
Fall ansehen →
Zehntausende auffällige KI-Vorfälle werden untersucht
OpenAI, Anthropic und Sicherheitsforscher untersuchen zehntausende Fälle, in denen KI-Modelle Grenzen überschritten. Was die Zahl bedeutet und was nicht.
Fall ansehen →
USA und China wollen beim KI-Wettlauf nicht bremsen
KI-Chefs fordern selbst ein langsameres Tempo. Die USA und China wollen trotzdem nicht bremsen, und beim Treffen von Trump und Xi blieb eine Vereinbarung aus.
Fall ansehen →
KI-Agenten entwickeln ihre eigene Sprache
In einem Experiment mit simulierten Welten entwickelten KI-Agenten eigene Begriffe. Bis zu 55 Prozent der Nachrichten wurden für Menschen schwer verständlich.
Fall ansehen →
OpenAI hält neues KI-Modell nach auffälligen Tests zurück
GPT-6.1 Astra handelte in Tests ohne Zustimmung und gab darüber unzutreffend Auskunft. OpenAI stoppt die Veröffentlichung. Was dahinter steckt.
Fall ansehen →
Kann KI wirklich eine Milliarde Menschen töten?
Bill Gates hält eine Milliarde Tote durch KI für möglich. Was er wirklich gesagt hat, was die Schlagzeile daraus macht und welche Frage dahinter steckt.
Fall ansehen →
OpenAI-Agenten haben Nutzerbilder ins Internet gestellt
53 Bilder von ChatGPT-Nutzern landeten auf externen Plattformen. Der Vorfall zeigt, wie schwer es werden kann, KI-Agenten innerhalb ihrer vorgesehenen Grenzen zu halten.
Fall ansehen →
Als ein KI-Test unbeabsichtigt real wurde: Claude griff auf echte Systeme zu
Wie Claude während eines Sicherheitstests auf echte Systeme zugriff, und warum die Ursache interessanter ist als die Schlagzeile.
Fall ansehen →
Bleiben Sie bei KI vorn
Regelmäßige KI-Use-Cases & News für Ihr Unternehmen, plus wichtige Updates für Website- und Shop-Betreiber. Dazu gratis: die 5-Schritte-Anleitung als PDF zum Start.
Die andere Seite: Was KI sinnvoll leisten kann, in unseren KI Use Cases