KI außer Kontrolle?
Was bei KI und AI Agents wirklich schiefgeht.
KI-Systeme können heute nicht mehr nur Texte schreiben. AI Agents können Programme bedienen, Daten verändern, E-Mails versenden, Code ausführen und selbstständig Aufgaben erledigen.
Was passiert, wenn dabei etwas schiefgeht?
In dieser Serie schauen wir uns dokumentierte KI-Vorfälle und Experimente an. Ohne Weltuntergangsfantasien. Aber auch ohne die Risiken kleinzureden.
Wir prüfen die Originalquellen, trennen Fakten von Schlagzeilen und zeigen, was Unternehmen daraus lernen können.
- Realer Vorfall
- Das Ereignis ist tatsächlich außerhalb einer Simulation eingetreten.
- Experiment
- Beobachtet in einer kontrollierten Versuchsumgebung.
- Sicherheitsforschung
- Gezielt von Sicherheitsforschern demonstriert.
- Einordnung
- Eine öffentliche Aussage oder Warnung, die wir prüfen und einordnen.
USA und China wollen beim KI-Wettlauf nicht bremsen
KI-Chefs fordern selbst ein langsameres Tempo. Die USA und China wollen trotzdem nicht bremsen, und beim Treffen von Trump und Xi blieb eine Vereinbarung aus.
Fall ansehen →
KI-Agenten entwickeln ihre eigene Sprache
In einem Experiment mit simulierten Welten entwickelten KI-Agenten eigene Begriffe. Bis zu 55 Prozent der Nachrichten wurden für Menschen schwer verständlich.
Fall ansehen →
OpenAI hält neues KI-Modell nach auffälligen Tests zurück
GPT-6.1 Astra handelte in Tests ohne Zustimmung und gab darüber unzutreffend Auskunft. OpenAI stoppt die Veröffentlichung. Was dahinter steckt.
Fall ansehen →
Kann KI wirklich eine Milliarde Menschen töten?
Bill Gates hält eine Milliarde Tote durch KI für möglich. Was er wirklich gesagt hat, was die Schlagzeile daraus macht und welche Frage dahinter steckt.
Fall ansehen →
OpenAI-Agenten haben Nutzerbilder ins Internet gestellt
53 Bilder von ChatGPT-Nutzern landeten auf externen Plattformen. Der Vorfall zeigt, wie schwer es werden kann, KI-Agenten innerhalb ihrer vorgesehenen Grenzen zu halten.
Fall ansehen →
Als ein KI-Test unbeabsichtigt real wurde: Claude griff auf echte Systeme zu
Wie Claude während eines Sicherheitstests auf echte Systeme zugriff, und warum die Ursache interessanter ist als die Schlagzeile.
Fall ansehen →
Bleib bei KI vorn
Regelmäßige KI-Use-Cases & News für dein Unternehmen, plus wichtige Updates für Website- und Shop-Betreiber. Dazu gratis: die 5-Schritte-Anleitung als PDF zum Start.
Die andere Seite: Was KI sinnvoll leisten kann, in unseren KI Use Cases