Leitlinien sollen Klarheit bringen 💡

Mit dem Inkrafttreten der Verordnung (EU) 2024/1689, dem sogenannten KI-Gesetz (EU AI Act), am 1. August 2024, hat die Europäische Union harmonisierte Vorschriften für die Entwicklung, das Inverkehrbringen und die Nutzung von künstlicher Intelligenz (KI) in der Union geschaffen.

Am 02. Februar sind bereits Teile – unter anderem die sogenannte Schulungsverpflichtung (KI-Kompetenz) in Kraft getreten:

“Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen …” (Artikel 4).

Ein entscheidender Punkt hierbei ist die Definition von KI-System? 🤔
Hierzu hat die Europäische Kommission nun Leitlinien herausgegeben, die Anbietern und anderen relevanten Akteuren helfen sollen, zu bestimmen, ob ein System ein KI-System im Sinne des AI Acts darstellt.

Artikel 3 (1) des AI Acts definiert ein KI-System wie folgt:
“KI-System” ist ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operiert und nach der Einführung Anpassungsfähigkeit zeigen kann, und das für explizite oder implizite Ziele aus den empfangenen Eingaben ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können.“

Diese Definition ist der Schlüssel zum Verständnis des Anwendungsbereichs des AI Acts. Es gibt 7 Schlüsselelemente, die bei der Beurteilung helfen sollen:

• Maschinenbasiertes System: Hardware und Software bilden die Grundlage.
  
• Autonomie: Fähigkeit, mit unterschiedlichen Graden an Unabhängigkeit von menschlichem Eingreifen zu agieren.
  
• Adaptivität: (Optional) Lernfähigkeit und Verhaltensänderung im Laufe der Zeit.
  
• KI-Systemziele: Explizite oder implizite Ziele, die das System verfolgt.
  
• Inferenz: Fähigkeit, aus Eingaben Schlussfolgerungen zu ziehen und Ausgaben zu generieren.
  
• Ausgabe: Generierung von Vorhersagen, Inhalten, Empfehlungen oder Entscheidungen.
  
• Interaktion mit der Umgebung: Einfluss der Ausgaben auf physische oder virtuelle Umgebungen.

Die korrekte Einordnung als KI-System hat erhebliche Auswirkungen auf Compliance-Anforderungen, Risikomanagement und Innovationsstrategien.

Die Bestimmung, ob ein Softwaresystem ein KI-System ist, sollte auf der Grundlage der spezifischen Architektur und Funktionalität eines bestimmten Systems erfolgen und die sieben Elemente der in Artikel 3 Absatz 1 des KI-Gesetzes festgelegten Definition berücksichtigen.

Was denken Sie über die neuen Leitlinien und die Implikationen des AI Acts für Ihr Unternehmen? Welche Herausforderungen sehen Sie bei der Umsetzung? Teilen Sie Ihre Gedanken und Erfahrungen in den Kommentaren! 👇