Überblick und Ziele der KI-Verordnung

Mit der Verordnung (EU) 2024/1689, allgemein bekannt als EU AI Act oder KI-Verordnung, hat die Europäische Union das weltweit erste umfassende Gesetz zur Regulierung Künstlicher Intelligenz geschaffen. Für alle, die beruflich mit KI arbeiten, lohnt sich ein Grundverständnis: Die Verordnung betrifft nicht nur Tech-Konzerne, sondern auch ganz normale Unternehmen, die KI einsetzen.

Was will der AI Act erreichen?

Die Verordnung verfolgt zwei Ziele gleichzeitig:

• Schutz: Grundrechte, Gesundheit und Sicherheit der Menschen sollen vor riskanten KI-Anwendungen geschützt werden, etwa vor Diskriminierung, Manipulation oder Überwachung.
• Vertrauen und Innovation: Klare, einheitliche Regeln im gesamten EU-Binnenmarkt sollen Vertrauen in KI schaffen und Unternehmen Rechtssicherheit geben.

Eine Verordnung: Was bedeutet das?

Als EU-Verordnung gilt der AI Act unmittelbar in allen Mitgliedstaaten. Anders als eine Richtlinie muss er nicht erst in nationales Recht umgesetzt werden. Ergänzend regeln die Mitgliedstaaten unter anderem die nationale Aufsicht und Sanktionsdetails. In Deutschland ist das nationale Durchführungsgesetz mit der endgültigen Festlegung der Aufsichtsstruktur Stand Anfang 2026 noch nicht abgeschlossen; im Gespräch ist eine zentrale Rolle der Bundesnetzagentur.

Der risikobasierte Ansatz

Das Herzstück des AI Act ist der risikobasierte Ansatz: Nicht „die KI“ wird pauschal reguliert, sondern konkrete Anwendungen je nach ihrem Risiko für Menschen und Gesellschaft. Die einfache Logik lautet: Je höher das Risiko, desto strenger die Regeln.

• Anwendungen mit unannehmbarem Risiko sind verboten.
• Hochrisiko-Anwendungen unterliegen strengen Auflagen.
• Anwendungen mit begrenztem Risiko müssen vor allem Transparenzpflichten erfüllen.
• Der große Rest mit minimalem Risiko bleibt weitgehend frei.

Die vier Klassen lernen Sie in der nächsten Lektion im Detail kennen.

Wen betrifft der AI Act?

Die Verordnung unterscheidet mehrere Rollen. Für den Arbeitsalltag sind zwei besonders wichtig:

• Anbieter: Wer ein KI-System entwickelt und auf den Markt bringt, etwa der Hersteller eines Chatbots oder einer HR-Software.
• Betreiber: Wer ein KI-System beruflich einsetzt, also auch Ihr Unternehmen, wenn es beispielsweise ein KI-Tool zur Bewerbervorauswahl nutzt.

Wichtig: Auch Betreiber haben Pflichten, insbesondere bei Hochrisiko-Systemen. Der AI Act gilt zudem für Anbieter außerhalb der EU, wenn ihre Systeme in der EU genutzt werden.

Warum Sie das wissen sollten

Für Sie als Anwenderin oder Anwender bedeutet der AI Act vor allem dreierlei: Bestimmte KI-Praktiken sind verboten, für sensible Einsatzfelder, etwa im Personalbereich, gelten strenge Regeln, und Unternehmen müssen dafür sorgen, dass ihre Beschäftigten über ausreichende KI-Kompetenz verfügen. Genau dazu trägt diese Schulung bei.