Blog · EU AI Act

EU AI Act im produzierenden Gewerbe: Pflichten und Abgrenzung

Von Denis Schnellenbach · August 2026 · Lesezeit: 6 Minuten

Kurz gesagt: Der EU AI Act reguliert KI-Systeme im produzierenden Gewerbe, insbesondere Hochrisiko-KI. Er ergänzt bestehende Sicherheitsvorschriften und erlegt Herstellern sowie Betreibern spezifische Pflichten auf, um Risiken zu minimieren und Transparenz zu gewährleisten. Fristen für die Umsetzung der verschiedenen Bestimmungen reichen bis August 2027.

Der EU AI Act ist am 1. August 2024 in Kraft getreten und stellt einen neuen Rechtsrahmen für Künstliche Intelligenz dar. Für das produzierende Gewerbe ergeben sich daraus spezifische Anforderungen, insbesondere im Hinblick auf die Integration von KI in Produkte, Prozesse und Dienstleistungen. Dieser Artikel beleuchtet die wesentlichen Aspekte des EU AI Act und seine Auswirkungen auf Hersteller und Betreiber.

Wie grenzt sich der EU AI Act von bestehenden Sicherheitsrechten ab?

Der EU AI Act ist als horizontale Gesetzgebung konzipiert, die spezifische Risiken von KI-Systemen adressiert. Er ergänzt, ersetzt aber nicht, bestehende sektorspezifische Rechtsvorschriften wie das Maschinenrecht (z.B. Maschinenverordnung, ehemals Maschinenrichtlinie) und das Produktsicherheitsrecht. Wo bestehende Gesetze bereits spezifische Anforderungen an KI-Komponenten stellen, können diese als erfüllt gelten. Der AI Act fokussiert sich jedoch auf KI-spezifische Risiken, die von traditionellen Sicherheitsnormen möglicherweise nicht vollständig abgedeckt werden. Dies gilt insbesondere für Systeme, die als Hochrisiko-KI eingestuft werden.

Welche Rolle spielt KI in Prüf- und Qualitätsprozessen unter dem AI Act?

KI-Systeme, die in Prüf- und Qualitätsprozessen eingesetzt werden, können als Hochrisiko-KI eingestuft werden, wenn sie eine wesentliche Sicherheitskomponente eines Produkts oder Prozesses darstellen und Fehlfunktionen zu erheblichen Schäden führen können. Beispiele hierfür sind KI-gestützte Inspektionssysteme zur Fehlererkennung in sicherheitsrelevanten Bauteilen oder autonome Qualitätskontrollsysteme, deren Versagen die Produktintegrität gefährdet. Für solche Systeme gelten ab dem 2. August 2026 bzw. 2. August 2027 (wenn Teil regulierter Produkte) strenge Anforderungen bezüglich Risikomanagement, Datenqualität, Transparenz und menschlicher Aufsicht.

Welche Pflichten ergeben sich für Hersteller von KI-Systemen?

Risikomanagement: Hersteller von Hochrisiko-KI-Systemen müssen ein robustes Risikomanagementsystem implementieren.
Daten-Governance: Sicherstellung der Qualität, Repräsentativität und Robustheit der Trainings-, Validierungs- und Testdaten.
Technische Dokumentation: Erstellung und Pflege umfassender technischer Unterlagen.
Konformitätsbewertung: Durchführung einer Konformitätsbewertung vor dem Inverkehrbringen.
Menschliche Aufsicht: Gestaltung der Systeme zur Ermöglichung menschlicher Aufsicht.
Cybersicherheit: Schutz vor Sicherheitsrisiken.
Transparenz: Bereitstellung von Nutzungsinformationen für Betreiber.
Qualitätsmanagement: Implementierung eines Qualitätsmanagementsystems.

Für General Purpose AI (GPAI) gelten seit dem 2. August 2025 spezifische Transparenzpflichten und bei erheblichen Risiken auch zusätzliche Anforderungen.

Welche Pflichten müssen Betreiber von KI-Systemen beachten?

Nutzung gemäß Anweisung: Einsatz der KI-Systeme gemäß der Bedienungsanleitung des Herstellers.
Menschliche Aufsicht: Sicherstellung einer angemessenen menschlichen Aufsicht.
Monitoring: Überwachung der Systemleistung und -genauigkeit.
Datenprotokollierung: Protokollierung relevanter Ereignisse.
Datenschutz: Einhaltung datenschutzrechtlicher Vorgaben.
Cybersicherheit: Gewährleistung der Cybersicherheit der Betriebsumgebung.
AI Literacy: Schulung des Personals im Umgang mit KI-Systemen (KI-Kompetenz-Zertifikatskurs). Dies ist eine Pflicht, die seit dem 2. Februar 2025 gilt.

Welche Fristen und Strafen sind im EU AI Act relevant?

Der EU AI Act ist am 1. August 2024 in Kraft getreten. Die wichtigsten Fristen sind:

2. Februar 2025: Verbotene Praktiken (Art. 5) und Pflichten zur AI Literacy (Art. 4) gelten.
2. August 2025: Pflichten für General Purpose AI (GPAI) treten in Kraft.
2. August 2026: Pflichten für Hochrisiko-Systeme nach Anhang III (z.B. eigenständige KI-Systeme) und Governance-Pflichten gelten.
2. August 2027: Pflichten für Hochrisiko-Systeme, die als Bestandteil von Produkten in Anhang I (z.B. Maschinen, Medizinprodukte) aufgeführt sind, treten in Kraft.

Bei Verstößen drohen hohe Bußgelder: bis zu 35 Mio. EUR oder 7% des weltweiten Jahresumsatzes für verbotene Praktiken; bis zu 15 Mio. EUR oder 3% für Verstöße gegen Hochrisiko-Bestimmungen. Für KMU gelten jeweils die niedrigeren Beträge. Eine frühzeitige EU AI Act Audit kann helfen, Risiken zu identifizieren und zu minimieren.

Häufige Fragen

Wann ist der EU AI Act in Kraft getreten?

Der EU AI Act ist am 1. August 2024 in Kraft getreten.

Welche Bußgelder sind bei Verstößen gegen den EU AI Act möglich?

Bei verbotenen Praktiken drohen Bußgelder von bis zu 35 Mio. EUR oder 7% des weltweiten Jahresumsatzes. Bei Verstößen gegen Hochrisiko-Bestimmungen sind es bis zu 15 Mio. EUR oder 3%. Für KMU gelten die jeweils niedrigeren Beträge.

Was bedeutet AI Literacy im Kontext des EU AI Act?

AI Literacy (Artikel 4) bedeutet, dass Personal, das KI-Systeme betreibt, entsprechend geschult sein muss, um die Systeme sicher und korrekt zu nutzen. Diese Pflicht gilt seit dem 2. Februar 2025.

Sind KI-Beratungsleistungen im Rahmen des EU AI Act förderfähig?

Ja, KI-Beratungsleistungen, die bei der Umsetzung des EU AI Act unterstützen, sind über verschiedene Programme wie BAFA, ISB RLP, go-digital und Digital Jetzt anteilig bezuschussbar.

Ab wann gelten die Pflichten für Hochrisiko-KI-Systeme?

Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten ab dem 2. August 2026. Für Hochrisiko-Systeme, die Teil regulierter Produkte nach Anhang I sind, gelten die Pflichten ab dem 2. August 2027.

Unsicher, wo Ihr Unternehmen steht?

Der kostenlose EU AI Act Audit gibt Ihnen in 5 Minuten eine erste Einschätzung.

Zum EU AI Act Audit →

Dieser Beitrag wurde KI-gestützt erstellt und redaktionell geprüft (Art. 50 EU AI Act).