Blog · Governance
KI-Beauftragter im Unternehmen: Notwendigkeit und Rolle
Mit dem Inkrafttreten des EU AI Acts am 1. August 2024 ändert sich die regulatorische Landschaft für Künstliche Intelligenz grundlegend. Dies wirft die Frage auf, ob Unternehmen einen dedizierten KI-Beauftragten benötigen.
Was sind die Aufgaben eines KI-Beauftragten?
Ein KI-Beauftragter ist primär für die Überwachung und Steuerung von KI-Anwendungen im Unternehmen zuständig. Dazu gehören die Sicherstellung der Konformität mit gesetzlichen Vorgaben wie dem EU AI Act, die Implementierung von Risikomanagementprozessen sowie die Unterstützung der Entwicklung von KI-Kompetenz innerhalb der Organisation.
- Überwachung der Einhaltung des EU AI Acts.
- Bewertung und Management von KI-Risiken.
- Koordination von KI-Projekten und deren ethischer sowie rechtlicher Verträglichkeit.
- Schulung und Sensibilisierung von Mitarbeitern zum Thema KI.
- Ansprechpartner für interne und externe Stakeholder bezüglich KI-Themen.
Sind KI-Beauftragte gesetzlich vorgeschrieben?
Eine Pflicht, einen KI-Beauftragten zu benennen, kennt der EU AI Act nicht. Anders beim Datenschutz: Dort besteht die Benennungspflicht für einen Datenschutzbeauftragten (Art. 37 DSGVO, § 38 BDSG, in der Regel ab 20 Personen, die ständig mit automatisierter Datenverarbeitung befasst sind). Für Hochrisiko-Systeme verlangt der AI Act Qualitätsmanagement und Risikomanagement (Anbieter, Art. 9 und 17) sowie die Übertragung der menschlichen Aufsicht an kompetente Personen (Betreiber, Art. 26 Abs. 2). Diese Pflichten gelten für Systeme nach Anhang III ab dem 2. Dezember 2027, für Hochrisiko-Systeme als Teil regulierter Produkte (Anhang I) ab dem 2. August 2028. Wer das in einer Rolle bündelt, kann das als „KI-Verantwortliche“ organisieren; gesetzlich vorgeschrieben ist das nicht. Unabhängig davon gilt seit dem 2. Februar 2025 Art. 4 zur KI-Kompetenz, seit 27. Juli 2026 in geänderter Fassung.
Welche Risiken birgt die Nichteinhaltung?
Die Nichteinhaltung des EU AI Acts kann erhebliche finanzielle Konsequenzen nach sich ziehen. Bei verbotenen Praktiken drohen Bußgelder von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes. Verstöße im Bereich Hochrisiko-Systeme können mit bis zu 15 Millionen Euro oder 3% des weltweiten Jahresumsatzes geahndet werden. Für kleine und mittlere Unternehmen (KMU) und kleine Midcap-Unternehmen gilt jeweils der niedrigere Betrag.
Interne vs. externe Lösung: Was ist ratsam?
Die Entscheidung für eine interne oder externe Besetzung der KI-Beauftragten-Rolle hängt von verschiedenen Faktoren ab. Eine interne Lösung ermöglicht tiefes Verständnis für die Unternehmensprozesse, erfordert jedoch entsprechende Expertise im Haus. Externe Experten bieten spezialisiertes Wissen und Unabhängigkeit, was besonders bei der ersten Implementierung und zur Überprüfung der Konformität mit dem EU AI Act hilfreich sein kann. Eine Kombination aus beiden Ansätzen ist ebenfalls denkbar.
Wie bereitet sich mein Unternehmen vor?
Eine proaktive Vorbereitung ist essenziell. Dies beginnt mit der Erfassung aller im Unternehmen genutzten KI-Systeme. Unser Inventarisierungs-Fragebogen kann Ihnen dabei helfen. Anschließend ist eine Risikobewertung ratsam, für die Sie unseren KI-Governance-Check nutzen können. Auch Art. 4 des EU AI Acts (Maßnahmen zur Unterstützung der Entwicklung der KI-Kompetenz, seit 2. Februar 2025, seit 27. Juli 2026 in geänderter Fassung) sollte adressiert werden.
Häufige Fragen
Ist ein KI-Beauftragter für jedes Unternehmen Pflicht?
Nein, der EU AI Act verlangt nicht ausdrücklich die Benennung eines KI-Beauftragten. Für Hochrisiko-KI-Systeme gelten ab dem 2. Dezember 2027 Pflichten (u. a. Risikomanagement, Qualitätsmanagement, menschliche Aufsicht), für die klare Zuständigkeiten nötig sind. Beim Datenschutz besteht dagegen unter den Voraussetzungen des § 38 BDSG eine Benennungspflicht für einen Datenschutzbeauftragten. Unabhängig davon können die Aufgaben eines KI-Beauftragten zur Risikosteuerung und Compliance sinnvoll sein.
Was sind 'Hochrisiko-KI-Systeme' im Sinne des EU AI Acts?
Hochrisiko-KI-Systeme sind solche, die potenziell erhebliche Auswirkungen auf Grundrechte oder Sicherheit haben können. Sie sind in Anhang III des EU AI Acts gelistet und unterliegen besonders strengen Auflagen.
Was verlangt Art. 4 zur KI-Kompetenz?
Art. 4 verlangt seit dem 2. Februar 2025 von Anbietern und Betreibern Maßnahmen zur Unterstützung der Entwicklung der KI-Kompetenz ihres Personals, das mit KI-Systemen arbeitet; seit dem 27. Juli 2026 gilt er in geänderter Fassung. Dies dient dem Verständnis der Funktionsweise, Risiken und Grenzen von KI.
Kann die Rolle des KI-Beauftragten von bestehenden Mitarbeitern übernommen werden?
Ja, sofern die betreffenden Mitarbeiter über die notwendige Expertise und Kapazität verfügen. Für Hochrisiko-Systeme gelten ab dem 2. Dezember 2027 Pflichten (u. a. menschliche Aufsicht durch kompetente Personen); klare Verantwortlichkeiten oder eine dedizierte Rolle erleichtern deren Umsetzung.
Welche Fördermöglichkeiten gibt es für KI-Beratung?
Eine Beratung kann gefördert werden, die laufende Betreuung und die Umsetzung nicht. Eine Übersicht der Programme steht auf kipartners.de/ki-foerderung/. Informationen hierzu finden Sie auch auf unserer Leistungsseite.
Unsicher, wo Ihr Unternehmen steht?
Der kostenlose EU AI Act Audit gibt Ihnen in 5 Minuten eine erste Einschätzung.
Zum EU AI Act Audit →Dieser Beitrag wurde KI-gestützt erstellt und redaktionell geprüft (Art. 50 EU AI Act).