Blog · Governance
KI-Beauftragter im Unternehmen: Notwendigkeit und Rolle
Mit dem Inkrafttreten des EU AI Acts am 1. August 2024 ändert sich die regulatorische Landschaft für Künstliche Intelligenz grundlegend. Dies wirft die Frage auf, ob Unternehmen einen dedizierten KI-Beauftragten benötigen.
Was sind die Aufgaben eines KI-Beauftragten?
Ein KI-Beauftragter ist primär für die Überwachung und Steuerung von KI-Anwendungen im Unternehmen zuständig. Dazu gehören die Sicherstellung der Konformität mit gesetzlichen Vorgaben wie dem EU AI Act, die Implementierung von Risikomanagementprozessen sowie die Förderung von KI-Kompetenz innerhalb der Organisation.
- Überwachung der Einhaltung des EU AI Acts.
- Bewertung und Management von KI-Risiken.
- Koordination von KI-Projekten und deren ethischer sowie rechtlicher Verträglichkeit.
- Schulung und Sensibilisierung von Mitarbeitern zum Thema KI.
- Ansprechpartner für interne und externe Stakeholder bezüglich KI-Themen.
Ab wann sind KI-Beauftragte gesetzlich vorgeschrieben?
Der EU AI Act sieht spezifische Pflichten vor. Ab dem 2. August 2026 müssen Unternehmen, die Hochrisiko-KI-Systeme gemäß Anhang III des Gesetzes einsetzen oder entwickeln, entsprechende Governance-Strukturen etablieren. Dies kann die Benennung eines KI-Beauftragten einschließen. Für Hochrisiko-Systeme als Teil regulierter Produkte gelten diese Pflichten ab dem 2. August 2027.
Welche Risiken birgt die Nichteinhaltung?
Die Nichteinhaltung des EU AI Acts kann erhebliche finanzielle Konsequenzen nach sich ziehen. Bei verbotenen Praktiken drohen Bußgelder von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes. Verstöße im Bereich Hochrisiko-Systeme können mit bis zu 15 Millionen Euro oder 3% des weltweiten Jahresumsatzes geahndet werden. Für kleine und mittlere Unternehmen (KMU) gelten jeweils die niedrigeren Beträge.
Interne vs. externe Lösung: Was ist ratsam?
Die Entscheidung für eine interne oder externe Besetzung der KI-Beauftragten-Rolle hängt von verschiedenen Faktoren ab. Eine interne Lösung ermöglicht tiefes Verständnis für die Unternehmensprozesse, erfordert jedoch entsprechende Expertise im Haus. Externe Experten bieten spezialisiertes Wissen und Unabhängigkeit, was besonders bei der ersten Implementierung und zur Überprüfung der Konformität mit dem EU AI Act hilfreich sein kann. Eine Kombination aus beiden Ansätzen ist ebenfalls denkbar.
Wie bereitet sich mein Unternehmen vor?
Eine proaktive Vorbereitung ist essenziell. Dies beginnt mit der Erfassung aller im Unternehmen genutzten KI-Systeme. Unser kann Ihnen dabei helfen. Anschließend ist eine Risikobewertung ratsam, für die Sie unseren KI-Risiko-Check nutzen können. Die Schulungspflichten gemäß Art. 4 des EU AI Acts, die seit dem 2. Februar 2025 gelten, sollten ebenfalls adressiert werden.
Häufige Fragen
Ist ein KI-Beauftragter für jedes Unternehmen Pflicht?
Nein, eine explizite Pflicht zur Benennung eines KI-Beauftragten besteht erst ab dem 2. August 2026 für Unternehmen, die Hochrisiko-KI-Systeme einsetzen oder entwickeln. Unabhängig davon können die Aufgaben eines KI-Beauftragten zur Risikosteuerung und Compliance sinnvoll sein.
Was sind 'Hochrisiko-KI-Systeme' im Sinne des EU AI Acts?
Hochrisiko-KI-Systeme sind solche, die potenziell erhebliche Auswirkungen auf Grundrechte oder Sicherheit haben können. Sie sind in Anhang III des EU AI Acts gelistet und unterliegen besonders strengen Auflagen.
Welche Schulungspflichten gibt es?
Seit dem 2. Februar 2025 besteht eine Pflicht zur KI-Alphabetisierung und Schulung für Mitarbeiter, die mit KI-Systemen arbeiten. Dies dient dem Verständnis der Funktionsweise, Risiken und Grenzen von KI.
Kann die Rolle des KI-Beauftragten von bestehenden Mitarbeitern übernommen werden?
Ja, sofern die betreffenden Mitarbeiter über die notwendige Expertise und Kapazität verfügen. Der EU AI Act fordert jedoch, dass die Governance-Pflichten ab August 2026 erfüllt werden, was eine dedizierte Rolle oder klare Verantwortlichkeiten impliziert.
Welche Fördermöglichkeiten gibt es für KI-Beratung?
KI-Beratung kann über verschiedene Programme wie BAFA, ISB RLP, go-digital oder Digital Jetzt anteilig bezuschussbar sein. Dies kann die Kosten für die Implementierung von Compliance-Maßnahmen reduzieren. Informationen hierzu finden Sie auch auf unserer Leistungsseite.
Unsicher, wo Ihr Unternehmen steht?
Der kostenlose EU AI Act Audit gibt Ihnen in 5 Minuten eine erste Einschätzung.
Zum EU AI Act Audit →Dieser Beitrag wurde KI-gestützt erstellt und redaktionell geprüft (Art. 50 EU AI Act).