EU-AI-Gesetz: Praktische Schritte für gute Governance

Spätestens mit der Einführung des EU-Gesetzes über künstliche Intelligenz sind technische und nicht-technische Mitarbeiter gezwungen, für eine erfolgreiche Umsetzung zusammenzuarbeiten.

Funktionsübergreifende Zusammenarbeit ist für die Einhaltung des EU-KI-Gesetzes unerlässlich

Das EU-KI-Gesetz zielt darauf ab, künstliche Intelligenz in einer Weise zu regulieren, die die Grundrechte schützt und gleichzeitig Innovation und Vertrauen fördert. Die Verordnung ist komplex, und die Risiken erstrecken sich auf rechtliche, ethische, technische und operative Bereiche. Die Umsetzung und Operationalisierung erfordert daher eine Zusammenarbeit zwischen verschiedenen organisatorischen Funktionen, um effektiv gehandhabt zu werden.

Es ist von entscheidender Bedeutung, dass Unternehmen Governance-Strukturen entwickeln, die sicherstellen, dass technisches Fachwissen und nicht-technisches Verständnis während des gesamten KI-Lebenszyklus zusammenarbeiten, um angemessene Risiko- und Compliance-Maßnahmen zu ergreifen. Ohne diese Zusammenarbeit lassen sich selbst die besten Compliance-Strategien für KI nur schwer umsetzen.

Die funktionsübergreifende Zusammenarbeit gewährleistet Folgendes:

• Die Risikobewertung kombiniert technische und Compliance-Risiken, um einen einheitlichen Rahmen zu schaffen.
• Die Entwickler sind in der Lage, die umfassenderen Auswirkungen ihrer Arbeit zu erkennen und zu berücksichtigen.
• Die Einhaltung der Vorschriften ist kein nachträglicher Gedanke, sondern wird von Anfang an integriert.

Klare Rollen und Verantwortlichkeiten

Als Teil eines soliden Governance-Rahmens müssen Unternehmen festlegen, wer für was verantwortlich ist – von der Datenerfassung bis zur Modellüberwachung. Dazu gehören technische Leiter, Compliance-Beauftragte und Risikomanager, die während des gesamten KI-Lebenszyklus zusammenarbeiten.

Die Anforderungen sind umfangreich und müssen vollständig nachvollziehbar sein, insbesondere bei Hochrisikosystemen: Welche Daten wurden verwendet, wie wurde das Modell trainiert, und welche Entscheidungen wurden getroffen? Zu einer guten Governance gehört es, diese Elemente systematisch zu erfassen und zugänglich zu machen. Dazu gehören auch Mechanismen zur Überwachung von KI-Systemen nach ihrer Einführung und zur Behebung etwaiger Probleme, die dabei auftreten.

Praktische Schritte zu einer guten KI-Governance

Im Folgenden findet ihr Hinweise, wie sich Unternehmen vorbereiten können:

1. Definiert Rollen und Verantwortlichkeiten

Weist die Gesamtverantwortung für KI im Unternehmen zu und richtet einen funktionsübergreifenden KI-Beirat ein. Bezieht Vertreter aus den Bereichen Softwareentwicklung, Recht, Compliance, Produktentwicklung, Ethik usw. ein, um sicherzustellen, dass Risikobewertungen ein integraler Bestandteil der Entwicklung und/oder Nutzung von KI sind.

2. Erfasst die gesamte Entwicklung und Nutzung von KI in der Organisation

Dokumentiert, wo und wie KI im Unternehmen eingesetzt wird, und klassifiziert die Systeme gemäß den Definitionen des KI-Gesetzes. Die Aufzeichnung muss alle KI-Anwendungen umfassen, auch solche, die vor Inkrafttreten des Gesetzes eingeführt wurden, und stets aktuell gehalten werden, wenn sich der Anwendungsfall ändert.

Alle Einstufungen müssen einschließlich Beschreibung, Risikobewertung und Begründung festgehalten werden. So lässt sich die Einhaltung des Gesetzes im Falle einer Anfechtung nachweisen.

3. Entwicklung interner Richtlinien im Einklang mit dem KI-Gesetz

Entwickelt eine KI-Strategie und -Richtlinien, um einen verantwortungsvollen Einsatz zu gewährleisten und die Risiken zu beherrschen, die im Zusammenhang mit der Entwicklung und Nutzung von KI entstehen können.

Die Richtlinien sollten mindestens die Anforderungen an Datenqualität, Dokumentation, Transparenz und menschliche Aufsicht abdecken.

4. Schult eure Mitarbeiter

Auch wenn ein großer Teil der Verantwortung für KI-Systeme beim Anbieter und Entwickler von KI liegt, gibt es auch eine Verantwortung als Nutzer. Daher ist es wichtig, Maßnahmen zu ergreifen, um sicherzustellen, dass alle Mitarbeiter über ausreichende KI-Kenntnisse verfügen, die auf ihre Rolle, ihr technisches Wissen und den Anwendungskontext zugeschnitten sind. Jeder braucht ein gemeinsames Vokabular, um effektiv zusammenzuarbeiten. Schult jeden im Unternehmen, um sicherzustellen, dass jeder versteht, wie das System im Unternehmen eingesetzt werden soll, mit seinen Chancen, Risiken und Grenzen.

Das EU-KI-Gesetz bildet die regulatorische Grundlage für vertrauenswürdige KI. Doch mit Vorschriften allein lassen sich keine sicheren, ethischen oder transparenten Systeme schaffen. Das erfordert eine Kultur der Governance, in der Compliance, Ethik, Risiko und Innovation integriert und nicht isoliert sind.