Bild: Generiert mit Midjourney von Joerg Heidrich
Für KI-Anbieter geht es bald in die heiße Phase. Ab dem 2. Februar 2025 greifen die ersten Vorschriften des EU AI-Acts. Im folgenden Beitrag haben wir bestehende rechtliche Verpflichtungen übersichtlich zusammengestellt.
„KI-Systeme mit inakzeptablem Risiko“ sind ab Februar verboten. Was bedeutet das?
KI-Systeme mit inakzeptablem Risiko sind Dienste, welche Grundrechte und insbesondere die Menschenwürde des Einzelnen gefährden. Hierzu zählen Anwendungen, die durch unterschwellige Manipulation oder Täuschung Schäden verursachen können. Beispielsweise geschieht dies, wenn eine KI die Verwundbarkeit bestimmter Personengruppen aufgrund sozialer oder wirtschaftlicherFaktoren, wie Alter oder Behinderungsgrad,ausnutzt.
Insbesondere gilt dies für sogenannte „Social-Scoring Systeme“. Diese beabsichtigen, die Vertrauenswürdigkeit von Personen anhand von Gesichtserkennungsdatenbanken, Emotionserkennungsmustern am Arbeitsplatz oder biometrischer Echtzeit-Identifizierung in öffentlichen Räumen zu bewerten. Es gilt jedoch zu beachten, dass letzteres mit einigen Ausnahmen zu Strafverfolgungszwecken gestattet sein kann.
Das Verbot von KI-Systemen mit inakzeptablem Risiko ist eine Kernregelung des AI-Acts. Daher wiegen Verstöße besonders schwer. Es drohen Sanktionen von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes.
Mein Unternehmen nutzt eine solche KI. Was muss ich beachten?
Unternehmen, die KI-Systeme mit inakzeptablem Risiko verwenden, müssen derartige Dienste aus Ihrem Betrieb entfernen. Somit ist dringend nahezulegen, alternative Technologien und Verfahren in Betracht zu ziehen, welche den Anforderungen des AI-Acts entsprechen. Selbstredend wird dies in einigen Bereichen kaum möglich sein.
Der AI-Act sieht Schulungen für Mitarbeiter vor. Was bedeutet das für mein Unternehmen?
Die ab dem 2.Februar geltende Schulungspflicht dient dem Zweck, KI-Kompetenzen im Unternehmen aufzubauen. Wer KI nutzt, solle auch Maßnahmen ergreifen, die geeignet sind, das KI-nutzende Personal entsprechend zu „wappnen“. Dies ist auch im Interesse der Arbeitgeber: Wer versteht, wie KI sinnvoll eingesetzt werden sollte, vermeidet Haftungsrisiken und stärkt das Vertrauen in die Verwendung der Dienste.
Wie müssen die Schulungen konkret aussehen? Wer darf Schulungen geben?
Der AI-Act sieht lediglich vor, dass ein „ausreichendes Maß an KI-Kompetenz“ vorliegen muss, um Schulungen geben zu dürfen. Idealerweise knüpft eine Schulung an die Vorkenntnisse der Belegschaft, den spezifischen Nutzungskontext sowie die Art der eingesetzten KI-Systeme an. Daher bietet sich ein modulares Schulungskonzept an, das sich an verschiedene Zielgruppen im Unternehmen richtet: Grundlagenvermittlung für alle Mitarbeitenden, spezifische Schulungen für Führungskräfte und technische Exkurse für IT-Personal und Entwickler.
Unternehmen steht es frei, Schulungen selbst intern durchzuführen oder externe Dienstleister zu beauftragen. Ebenfalls können sie in verschiedensten Formen stattfinden – als Präsenzveranstaltungen, Online-Kurse oder E-Learning-Module. Unsere Kanzlei hat im Schulungsbereich langjährige Praxiserfahrung vorzuweisen. Gerne stehen wir Ihnen bei Bedarf für Fortbildungen zur Verfügung.
Welchen Umfang müssen Schulungen haben?
Verbindliche Vorgaben hinsichtlich der Ausgestaltung von Schulungen bestehen nicht. Vielmehr ist darauf abzustellen, wie viel KI für die Tätigkeit des individuellen Mitarbeiters zum Einsatz kommt. Wer KI häufig und in für das Unternehmen kritischen Gebieten nutzt, ist sicher häufiger zu schulen. Für Angestellte, die nur gelegentlich KI im Rahmen ihrer Aufgaben nutzen, dürfte eine jährliche Schulung ausreichen. Dies wäre vergleichbar mit den Fortbildungspflichten in Bereichen der Arbeitssicherheit oder des Brandschutzes.
Müssen Schulungen dokumentiert werden?
Die durchgeführten Schulungsmaßnahmen müssen dokumentiert werden, damit die Erfüllung der gesetzlichen Mindestanforderungen nachgewiesen werden kann. Deshalb ist wenig verwunderlich, dass bereits viele Anbieter Schulungskonzepte entwickeln, die Zertifikate als Nachweis der erworbenen KI-Kompetenz vergeben.
Was passiert, wenn Unternehmen keine Schulungen anbieten?
Konkrete Bußgelder für Unternehmen, die ihren KI-Ausbildungspflichten nicht nachkommen, sind durch den AI-Act derzeit nicht vorgesehen. Vielmehr soll Artikel 4 der Verordnung einen Appell darstellen, Verantwortung zu übernehmen.
Wer seine Belegschaft ungeschult mit ChatGPT & Co. arbeiten lässt, riskiert jedoch die Produktion von Haftungsfällen durch unangemessene Verwendung der Dienste. Neben der Verletzung von allgemeinen Sorgfaltspflichten bestehen insbesondere Risiken im Arbeitsrecht. Unter anderem kann die Wirksamkeit einer Kündigung infrage stehen, wenn mangelnde KI-Kompetenz auf das Fehlen von KI-Fortbildungsmöglichkeiten durch den Arbeitgeber zurückzuführen ist. Bereits im eigenen Interesse sollten Unternehmen den AI-Act daher sehr ernst nehmen.
Können wir Ihnen weiterhelfen?
Suchen Sie externe Schulungsanbieter oder grundlegende Rechtsberatung zum Thema KI? Sprechen Sie uns gerne auf Ihr individuelles Anliegen an. Wir sind telefonisch unter 0511 374 98 150 oder per E-Mail unter kontakt@recht-im-internet.de zu erreichen.