News

Europäische KI-Verordnung (AI Act): Am 02.02.2025 werden die regulatorischen Anforderungen scharfgeschaltet

Von 23. Januar 2025Keine Kommentare

Chatbots, Finanzanalyse-Algorithmen, Robo Advisor, Scoring Tools – Künstliche Intelligenz findet mannigfache Einsatzmöglichkeiten in der Finanzwirtschaft.

Seit Inkrafttreten der europäischen Verordnung 2024/1689 („KI-Verordnung“ = „AI Act“) müssen Banken, Wertpapierinstitute und Fintechs ihre KI-Nutzung an neue regulatorische Anforderungen anpassen, die risikobasiert und anwendungsfallorientiert sind. Die allgemeinen Bestimmungen und verbotenen Praktiken der KI-Verordnung gelten ab dem 2. Februar 2025, während die vollständige Geltung der Verordnung ab dem 2. August 2026 vorgesehen ist.

Betroffen sind alle Unternehmen, die KI nutzen, egal ob selbst entwickelt oder Fremdsysteme. Diese Unternehmen müssen bestimmte Pflichten und Anforderungen einhalten, um die Vorteile von KI nutzen zu können. Zu diesen Pflichten gehören stets die Einhaltung bestimmter Transparenzstandards und die Umsetzung eines internen Schulungskonzepts für eingebundene Mitarbeiter. Bei Nichteinhaltung drohen empfindliche Strafen.

Herzstück der KI-Verordnung ist die Einteilung von KI-Systemen in drei Risikokategorien:

  1. Unannehmbare Risiken: KI-Systeme mit unannehmbaren Risiken sind grundsätzlich verboten. Hierzu gehören beispielsweise KI-Systeme, die zur unterschwelligen, unbewussten Beeinflussung von Personen oder zur biometrischen Echtzeit-Identifizierung in öffentlichen Räumen eingesetzt werden können.
  2. Hohes Risiko: Diese Kategorie umfasst KI-Systeme, die erhebliche Auswirkungen auf die Gesundheit, Sicherheit oder Grundrechte haben können. Die KI-Verordnung enthält besondere Anforderungen und Verpflichtungen für diese Hochrisiko-KI-Systeme, betreffend z.B. die Dokumentation, das Monitoring, und die Registrierung in einer europäischen Datenbank. KI-Systeme, mit deren Hilfe Kreditscores ermittelt werden, dürften in aller Regel unter diese Kategorie fallen.
  3. Geringes Risiko: Chatbots, Finanzanalyse-Algorithmen und Robo Advisor können hingegen so konzipiert werden, dass sie unterhalb der Schwelle zur Hochrisiko-KI liegen. Wie alle KI-Systeme, die kein hohes Risiko aufweisen, würden sie dann weniger strengen Anforderungen unterliegen.

Die Kanzlei drrp hilft Unternehmen aus der Finanzbranche dabei, die Anwendbarkeit der KI-Verordnung auf spezifische Use Cases zu prüfen und KI-Systeme in Übereinstimmung mit den regulatorischen Anforderungen zu implementieren. Wesentliche Herausforderungen bestehen in der Integration der neuen Regeln in bestehende Systeme und dem Aufbau eines Compliance Management Systems.

Autor