"Es ist unerlässlich, die Rechte und Freiheiten, die unsere Demokratie ausmacht, zu schützen und präventive Maßnahmen zu schaffen."

 

Der Einsatz künstlicher Intelligenz ist ein zweischneidiges Schwert. Zum einen bietet die Technologie eine Vielzahl an Möglichkeiten für innovative Konzepte und Geschäftsmodelle, zum anderen kann der Einsatz dazu führen, dass Anwendungen über das Ziel hinausschiessen. Ein Regelwerk der EU soll für Klarheit sorgen, Grenzen formulieren und Anwendungsverbote von KI deutlich definieren. Darüber haben wir mit dem Compliance-Experten Erden Yücel vom Unternehmen "FYNE Consulting GmbH" in Lingen gesprochen.

 

Herr Yücel, die EU erarbeitet derzeit das Regelwerk für die Anwendung Künstlicher Intelligenz (KI). Wie ist der Stand der Dinge?

 

Erden Yücel: Die EU verfolgt das Ziel, das globale Zentrum für vertrauenswürdige KI-Technologien zu werden. Um dieses Ziel zu realisieren hat die EU den weltweit ersten Gesetzesentwurf zur Regelung für den Einsatz von KI-Technologien vorgelegt. Im konkreten Fall geht es um einen Entwurf einer KI-Verordnung, welche als eine der Ergebnisse der EU KI-Strategie aus dem Jahre 2018 betrachtet werden sollte. Das Besondere an dem Entwurf ist, dass insbesondere Anwendungsszenarien beschrieben werden, die verboten werden sollen oder die für ihre Rechtmäßigkeit an technische und organisatorische Voraussetzungen geknüpft sind. Bei Missachtung der Verordnung drohen Unternehmen Bußgelder bis zu 30 Mio. EUR oder 6% ihres weltweiten erzielten Jahresumsatzes. Fragen rund um die Haftung bzgl. des Einsatzes von KI-Technologien oder Regelungen über das geistige Eigentum enthält die Verordnung wiederum nicht.

 

Können Sie sagen, was verbotene Anwendungsfälle wären? Haben Sie ein Beispiel?

 

Yücel: Um diese Frage zu beantworten, sollte man sich zunächst vor Augen führen, wie der Begriff KI in dem Verordnungsentwurf definiert ist. Nach Art. 3 Nr. 1 der Verordnung handelt es sich bei einem KI-System um "eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist (z.B. induktiver Programmierung, Deep Learning, Bayessche Schätz-, Such- und Optimierungsmethoden) und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren.“

 

Die verbotenen Anwendungsfälle sind in Art. 5 der Verordnung aufgelistet. Hierunter fallen insbesondere Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (sofern diese nicht unbedingt erforderlich ist) oder auch KI-Systeme durch Behörden oder in deren Auftrag zur Bewertung oder Klassifizierung der Vertrauenswürdigkeit natürlicher Personen über einen bestimmten Zeitraum auf der Grundlage ihres sozialen Verhaltens.

 

In der Fachpresse liest man häufig von KI-Systemen mit einem hohen Risiko. Was hat es damit auf sich?

 

Yücel: KI-Systeme mit einem hohen Risiko werden in Art. 6 der Verordnung legaldefiniert. Es handelt sich dabei um KI-Systeme, die in kritischen Infrastrukturen eingesetzt werden, bei denen das Leben und die Gesundheit der Bürger gefährdet werden könnten. Auch der KI-Einsatz bei Strafverfolgung gehört dazu, bei dem in die Grundrechte der Menschen eingegriffen werden könnte.

 

KI wird viel Innovationspotenzial für Wirtschaft und Gesellschaft bescheinigt. Sind die oben genannten Einschränkungen nicht eher ein Innovationsdämpfer?

 

Yücel: Die Verordnung ist ein Balance-Akt. Einerseits möchte man der Innovationsfähigkeit keinen Riegel vorschieben und Investitionsreize schaffen und andererseits ist der Gesetzgeber verpflichtet unsere Grundrechte zu schützen, um Risiken für jedes Individuum auszuschließen. Die selben Argumente gab es zuletzt im Jahre 2018 als im Mai die Datenschutz-Grundverordnung in Kraft getreten ist. Man schürte starke Kritik und argumentierte damit, dass Innovationen gebremst werden. Heute sehen wir jedoch, dass dies nicht der Fall ist. Vielmehr setzt die EU internationale Standards, die das Vertrauen der Bürger gewinnen. Insbesondere bei KI-Systemen wissen wir nicht, welche Möglichkeiten sie uns in Zukunft bietet. Aus dieser Perspektive ist es unerlässlich die Rechte und Freiheiten, die unsere Demokratie ausmacht, zu schützen und präventive Maßnahmen zu schaffen.

 

Zum Abschluss noch eine Frage, Herr Yücel: Was empfehlen Sie in Hinblick auf das Regelwerk der EU deutschen Unternehmen, die KI in ihr Geschäftsmodell integrieren möchten?

Die Unternehmen sollten ein Auge auf sämtliche Verordnungen und Gesetze werfen, die in der Vergangenheit in Kraft getreten sind und in näherer Zukunft in Kraft treten werden. Zu nennen wäre zum Beispiel die Datenschutz-Grundverordnung, das Lieferkettengesetz, die EU-Maschinenverordung oder das zukünftige Verbandssanktionengesetz. Der Trend geht ganz deutlich in Richtung funktionierender Compliance-Management-Systeme. Unternehmen müssen ihre Prozesse, Dokumentationen, Kontrollen und Standards so ausrichten, dass sie in Einklang mit gesetzlichen Vorschriften, den Unternehmenszielen und Unternehmenswerten stehen. Dies geht nur mit einem funktionierenden Compliance-Management-Systemen. Aber das ist ein anderes Thema.

 

 

Das Interview führte Alexander Bose