Am zweiten Novemberwochenende fanden in Würzburg, im schönen Toscanasaal der Residenz, die 29. Europarechtstage statt. Dieses Jahr unter dem Eindruck der neuen europäischen KI-Verordnung. Mit spannenden Vorträgen aus verschiedenen wissenschaftlichen Fachbereichen wurden KI-Systeme und Regularien genauestens unter die Lupe genommen.

Die Veranstaltung wurde von den Lehrstühlen Schenke und Peuker organisiert und war vollgepackt von spannenden Themen und sehr guten Referent:innen.

Eingangs erfolgte ein Blick in Aufbau und Funktionsweise von KI-Systemen. Was macht den Unterschied zwischen komplexem Entscheidungsbaum und großem Sprachmodell. Interessante Erkenntnis dabei: Jede einzelne Entscheidung lässt sich zurückverfolgen und ergründen. Dies aber immer nur ex post.

Die KI-Verordnung: Nur eine sanfte Prodsicherheitsregelung

Ja, die europäische KI-Verordnung ist ein Vorreiter ihrer Art und wird wohl auch ein Exportschlager werden. Dabei hält sich der Regelungsbereich in deutlichen Grenzen – bis hin zu kaum spürbar. Sie erfasst weder die Nutzung von KI-Systemen, deren Haftung, oder automatische Entscheidungen, noch Datenschutzaspekte. Auch werden keine Haftungsfragen geklärt oder technische Standards definiert. Der politische Anwendungsbereich ist durch den risikobasierten Ansatz winzig. Von der KI-VO geregelt werden lediglich:

• Produktsicherheitsrecht
  +
• Verbote
• Transparenz
• Individualrechte

Die Verordnung regelt vornehmlich Anforderungen bei Hochrisiko-KI-Systemen, die sich nach Anhang III der Verordnung wie folgt gliedern:

• Biometrie
• KRITIS
• Allgemeine berufliche Bildung
• Beschäftigung
• Inanspruchnahme öffentlicher Leistungen
• Strafverfolgung
• Asyl
• Rechtspflege und Demokratie

Als Rechte kommen ein Beschwerderecht (Art. 85 KI-VO) und ein Recht auf Erläuterung (Art. 86 KI-VO) hinzu. Kommt es bei KI-Systemen zu Zweckänderungen und Rollenänderungen, kann dies zu größeren Problemen führen. Zu den Verantwortlichkeiten und Rollen bei KI-Systemen

Wanner/Hartmann, Verantwortlichkeiten und Rollen bei KI-Systemen,
Datenschutz PRAXIS 11/2024, S. 1 ff.

Diskriminierung ausgeschlossen

Kann ein KI-System diskriminieren? Gerade bei der Personalauswahl sind häufig KI-Systeme im Einsatz. Dabei sicherzustellen, dass keine Benachteiligung stattfindet ist nicht ganz einfach. Aber auch hier können einzelne Entscheidungen nachvollzogen werden. Die KI ist dabei aber nur so gut wie ihre Trainingsdaten und die Vorgaben. Problematisch ist, dass die Trainingsdaten oft nicht frei von Benachteiligungseffekten sind und Stereotypen bedienen oder nicht repräsentativ sind. So kommt es auch bei KI-Systemen zur Benachteiligung durch Präferenzen und Statistik (Informationslücken). Weitere Schwächen sind Verzerrungen, die bekannte Blackbox und Verantwortungsdiffusion. Nachgelagert führt dies z. B. zu mangelnder Transparenz oder mittelbaren Diskriminierungen.

Sicher ist sicher

KI-Systeme helfen vielfach unsere Welt sicherer zu gestalten. Sei es durch den Einsatz bei Sicherheitsbehörden oder aber in Produkten. Intelligente Fahrerassistenzsysteme machen zum Beispiel den Straßenverkehr sicherer. Die öffentliche Wahrnehmung ist hierbei durch die mediale Berichterstattung aber oft verschoben. So wird über KI-Vorfälle häufiger und intensiver berichtet. Statistisch sind die aktuellen Sicherheitssysteme mit KI allerdings deutlich zuverlässiger. Andererseits nutzen auch Kriminelle zunehmend KI. Der klassische Wettlauf der Sicherheitsbranche bleibt wohl auch mit KI erhalten.

China hat Nachholbedarf in Sachen KI

Besonders spannend war der Blick nach China, den die Professorin Blasek wagte. Mir waren beispielsweise die sprachliche Hürde und Herausforderung im Zusammenhang mit dem Training von KI-Systemen ebenso neu wie die an sich strenge datenschutzrechtliche Regulierung in China nicht bewusst. Denn die Grundlage für gute Sprachmodelle ist eben eine umfassende sprachliche Wissensdatenbank. Hier spielt das englischsprachige WWW den amerikanischen KI-Entwicklern in die Karten. Das Nachtrainieren mit zunächst übersetzen Inhalten ist natürlich möglich, aber aufwendiger.

„Zwischen pragmatisch und Datenschutztaliban!“

Am Ende wurde es in der großen Panel Diskussion noch einmal hitzig. Da war die Rede von „Regulierungswahn“ der Gesetzgeber und alternativloser Notwendigkeit von KI-Systemen beispielsweise bei Fahrerassistenzsystemen in KFZ. Professor Frédéric Thiesse ärgerte sich vor allem über die uneinheitliche datenschutzrechtliche Bewertung durch die verschiedenen Aufsichtsbehörden: „Die Behörden zwischen pragmatisch und Datenschutztaliban!“

Insgesamt waren sich die Referenten allerdings einig: KI-Systeme sind händelbar und regelmäßig besser als die Alternative Mensch. Auch führt die Kombination von Mensch und KI zu schlechteren Entscheidungsergebnissen als reine KI-Entscheidungen.

Fazit

Eine gelungene Veranstaltung, deren interdisziplinärer Ansatz besonders interessant war. Es ist beruhigend, dass jeder Fachbereich für sich die Herausforderungen des KI-Zeitalters als machbar und die Regelungen als ausreichend ansieht. Was mir persönlich fehlte, war der Blick von oben: KI-Systeme sind gerade durch ihre undurchsichtigen Verknüpfungen und Kombinationsmöglichkeiten ein Risiko bzw. eine Herausforderung.