Nicht erst seit ChatGPT ist die künstliche Intelligenz auf dem Vormarsch. In immer mehr Bereichen halten KI-basierte Systeme unbemerkt Einzug und werfen nicht nur in ihrer praktischen Anwendung Fragen auf. Auch aus rechtlicher Sicht entwickelt sich die Technik völlig unter dem Radar.

Erste Anwendungsbereiche von KI-basierten Systemen waren in der Vergangenheit insbesondere Bewerberauswahlsoftware. Bis hin zum gesamten Bewerbermanagementprozess arbeitet die KI dabei autonom. Die großen rechtlichen Gefahren lauern mit Blick auf eine diskriminierungsfreie Auswahl. Vor allem die mangelnde Transparenz bezüglich der zugrundeliegenden Algorithmen und Logiken stellen Anwender:innen vor Herausforderungen.

KI-basierte System immer verbreiteter

Aber nicht nur in Personalabteilungen hat die künstliche Intelligenz längst Einzug gehalten, auch Redaktionen greifen beherzt auf die Technik zurück – trotz aller rechtlicher Bedenken. Inwieweit die produzierten Texte faktenbasiert sind und aus belastbaren Quellen stammen, ist mitunter fraglich. Überhaupt schwebt das Urheberrecht gleich einem Damoklesschwert über den KI-Systemen. Ganze Artikel und gar Magazine sollen einzig durch KI entstanden sein. Und im Bildungsbereich, wo Schüler:innen ohnehin oft einen Wissensvorsprung gegenüber den Lehrenden haben, verhilft die KI in Sekundenschnelle zu Aufsätzen und Hausarbeiten. Die eigene Leistung reduziert sich auf die Bedienung der KI. Eine Verlagerung von Bewertungssystemen und -Kriterien scheint vor dieser Entwicklung unumgänglich.

Viele rechtliche Fragezeichen

Schließlich bergen KI-Systeme Datenschutzrisiken. Auch hier schlagen mangelnde Transparenz und undurchsichtige Verarbeitungsprozesse zu Buche und erschweren die erforderliche Datenschutzfolgenabschätzung und Risikobewertung. Während sich hierzulande Juristen und politisch Verantwortliche noch die Augen in Anbetracht der schnellen Entwicklung reiben, greift die italienische Datenschutzbehörde kurzerhand durch und sperrt den KI-Primus ChatGPT.