Daten, Vertrauen und menschzentrierte KI

Professorin Michèle Finck arbeitet an der Schnittstelle von Recht und Informatik. Sie bekleidet die von der Carl-Zeiss-Stiftung geförderte Professur für Recht der Künstlichen Intelligenz an der Universität Tübingen und ist Co-Direktorin des Carl-Zeiss-Stiftung Instituts für Künstliche Intelligenz und Recht. Sie untersucht, wie Rechtsstrukturen Innovationen fördern und gleichzeitig Menschen und öffentliches Interesse schützen können.¹

Seit über 175 Jahren stellt man sich bei ZEISS die Frage: Wie können wir die Grenzen der Vorstellungskraft herausfordern? Diese Vision war für ZEISS der Anlass, in der Gesprächsreihe ZEISS Beyond Talks den Austausch mit Vordenkern und führenden Intellektuellen aus der ganzen Welt zu suchen und mit ihnen über ihre Arbeit, ihre Visionen, ihre Leidenschaften und aktuelle Fragen im Zusammenhang mit der Weiterentwicklung unserer Welt zu sprechen.

An der Universität Tübingen und am Carl-Zeiss-Stiftung Institut für Künstliche Intelligenz und Recht untersuchen wir Fragen an der Schnittstelle von Recht und Informatik. Wir verfolgen einen interdisziplinären Ansatz, um die Auswirkungen von Technologien wie KI auf das reale Leben zu verstehen.

In den vergangenen zwei Jahren habe ich mich schwerpunktmäßig mit dem AI Act der EU zur Regulierung künstlicher Intelligenz und verschiedenen Bereichen des EU-Datenrechts sowie der EU-Datenschutzverordnung beschäftigt, insbesondere mit ihrem Verhältnis zu KI.

Gesetze prägen Innovationen, indem sie den Rahmen für gesellschaftliche oder ökologische Ziele vorgeben. Denken wir beispielsweise an die Regulierung von Chemikalien oder Lebensmitteln.

Gesetze gestalten den Umgang mit den Risiken, die mit bestimmten Arten von Innovationen verbunden sein können. Sie können sicherstellen, dass nur Produkte mit beherrschbaren Risiken tatsächlich auf den Markt kommen.

Wir sehen hier zwei wesentliche Muster. In einigen Fällen fand zuerst die technologische Entwicklung statt und das Regelwerk folgte darauf. Das ist stark vereinfacht, aber denken Sie beispielsweise an die Anfänge des Internets. Gesetzliche Regeln wurden größtenteils erst eingeführt, als es bereits auf breiter Basis genutzt wurde. In anderen Bereichen antizipierte die Rechtsprechung den technologischen Wandel und bereitete sich darauf vor.

Autonomes Fahren ist ein gutes Beispiel hierfür: Mehrere Rechtssysteme haben ihr Regelwerk Jahre im Voraus angepasst, um auf die neue Technologie vorbereitet zu sein und die Einführung zu erleichtern. Das EU-Gesetz zur Künstlichen Intelligenz enthält ähnliche vorausschauende Elemente – beispielsweise antizipiert es KI-Modelle mit allgemeinem Verwendungszweck, die systemische Risiken bergen, und legt Regeln dafür fest.

Ein ausdrückliches Ziel des KI-Gesetzes ist es, die mit KI verbundenen Risiken auf eine Weise zu minimieren, die das Vertrauen der Öffentlichkeit stärkt. Das Gesetz definiert Anforderungen für KI-Modelle mit allgemeinem Verwendungszweck, um mögliche systemische Risiken abzuwenden. Gleichzeitig beinhaltet es Instrumente für regulatorische Spielräume, die Innovationen anregen sollen, denn gute Regulierung sollte sowohl die Gesellschaft schützen als auch Innovationen fördern.

Daten sind im Wesentlichen Informationen und der Treibstoff für KI-Systeme, damit diese sinnvolle Resultate erzielen. Große KI-Modelle sind auf umfangreiche und vielfältige Datensätze angewiesen, um Muster zu erlernen und Ergebnisse zu generieren. Das Datenschutzrecht hat eine komplexe Geschichte und stellt im Kern sicher, dass Menschen die Kontrolle über ihre personenbezogenen Daten behalten. Dieses Recht auf Kontrolle ist in Bezug auf KI-Systeme von elementarer Bedeutung, da sie Daten in großem Umfang verarbeiten und daraus Erkenntnisse gewinnen.

Die Europäische Union war in den letzten Jahren Vorreiter bei der Datenregulierung. Zusätzlich zu der seit 2018 geltenden Datenschutz-Grundverordnung (DSGVO) wurde der EU Data Act und der EU Data Governance Act verabschiedet.

Die EU hat hiermit weltweit eine Führungsrolle eingenommen, da sie Daten strenger reguliert als so gut wie jedes andere Rechtssystem auf der Welt. Sie hat weltweit Maßstäbe für den Datenschutz gesetzt.

Wie auch bei früheren technologischen Innovationen tragen Gesetze dazu bei, dass neue Technologien der gesamten Gesellschaft zugutekommen und nicht nur den Unternehmen, die sie entwickeln. Dafür regelt die Rechtsprechung den Umgang mit Risiken und legt Bedingungen fest, unter denen Produkte und Dienstleistungen auf den Markt kommen können. So werden Innovationen gefördert und gleichzeitig Menschen und öffentliches Interesse geschützt.

Es gab bereits viele Initiativen, um Menschen stärker in Gesetzgebungsprozesse zu involvieren. Zwei Faktoren sind dabei entscheidend. Erstens eine klare Kommunikation – also genau zu erklären, worum es geht und zwar so, dass es für alle Bevölkerungsgruppen verständlich ist. Zweitens die praktische Zugänglichkeit – also Möglichkeiten zu schaffen, die es Menschen trotz voller Terminkalender und anderer Prioritätensetzung leicht machen, sich zu beteiligen.

Ich finde es sehr spannend zu sehen, wie interdisziplinäre Zusammenarbeit in der Rechtsforschung immer mehr zum Standard wird. So können wir besser verstehen, welche Auswirkungen Gesetze im realen Leben haben, insbesondere in sich rasant entwickelnden Bereichen wie KI.

Mit Blick auf die Zukunft hoffe ich, dass Technologie unser Arbeits- und Privatleben erleichtern wird und uns Aufgaben übernimmt, die wir gerne abgeben würden. Dadurch bliebe uns mehr Zeit und Energie für die Dinge, die uns wirklich wichtig sind.