KI-Regulierung im Fokus
Forschung am Karlsruher Institut für Technologie (KIT) trägt zu einer der zentralen Debatten der digitalen Gegenwart bei: Wie sollte Künstliche Intelligenz reguliert werden? Für ihre Antworten auf diese Frage sind die beiden KIT-Forschenden T.-T.-Prof. Dr. iur. Frederike Zufall und Dr. iur. Gustavo Gil Gasiola gemeinsam mit Co-Autoren vom Max-Planck-Institut für Sicherheit und Privatsphäre mit dem CNIL/EHESS-Award 2026 ausgezeichnet worden.
Verliehen wurde der Preis am 24. Juni beim Privacy Research Day, der jährlich von der französischen Datenschutzbehörde CNIL ausgerichtet wird und 2026 in Verbindung mit dem G7-Treffen in Paris stattfand. Der international renommierte und kompetitive Preis gilt als wichtige Auszeichnung und würdigt herausragende sozialwissenschaftliche Forschung im Bereich Datenschutz, Privacy und digitale Gesellschaft.
Im Zentrum steht die Studie „Do Citizens Agree with the EU AI Act? Public Perspectives on Risk and Regulation of AI Systems“, die untersucht, inwiefern die europäische KI-Regulierung den Erwartungen der Bürgerinnen und Bürger entspricht. Grundlage ist eine umfangreiche Studie mit über 1.400 Personen in Deutschland, Frankreich, Spanien und den USA, die ihre Einschätzungen zu insgesamt 48 unterschiedlichen KI-Anwendungen abgegeben haben. Das Design der Studie operationalisiert dabei den regulatorischen Ansatz des AI Acts, der Risikoregulierung mit den Auswirkungen von KI-Systemen auf bestimmte Grundrechte oder rechtlich geschützte Werte verbindet.
Die Ergebnisse zeigen ein klares Bild: Unabhängig vom konkreten Anwendungsfall wird KI von vielen Menschen grundsätzlich als mit Risiken für ihre Grundrechte oder für Werte wie Rechtsstaat oder Demokratie verbunden wahrgenommen. Entsprechend spricht sich die Mehrheit dafür aus, KI-Systeme breit zu regulieren – und nicht nur solche, die der AI Act als besonders risikoreich einstuft, diese Regulierung jedoch insgesamt moderater zu gestalten. Damit stellt die Studie zentrale Annahmen des EU AI Act infrage, der auf eine abgestufte Regulierung je nach Risikokategorie setzt.
„Die Frage, wie KI reguliert werden sollte, ist nicht nur eine rechtliche, sondern eine auch eine technische. Mit unserer Studie geben wir erstmals einen systematischen Einblick darin, wie Menschen unterschiedliche KI-Systeme vor dem Hintergrund ihrer wahrgenommenen Relevanz für bestimmte Grundrechte, oder für Rechtsstaat und Demokratie bewerten. Da hier ein Widerspruch zum derzeitigen Modell des AI Acts zu liegen scheint, kann man die Frage stellen, ob KI-Regulierung zukünftig stärker an anderen – vielleicht auch technischen – Eigenschaften ausgerichtet werden sollte als an dem abgestuften Risiko-System des AI Acts.“, sagt Mitautorin T.-T.-Prof. Frederike Zufall, Inhaberin des Lehrstuhls für Öffentliches Recht und Informatik der KIT-Fakultät für Informatik.
Mit der Auszeichnung durch den CNIL/EHESS-Preis wird die hohe Relevanz dieser Forschung unterstrichen. Zugleich zeigt sie, welchen Beitrag interdisziplinäre und internationale Zusammenarbeit leisten kann, um technologische Innovationen mit gesellschaftlichen Erwartungen und Werten in Einklang zu bringen.