Erstes KI-Gesetz weltweit verabschiedet

Alle Welt redet plötzlich von Künstlicher Intelligenz, die Entwicklungen überschlagen sich – innerhalb kürzester Zeit wächst das Angebot von KI-Anwendungen ins Unüberschaubare. Die Fortentwicklung ist unfassbar schnell – und damit auch die Notwendigkeit, Regelungen rund um die Entwicklung und Nutzung von KI zu schaffen. Jetzt tritt EU-weit ein entsprechendes Gesetz in Kraft.

Ob privat, in Schulen, in Unternehmen oder der öffentlichen Verwaltung – der Einsatz von Künstlicher Intelligenz spielt eine immer größere Rolle. „Wenn eine Technologie mit solch unüberschaubaren Möglichkeiten zum Einsatz kommt, braucht es klare Regeln“, sagt Susanne Aumann, Vorsitzender der Deutschen Beamtenbund-Jugend NRW (dbb jugend nrw). Diese tritt am 1. August in Kraft.

Bereits im Mai hatte der Rat der 27 EU-Mitgliedstaaten den sogenannten AI Act verabschiedet und damit das erste umfassende Regelwerk weltweit für KI auf den Weg gebracht. Das Gesetz unterscheidet KI-Anwendungen in drei Risikokategorien. Zum einen geht es um Anwendungen mit sogenanntem „inakzeptablen Risiko“, dann um KI-Tools mit hohem Risiko und zu guter Letzt um solche, mit minimalem Risiko. Diese bleiben unreguliert.

Welche KI-Anwendungen fallen unter die Kategorie mit inakzeptablem Risiko?

Das sind solche, die Menschen gefährden oder Verhaltensmanipulationen zum Ziel haben. Gemeint sind damit Systeme, die wie in China „Social Scoring“ vornehmen und damit Menschen auf ihr Verhalten, ihren sozioökonomischen Status oder persönliche Merkmale hin scannen. In diese Kategorie fallen auch Systeme, die biometrische Identifizierungen vornehmen und natürliche Personen kategorisieren. Verboten sind damit ausdrücklich Systeme, die auf Basis von Gesichtserkennung funktionieren. Zur Strafverfolgung sind sie hingegen möglicherweise zugelassen.

Besondere rechtliche Bedingungen müssen in Zukunft KI-Tools erfüllen, die als Anwendung mit hohem Risiko eingestuft sind. Dazu zählen beispielsweise Tools, die Lebensläufe scannen, Bewerber bewerten und so eine Bewerberrangfolge erstellen. Ebenso werden auch KI-Systeme streng kontrolliert die ein hohes Risiko für die Gesundheit, Sicherheit oder die Grundrechte darstellen. Im Auge behalten werden vor allem Hoch-Risiko-Bereiche in der allgemeinen und beruflichen Bildung wie beispielsweise das Bewerten von Lernergebnissen oder das Steuern von Lernprozessen.

Grundsätzlich gilt: Je höher das Risiko einer KI-gesteuerten Anwendung eingestuft wird, desto strenger sind die Vorgaben, die diese KI erfüllen muss. Die KI wird dann nicht nur bei ihrem Start bewertet, sondern fortwährend.

Mindestens freiwillige Verhaltenskodizes

KI-Systeme, die mit sehr geringem Risiko eingestuft sind – wie beispielsweise ChatGPT – müssen keine besonderen Anforderungen erfüllen. Nach der KI-Verordnung sollen solche Dienste freiwillige Verhaltenskodizes aufstellen und sich zu ihnen verpflichten. KI-Anwendungen dürfen niemals illegale Inhalte erzeugen.

EU-weit festgelegt ist zudem die Gewährleistung einer Transparenz bei Einsatz von KI. Wer sie benutzt und künstliche Inhalte generiert, muss das eindeutig kennzeichnen. Stellen Bürger einen Verstoß gegen eine KI-Richtlinie fest, können sie diesen bei den zuständigen nationalen Behörden benennen und überprüfen lassen.

Innerhalb der nächsten Monate nach Inkrafttreten des KI-Gesetzes sind nun die EU-Mitgliedsstaaten angehalten, das EU-Gesetz in nationales Recht zu überführen.