24.07.2023 | IT-Recht und Datenschutz
Risikobasierter Ansatz der KI-VO
Der Entwurf definiert Systeme der künstlichen Intelligenz als eine Software, die mit im Verordnungsentwurf definierten Techniken und Konzepten entwickelt worden ist und Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem die künstlichen Intelligenzen interagieren. Die Verordnung regelt einen risikobasierten Ansatz, wobei KI in vier Risikostufen klassifiziert wird.
Als höchste Stufe werden verbotene Techniken im Bereich der KI definiert. Dazu zählen beispielsweise die Nutzung von KI zu sogenanntem Social Scoring, also dem Klassifizieren und Bewerten von Menschen nach ethischen Merkmalen und sozialem Verhalten, sowie die Gesichtserkennung in Echtzeit im öffentlichen Raum. Bei letzterem sind allerdings Ausnahmen dergestalt möglich, dass Systeme zur nachträglichen biometrischen Fernidentifizierung zur Verfolgung schwerer Straftaten nach entsprechender gerichtlicher Genehmigung zulässig sein sollen.
Anschließend werden Hochrisiko-KI-Systeme definiert und die speziellen Anforderungen an diese sowie an deren Anbieter festgelegt.
Des Weiteren werden Transparenzpflichten für bestimmte KI-Systeme, die für Interaktionen mit natürlichen Personen bestimmt sind, festgelegt. Das bezieht sich insbesondere auf generative KI, wie zum Beispiel ChatGPT.
Als unterste Stufe gelten die restlichen KI-Systeme, von denen nur ein begrenztes Risiko ausgeht. Deshalb müssen diese nur reduzierte Transparenzanforderungen erfüllen, die es den Nutzern ermöglichen sollen, fundierte Entscheidungen zu treffen.
Betroffene der Verordnung
Aber wer ist genau von den Regelungen der KI-VO betroffen? Ganz einfach kann man sagen: alle! Zumindest jeder, der in irgendeiner Weise mit KI-Systemen in Berührung kommt. Insbesondere für KI-Entwickler und Anbieter regelt die VO verschiedenste Rechte und Pflichten. Jedoch werden auch Nutzern von gewissen KI-Systemen Pflichten auferlegt. Zusätzlich bedarf es natürlich Autoritäten sowohl auf europarechtlicher als auf mitgliedstaatlicher Ebene, die den ordnungsgemäßen Umgang mit KI-Systemen überwachen. Zu guter Letzt ist das Ziel der VO unter anderem der Schutz der Rechte der Verbraucher und Bürger, die durch mehr Sicherheit und Transparenz im Umgang mit KI abgesichert werden sollen. Insofern lässt sich sagen, dass die KI-VO tatsächlich für quasi jeden relevante Neuerungen mit sich bringt.
Ausblick
Es ist realistisch, dass der Verordnungsentwurf bis Ende des Jahres das Gesetzgebungsverfahren durchlaufen hat und in Kraft treten kann. Zwar wird es wohl eine zweijährige Umsetzungsfrist geben. Allerdings sind die USA und die EU bereits in Gesprächen darüber, wie bis zum Ablauf der Umsetzungsfrist Entwickler möglichst bald zu freiwilligen Selbstverpflichtungen veranlasst werden können, damit baldigst der Einsatz von KI einheitlich reglementiert ist.
Der Trade and Technology Council stellt bereits Beratungen für die Ausarbeitung einer „Joint Roadmap“ an, die als freiwilliger Verhaltenskodex für KI „allen gleichgesinnten Ländern“ offenstehen solle, der insbesondere Standards bezüglich anzuwendender Technologien und vertrauenswürdiger Tools festlegen und Möglichkeiten der Überwachung und Messung bestehender und neuer Risiken bieten soll. Deshalb ist Entwicklern und Unternehmen, die KI in größerem Umfang einsetzen durchaus bereits jetzt zu raten sich mit den neuen Anforderungen und Pflichten auseinanderzusetzen und erste Schritte einzuleiten, die die Konformität der KI-Nutzung mit der zu erwartenden Verordnung sicherstellen.
Autoren: Dr. André Schmidt und Maren Rehder