Verbraucherschutz bei Einsatz von Künstlicher Intelligenz
Wie kann Künstliche Intelligenz vertrauenswürdig gestaltet werden?
Systeme mit so genannter Künstlichen Intelligenz (KI) sind schon längst im Verbraucheralltag angekommen. Sei es bei Scorewerten der SCHUFA, bei der individuellen Preisbildung, oder der Gesichtserkennung. Daneben kommunizieren Verbraucherinnen und Verbraucher auch zunehmend mit Chatbots, die KI einsetzen oder nutzen Computerprogramme, um mit Hilfe von KI Texte, Bilder oder Songs zu erstellen. Egal wo sich Verbraucherinnen und Verbraucher im digitalen oder auch im analogen Raum bewegen, stoßen sie auf KI- Systeme, die für sie undurchsichtig und nicht nachvollziehbar sind.
Die Risiken für Verbraucherinnen und Verbraucher sind vielfältig. Sie sind zunehmend von Entscheidungen betroffen, die auf KI-Einsatz basieren. Informationen über den Einsatz von KI gibt es kaum. Der Einsatz von KI ist vielfach erst dann bemerkbar, wenn sich KI-Entscheidungen negativ auf die Lebensumstände auswirken. Daneben können Computerprogramme, die KI einsetzen, zur Erzeugung von Hassrede oder täuschend echt wirkenden Inhalten („Deepfakes") verwendet werden, Verbraucherinnen und Verbraucher manipulieren oder beeinflussen und ehrverletzende Falschinformationen verbreiten.
Zentrum für vertrauenswürdige Künstliche Intelligenz gegründet
Das Bundesverbraucherministerium hat es sich zur Aufgabe gemacht, Wissen über Künstliche Intelligenz und Algorithmische Systeme zu vermitteln und aufzuklären, um Vertrauen zu schaffen. Dazu fördert es das Zentrum für vertrauenswürdige Künstliche Intelligenz, das von dem unabhängigen Think-Tank iRights.Lab in Zusammenarbeit mit dem Fraunhofer-Instituten AISEC und IAIS sowie der Freien Universität Berlin aufgebaut wurde. Zentrales Anliegen des Zentrums ist es, als neutrale Schnittstelle zwischen Wissenschaft, Zivilgesellschaft und Politik über verbraucherrelevante Aspekte zu informieren, öffentliche Debatten anzustoßen und Instrumente zur Bewertung und Zertifizierung von vertrauenswürdiger KI zu entwickeln.
Europäischer Vorschlag für eine Regulierung von KI-Systemen
Damit KI-Systeme, mit denen Verbraucherinnen und Verbrauchern mittelbar oder unmittelbar in Berührung kommen, verbraucherorientiert und diskriminierungsfrei gestaltet und eingesetzt werden, bedarf es aber auch gesetzlicher Rahmenbedingungen. Dabei muss festgelegt werden, welche Anforderungen KI erfüllen muss, um möglichst verbraucherfreundlich zu sein.
Diese Frage behandelt auch der im April 2021 vorgelegte Vorschlag der Europäischen Kommission für eine Regulierung von KI-Systemen. Dabei schlägt die Kommission einen horizontalen und risikobasierten Regulierungsansatz vor.
Der Rat der Europäischen Union hat seinen gemeinsamen Standpunkt („allgemeine Ausrichtung") zum Gesetz über künstliche Intelligenz („KI-Verordnung") am 6. Dezember 2022 festgelegt. Das Europäische Parlament hat am 14. Juni 2023 seine Position zur KI-Verordnung verabschiedet. Unmittelbar im Anschluss haben die Trilog-Verhandlungen begonnen, bei denen sich die Europäische Kommission, das Europäische Parlament und der Rat der Europäischen Union auf einen Gesetzestext einigen. Die Verhandlungen sollen bis zum Jahresende erfolgreich abgeschlossen werden.