Im Juni letzten Jahres setzte die EU-Kommission eine hochkarätig besetzte Expertengruppe zum Thema KI ein. Die 52 Fachleute aus Wirtschaft, Wissenschaft und Gesellschaft sollen Ethikleitlinien zur Anwendung von KI-Technologien formulieren. Kurz vor Weihnachten stellte die Expertengruppe ihren ersten Entwurf vor. Er war bis zum 18. Januar im Internet öffentlich einsehbar und konnte von Interessierten kommentiert werden. Die Experten stufen viele Anwendungen als unbedenklich ein, warnen aber vor dem versteckten oder unkontrollierten Einsatz Künstlicher Intelligenz.

Menschen müssten jederzeit erkennen können, ob sie es mit einem anderen Menschen zu tun haben oder aber mit KI, die zum Beispiel ihren Anruf in einem Callcenter entgegennimmt. Wenn KI im Rahmen des sogenannten Scoring etwa bei der Kreditvergabe eingesetzt werde, müsste dieses mit Hinweis auf die verwendete Methodik geschehen und die Möglichkeit beinhalten, sich dagegen auszusprechen. Gleiches fordern die Experten, wenn Scoring in Schulsystemen oder bei der Führerscheinprüfung genutzt wird. 

Die Experten haben Bedenken beim Einsatz von KI-Verfahren, wenn es darum geht, Einzelpersonen ohne deren Einwilligung zu identifizieren. Gemeint ist damit etwa die Technik zur automatischen Gesichtserkennung, die teilweise bereits genutzt wird. Hinzu kommt auch die Einschätzung von Personen, indem Programme Gesichtsausdrücke, Gangarten oder bestimmte biometrische Merkmale auswerten oder Stimmen analysieren. Solche Verfahren könnten legitim sein, um Verbrechen wie Geldwäsche, Terrorfinanzierung oder Betrug aufzudecken. Aber sie müssten sich in unser System aus Normen und juristischen Regeln einfügen. Zudem lehnen sie die Entwicklung autonomer tödlicher Waffensysteme ab, die ohne Kontrolle menschlicher Befehlsgeber aktiv werden können.F.L.