Brisanter Datenhunger

Kaum eine Technologie geht mit derart großen Versprechen einher wie die Künstliche Intelligenz. Sie soll die Menschen von lästigen Fleißaufgaben befreien, zuverlässig wichtige Ereignisse vorhersagen und den immer größer werdenden Strömen an Daten eine tiefere Bedeutung verleihen. Das sind reizvolle Aussichten, an denen folglich nicht nur die freie Wirtschaft ein großes Interesse hat. So kündigte auch die Bundesregierung vor zwei Jahren eine umfangreiche Strategie an, mit der man zu einem führenden Standort für KI werden wolle. Obwohl aus dieser Ambition bislang noch nicht allzu viel geworden ist, profitieren staatliche Einrichtungen zunehmend von den Fortschritten auf dem KI-Sektor, wie auch eine Studie des The Open Government Institute (­TOGI) der Zeppelin Universität und des Fraunhofer-Instituts für Arbeitswirtschaft und Organisation (IAO) zu Beginn des Jahres bestätigte. Doch was oftmals nach Service für die Bürger klingt, ist in der Praxis tatsächlich nicht immer in ihrem Sinne – vor allem, wenn statt des Bürgeramts auf einmal die Ermittlungsbehörden mit intransparenten Algorithmen und großen Datenmengen hantieren.

Verzerrte Datengrundlage

Wie problematisch die Allianz aus Polizei und KI-gestützter Datenanalyse werden kann, stellte z.B. Amnesty International im vergangenen September fest, als die Organisation die digitalen Überwachungsmaßnahmen der Ordnungshüter im niederländischen Roermond untersuchte. Dort wurde laut dem Bericht auf Basis von mathematischen Modellen die Wahrscheinlichkeit berechnet, mit der an bestimmten Orten von bestimmten Personen eine Straftat begangen wird, sodass die örtlichen Einsatzkräfte ihren Fokus entsprechend ausrichten konnten. Merel Koning, Senior Policy Officer, Technology and Human Rights bei Amnesty International, kritisierte, dass die Algorithmen der eingesetzten Software keine unvoreingenommenen Ergebnisse liefern und so etwa verstärkt osteuropäische Bürger ins Visier der Ermittler geraten würden. Während das System laut den niederländischen Behörden ganz neutral auf Basis von erhobenen Daten arbeite, schildert die Untersuchung von Amnesty, wie das Projekt von Grund auf diskriminierend angelegt sei – die Algorithmen würden menschliche Vorurteile unmittelbar reproduzieren, so die Einschätzung. Die Problematik ist bekannt: Wenn die vom Algorithmus verarbeiteten Daten bereits durch subjektiv gefärbte Ermittlungspraktiken wie z. B. Racial Profiling verfälscht wurden, kann auch das System kein objektives Urteil mehr fällen. Eine einfache Rechnung, die man in Informatikkreisen gerne mit der Phrase „Garbage In, Garbage Out“ veranschaulicht.

„Diese Problematik ist aus anderen Beispielen bekannt und sollte gerade bei der öffentlichen Sicherheit genau betrachtet werden“, kommentiert Dr. Christian Weber, Bereichsleiter Öffentliche Sicherheit und Verteidigung beim Digitalverband Bitkom, die Problematik. Da es auch die Auffassung gebe, dass sorgfältig erstellte Algorithmen durchaus objektiver als vereinzelte Menschen urteilen könnten, käme es vor allem auf die Kompetenzen an: „Deshalb ist es wichtig, dass die Polizei über ausreichend geschultes Fachpersonal wie Data Scientists verfügt, die am Ende die Daten interpretieren“, so der Sicherheitsexperte. „KI-Systeme dürfen keine ‚magische Blackbox‘ sein, in die man etwas reinkippt und am Ende nicht weiß, wie das Ergebnis zustande gekommen ist“, mahnt auch Miriam Piper, Leiterin Public Defense & Security bei Capgemini in Deutschland. Ihrer Meinung nach sei es denkbar, dass Menschen tendenziell eher Daten heranziehen, die mit ihren Annahmen übereinstimmen: „Die Fälle, in denen tendenziöse Daten verwendet wurden, sind bekannt“, gibt die Spezialistin zu bedenken.

Behörden rüsten auf

Das wachsende Interesse an KI-gestützter Überwachungstechnologie lässt sich nicht nur im Ausland beobachten, sondern wird auch in Deutschland immer präsenter. So beteiligen sich derzeit etwa die Universität des Saarlandes und die Universität Hannover an einem Projekt der EU-Kommission, das die Möglichkeiten der Telefonüberwachung mit KI-Technologien wie Natural Language Processing ausweiten soll. In Nordrhein-Westfalen wird „Predictive Policing“ im Rahmen von „Projekt Skala“ geprobt, während in Hessen wiederum eine Analyse-Software des US-Unternehmens Palantir im Einsatz ist, mit der angeblich auch die CIA und die NSA arbeiten. Gründer Alex Karp behauptet, dass die Ermittlungsbehörden mit der Software regelmäßig Terroranschläge vereiteln können – auch in Deutschland. Wie das genau funktioniert, bleibt im Detail unklar. Bekannt ist, dass die Software mithilfe von großen Datenmengen spezielle Zusammenhänge herstellen und veranschaulichen kann. Ob die dafür zugrunde liegenden Daten problematische Muster aufweisen und so z. B. ebenfalls Vorurteile gegen gewisse Bevölkerungsgruppen reproduzieren, kann daher kaum beurteilt werden.

Dass bei den erforderlichen Datenmengen auch zwangsläufig unbeteiligte Personen in den Datenbeständen der Ermittler landen, hält Christian Weber eher für die Ausnahme: „Das ist natürlich in Einzelfällen möglich, aber das kommt auch bei Ermittlungsverfahren im analogen Raum vor, etwa wenn bei einer Zeugenbefragung entsprechende Aussagen gemacht und protokolliert werden“, so der Experte. Entscheidend sei, dass die nicht verfahrensrelevanten Daten unbescholtener Bürger wieder gelöscht werden. „Rein rechtlich betrachtet dürfen Sicherheitsbehörden ohne Anlass und förmliche Rechtsgrundlage keine personenbezogenen Daten sammeln,“ ergänzt Miriam Piper, das schließe die Auswertung von Datenbeständen und somit die Nutzung von KI mit ein.

Je genauer man die zugrunde liegende Problematik betrachtet, desto klarer wird, dass für den Einsatz von KI in sensiblen Bereichen dringend eine unabhängige Kontrollinstanz benötigt wird. Wie diese aussehen könnte, hat das „Center for the Future of Work“ des US-Software-Entwicklers Cognizant in einem aktuellen Whitepaper skizziert und das Jobprofil des sogenannten Algorithm Bias Auditors (ABA) beschrieben. Dieser soll der Idee nach sicherstellen, dass die eingesetzten Algorithmen eines Unternehmens nicht nur fair und gesetzeskonform sind, sondern auch dessen ethische Werte repräsentieren. Als Teil der Compliance-Abteilung wäre es nicht nur die Aufgabe des Prüfers, vorhandene Algorithmen dahin gehend zu untersuchen, sondern seine Ergebnisse auch detailliert zu protokollieren, klare Richtlinien aufzustellen und eng mit den zuständigen Entwicklern zusammenzuarbeiten. „Ein ABA muss über Erfahrung in den Bereichen ‚Recht‘, ‚Compliance‘, ‚Technologie‘, ‚IT‘ und ‚Geschäftsführung‘ verfügen“, erklärt Robert Hoyle Brown, Vice President des „Center for the Future of Work“ von Cognizant. Ein Verständnis für moderne und innovative IT-Entwicklung sei nicht zwingend erforderlich, stelle aber einen erheblichen Vorteil dar. Brown glaubt, dass die Rolle des ABA spätestens mit dem Beschluss von gesetzlich verbindlichen Vorschriften hinsichtlich der ethischen Ausgestaltung von Algorithmen zum Standard werden könnte. „Innerhalb einer Organisa­tion können verschiedene Personen die Grundlagen, Regelungen und Prozesse für eine ethische KI im Blick haben“, schlägt auch Miriam Piper vor. Eine aktuelle Capgemini-Studie hätte gezeigt, dass es Unternehmen mit einem Chief Ethics Officer am besten gelingt, Künstliche Intelligenz ethisch zu nutzen.

Dies ist ein Artikel aus unserer Print-Ausgabe 12/2020. Bestellen Sie ein kostenfreies Probe-Abo.

Nach welchen Grundsätzen Personen in einer solchen Position handeln könnten, zeigen z.B. die im April des letzten Jahres veröffentlichten Leitlinien der EU-Kommission zum Thema. Diese umfassen insgesamt sieben Voraussetzungen, mit deren Erfüllung ein allgemeines Vertrauen in KI geschaffen werden soll: Vorrang menschlichen Handelns und menschlicher Aufsicht, Robustheit und Sicherheit, Privatsphäre und Datenqualitätsmanagement, Transparenz, Vielfalt, Nichtdiskriminierung und Fairness, gesellschaftliches und ökologisches Wohlergehen und Rechenschaftspflicht. Im Rahmen eines im vergangenen Februar veröffentlichten Weißbuchs konkretisierte die Kommission ihre Vorstellung noch einmal – inklusive eines auf die Besonderheiten von KI abgestimmten Regulierungsrahmens. Die Bundesregierung reagierte mit Zustimmung, jedoch ohne sich dabei allzu sehr festlegen zu wollen. Man „teile die Analyse der Europäischen Kommission, dass bei der Nutzung von KI Risiken für Grundrechte von Bürgerinnen und Bürgern, z. B. ungerechtfertigte Diskriminierungen, sowie in Bezug auf Sicherheits- und Haftungsfragen auftreten könnten“, so der Wortlaut. Bei der Regulierung sei jedoch sorgfältig darauf zu achten, dass Innovationen gefördert und nicht gehemmt werden. Die Reaktion veranschaulicht gut, wie schwer es den an der Konsensbildung beteiligten Parteien bislang fällt, klare Grenzen zu ziehen. Viel Zeit bleibt ihnen nicht mehr. Mit Blick auf die fast schon alltägliche Nutzung von KI oder verwandten Technologien in den Ermittlungsbehörden hat die Zukunft nämlich schon längst begonnen.

Bildquelle: Getty Images / iStock / Getty Images Plus