„Regeln schaffen Vertrauen“

ITD: NXP hat sich zuletzt umfassend mit ethischen Fragestellungen beim Einsatz von Künstlicher Intelligenz auseinandergesetzt. Was war die Motivation hinter der Untersuchung?
Lars Reger: Richtig, wir haben eine eigene KI-Ethik-Initiative gestartet und ein umfassendes Rahmenwerk für die Integration ethischer Aspekte in KI-Komponenten und -Systemen vorgestellt, in Form eines White Papers („The Morals of Algorithms“ – Die Moral der Algorithmen). Verbraucher verlassen sich zunehmend auf Künstliche Intelligenz und KI-Anwendungen. Sie wollen, dass ihre Geräte transparent, fair und sicher funktionieren, während sie gleichzeitig die Kontrolle über ihre Privatsphäre behalten. Als einer der drei global führenden Entwickler von Chiplösungen für KI (Compass Intelligence, Juni 2019) sehen wir uns hier in der Verantwortung und der Anwendung ethischer Prinzipien verpflichtet.

Bevor allerdings eine technische Implementierung von ethischen Prinzipien stattfinden kann, brauchen wir als Konsens einen robusten, wertebasierten Rahmen, dem wir uns verpflichten. Dieser Rahmen ist natürlich auch als Referenzsystem für unsere Kunden gedacht. Einige von ihnen arbeiten bereits an ihren eigenen ethischen Kodizes. Als Halbleiterunternehmen müssen wir sichergehen, dass unsere Kunden die gewünschten Funktionalitäten mit unseren Produkten auch umsetzen können.

In der Halbleiterindustrie haben einige Unternehmen bereits ähnliche ethische Rahmenbedingungen formuliert, aber sie werden oft nur in Form von Empfehlungen an politische Entscheidungsträger und Regulierungsbehörden adressiert. Sie sind nicht als praktische Richtlinien für die Systementwicklung konzipiert. Das ist nicht das, was wir uns vorstellen. Wir wollten uns wirklich ein Rahmenwerk für die Schaffung und Entwicklung von KI-Systemen und Komponenten setzen. Wir hoffen auch, dass wir andere Unternehmen bewegen können, unserem Beispiel zu folgen.

ITD: Was ist die grundlegende Erkenntnis der Untersuchung?
Lars Reger: Während die amerikanische Regierung für die Akquise und Entwicklung von KI-Systemen und die Europäische Union für KI „Made in Europe“ bereits ethische Richtlinien formuliert haben, steht bei NXP die industrielle Anwendung im Vordergrund. Demzufolge haben wir fünf Prinzipien für Funktionalität und Design von KI definiert: Das Prinzip der Non-Maleficence: Sei gut!; das Prinzip der Human Autonomy: für eine menschenzentrierte KI; das Prinzip der Explainability: Arbeite transparent! ; das Prinzip der Continued Attention and Vigilance: für hohe Standards und Ökosysteme, und das Prinzip der Privacy and Security by Design: für vertrauenswürdige KI-Systeme.

Nehmen wir das Prinzip der Non-Maleficence, also frei übersetzt: der Nicht-Boshaftigkeit. Bei diesem Prinzip geht es darum, Diskriminierung, also bias, in Künstlich intelligenten Systemen zu vermeiden. Wenn Sie zum Beispiel eine Gesichtserkennung entwickeln – und die Trainingsdaten, die zur Erstellung des Modells verwendet wurden, nur die mehrheitlichen Bevölkerungstypen widerspiegeln, nicht aber einige Minderheiten, dann wird dieses System eine Verzerrung haben. Es wird nämlich nicht in der Lage sein, bestimmte Gesichtszüge dieser Minderheiten zu erkennen. Oder zumindest nicht so gut wie bei den Bevölkerungsgruppen, die beim Training verwendet wurden. Wie soll man dieses Problem lösen? Ausgehend von unserem Prinzip sagen wir, dass es mindestens zwei Lösungen gibt: Entweder Sie stellen sicher, dass Sie dieses System mit einer ausreichend großen Datenmenge trainieren, welche die Nutzer repräsentativ widerspiegelt, oder Sie installieren beispielsweise einen Schwellenwert, das dem System eine mangelhafte Erkennungssicherheit meldet und es davon abhält, selbstständig eine Entscheidung zu treffen. Es erkennt von selbst, dass es sich nicht sicher ist, und zieht dann seinen menschlichen Operator für die Entscheidung heran.

ITD: Wie verhält es sich mit dem Prinzip Privacy and Security by Design?
Reger: Ähnlich. Künstliche Intelligenz und maschinelles Lernen können beispielsweise sehr gut zur Erkennung von Anomalien in Datenströmen oder zum Schutz von Systemen, indem sie Malware identifizieren, eingesetzt werden. Sie können aber genauso gut als Angriffswerkzeug benutzt werden, z.B. im Rahmen von Brute-Force-Angriffen, bei denen Hacker versuchen, Passwörter oder Schlüssel durch automatisiertes, wahlloses Ausprobieren herauszufinden. KI kann solche Angriffe wesentlich beschleunigen und dadurch um ein Vielfaches effektiver machen. Dem kann man nur vorbeugen, wenn für die gesamte Hard- und Software das höchstmögliche Sicherheits- und Datenschutzniveau eingeführt wird. Wir müssen sicherstellen, dass beim Design von KI – sowie in seinen Funktionalitäten, Prozessen, Technologien, Operationen, Architekturen und Geschäftsmodellen – der Datenschutz und die Sicherheit vorkonfiguriert sind.

Bei den fünf Prinzipien wird klar, dass KI ein zweischneidiges Schwert sein kann. Aber die technischen Lösungen, um einen stets vertrauenswürdigen Einsatz von KI zu gewährleisten, der den Menschen in den Mittelpunkt stellt, sind verfügbar, davon bin ich fest überzeugt! Diese Lösungen sind aber gleichzeitig mit nicht unerheblichen Anstrengungen entlang der gesamten Wertschöpfungskette verbunden und erfordern eine kontinuierliche Einbeziehung aller sicherheitsrelevanten Aspekte.

ITD: Die Entscheidungsfindung von KI-Systemen hängt fundamental von den zugrundeliegenden Daten ab. Müssen ethische Richtlinien daher nicht schon bei der Data Governance greifen?
Reger: Selbstverständlich. Und deswegen finden die Grundzüge von Rechtsakten wie die DSGVO Niederschlag in unseren Prinzipien. Wir sehen viele Vorteile in transparenten Vorschriften, was den Umgang von KI mit Daten betrifft. Sie geben den Usern von KI, die mit diesen Daten umgehen, weil sie z.B. systemkritische Infrastrukturen betreiben, die Gewissheit, dass sie das auf eine sichere und verlässliche Art und Weise tun. Regeln schaffen Vertrauen – und zwar in die funktionale Sicherheit (safety) und in die Cybersicherheit (security) von KI-Systemen. Das Risiko von Datenverlust, Missbrauch und Fehlverhalten im Allgemeinen wird in einem Umfeld mit verbindlichen Richtlinien für Daten- und Verbraucherschutz minimiert.

Aber auch Folgendes sollte man bedenken: Ein ML-trainiertes System kann immer nur so gut sein wie die Daten, die es zum Lernen zur Verfügung hat. Maschinelle Lernsysteme sind nämlich auch anfällig für sogenannte data poisoning oder adversarial example attacks. Hierbei injizieren ihnen böswillige Benutzer falsche Trainingsdaten mit dem Ziel, das Modell zu korrumpieren. Um dies zu verhindern, ist eine sorgfältige Kontrolle der Daten, die zum Training jedes KI-Modells verwendet werden, unabdingbar. Wie viel ein Angreifer über ein System weiß, macht dabei einen großen Unterschied. Deswegen muss die Identifizierung von böswilligen Benutzern mit hoher Genauigkeit implementiert werden – und zwar gleich bei der Systementwicklung von Anfang an. Auch ganz normale menschliche Nachlässigkeit kann ähnliche Probleme aufwerfen. Kurzum: Die Entwicklung von KI-Systemen sollte ausschließlich erfahrenen Datenwissenschaftlern und Systementwicklern anvertraut werden.

ITD: Wie lassen sich ethische Werte auf Algorithmen übertragen?
Reger: Ein Algorithmus kann weder ethisch noch unethisch sein. Er kennt weder Werte noch Moral, sondern ist eher ein Skript für eine mathematische Operation. Aber wenn wir anfangen Algorithmen mit dem Ziel einer technischen Funktionalität in ein System einzubetten – also bei der Implementierung – da bekommen ethische Fragen plötzlich ein enormes Gewicht. Hier gilt es sicherzustellen, dass die Algorithmen sicher und zuverlässig auch das tun, was wir von Ihnen in der Anwendung erwarten. Die funktionale und die Cybersicherheit des gesamten Systems sind dabei die Grundvoraussetzungen, dass die KI konform mit unseren Wertevorstellungen operiert.

ITD: Wie lassen sich diese Werte messen?
Reger: Inwiefern ganz bestimmte Aktionen im alltäglichen Kontext einer bestimmten Wertevorstellung entsprechen, darüber gibt es sehr unterschiedliche Auffassungen, besonders auch zwischen verschiedenen Kulturen. Das zeigen auch psychologische Experimente in diesem Bereich. Trotz dieser Varianz gibt es jedoch einen allgemeinen kulturübergreifen Grundkonsens darüber, was als gut und was als schlecht gilt. Diesen Grundkonsens haben wir in unseren ethischen Prinzipien abgebildet. Und trotzdem müssen wir – ob als Individuen oder Entwickler von KI-Systemen – unsere Entscheidungen immer wieder neu abwägen. Dies ist weniger ein technisches als vielmehr ein grundsätzliches, menschliches Problem.

Um die Ethik von KI-Systemen aber überhaupt beurteilen zu können, ist zunächst einmal erforderlich, dass sich ihre Entscheidungen oder Vorhersagen nachvollziehen und zurückverfolgen lassen. Hierfür wiederum brauchen wir nicht nur Transparenz, sondern auch zuverlässige, sichere Systeme, deren ML auf integren Daten beruht und denen wir vertrauen können. Hier setzt unser ethisches Rahmenwerk an.

Die Entscheidungsprozesse von KI-Systemen sollte derart erklärbar sein, dass Menschen ihre Schlussfolgerungen und Empfehlungen verstehen können. Es gibt Fälle, wo Sicherheitsinteressen der Transparenz entgegenstehen und wo zum Schutz des Systems und der Nutzerdaten Informationen zur Architektur und Operationsweise zurückgehalten werden müssen. In diesen Fällen sollte ein System aber zumindest in der Lage sein, Beschreibungen zu liefern und dabei ein Vokabular verwenden, das für den Benutzer aussagekräftig ist und es ihm ermöglicht zu verstehen, wie eine Entscheidung getroffen wurde.

ITD: Der Datenhunger von KI-Systemen steht häufig in starkem Kontrast zu den hiesigen Datenschutzbestimmungen. Wie lassen sich beide Aspekte sinnvoll vereinen?
Reger: Wie gesagt, wir bei NXP nehmen die geltenden Datenschutzregelungen sehr ernst, deswegen wenden wir das Prinzip des Privacy by Design in unseren Lösungen umfassend an. Privacy by Design bietet eine sichere Speicherung von Schlüsseln, eine sichere Verwaltung von Benutzer- und Geräteidentitäten und ermöglicht den Einsatz vertraulicher Kommunikation. Ein Privacy-by-Design-Ansatz bedeutet darüber hinaus, dass privatsphärenrelevante Informationen nur dann gespeichert werden, wenn dies absolut notwendig ist, und dass vertrauliche Informationen nicht unverschlüsselt berechnet werden. Ich bin mir sicher, dass sich die Bewahrung der Privatsphäre auch global als Prinzip durchsetzen werden, angetrieben durch neue Gesetze und Vorschriften wie die DSGVO in Europa.

Dies ist ein Artikel aus unserer Print-Ausgabe 12/2020. Bestellen Sie ein kostenfreies Probe-Abo.

Grundsätzlich gilt aber auch: Ein ML-trainiertes KI System ist immer nur so gut wie die Daten, auf denen es trainiert wurde. Hier gilt es eine Balance zu finden, die neue Anwendungen und Geschäftsmodelle nicht behindert, sondern im Rahmen der Regulierung ermöglicht und fördert.

Bildquelle: NXP