15.12.2021 Vier Schritte

Klare Standards für verlässliche KI-Systeme

Von: Dr. Maximilian Poretschkin

KI-basierte Systeme dringen in immer mehr Bereiche unseres Alltags vor. Umso wichtiger ist, dass diese zuverlässig funktionieren und vertrauenswürdig sind. Dazu müssen eine Reihe von Qualitätsanforderungen erfüllt werden, die systematisch evaluiert werden können.

Künstliche Intelligenz ist inzwischen in vielen Bereichen des Alltagslebens zu finden – allerdings sollten KI-Systeme systematisch auf Sicherheit, Verlässlichkeit, Datenschutz oder Fairness geprüft werden.

Künstliche Intelligenz (KI) ist in vielen Bereichen des Alltagslebens zu finden. Dabei kommt es darauf an, KI-Systeme so zu gestalten, dass diese zuverlässig und sicher agieren, transparent sind und niemanden diskriminieren. Die EU-Kommission hat kürzlich einen risikobasierten Vorschlag zur Regulierung von KI-Systemen veröffentlicht. Unabhängig von einer möglichen Regulierung können sich Unternehmen darüber hinaus bereits heute durch KI-Gütesiegel Wettbewerbsvorteile verschaffen, indem sie die hohen Qualitätsstandards ihrer Systeme durch eine unabhängige Prüfung nachweisen.

Allerdings fehlen an vielen Stellen noch etablierte Standards. Deshalb stehen Unternehmen häufig vor der Herausforderung, wie sie passgenaue Entscheidungen für diese Zukunftstechnologie treffen sollen. Eine strukturierte Prüfung, die genau evaluiert, welche Risikofaktoren in einem bestimmten Use-Case-Szenario mit einer KI auftreten können, kann helfen, diesen Risiken entgegenzuwirken. Um Anwendungen praxisorientiert auf ihre Vertrauenswürdigkeit hin zu überprüfen, hat das Fraunhofer IAIS einen KI-Prüfkatalog entwickelt, der aufzeigt, wie eine solche Prüfung durchgeführt werden kann. Prüfinstitutionen und Unternehmen sollten bei der Evaluierung von KI einen risikobasierten Ansatz verfolgen.

Der erste Schritt besteht aus einer Risikoanalyse, die verschiedene Qualitätsdimensionen wie Sicherheit, Transparenz, Verlässlichkeit und Kontrolle oder Fairness unter die Lupe nimmt. Allerdings ist nicht jede dieser Dimensionen auch für jede KI-Anwendung gleichermaßen relevant. Im zweiten Schritt werden objektive, möglichst messbare Zielvorgaben formuliert, die die identifizierten Risiken mindern. Im Fall von Predictive Maintenance könnten eine Zielvorgabe etwa Mindestwerte für die Anzahl automatischer Fehlermeldungen sein. Im dritten Schritt werden entlang des KI-Lebenszyklus systematisch alle Maßnahmen gelistet, um die vorab formulierten Zielvorgaben und KPIs zu erreichen.

Dies ist ein Artikel aus unserer Print-Ausgabe 11/2021. Bestellen Sie ein kostenfreies Probe-Abo.

Schließlich wird in Schritt vier nachgewiesen, dass die in Schritt zwei definierten Ziele erreicht wurden. Dieser abschließende Schritt sorgt für die nötige Transparenz nach außen und kann ergo auch dafür verwendet werden, technische Dokumentationen zu erstellen. Dieses beispielhafte Vorgehen kann sowohl als Grundlage für KI-Prüfschemata als auch für technische Dokumentationen dienen, anhand derer dann entsprechende KI-Prüfungen durchgeführt werden können.

Bildquelle: Getty Images / iStock / Getty Images Plus