„Die DSGVO für den Einsatz von KI“

ITD: Herr Wolter, was genau hat es mit dem Artificial Intelligence Act auf sich?
Wolter: Im Grunde ist der Artificial Intelligence Act die DSGVO für den Einsatz von Künstlicher Intelligenz. Er ist ein Verordnungsentwurf der Europäischen Kommission, mit dem ein gemeinsamer regulatorischer und rechtlicher Rahmen für KI innerhalb Europas geschaffen werden soll. Natürlich hat dies Auswirkungen auf die Entwicklung von entsprechenden Anwendungen weltweit. Sein Anwendungsbereich umfasst alle Branchen – das Militär ausgenommen – und alle Arten von Künstlicher Intelligenz sowie deren Einsatz. Der Artificial Intelligence Act reguliert also die Anbieter von KI-Anwendungen und deren kommerzielle Verwendung.

ITD: Welche Anforderungen müssen Unternehmen künftig zu dessen Einhaltung erfüllen?
Wolter: Die Anforderungen, die auf Unternehmen zukommen, sind stark vom Einsatz der jeweiligen KI abhängig. Der AI-Act unterscheidet, ähnlich wie die DSGVO, vier Stufen. Bei der Einstufung geht es um das mögliche Risiko der KI für den Einzelnen und uns als Gesellschaft. KI-Anwendungen mit keinem oder nur minimalem Risikofaktor können auch künftig unreguliert weiterlaufen.

Stärker reguliert werden KIs mit besonderen Transparenzpflichten wie z.B. Bots, die menschliches Verhalten nachahmen. Diese sind zwar zulässig, aber nur unter Einhaltung der Informations- bzw. Transparenzverpflichtungen. Hier müssen Menschen aktiv darüber informiert werden, dass sie mit einer KI interagieren und Systeme zur Erkennung von Emotionen oder zur biometrischen Kategorisierung auf sie angewendet werden.

Als KI-Anwendungen mit hohem Risiko werden solche definiert, die einen starken Einfluss auf unser Leben haben, wie z.B. Personal-Tools oder Anwendungen zur Vergabe von Medizinprodukten. Diese sind nur zulässig, wenn die gestellten Anforderungen in einer dem Einsatz vorhergehenden Konformitätsprüfung erfüllt sind. In dieser Prüfung müssen folgende Punkte erfüllt werden: die Verwendung qualitativ hochwertiger Schulungs-, Validierungs- und Testdaten, die relevant und repräsentativ sind, die Einführung von Dokumentations- und Entwicklungsprotokollen zur Rückverfolgbarkeit und Überprüfbarkeit und die Gewährleistung von Transparenz und die Bereitstellung von Informationen für die Nutzer über die Verwendung des Systems. Dazu kommen die Gewährleistung einer menschlichen Kontrollinstanz sowie die Sicherstellung von Zuverlässigkeit, Genauigkeit und Cybersicherheit.

Zuletzt gibt es noch Anwendungen mit einem inakzeptablen Risiko. Dazu zählen u.a. Social-Scoring-Modelle. Diese sind innerhalb der EU unzulässig.

ITD: Worauf sollten Sie bei der Qualitätssicherung Ihrer Daten achten?
Wolter: Wie schon erwähnt, ist die Verwendung hochwertiger Schulungs-, Validierungs- und Testdaten, die relevant und repräsentativ sind, eine Voraussetzung des Acts. Die Daten, die Unternehmen zum Training von KI-Modellen benötigen, sind dabei stark abhängig von der Problemstellung, die gelöst werden soll. Unternehmen sollten daher zu Beginn der Projektphasen genau analysieren, mit welchen Daten genau die KI trainiert werden soll. Dazu gehört die Identifizierung der erforderlichen Merkmale, Datenquellen und Aggregation dieser Daten. KI-Tests können dabei helfen zu verstehen, ob die verwendeten Daten den festgelegten Ansprüchen auch dauerhaft genügen. Viel wichtiger ist aber, dass Unternehmen bereits von Anfang an die richtigen Daten zur Verfügung stehen.

Dabei geht es auch viel um das Vertrauen der Anwender in entsprechende KI-Applikationen. Daten, die ungewollt einen Bias abbilden oder bestimmte Szenarien nicht betrachten, können schwerwiegende Folgen für Anwender mit sich bringen. Fortlaufendes Testen ist ein Kontrollmechanismus, der entsprechend schützt.

Neben dem Vertrauen ist die größte Herausforderung beim Training von KI-Modellen die Beschaffung von ausreichend hochwertigen Daten. Anbieter können dank großer Communities bei der Qualitätssicherung unterstützen und durch die große Menge an Community-Mitgliedern selbst hochwertige Testdaten produzieren. Denn um erfolgreich KI zu trainieren, brauchen Unternehmen perfekt auf ihre Problemstellung zugeschnittene Daten. Diese selbst zu produzieren, statt große unspezifische Datenmengen einzukaufen, kann beim Training von großem Vorteil sein und zu schnelleren und besseren Ergebnissen führen.

ITD: Wie sehen Best Practices zum Testen von KI-Anwendungen aktuell aus?
Wolter: Ein erfolgreiches Modell zum Testen von KI-Anwendungen beginnt bereits in der Planungsphase. Vor der Umsetzung eines Produktes steht die Frage, ist eine entsprechende Anwendung überhaupt sinnvoll für die Kunden. Hier kann bereits das Einbeziehen von Fremdmeinungen hilfreich sein. Sollte sich herausstellen, dass keine Nachfrage besteht, können Kosten vermieden werden.

Dies ist ein Artikel aus unserer Print-Ausgabe 12/2022. Bestellen Sie ein kostenfreies Probe-Abo.

Bevor AI-Anwendungen live gehen, sollten diese auf Auffindbarkeit, Funktionalität und Benutzerfreundlichkeit an echten Nutzern in realen Umgebungen getestet werden. Regelmäßige Tests empfehlen sich aber auch bereits nach dem Live-Gang einer Applikation, um deren Qualität durchgängig sicherzustellen und eventuelle Fehler aufgrund falscher oder schlechter Daten frühzeitig zu erkennen.

Viele Unternehmen bieten bereits Produkte zum Testen von entsprechenden Anwendungen an. Unternehmen, die noch keine Erfahrung haben, sollten sich einen erfahrenen Partner bereits ab der Planungsphase zur Seite nehmen, um die Testmechanismen lückenlos in die laufende Applikation zu integrieren und so nicht nur regulatorischen Ansprüchen, sondern auch denen der Kunden zu genügen.

Bildquelle: Applause