Kontrollieren statt Diskriminieren

Auch 2022 herrschen vielerorts noch diverse Vorurteile über Künstliche Intelligenz in Unternehmen vor. Das macht sich in der Praxis bemerkbar: Wie eine Studie von Tata Consultancy Services zeigt, sehen immer mehr Unternehmen in KI den Schlüssel zu ihrer zukünftigen Wettbewerbsfähigkeit – doch der Praxiseinsatz stagniert. Nur jedes achte Unternehmen (13 Prozent) setzt die Technologie tatsächlich ein.

Gründe dafür gibt es viele: Hohe notwendige Investitionen sind häufig Hürden, ebenso wie hohe Anforderungen an den Datenschutz. Weitere Stolpersteine sind die genannten Vorurteile: „Es ist verlockend anzunehmen, dass intelligente Maschinen und Algorithmen der nächsten Generation frei von menschlichen Schwächen wie Fehlern und Voreingenommenheit sein sollten. Die Wahrheit ist jedoch, dass Menschen unbeabsichtigt ihre eigenen Vorurteile sogar in die Algorithmen einbringen können, die das Künstliche-Intelligenz-/Machine-Learning-Lernen und die Entscheidungsfindung vorantreiben“, berichtet Alfonso Cano Rodriguez, AI Strategic Specialist bei Talkdesk.

Fehlendes Vertrauen

„Riskant, verzerrt, unsicher – das sind die Vorurteile, mit denen KI und Machine Learning sich, teilweise berechtigt, konfrontiert sehen“, stimmt Dr. Scott Zoldi, Chief Analytics Officer bei Fico, zu. Das Problem sei, dass es innerhalb der Unternehmen teilweise über­eifrige Enthusiasten gebe, die versuchten, immer kom­plexere Modelle zu bauen. „Diesen fehlt es dann an Erklärbarkeit, Transparenz und Stabilität.“ 

Nicht nur die Vorurteile gegenüber der KI können Unternehmen behindern – auch der Bias, mit dem etwa Machine-Learning-Modelle (ML) häufig unabsichtlich gefüttert werden, kann Unternehmen langfristig schaden. „Das Problem: Unsere Welt und Gesellschaft sind selbst durchsetzt von Vorurteilen. Das schlägt sich in den Daten nieder“, weiß Zoldi. Ein Data Scientist könne nichts an der Tatsache ändern, dass die Welt heute systematisch voreingenommen sei, selbst wenn er versuche, die Verzerrungen in den Daten zu beseitigen. „Seine Aufgabe ist es, im Bereich der Daten aufzudecken, wo oder wie Verzerrungen im Modell gelernt werden, und diese zu beseitigen. Beim nicht interpretierbaren Machine Learning äußert sich die realweltliche Verzerrung beispielsweise dadurch, dass bestimmte Bevölkerungsgruppen beim Einsatz von KI drastisch bessere oder schlechtere Ergebnisse erzielen.“ Mit anderen Worten: Das Modell erkennt bei der Vorhersageoptimierung, dass eine bestimmte Gruppe immer ein schlechteres Ergebnis erzielt. Dies führt dazu, dass sich diese systematische Verzerrung ausbreitet. Voreingenommene Modelle könnten auf diese Weise das Unternehmen durch fehlgeleitete Erwartungen Geld kosten, Kunden diskriminieren und die gesetzlichen Standards für verantwortungsvolle KI nicht mehr erfüllen.

Deshalb muss eine solche Voreingenommenheit bereits bei der Entwicklung von ML- und KI-Modellen unterbunden werden. Doch wie? „Ich würde zu vier Schritten raten“, sagt Rodriguez. „Zum einen: Es sollte ein multidisziplinäres Team für KI-Initiativen erstellt werden, das nicht nur aus Entwicklern und dem Top-Management besteht, sondern auch aus nicht technischem Personal, das in verschiedenen Abteilungen arbeiten könnte, die in KI-Projekten sonst zu selten berücksichtigt werden.“ Dann sollten seiner Ansicht nach Richtlinien und Verfahren eingeführt werden, um das Risiko von Voreingenommenheit und Diskriminierung zu minimieren. Eine Richtlinie der vollständigen Transparenz bezüglich des Prozesses der Entwicklung von KI-Algorithmen und Metriken zur Messung von Verzerrungen sollte festgelegt werden. „Desweiteren muss der gesunde Menschenverstand eingesetzt werden, bevor von Algorithmen generierte Ratschläge an Verbraucher geliefert werden.“ Dies biete eine zusätzliche Ebene der Qualitätskontrolle, da es Menschen ermöglicht werde, Algorithmen mit Verzerrungen zu erkennen und zu überarbeiten. „Zu guter Letzt: Vorgaben und Best Practices, die von Aufsichtsbehörden empfohlen werden, sollten auch beachtet werden. Gesetzgeber auf der ganzen Welt sind dabei, neue Regelwerke zu erstellen, die darauf abzielen, KI-Anwendungen in ­verschiedenen Branchen wie z.B. dem Bankwesen zu reglementieren, um Verzerrungen zu minimieren“, erläutert der IT-Experte.

Dies ist ein Artikel aus unserer Print-Ausgabe 5/2022. Bestellen Sie ein kostenfreies Probe-Abo.

Sollte sich trotz aller Vorsichtsmaßnahmen ein Bias einschleichen, ist es schwierig, diesen durch Regeln und Strategien wieder zu beseitigen. „Es bedarf einer kontinuierlichen Überwachung der Modellreaktionen in unterschiedlichen Kategorien, um festzustellen, wann und wie stark das Modell verzerrt ist“, erklärt Zoldi. Manchmal sei es möglich, die Auswirkungen zu verringern, indem man Strategien in Richtung einer verzerrten Gruppe anpasse – „aber angesichts der Komplexität des Machine Learnings kann dies nur eine Notlösung sein“. In einigen interpretierbaren ML-Modellen könnten stattdessen latente Merkmale, die in der Praxis durch Daten und den sogenannten Bias Drift verzerrt wurden, oft auf null gesetzt werden. „Dadurch wird die Leistung des Modells zwar reduziert, aber der Bias-Term wird gestoppt.“ Wichtiger sei jedoch, dass das Modell deaktiviert werde, während daran gearbeitet wird, die Verzerrungen zu beseitigen. Außerdem rät Zoldi dazu,  mit der Entwicklung eines interpretierbaren ML-Modells zu beginnen, bei dem die latenten Merkmale offengelegt und die Verzerrungen adressiert werden.

Positive oder negative Auswirkungen?

Entgegen aller Vorurteilssorgen auf beiden Seiten wird laut Rodriguez erwartet, dass der Einsatz von Künstlicher Intelligenz und Machine Learning in den nächsten Jahren sprunghaft ansteigt, da Unternehmen in verschiedenen Branchen danach streben, diese Technologien einzusetzen, um die betriebliche Effizienz zu verbessern, Produkt- und Serviceangebote zu erweitern und personalisierte Kundenerlebnisse zu bieten. „Künstliche Intelligenz wird zukünftig Teil aller Unternehmen sein“, ist sich auch Zoldi sicher. Diese Entwicklung lasse sich nicht aufhalten. „Kunden und Unternehmen müssen autorisierte Daten nutzen, um die besten Entscheidungen zu treffen. Fehler hierbei werden für die Unternehmen sehr kostspielig sein. Daher werden wir in Zukunft eine ganz neue Ebene von Regelungen und Prozessen erleben, die sicherstellen, dass die Technologie nachweislich sicher eingesetzt wird“, betont der IT-Experte. Unternehmen müssten also schon heute ihre Governance-Standards für die Modellentwicklung ausarbeiten und sicherstellen, dass die Geschäftsführung diese kennt, unterstützt und durchsetzt sowie Strukturen für die Entwicklung von Analyseressourcen entwickelt. „KI wird eine große Rolle in der zukünftigen Entwicklung unseres Lebens spielen. Dazu bedarf es jedoch einer geeigneten Kontrolle, da sie, wenn man sie aus der Spielwiese der Datenwissenschaft in die Praxis überführt, konkrete Auswirkungen auf das Leben der Menschen haben wird – je nachdem positive oder negative.“

Woran der KI-Einsatz scheitert

Eine Studie des IT-Dienstleisters Tata Consultancy Services (TCS) unter 951 Unternehmen zeigt: Unternehmen sehen Künstliche Intelligenz (KI) als entscheidend für die Wettbewerbsfähigkeit. Am häufigsten erhoffen sich Unternehmen durch den Einsatz von KI Kosteneinsparungen (58 Prozent). Bei Großunternehmen stehen diese besonders im Fokus: Das Interesse, mit dem Einsatz von KI die eigenen Kosten zu senken, stieg sprunghaft um 15 Prozent auf 66 Prozent an. Insgesamt lediglich ein Viertel (27 Prozent) will die Kundenbindung verbessern, ein Drittel (35 Prozent) der befragten Unternehmen will KI nutzen, um Mitarbeiter zu entlasten.

Quelle: Tata Consultancy Services

Bildquelle: Getty Images / iStock / Getty Images Plus