Rechtliche Grundlagen

Fünf Schritte zur sicheren KI-Datenlösung

Künstliche Intelligenz (KI) hat das Potenzial, in den nächsten Jahren den Umgang mit Datenlösungen massiv zu vereinfachen. Ihre Verwendung birgt jedoch auch neue rechtliche Herausforderungen für Unternehmen. Folgende Schritte sollten daher nach rechtsanwaltlichem Rat bei der Implementierung von KI-Datenlösungen beachtet werden.

5 Schritte bildliche Darstellung mit Holzklötzen

Auch wenn KI Entscheidungen automatisieren soll, gelten dennoch Einschränkungen auf Grundlage des Datenschutzrechts.

Bevor ein Unternehmen Daten verwendet, sollte es prüfen, ob es die Daten überhaupt verwenden darf. Dafür ist es notwendig, ihre Herkunft sicherzustellen und bei der Verwendung von Daten Dritter eine Genehmigung einzuholen. Dieses Erfordernis bezieht sich auch auf nicht personenbezogene Daten, etwa welche, die über ein Kfz gespeichert werden (z.B. Tachostand), ohne dass ein Bezug zum Halter erkennbar ist. Bei derartigen Daten ist stets zu prüfen, ob sie jemandem durch die Rechtsordnung zugeordnet werden – z.B. dem Eigentümer des Fahrzeugs. Wenn das nicht der Fall ist und keine Geheimhaltungsvereinbarung besteht, können die Daten frei benutzt werden. Derzeit gibt es außerhalb des Datenschutzes noch kein konsistentes europäisches System zum Umgang und Schutz von Daten. 

Transparenter Gebrauch von Daten

Ganz allgemein sollten Unternehmen darauf achten, dass ihre KI-gestützten Lösungen datenethischen Grundlagen entsprechen. Dies gilt auch bei Verwendung nicht personenbezogener Daten. Als besonders wichtiges Kriterium hat sich die Transparenz von KI-Systemen herausgebildet. Unternehmen sollten ersichtlich darlegen können, woher ihre Daten stammen, auf welcher Basis das eingesetzte System Entscheidungen trifft und zu welchem Zweck Daten verarbeitet werden. Das ist wichtig, um die Akzeptanz in der Gesellschaft und von den Stakeholdern zu erhalten, die es für den Einsatz von KI braucht.

Dies ist ein Artikel aus unserer Print-Ausgabe 4/2020. Bestellen Sie ein kostenfreies Probe-Abo.

Auf Diskriminierung achten

Trifft eine KI Entscheidungen, die sich direkt auf Personen auswirken, besteht das Risiko, dass der zugrundeliegende Algorithmus fehlerhaft programmiert wurde und so Personen oder Unternehmen diskriminiert werden. Ein einfaches Beispiel aus dem Personalwesen: Verwendet ein Unternehmen für Bewerbungen ein automatisiertes System, das die Bewerbungen der letzten Jahre untersucht, und stellt dieses fest, dass insbesondere technikaffine Männer eingestellt wurden, schlussfolgert der Algorithmus, dass diese Gruppe besonders für die Stelle geeignet ist. Es filtert Frauen daher aus, sodass ungewollt Diskriminierung entstehen kann. 

Automatisierte Entscheidungen

Auch wenn KI Entscheidungen automatisieren soll, gelten dennoch Einschränkungen auf Grundlage des Datenschutzrechts. Dieses sieht vor, dass die letzte Entscheidung, sofern sie negative Konsequenzen für einen Menschen haben kann, in den meisten Fällen von einem Menschen mit Beurteilungsspielraum getroffen werden muss. Durch diese Reglementierung ergeben sich Grenzen im Einsatz einer automatisierten Datenlösung.

Verantwortung bei Verarbeitung

Jedes herkömmliche System oder Produkt hat eine definierte Leistungsbeschreibung, für die z.B. ein Hersteller verantwortlich ist. Entwickelt sich das System eigenständig über diese Beschreibung hinaus, weil es selbstständig lernt, muss individuell entschieden werden, wer dafür Verantwortung trägt. Eine diskutierte Varianten der Haftung ist, ob z.B. das KI-gestützte System über sogenannte E-GmbHs nicht selbst haften könnte. Der Software-Hersteller müsste die KI rechtlich in die E-GmbH überführen und bei Schäden mit einem hinterlegten Haftungskapital aufkommen. Eine andere Variante ist die Gefährdungshaftung. Bei ihr kommt die Person, die das KI-System nutzt, für Schäden auf. In jedem Fall sollte man sich vor dem Einsatz von selbstlernenden Programmen die Risiken klarmachen und versuchen, Verantwortlichkeiten z.B. durch Vereinbarungen mit Lieferanten  angemessen zu regeln. Das KI-System sollte über die Gewährleistungsfrist hinaus beobachtet werden, damit bei Fehlentwicklungen eingegriffen werden kann. 

Bildquelle: Bird & Bird / Gettyimages/iStock

©2020Alle Rechte bei MEDIENHAUS Verlag GmbH

Unsere Website verwendet Cookies, um Ihnen den bestmöglichen Service zu bieten. Durch die weitere Nutzung der Seite stimmen Sie der Verwendung zu. Weitere Infos finden Sie in unserer Datenschutzerklärung.

ok