Kriterien für vertrauensvolle AI

Künstliche Intelligenz (KI, oder Englisch Artificial Intelligence, AI) ist heute Teil unseres täglichen Lebens und wird in zunehmendem Maße für die Entscheidungsfindung eingesetzt, wenn es um Bildung, Unterstützung der Polizei und der Justiz, bei der Rekrutierung neuer Mitarbeiter*innen oder um die Gesundheit geht. Gerade als Anwender*in von KI-Systemen ist es jedoch wichtig, dass wir uns sicher sein können, dass die eingesetzte KI nicht von außen manipuliert wurde und mit unseren persönlichen Daten vertrauensvoll umgeht.

Datensicherheit gegenüber Hackerattacken wie auch Datenschutz sind allerdings nicht die einzigen Faktoren, die vertrauenswürdige KI ausmachen. Die EU hat im Juni 2019 ethische Richtlinien festgelegt, um vertrauenswürdige KI zu definieren.

In den Richtlinien wird in einem zehnseitigen Fragenkatalog abgefragt, wie man als Unternehmen vertrauensvolle KI im Unternehmen etablieren kann. Neben dem Fragenkatalog findet die Richtlinie eindeutige und klare Begriffe für den Einsatz von vertrauensvoller, künstlicher Intelligenz:

Menschenzentriertheit und Grundwerte, Sicherheit und Robustheit, Qualität und Leistung, Transparenz und Erklärbarkeit, Nachhaltigkeit, soziale und ökonomische Faktoren sowie die Minimierung von Vorurteilen/Voreingenommenheit und Ungleichheit1, sind die Hauptkriterien nach denen vertrauensvolle künstliche Intelligenz eingestuft werden soll.

Software-Systeme , die Künstlichen Intelligenz anwenden, erkennen beispielsweise in vorhandenen Daten Muster und leiten daraus Regeln ab. Es werden also bisherige Lebenswelten und Ungleichheiten wie in der Geschlechterbesetzung automatisiert. Eine Anforderung von vertrauensvoller KI besteht darin sicherzustellen, dass alle Menschen gleich und ohne Diskriminierung oder Voreingenommenheit behandelt werden. Um dieses Ziel zu erreichen, ist ein inklusiver Ansatz zur KI erforderlich, der die Ansichten und Positionen aller Gruppen unserer Gesellschaften widerspiegelt. Der gegenwärtige Einsatz von KI  zeigt jedoch, dass Algorithmen unsere gesellschaftlichen Vorurteile reproduzieren und verstärken können und absichtlich wie auch unabsichtlich eingesetzt werden .

Der vorliegende Blog-Artikel fokussiert sich im Speziellen auf die Grundwerte sowie die Nachhaltigkeit. Im Speziellen ist Nachhaltigkeit im Rahmen der Kreislaufwirtschaft dieses Jahr besonders in den Mittelpunkt gerückt.

NACHHALTIGKEIT

Das Projekt EuProGigant hat das Ziel der Demonstration eines standortübergreifenden digital vernetzten Produktionsökosystems mit resilienter, datengetriebener und nachhaltiger Wertschöpfung. Dabei geht es vor allem um die smarte und souveräne Nutzung von Daten in der Produktion u.a. durch Einsatz von KI Systemen zur Verarbeitung, Analyse und Skalierung. Das Projekt ist ein Leitprojekt welches die Erkenntnisse aus dem EU Projekt Gaia-X ins Produktionsumfeld tragen soll.

GRUNDRECHTE

Aktuelle und zukünftige KI-Anwendungen bringen viele neue Herausforderungen mit sich und haben das Potential eine Vielzahl von Grund- und Menschenrechten breitflächig und nicht leicht ersichtlich zu verletzen. Das rührt von diversen Faktoren, vom hohen Grad von Komplexität und einer gewissen Undurchsichtigkeit, dem großen Skalierungspotenzial, der Wahrnehmung von maschinellen Entscheidungen als neutral, wie auch fehlenden Möglichkeiten sich gegen solche zu wehren.

Fazit: Die Möglichkeiten durch KI-Technologie Sachverhalte zu identifizieren, zu klassifizieren und zu diskriminieren, erhöht das Risiko für Menschenrechtsverletzungen in Ausmaß und Umfang.

Das wohl meist adressierte Grundrecht im Zusammenhang mit Maschinellem Lernen ist das Recht auf Nichtdiskriminierung. Menschen haben Vorurteile und wie bereits erläutert, können sowohl die KI Modelle, wie auch die gefütterten Daten nicht gewollte Vorurteile widerspiegeln, die dann zu nicht gerechtfertigten Ungleichbehandlung von meist historisch schlechter gestellten Gruppen oder auch einzelnen Personen führen kann. Ein Beispiel wäre ein KI System im Personalwesen, welches männliche Bewerber gegenüber weiblichen Bewerberinnen bevorzugt.

Es fällt schwer ein Grund- und Menschenrecht zu nennen, welches nicht in der ein oder anderen Form von KI-Technologie eingeschränkt oder verletzt werden kann. Neben dem Gleichheitssatz und dem Recht auf Nichtdiskriminierung sind besonders folgende Grundrechte gefährdet:

  • Recht auf Datenschutz,
  • Recht auf Medien- und Meinungsfreiheit, Vereins- und Versammlungsfreiheit,
  • eine Vielzahl von Prozessrechten, wie das Recht auf ein faires Verfahren,
  • Recht auf Achtung des Privat- und Familienlebens, usw.

Es braucht viel Recherche, Diskurs und weiterführende Arbeit um sicherzustellen, dass KI-Technologie die großen Herausforderungen unserer Welt lösen, anstatt uns als Menschen und Gesellschaft zu schädigen.

Leave a Comment

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.