KI-Ethik

Wie wenden wir Ethik auf künstliche Intelligenz an?

Warum brauchen wir jetzt eine KI-Ethik? Was ist KI-Ethik?

Die immer größere Verfügbarkeit von Big Data und Cloud Computing, verbesserte Rechenleistung und die jüngsten Entwicklungen bei Deep-Learning-Algorithmen haben den Weg dafür geebnet, dass Machine-Learning-Algorithmen nahezu jede Branche verändern.

In dieser schönen neuen Welt kann KI die Gesellschaft und die Lebensqualität auf vielfältige Weise verbessern. Grundlegende Dienstleistungen wie das Gesundheitswesen beginnen sich zu verändern, aber wie bei allen neuen Technologien müssen wir noch viel über die schädlichen Auswirkungen von KI lernen. Es besteht die Notwendigkeit, die KI-Ethik zu untersuchen und zu definieren.

Ethik, Voreingenommenheit und Diskriminierung bei KI

Algorithmen des maschinellen Lernens gewinnen ihre Erkenntnisse aus den Gesellschaften, die sie analysieren. Das bedeutet, dass sie auch implizite Vorurteile erlernen und Ungleichheiten wie Sexismus und Rassismus in ihren Algorithmen aufrechterhalten können.

Beispielsweise kann ein maschineller Lernalgorithmus, der zur Vorhersage der Wahrscheinlichkeit eines Rückfalls (einer wiederholten Straftat) verwendet wird, unbeabsichtigt voreingenommen werden, wenn die früheren Daten, mit denen er trainiert wurde, eine Verzerrung enthalten. Wenn das Justizsystem eher dazu neigt, eine Person einer bestimmten Rasse zu verurteilen als eine andere, dann wird ein maschineller Lernalgorithmus, der auf den Entscheidungen dieses Justizsystems trainiert wurde, derselben Voreingenommenheit und Voreingenommenheit unterliegen. Wenn eine solche voreingenommene KI beispielsweise bei Bewährungs- oder Strafmaßentscheidungen verwendet wird, kann dies zu einer Rückkopplungsschleife führen, in der die voreingenommene KI die Benachteiligung marginalisierter Gruppen in der Gesellschaft weiter verfestigt.

Im Jahr 2017 wurde dem Obersten Gerichtshof des Staates Wisconsin im Fall Loomis v. Wisconsin ein Fall voreingenommener KI vorgelegt, der verdeutlicht, dass voreingenommene KI im Justizsystem nicht länger der Science-Fiction vorbehalten ist.

Glücklicherweise gibt es Methoden der KI-Ethik, um algorithmische Verzerrungen zu erkennen, zu verhindern und zu beheben. Eine einfache Möglichkeit besteht darin, bei einer KI in der Entwicklung den „Advocatus Diaboli“ zu spielen und sie einer Art Bias-Penetrationstest zu unterziehen. Dies ist einer der wichtigsten Bereiche der KI-Ethik.

Wenn Sie sicherstellen möchten, dass die von Ihnen entwickelte KI frei von Voreingenommenheit ist, nehmen Sie bitte Kontakt mit uns auf und wir unterstützen Sie gerne mit einer KI-Ethikberatung.

Erklärbarkeit/Transparenz von KI, DSGVO und HIPAA

Viele KI-Systeme, wie etwa tiefe neuronale Netzwerke , arbeiten in einem hochdimensionalen Raum mit Millionen von Parametern und treffen Entscheidungen mit minimaler Rechenschaftspflicht. Stellen Sie sich vor, Ihnen wird ohne nachvollziehbare Erklärung ein Autokredit verweigert oder Sie müssen eine hohe Versicherungsprämie zahlen.

In manchen Fällen kann der Mangel an Erklärbarkeit akzeptabel sein. Allerdings besteht oft eine geschäftliche oder behördliche Anforderung oder einfach eine ethische Verpflichtung, Entscheidungen zu erklären, insbesondere wenn sie Privatpersonen betreffen. In Europa garantiert die DSGVO ein Recht auf Erklärung, das als Verpflichtung für Unternehmen interpretiert werden kann, ihren Kunden KI-Entscheidungen auf Anfrage zu erklären.

Die betroffene Person sollte das Recht haben, keiner Entscheidung unterworfen zu werden; dies kann auch eine Maßnahme zur Bewertung sie betreffender persönlicher Aspekte umfassen, die ausschließlich auf einer automatisierten Verarbeitung beruht und für sie rechtliche Wirkungen entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt, wie etwa die automatische Ablehnung eines Online-Kreditantrags oder von E-Recruiting-Praktiken ohne jegliche menschliche Beteiligung.

EU-DSGVO, Erwägungsgrund 71

In den Vereinigten Staaten wurden mit dem Health Insurance Portability and Accountability Act (HIPAA) einige ähnliche, aber weniger strenge Vorschriften erlassen.

Dies hat einen Bedarf an algorithmischen Erklärungen erzeugt. Unternehmen stehen möglicherweise vor einem schwierigen Balanceakt zwischen der Entwicklung eines komplexen Modells mit optimaler Vorhersagekraft und der Gewährleistung der Erklärbarkeit. Manchmal müssen bei der Modellleistung Kompromisse eingegangen werden, um die Anforderungen an die Erklärbarkeit zu erfüllen.

Glücklicherweise haben Verbesserungen der Rechenleistung es ermöglicht, nahezu jede Entscheidung des maschinellen Lernens zu „erklären“. In Fällen, in denen ein Modell zu komplex ist, um seine inneren Parameter direkt zu interpretieren, ist es möglich, eine Störung auf den Modell-Input anzuwenden und jede Änderung der Modellentscheidung zu messen. In den letzten Jahren sind eine Reihe von Paketen und Algorithmen zur Erklärbarkeit des maschinellen Lernens erschienen, um diesen Bedarf zu decken.

Wenn Sie Schwierigkeiten haben, die Erklärbarkeit des Modells mit der Leistung in Einklang zu bringen, einfach Ihren Verpflichtungen in Bezug auf Erwägungsgrund 71 der DSGVO oder Ähnliches nachkommen möchten oder die KI-Ethik detaillierter besprechen möchten, wenden Sie sich bitte an Fast Data Science und wir vereinbaren einen Beratungstermin.

Datenschutz beim maschinellen Lernen

Viele Big-Data-KI-Projekte beinhalten die Speicherung und Verarbeitung großer Mengen personenbezogener Daten. In vielen Ländern sind Technologiegiganten wegen eklatantem Missbrauch der Nutzereinwilligung, Datenmissbrauch, unerlaubter Weitergabe an Dritte und anderer fragwürdiger Praktiken in die Kritik der Medien und der Regierung geraten. Es ist bekannt, dass KI-Systeme Personen auf unethische Weise ansprechen oder Profile erstellen, beispielsweise durch gezielte Werbung ohne Einwilligung.

Ein wesentlicher Bestandteil der KI-Ethik ist die Einholung der Zustimmung des Benutzers zum Zeitpunkt der Datenerfassung, um die Einhaltung gesetzlicher Vorschriften zu gewährleisten, insbesondere da sich die Vorschriften in diesem Bereich in Zukunft wahrscheinlich ändern werden.