KI-Ethik

Wie wenden wir Ethik auf künstliche Intelligenz an?

Warum brauchen wir jetzt eine KI-Ethik? Was ist KI-Ethik?

Die ständig wachsende Verfügbarkeit von Big Data und Cloud Computing, die verbesserte Rechenleistung und die jüngsten Entwicklungen bei Deep-Learning-Algorithmen haben den Weg für maschinelle Lernalgorithmen geebnet, die nahezu jede Branche verändern werden.

Diese schöne neue Welt ermöglicht es der KI, die Gesellschaft und die Lebensqualität auf vielfältige Weise zu verbessern. Grundlegende Dienste wie das Gesundheitswesen beginnen sich zu verändern, aber wie bei allen neuen Technologien müssen wir noch viel über die schädlichen Auswirkungen der KI lernen. Es besteht die Notwendigkeit, die KI-Ethik zu untersuchen und zu definieren.

KI-Ethik, Voreingenommenheit und Diskriminierung

Algorithmen des maschinellen Lernens gewinnen ihre Erkenntnisse aus den Gesellschaften, die sie analysieren. Dies bedeutet, dass sie auch implizite Voreingenommenheit lernen und Ungleichheiten wie Sexismus und Rassismus in ihren Algorithmen aufrechterhalten können.

Beispielsweise kann ein Algorithmus für maschinelles Lernen, der zur Vorhersage der Wahrscheinlichkeit eines Rückfalls (einer wiederholten Straftat) verwendet wird, unabsichtlich verzerrt werden, wenn die für das Training verwendeten Daten aus der Vergangenheit eine Verzerrung enthalten. Wenn das Justizsystem eher dazu neigt, eine Person einer bestimmten Rasse zu verurteilen als eine andere, dann unterliegt ein Algorithmus für maschinelles Lernen, der auf die Entscheidungen dieses Justizsystems trainiert wird, derselben Voreingenommenheit und denselben Vorurteilen. Wenn eine solche voreingenommene KI beispielsweise bei Bewährungs- oder Urteilsentscheidungen eingesetzt wird, kann dies zu einer Rückkopplungsschleife führen, in der die voreingenommene KI die Benachteiligung marginalisierter Gruppen in der Gesellschaft weiter verschärft.

Ein Fall einer voreingenommenen KI wurde 2017 im Fall Loomis gegen Wisconsin vor den Obersten Gerichtshof von Wisconsin gebracht und zeigt, dass eine voreingenommene KI in Justizsystemen nicht länger der Science-Fiction vorbehalten ist.

Glücklicherweise gibt es Methoden der KI-Ethik, um algorithmische Verzerrungen zu erkennen, zu verhindern und zu beheben. Eine einfache Möglichkeit besteht darin, mit einer in der Entwicklung befindlichen KI den „Advokaten des Teufels“ zu spielen und sie einer Art Bias-Penetrationstest zu unterziehen. Dies ist einer der wichtigsten Bereiche der KI-Ethik.

Wenn Sie sicherstellen möchten, dass eine von Ihnen entwickelte KI frei von Voreingenommenheit ist, nehmen Sie bitte Kontakt mit uns auf . Wir unterstützen Sie gerne bei der KI-Ethikberatung.

KI-Erklärbarkeit/Transparenz, DSGVO und HIPAA

Viele KI-Systeme, wie zum Beispiel tiefe neuronale Netze , arbeiten in einem hochdimensionalen Raum mit Millionen von Parametern und treffen Entscheidungen mit minimaler Verantwortlichkeit. Stellen Sie sich vor, Ihnen wird ein Autokredit verweigert oder Sie erhalten eine hohe Versicherungsprämie ohne nachvollziehbare Begründung.

In manchen Fällen kann die mangelnde Erklärbarkeit akzeptabel sein. Es besteht jedoch häufig eine geschäftliche oder behördliche Anforderung oder einfach eine ethische Verpflichtung, Entscheidungen zu erläutern, insbesondere wenn sie sich auf Privatpersonen auswirken. In Europa garantiert die DSGVO ein Recht auf Erklärung, das als Verpflichtung von Unternehmen interpretiert werden kann, Kunden auf Anfrage KI-Entscheidungen zu erklären.

Die betroffene Person sollte das Recht haben, nicht einer Entscheidung unterworfen zu werden, die eine Maßnahme umfassen kann, bei der die sie betreffenden persönlichen Aspekte bewertet werden, die ausschließlich auf einer automatisierten Verarbeitung beruht und die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt B. die automatische Ablehnung eines Online-Kreditantrags oder E-Recruiting-Praktiken ohne menschliches Eingreifen.

EU-DSGVO, Erwägungsgrund 71

In den Vereinigten Staaten hat der Health Insurance Portability and Accountability Act (HIPAA) ähnliche, aber weniger strenge Vorschriften erlassen.

Dies hat zu einem Bedarf an algorithmischen Erklärungen geführt. Unternehmen stehen möglicherweise vor einem schwierigen Balanceakt zwischen der Entwicklung eines komplexen Modells mit optimaler Vorhersagekraft und der Bereitstellung von Erklärbarkeit, und manchmal müssen möglicherweise Kompromisse bei der Modellleistung eingegangen werden, um die Erklärbarkeitsanforderungen zu erfüllen.

Glücklicherweise haben Verbesserungen der Rechenleistung dazu geführt, dass nahezu jede Entscheidung über maschinelles Lernen „erklärt“ werden kann. In Fällen, in denen ein Modell zu komplex ist, als dass seine inneren Parameter direkt interpretiert werden könnten, ist es möglich, eine Störung auf die Modelleingabe anzuwenden und jede Änderung in der Modellentscheidung zu messen. Um diesen Bedarf zu decken, sind in den letzten Jahren eine Reihe von Erklärbarkeitspaketen und Algorithmen für maschinelles Lernen erschienen.

Wenn Sie Schwierigkeiten haben, die Erklärbarkeit des Modells mit der Leistung in Einklang zu bringen, einfach nur Ihren Verpflichtungen in Bezug auf DSGVO-Erwägung 71 oder ähnliches nachkommen möchten oder die KI-Ethik ausführlicher besprechen möchten, nehmen Sie bitte Kontakt mit Fast Data Science auf und wir werden einen Termin vereinbaren Beratung.

Datenschutz beim maschinellen Lernen

Bei vielen Big-Data-KI-Projekten werden große Mengen personenbezogener Daten gespeichert und verarbeitet. In vielen Ländern stehen Technologiegiganten wegen eklatanten Missbrauchs der Einwilligung der Nutzer, Datenmissbrauch, unlizenzierter Weitergabe an Dritte und anderer zweifelhafter Praktiken unter Beschuss der Medien und der Regierung. Es ist bekannt, dass KI-Systeme Personen auf unethische Weise ansprechen oder profilieren, beispielsweise durch gezielte Werbung ohne Zustimmung.

Es ist ein wesentlicher Bestandteil der KI-Ethik, zum Zeitpunkt der Datenerhebung die Einwilligung des Nutzers einzuholen, um die Einhaltung gesetzlicher Vorschriften sicherzustellen, insbesondere da sich die Vorschriften in diesem Bereich in Zukunft wahrscheinlich ändern werden.