Erklärbare KI

Erklärbare KI oder XAI bezieht sich auf eine Sammlung von Möglichkeiten, wie wir Modelle für maschinelles Lernen analysieren können. Es ist das Gegenteil der sogenannten „Black Box“, einem maschinellen Lernmodell, dessen Entscheidungen nicht verstanden oder erklärt werden können . Hier ist ein kurzes Video, das wir über erklärbare KI gemacht haben.

Wenn eine neue Technologie in der Unternehmenslandschaft Einzug hält, wird ihr oft mit einem gewissen Maß an Misstrauen, Verwirrung und Angst begegnet. Es liegt in der Natur des Menschen, sich vor Dingen in Acht zu nehmen, die wir nicht verstehen. In der Vergangenheit standen die Menschen allem gegenüber skeptisch gegenüber, von Faxgeräten und Telefonen mit Tastenwahl bis hin zu E-Mails und Flash-Laufwerken.

Der plötzliche Anstieg des Einsatzes von künstlicher Intelligenz und maschinellem Lernen in den letzten 5 bis 10 Jahren ist nicht anders. Die KI-Revolution hat bei vielen Menschen ein Gefühl der Besorgnis darüber hervorgerufen, was sie ist, was sie tut, wie sie funktioniert und wie wahrscheinlich es ist, sie zu ersetzen. Vielleicht kann erklärbare KI diese Ängste lindern.

Die Angst vor einem KI-gesteuerten Jobwechsel könnte für manche Menschen das besorgniserregendste Konzept sein. Sie weisen auf historische Indikatoren hin, bei denen technologische Durchbrüche gut für die Branche waren, für einen Teil ihrer Mitarbeiter jedoch den Todesstoß bedeuteten, wie zum Beispiel Roboter, die Autos in der Automobilindustrie bauen. Sogar der Spitzname „KI“ kann bei manchen Menschen eine gewisse Angst davor mit sich bringen, veraltet zu sein, insbesondere bei jedem, der jemals Isaac Asimovs „I, Robot“ gelesen oder klassische Science-Fiction-Filme wie die Terminator- Filme, 2001: Odyssee im Weltraum oder die TV-Serie „Battlestar“ gesehen hat Galactica .

Um ein Werkzeug oder eine Technologie richtig nutzen zu können, müssen wir sie so weit verstehen, dass wir darauf vertrauen können, dass sie ihre Aufgabe erfüllt und uns dabei hilft, unsere Aufgabe zu erfüllen. Megakonzerne wie Amazon, Google und Facebook nutzen KI schon seit Jahren, doch selbst die meisten ihrer Mitarbeiter sind mit der Funktionsweise ihrer Prozesse nicht vollständig vertraut.

Dies bringt uns zur Notwendigkeit einer erklärbaren KI, oft mit XAI abgekürzt. Dabei handelt es sich um KI, die der Durchschnittsmensch verstehen und mit der er interagieren kann, um seine Anwendungen besser richtig und effizient nutzen zu können. Wie Lehrer mit einem Raum voller neuer Schüler wollen wir nicht nur die Antwort wissen, sondern auch wissen, wie sie erreicht wurde. Es ist wichtig, dass Sie Ihre Arbeit zeigen.

Wir brauchen eine Erklärung, wie KI zu ihren Schlussfolgerungen und Empfehlungen gelangt. Dies stärkt nicht nur unser Vertrauen in diese Technologie, sondern ermöglicht uns auch, sie zu verbessern, da wir die Fakten analysieren können, die ein KI-System dazu veranlassen, eine bestimmte Entscheidung oder Vorhersage zu treffen. wie es das Vertrauen in seine Vorhersagen definiert; welche Art von Fehlern können dazu führen, dass es falsche Entscheidungen trifft; und so weiter.

Aufschlüsselung der erklärbaren KI

Das Ziel von XAI besteht darin, zu verstehen, wie maschinelles Lernen funktioniert und insbesondere die Schritte und Modelle, die bei der Entscheidungsfindung oder Empfehlungsfindung erforderlich sind. Das Herzstück des maschinellen Lernens ist die Fähigkeit leistungsstarker Computerprozessoren, große Datenmengen zu scannen und zu analysieren, um verschiedene Muster zu erkennen. Dies ist besonders nützlich, da die Geschwindigkeit, mit der der Computer Daten analysieren kann, die einer Person oder sogar eines ganzen Teams von Dateningenieuren bei weitem übertrifft. Maschinelles Lernen ermöglicht Muster, die Menschen erst nach Wochen, Monaten, Jahren oder sogar einem ganzen Leben erkennen können. Da dieser Prozess jedoch innerhalb eines Computers und mit Geschwindigkeiten abläuft, die für den menschlichen Verstand schwer zu bewältigen sind, kann er gelinde gesagt einschüchternd sein.

Die beiden Hauptziele von XAI sind Transparenz und Nachvollziehbarkeit. Im Wesentlichen handelt es sich dabei um den Prozess, das System dafür verantwortlich zu machen, wie es funktioniert und welche Ergebnisse es erzielt.

In einer realen Metapher wäre das so, als würde man darauf vertrauen, dass die lokale Regierung alle Entscheidungen hinter verschlossenen Türen und ohne Einfluss von außen oder ohne die Möglichkeit, an Ratssitzungen teilzunehmen, trifft. Wenn also lokale Regierungen zusammenkommen, ist die Öffentlichkeit eingeladen, daran teilzunehmen, und die Sitzungsprotokolle werden zur Einsichtnahme zur Verfügung gestellt. Das Gleiche gilt für den Staatshaushalt – wie hoch seine Einnahmen und Ausgaben Monat für Monat sind. Angesichts der Vielzahl von Prozessen, bei denen KI mittlerweile eine wichtige Rolle spielt – Militär, Finanzen, öffentliche Sicherheit – ist die Einführung von XAI nur sinnvoll, um das Auftreten katastrophaler Fehler zu verhindern.

Nicht alles erfordert das gleiche Maß an Transparenz. Beispielsweise nutzt Amazon seinen Produktempfehlungsalgorithmus seit fast einem Jahrzehnt, natürlich mit erheblichen Verbesserungen. Es gibt jedoch nur wenige Sicherheitsrisiken oder potenziell kritische Fehler, die Ihnen einen kuscheligen Pullover empfehlen, wenn Sie gerade das neueste Album von Harry Styles gekauft haben. Während der durchschnittliche Amazon-Mitarbeiter wahrscheinlich von dem Wissen darüber profitieren könnte, wie der Algorithmus einen Zeitpunkt mit dem anderen verknüpft, ist dies für die meisten Berufsbezeichnungen nicht unbedingt erforderlich.

Ohne erklärbare KI erscheinen viele Modelle des maschinellen Lernens als „Black Box“.

Aber für Unternehmen, die KI-Analysen in umsetzbare Entscheidungen für ihre Zukunft umsetzen, ist es selbstverständlich zu wissen, was sich hinter den Kulissen abspielt. KI wird oft als „Black-Box“-Technologie beschrieben. Damit meinen wir, dass Informationen eingehen und wieder herauskommen, ohne dass es eine wirkliche Erklärung dafür gibt, was mit ihnen passiert ist, als sie „im Inneren“ waren. Da es nun in immer mehr Branchen von immer mehr Menschen genutzt wird, kann es nicht länger nur eine Sache sein, es muss ein Werkzeug sein, das es den Menschen ermöglicht, seinen Entscheidungsprozess leichter zu verstehen und Kurskorrekturen vorzunehmen . Denn schon heute wird KI nicht mehr nur für Entscheidungen eingesetzt, etwa welche Aktien empfohlen werden und wie viel von einem Produkt für die nächste Saison bestellt werden soll. Es wird verwendet, um Diagnosen und Therapieempfehlungen für medizinische Patienten zu erstellen, es wird von Rechtsanwälten zur Recherche von Fällen und in anderen Bereichen verwendet, in denen ethische oder rechtliche Überlegungen untersucht und erfüllt werden müssen.

Abschluss

Die heutige KI ist nur die Spitze des Eisbergs, wenn es darum geht, was maschinelles Lernen im nächsten Jahrzehnt bewirken könnte.

KI wird nicht verschwinden. Die heutigen kommerziellen Anwendungen des maschinellen Lernens sind nur die Spitze des Eisbergs, wenn es darum geht, wie die jahrzehntelange Entwicklung der KI in nahezu jeder erdenklichen Branche weiterhin eine größere Rolle spielen wird.

Akademische, technologische und andere Bereiche befassen sich bereits intensiver mit der Verwendung anderer KI-Teilmengen wie künstlichen neuronalen Netzen, Deep Learning, Robotik und Verarbeitung natürlicher Sprache, die eigene Aufsichts- und XAI-Faktoren erfordern, um Menschen zu halten Wir sind fest für die Transparenz und Nachverfolgbarkeit dieser leistungsstarken Tools verantwortlich.

Video