Erklärbare KI

Erklärbare KI oder XAI bezeichnet eine Sammlung von Möglichkeiten zur Analyse von Modellen des maschinellen Lernens. Es ist das Gegenteil der sogenannten „Black Box“, eines Modells des maschinellen Lernens, dessen Entscheidungen nicht verstanden oder erklärt werden können . Hier ist ein kurzes Video, das wir über erklärbare KI gemacht haben.

Wenn eine neue Technologie in der Geschäftswelt auftaucht, stößt sie oft auf ein gewisses Maß an Misstrauen, Verwirrung und Angst. Es liegt in der Natur des Menschen, Dingen gegenüber misstrauisch zu sein, die wir nicht verstehen. In der Vergangenheit waren die Menschen allem gegenüber skeptisch, von Faxgeräten und Tonwahltelefonen bis hin zu E-Mails und Flash-Laufwerken. Das gilt nicht weniger für KI in der Geschäftswelt .

Der plötzliche Anstieg der Nutzung künstlicher Intelligenz und maschinellen Lernens in den letzten 5-10 Jahren bildet da keine Ausnahme. Die KI-Revolution hat bei vielen Menschen ein Gefühl der Beklommenheit ausgelöst, was KI ist, was sie tut, wie sie funktioniert und wie wahrscheinlich es ist, dass sie sie ersetzen wird. Vielleicht kann erklärbare KI diese Ängste lindern.

Die Angst vor einem Arbeitsplatzverlust durch KI ist für manche Menschen vielleicht das beunruhigendste Konzept. Sie verweisen auf historische Indikatoren, bei denen technologische Durchbrüche zwar gut für die Branche waren, aber für einen Teil der Beschäftigten das Todesurteil bedeuteten, wie etwa Roboter, die in der Automobilindustrie Autos bauen. Sogar der Spitzname „KI“ kann bei manchen Menschen eine gewisse Angst auslösen, veraltet zu sein, insbesondere bei jedem, der jemals Isaac Asimovs „Ich, der Roboter“ gelesen oder klassische Science-Fiction-Literatur wie die Terminator -Filme, 2001: Odyssee im Weltraum oder die Fernsehserie „Battlestar Galactica“ gesehen hat.

Um ein Werkzeug oder eine Technologie richtig nutzen zu können, müssen wir sie so gut verstehen, dass wir darauf vertrauen können, dass sie ihre Aufgabe erfüllt und uns bei der Erfüllung unserer Aufgaben unterstützt. Megakonzerne wie Amazon, Google und Facebook nutzen KI schon seit Jahren, aber selbst die meisten ihrer Mitarbeiter sind nicht vollständig mit der Funktionsweise ihrer Prozesse vertraut.

Dies bringt uns zur Notwendigkeit einer erklärbaren KI, die oft als XAI abgekürzt wird. Dabei handelt es sich um KI, die der Durchschnittsmensch verstehen und nutzen kann, um ihre Anwendungen richtig und effizient zu nutzen. Wie Lehrer mit einem Raum voller neuer Schüler wollen wir nicht nur die Antwort wissen, sondern auch, wie sie zustande gekommen ist. Es ist wichtig, dass Sie Ihre Arbeit zeigen.

Wir brauchen eine Erklärung, wie KI zu ihren Schlussfolgerungen und Empfehlungen gelangt. Das stärkt nicht nur unser Vertrauen in die Technologie, sondern ermöglicht es uns auch, sie zu verbessern, da wir die Fakten analysieren können, die ein KI-System zu einer bestimmten Entscheidung oder Vorhersage veranlassen; wie es das Vertrauen in seine Vorhersagen definiert; welche Art von Fehlern dazu führen können, dass es falsche Entscheidungen trifft; und so weiter.

Erklärbare KI im Detail

Das Ziel von XAI ist es, zu verstehen, wie maschinelles Lernen funktioniert, und insbesondere die Schritte und Modelle, die bei der Entscheidungsfindung oder Empfehlungsfindung eine Rolle spielen. Im Kern des maschinellen Lernens liegt die Fähigkeit leistungsstarker Computerprozessoren, große Datenmengen zu scannen und zu analysieren, um verschiedene Muster zu erkennen. Dies ist besonders nützlich, da die Geschwindigkeit, mit der der Computer Daten analysieren kann, die eines Menschen oder sogar eines ganzen Teams von Dateningenieuren bei weitem übertrifft. Maschinelles Lernen ermöglicht Muster, die Menschen erst nach Wochen, Monaten, Jahren oder einem ganzen Leben erkennen. Da dieser Prozess jedoch innerhalb eines Computers und mit einer Geschwindigkeit abläuft, die für den menschlichen Verstand schwer zu bewältigen ist, kann er, gelinde gesagt, einschüchternd sein.

Die beiden Hauptziele von XAI sind Transparenz und Nachvollziehbarkeit. Im Wesentlichen geht es dabei darum, das System für seine Funktionsweise und seine Ergebnisse zur Rechenschaft zu ziehen.

Um eine Metapher aus der realen Welt zu verwenden: Es wäre so, als würde man darauf vertrauen, dass die lokale Regierung alle Entscheidungen hinter verschlossenen Türen und ohne Einfluss von außen trifft oder die Möglichkeit hat, an Ratssitzungen teilzunehmen. Wenn also lokale Regierungen tagen, wird die Öffentlichkeit zur Teilnahme eingeladen und die Sitzungsprotokolle werden zur Einsichtnahme bereitgestellt. Dasselbe gilt für den Staatshaushalt – wie hoch die Einnahmen und Ausgaben sind, Monat für Monat. Angesichts der Anzahl der Prozesse, bei denen KI heute eine wichtige Rolle spielt – Militär, Finanzen, öffentliche Sicherheit – ist die Einführung von XAI nur sinnvoll, um katastrophale Fehler zu vermeiden.

Nicht alles erfordert das gleiche Maß an Transparenz. So verwendet Amazon beispielsweise seinen Produktempfehlungsalgorithmus seit fast einem Jahrzehnt, natürlich mit erheblichen Verbesserungen. Allerdings birgt der Prozess, der Ihnen einen kuscheligen Pullover empfiehlt, wenn Sie gerade das neueste Album von Harry Styles gekauft haben, nur wenige Sicherheitsbedrohungen oder potenziell kritische Fehler. Während der durchschnittliche Amazon-Mitarbeiter wahrscheinlich von dem Wissen profitieren könnte, wie der Algorithmus ein Mal mit dem anderen verknüpft, ist dies für die meisten Berufsbezeichnungen nicht unbedingt erforderlich.

Ohne erklärbare KI erscheinen viele Modelle des maschinellen Lernens als „Black Box“

Doch für Unternehmen, die KI-Analysen in umsetzbare Entscheidungen für ihre Zukunft umsetzen, ist es selbstverständlich zu wissen, was hinter den Kulissen vor sich geht. KI wird oft als „Black Box“-Technologie beschrieben, d. h., Informationen gehen hinein und heraus, ohne dass es eine wirkliche Erklärung dafür gibt, was mit ihnen passiert ist, als sie „drinnen“ waren. Da sie nun in immer mehr Branchen von immer mehr Menschen eingesetzt wird, kann sie nicht mehr einfach nur eine Sache sein, sondern muss ein Werkzeug sein, das es Menschen ermöglicht, den Entscheidungsprozess leichter zu verstehen und Kurskorrekturen vorzunehmen. Denn selbst jetzt wird KI nicht mehr nur für Entscheidungen verwendet, wie etwa welche Aktien empfohlen werden und wie viel von einem Produkt für die nächste Saison bestellt werden soll. Sie wird verwendet, um bei der Diagnose und Therapieempfehlung für medizinische Patienten zu helfen, sie wird von Rechtsanwälten zur Recherche für Fälle verwendet und in anderen Bereichen, in denen es ethische oder rechtliche Überlegungen gibt, die untersucht und erfüllt werden müssen.

Abschluss

Die heutige KI ist nur die Spitze des Eisbergs im Vergleich zu dem, was maschinelles Lernen im nächsten Jahrzehnt leisten könnte.

KI wird nicht verschwinden. Die heutigen kommerziellen Anwendungen des maschinellen Lernens sind nur die Spitze des Eisbergs, wenn es darum geht, wie KI, deren Entwicklung Jahrzehnte gedauert hat, in nahezu jeder erdenklichen Branche eine immer größere Rolle spielen wird.

Bereits jetzt befassen sich akademische, technologische und andere Bereiche intensiver mit der Nutzung anderer Teilbereiche der KI, etwa künstlicher neuronaler Netzwerke, Deep Learning, Robotik und natürlicher Sprachverarbeitung. Diese Bereiche erfordern eigene Aufsicht und XAI-Faktoren, damit die Transparenz und Nachvollziehbarkeit dieser leistungsstarken Tools weiterhin fest im Griff des Menschen liegt.

Video