Information

Was ist erklärbare künstliche Intelligenz und wird sie benötigt?

Was ist erklärbare künstliche Intelligenz und wird sie benötigt?


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Explainable Artificial Intelligence-XAI ist ein Thema, das in den letzten Jahren häufig diskutiert wurde und das Gegenstand von Widersprüchen ist. Bevor wir über die Zuverlässigkeit der künstlichen Intelligenz (KI) sprechen, sollten wir erklären können, wie wir unsere Entscheidungen wirklich treffen, wenn die KI versucht, unser Denken und unsere Entscheidungsfindung zu modellieren! Nicht wahr?

VERBINDUNG: KÜNSTLICHE INTELLIGENZ UND DIE FURCHT DES UNBEKANNTEN

Es gibt eine Transformation des maschinellen Lernens, die seit den 1950er Jahren manchmal schneller und manchmal langsamer vor sich geht. In der jüngeren Vergangenheit ist das maschinelle Lernen das am meisten untersuchte und auffälligste Gebiet, das darauf abzielt, das Entscheidungssystem, das Verhalten und die Reaktionen zu modellieren.

Die erfolgreichen Ergebnisse im Bereich des maschinellen Lernens führten zu einem raschen Anstieg der Implementierung von KI. Vorausarbeit verspricht autonome Systeme zu sein, die in der Lage sind, sich selbst wahrzunehmen, zu lernen, Entscheidungen zu treffen und sich zu bewegen.

VERBINDUNG: 13 KOSTENLOSE SEITEN, UM EINFÜHRUNG IN DAS MASCHINENLERNEN ZU ERHALTEN

Insbesondere nach den 1990er Jahren basiert das Konzept des tiefen Lernens auf der Vergangenheit, aber die rekursiven neuronalen Netze, Faltungs-neuronalen Netze, das verstärkte Lernen und die umstrittenen Netze sind bemerkenswert erfolgreich. Obwohl erfolgreiche Ergebnisse erzielt werden, ist es nicht ausreichend, den menschlichen Benutzern die Entscheidungen und Handlungen dieser Systeme zu erklären oder zu erklären.

Umfang der erklärbaren künstlichen Intelligenz

Die Deep-Learning-Modelle, die mit Hunderten von Millionen künstlicher neuronaler Netze entwickelt wurden, sind nicht unfehlbar. Sie können schnell ihre Glaubwürdigkeit verlieren, besonders wenn sie einfach in die Irre geführt werden, wie im Fall eines Ein-Pixel-Angriffs! Dann wird es unvermeidlich, die Frage zu stellen, wie erfolgreich oder erfolglos!

Das Verteidigungsministerium (DoD) stellt fest, dass die intelligenteren, autonomen und symbiotischen Systeme vor Herausforderungen stehen.

"Erklärbare KI - insbesondere erklärbares maschinelles Lernen - wird von entscheidender Bedeutung sein, wenn zukünftige Warfighter eine aufstrebende Generation künstlich intelligenter Maschinenpartner verstehen, angemessen vertrauen und effektiv verwalten sollen."

Die Komplexität dieser Art fortgeschrittener Anwendungen nimmt mit den Erfolgen zu und das Verständnis und die Erklärbarkeit werden schwierig. Selbst in einigen Konferenzen gibt es nur Sitzungen, in denen dieses Thema behandelt wird.

Die Gründe für die neuen maschinellen / Deep-Learning-Systeme

Ziel ist es, die Gründe für neue Systeme für maschinelles / tiefes Lernen zu erläutern, ihre Stärken und Schwächen zu ermitteln und zu verstehen, wie sie sich in Zukunft verhalten sollen. Die Strategie zur Erreichung dieses Ziels besteht darin, neue oder modifizierte künstliche Lerntechniken zu entwickeln, mit denen definierbarere Modelle erstellt werden können.

Diese Modelle sollen mit modernsten interaktiven Mensch-Computer-Schnittstellentechniken kombiniert werden, mit denen Modelle in verständliche und nützliche Erklärungsdialoge für den Endbenutzer umgewandelt werden können.

Mit drei grundlegenden Erwartungen ist es erwünscht, sich dem System zu nähern:
▪. Erläutern Sie den Zweck der Auswirkungen auf die Parteien, die das System entwerfen und verwenden.
▪. Erläutern Sie, wie Datenquellen und Ergebnisse verwendet werden.
▪. Erklären Sie, wie Eingaben von einem KI-Modell zu Ausgaben führen.

„XAI ist eines von wenigen aktuellen DARPA-Programmen, die es ermöglichen sollen, dass KI-Systeme der dritten Welle den Kontext und die Umgebung verstehen, in denen sie arbeiten, und im Laufe der Zeit zugrunde liegende Erklärungsmodelle erstellen, mit denen sie reale Phänomene charakterisieren können . ”

Wenn wir nach Prüfung der Patientendaten aus der medizinischen Praxis aufbrechen, sollte sowohl der Arzt verstehen als auch dem Patienten erklären, dass er dem betroffenen Patienten auf Empfehlung des Entscheidungshilfesystems das Risiko eines Herzinfarkts vorgeschlagen hat.

Zu diesem Zeitpunkt ist zunächst die Auswertung der Daten ein weiteres wichtiges Kriterium. Es ist auch wichtig zu ermitteln, welche Daten benötigt werden und was für eine ordnungsgemäße Bewertung getan werden muss.

Die Psychologie der Erklärung

Schauen wir uns den Punkt an, an dem wir uns weigern, künstliche Lerntechnologien einzusetzen, weil wir nicht erklären können, wie künstliche Intelligenz ihre Entscheidung trifft. Andererseits können so viele Menschen nicht wirklich erklären, wie sie die Entscheidung getroffen haben!

Stellen wir uns vor, wie eine Person auf Modellebene zu einer Entscheidung kam: Wenn wir uns unserer biologischen Struktur auf chemischer und physikalischer Ebene nähern, sprechen wir über elektrische Signale von einer Gehirnzelle zu einer anderen Gehirnzelle. Wenn Sie mit dieser Erklärung nicht zufrieden sind, sagen Sie mir, wie Sie sich entschieden haben, einen Kaffee zu bestellen!

Wenn einer Ihrer Freunde einen Eiskaffee bestellt hat, hat der andere heißen Kaffee bestellt und der andere eine Tasse Tee in einem Café. Warum wählen sie Eiskaffee und heißen Kaffee? Kann jemand Chemikalien und Synapsen im Gehirn erklären? Können Sie erklären? Willst du eine solche Erklärung? Weißt du was das ist? Ein Mensch fängt an, eine Geschichte darüber zu erfinden, wie er / sie sich entscheidet! Hoffentlich wird es eine fantastische Geschichte, die Sie hören werden, probieren Sie es aus!

Schauen Sie sich einfach Ihre Eingabe- und Ausgabedaten an und erzählen Sie dann eine lustige Geschichte! Tatsächlich gibt es einen ähnlichen Ansatz für analytische und wichtige Fragen. Interpretationen, Transparenz und Klarheit sind analytisch, und Analysen ohne Test sind wie ein One-Way-Bahnticket, das ein Gefühl der Sicherheit vermittelt.

Unter perfekten Bedingungen;
▪ Ein System, das die beste Leistung erbringt,
▪. Sie wollen die beste Erklärung.

Aber das wirkliche Leben zwingt uns zu wählen.

Leistung gegen Erklärbarkeit

Interpretation: Sie verstehen, aber es funktioniert nicht gut!

Performance: Sie verstehen nicht, aber funktioniert gut!

Insbesondere Akademiker, Forscher und Technologieunternehmen werden im Allgemeinen nicht viel Aufmerksamkeit darauf richten, inwieweit sie der Leistung mehr Bedeutung beimessen. Das Szenario mit den in diesem Sektor tätigen Personen und Institutionen ist jedoch etwas anders. Sie wollen vertrauen und warten auf eine Erklärung.

KI-Ansätze unterscheiden sich für Banken, Versicherungsunternehmen, Gesundheitsdienstleister und andere unterschiedliche Branchen. Dies liegt daran, dass die Modelle für diese Sektoren unterschiedliche gesetzliche Vorschriften und ethische Anforderungen enthalten. In diesem Fall kommen wir wieder zum selben Punkt. Wenn Sie möchten, dass Ihr System in der folgenden Bedingung erklärt wird, müssen Sie es durch das einfachere ersetzen, das vorerst nicht zu stark ist!

Die Forschung zu diesem Thema ist hauptsächlich DARPA, Google, DeepMind und so weiter. Während die Institutionen weiterhin intensiv betrieben werden, geht aus den Berichten hervor; Unabhängig davon, welcher Sektor und wer von Systemen der künstlichen Intelligenz verwendet wird, besteht ein derartiger Zusammenhang zwischen Klarheit und Genauigkeit, dass ein Kompromiss unvermeidlich ist und noch eine Weile andauert.

Schließlich sollte KI nicht in eine göttliche Kraft verwandelt werden, die wir verfolgen müssen, ohne eine Ursache-Wirkungs-Beziehung herzustellen. Andererseits sollten wir die uns zur Verfügung gestellten Erkenntnisse nicht ignorieren.

Grundsätzlich müssen wir darüber nachdenken, flexible und interpretierbare Modelle zu schaffen, die im Einklang mit den Experten arbeiten können, die über Kenntnisse auf technischer und akademischer Ebene und die Meinungen aus verschiedenen Sektoren und Disziplinen verfügen.

Vielen Dank

Vielen Dank an Başak Buluz, Yavuz Kömeçoğlu ve Hakan Aydemir für ihr Feedback.


Schau das Video: KI erklärt: was ist Künstliche Intelligenz und wie kann man sie einsetzen? (Kann 2022).