https://www.faz.net/aktuell/wirtschaft/kuenstliche-intelligenz/ibm-will-black-box-der-kuenstlichen-intelligenz-lueften-15795314.html

Verfälschungen erkennen : IBM will „Black Box“ der Künstlichen Intelligenz lüften

  • Aktualisiert am

Eine „Black Box“? IBM will das Vertrauen in KI-Systeme stärken. Bild: Reuters

Wie kommt eine Künstliche Intelligenz zu ihren Entscheidungen? Der Softwarekonzern IBM hat eine neue Software vorgestellt, die deutlich transparenter sein soll als andere Anwendungen.

          1 Min.

          IBM will mit einem neuen Software-Werkzeug mehr Transparenz in Anwendungen mit Künstlicher Intelligenz (KI) bringen und damit das Vertrauen in solche Lösungen stärken. Die Software öffne die „Black Box“ der KI und erkenne automatisch mögliche Verfälschungen bei den Ergebnissen, teilte das Unternehmen am Mittwoch mit.

          „Alle Entscheidungen, die Künstliche Intelligenz trifft, haben ihre Basis in den eingegebenen Daten“, erklärte Wolfgang Hildesheim, der bei IBM in Deutschland für KI zuständig ist. „Da kann der Algorithmus so gut sein, wie er will.“ IBMs neue Technologie überprüfe etwa, ob eine ausgewogene und signifikante Datenbasis vorliege und damit auch tatsächlich verlässliche und relevante Ergebnisse geliefert werden können.

          Das Werkzeug soll in Echtzeit Licht ins Dunkel bringen, wie eine KI-Anwendung zu ihren Entscheidungen kommt. Soll sie etwa den Bankberater dabei unterstützen, über die Kreditwürdigkeit eines Kunden oder geeignete Finanzprodukte zu entscheiden, müsse die entsprechende KI-Datenbasis so neutral und ausgewogen wie möglich sein. Der Service lasse sich auf verschiedenen Plattformen für maschinelles Lernen innerhalb IBMs Cloud-Angebot nutzen, sagte Hildesheim. Einen Teil der Lösung will das Unternehmen zudem allen Entwicklern aus der Open-Source-Gemeinde zur Verfügung stellen.

          IBM wolle damit vor allem auch das Vertrauen in KI-Systeme stärken. „Ohne Transparenz gibt es kein Vertrauen“, sagte Hildesheim. Eine Studie des Unternehmens habe jüngst herausgefunden, dass 82 Prozent der Unternehmen gerne Künstliche Intelligenz zur Umsatzsteigerung nutzen würde. 60 Prozent der insgesamt 5000 befragten Entscheider hätten allerdings angegeben, dass sie Sorge haben, für mögliche Fehlentscheidungen der Systeme zur Verantwortung gezogen zu werden. 63 Prozent fehlt nach eigener Einschätzung das Knowhow.

          Weitere Themen

          Alu-Gießerei lässt den Ofen aus Video-Seite öffnen

          Knappes Gas : Alu-Gießerei lässt den Ofen aus

          Die Aluminium-Gießerei Röders aus Soltau übt schon für das Krisenszenario einer gedrosselten Gasversorgung. Schon jetzt hat Röders seinen Schicht-Betrieb umgestellt, um mit weniger Gas auszukommen. Die Umstellung sei mit Kosten verbunden, erklärt Firmenchef Gerd Röders.

          Topmeldungen

          Luftbildaufnahme einer Bohrstelle für ein Geothermiekraftwerk in Graben-Neudorf

          Tiefengeothermie : Deutschlands ungehobener Energieschatz

          Mit heißem Wasser aus der Tiefe könnte man hierzulande viele Haushalte mit Strom und vor allem Wärme versorgen. Doch die Suche nach Quellen ist teuer. Und die Technologie macht einigen Bürgern Angst.
          Am Strand von Saky steigt Rauch nach einer Explosion auf.

          Ukraine-Liveblog : Ukraine weist Verantwortung für Explosion zurück

          Selenskyj: „Dieser Krieg beginnt und endet mit der Krim“ +++ Explosionen auf Militärflugplatz auf der Krim gehen laut Berichten auf ukrainischen Angriff zurück +++ Moskau spricht von Verstößen gegen Brandschutzmaßnahmen +++ alle Entwicklungen im Liveblog.

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Die wichtigsten Nachrichten direkt in Ihre Mailbox. Sie können bis zu 5 Newsletter gleichzeitig auswählen Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.