IBM: Neues Software-Tool soll mehr Vertrauen in KI schaffen
Ein Software-Tool vom IBM soll mehr Transparenz in Anwendungen mit Künstlicher Intelligenz (KI) bringen. Damit soll vor allem das Vertrauen von Unternehmen in KI gestärkt werden.
Wie kommt eine Künstliche Intelligenz zu ihren Entscheidungen? Für viele ist KI ein Thema, welches undurchschaubar ist. Unternehmen äußern Interesse am Einsatz von KI, fürchten aber Konsequenzen aus möglichen Fehlentscheidungen. IBM’s neues Software-Tool soll nun die "Black Box" der KI öffnen und automatisch mögliche Verfälschungen bei Ergebnissen erkennen. "Alle Entscheidungen, die Künstliche Intelligenz trifft, haben ihre Basis in den eingegebenen Daten", erklärte Wolfgang Hildesheim, der bei IBM in Deutschland für KI zuständig ist. "Da kann der Algorithmus so gut sein, wie er will." Die neue Technologie soll etwa überprüfen, ob eine ausgewogene und signifikante Datenbasis vorliege, damit auch tatsächlich verlässliche und relevante Ergebnisse geliefert werden können. In Echtzeit soll dieser Vorgang geschehen und im Alltag unterstützen. So soll die KI etwa den Bankberater dabei unterstützen, über die Kreditwürdigkeit eines Kunden oder geeignete Finanzprodukte zu entscheiden. Dabei müsse die entsprechende KI-Datenbasis so neutral und ausgewogen wie möglich sein. "IBM hat bei der Festlegung von Vertrauens- und Transparenzgrundsätzen für die Entwicklung neuer KI-Technologien Maßstäbe für die ganze Industrie gesetzt", äußerte sich David Kenny, SVP of Cognitive Solutions bei IBM. "Es ist an der Zeit, diesen Prinzipien auch Taten folgen zu lassen. Wir geben den Unternehmen, die KI einsetzen und dem potenziellen Risiko durch fehlerhafte Entscheidungen ausgesetzt sind, neue Transparenz und Kontrolle." Des Weiteren wurde angemerkt, dass der Service sich auf verschiedenen Plattformen für maschinelles Lernen innerhalb der IBM-Cloud-Angebote nutzen ließe. Trotzdem will das Unternehmen einen Teil der Lösung allen interessierten Open-Source-Entwicklern zur Verfügung stellen.
Mehr Transparenz, mehr Vertrauen, weniger Vorurteile
Viele Unternehmen wollen mehr KI einsetzen, haben aber bisher den nächsten Schritt nicht gewagt. Warum das so ist, fand jüngst eine Studie des Unternehmens heraus: 60 Prozent der insgesamt 5.000 befragten Entscheider gaben an, dass sie Sorgen hätten, für mögliche Fehlentscheidungen der Systeme zur Verantwortung gezogen zu werden. 82 Prozent der Unternehmen würde gerne KI zur Umsatzsteigerung nutzen, 63 Prozent von ihnen fehle allerdings nach eigener Einschätzung das Know-how, um diesen Weg zu gehen. Nun muss diese Wissenslücke geschlossen und mehr Transparenz geschaffen werden. Das Software-Tool soll eine Vertrauensbasis schaffen, sodass Mitarbeiter ohne IT-Kenntnisse die Möglichkeit bekommen sie mit Hilfe von visuellen Dachboards nutzen. So können nicht nur spezialisierte KI-Experten nachvollziehen, wie KI-Entscheidungen getroffen werden, was Abhängigkeiten verhindert und mehr Vertrauen schafft. Außerdem stellt IBM auch neue Beratungsservices zur Verfügung, mit denen Unternehmen ihre eigenen Prozesse und Schnittstellen vom Menschen zu KI erstellen können – um systematische Fehler in den Entscheidungsvorschlägen von KI zu minimieren.
LG
Sie möchten zukünftig per Newsletter der Informatik Aktuell informiert werden? Hier können Sie sich anmelden.
