Natural Language Understanding (NLU) – Über die Nutzung von Techniken zur maschinellen Verarbeitung natürlicher Sprache

Das präsenteste Beispiel einer sprachverarbeitenden Technologie sind Chatbots, Computerprogramme, die die Intention einer Anfrage verstehen und darauf angemessen reagieren sollen. Chatbots werden vorwiegend über Messaging-Applikationen wie den Facebook Messenger oder über den Webauftritt von Unternehmen eingebunden. Während es humoristische Gesprächsausschnitte in die Schlagzeilen schaffen, wird wenig über die Bots selbst diskutiert, obwohl eine Vielzahl von großen nationalen und internationalen Unternehmen wie Sparkasse, CNN und Mastercard sich seit einigen Jahren mit Chatbots befassen.

Die Gründe dafür, dass Chatbots für viele Firmen bereits interessant sind und immer interessanter werden, sind vielseitig: Immer mehr Endverbraucher weichen von traditionellen sozialen Medien wie Facebook auf reine Messaging-Applikationen aus, wodurch ideale Rahmenbedingungen für die Verbreitung von Chatbots geschaffen werden [1, 2]. Auch die steigende Bereitschaft von Nutzern, generell mit Bots zu kommunizieren, ist zentral [3]. Die Akzeptanz steigt vor allem deswegen, weil die zugrundeliegende Technologie in den letzten Jahren große Fortschritte zu verzeichnen hat.

Häufig gibt es allerdings Schwierigkeiten, eine Idee als Bot umzusetzen, denn eine oft unterschätzte Hürde ist das Erstellen eines umsetzbaren Konzepts. Gerade wenn es keine ausreichende Auseinandersetzung mit der verwendeten Technologie gibt, ist eine realistische Konzeptionierung schwer. Fehlt diese, können mehrere nachträgliche Restrukturierungen erforderlich sein. Mitunter stellt sich dabei heraus, dass das gewünschte Ziel nicht mit einem Chatbot umsetzbar ist. Doch in welchen Bereichen sind gute Chatbots nun sinnvoll und ohne den Einsatz von vielen Ressourcen umsetzbar?

Der Hauptanwendungsbereich für eine solche Technologie ist aktuell der Kundenservice: Oftmals gibt es frei verfügbare Ressourcen zu wiederkehrenden Problemen eines Produkts – beispielsweise in Form von FAQs. Diese sind jedoch häufig schlecht zugänglich, da eine spezifische Fragestellung benötigt wird, um zu dem gewünschten Ergebnis zu gelangen. Auch die Navigationsstruktur der Ressourcen ist für den Endnutzer womöglich nicht intuitiv genug. Dies ist ein idealer Einsatzbereich für Chatbots, denn gerade lineare Aufgaben mit fest definierten Schritten und einem begrenzten Aufgabenbereich, wie beispielsweise Bestellvorgänge oder das Abfragen von Informationen, lassen sich häufig durch Chatbots schneller vielfältig, übersichtlich und zentral gestalten.

Chatbots können genutzt werden, um zu informieren: Viele Unternehmen kämpfen damit, vorhandene Informationen – intern, genauso wie extern – leicht verfügbar zu machen. Die Fachsprache einiger Branchen ist für Laien schwer verständlich. Um beim Verständnis der Materie zu helfen und Interesse zu wecken, können Chatbots eingesetzt werden. Diese können intuitive Erklärungen oder zuverlässige Definitionen von Begriffen auf Nachfrage der Nutzer liefern. Durch die Möglichkeit, den Chatbot mit einer Persönlichkeit zu versehen, kann ein Bot verschiedenste Zielgruppen ansprechen. Soweit die Theorie, woran kann dies jedoch scheitern?

Egal, ob die Kommunikation über Text- oder Sprachinput verläuft: Bots benötigen Training, um ihren Wissensschatz zu erweitern. Dies geschieht meist über NLU-Plattformen, also Plattformen, deren Hauptaufgabe es ist, das Verstehen der Sprache als Service anzubieten. Fragestellungen müssen hier vom Ersteller des Bots selbst eingegeben werden. Wenn Anfragen außerhalb des antrainierten Fragenpools eintreffen, ist die künstliche Intelligenz deutlich weniger intelligent.

Eine geeignete Plattform zur Sprachverarbeitung wählen

Wie bereits erwähnt, gibt es verschiedene NLU-Plattformen, die sich auf das Erkennen der Intention einer Nutzereingabe konzentrieren. Auf diesen Plattformen lassen sich Nutzereingaben – derzeit in der Regel händisch – mit den gewünschten, meist statischen, Antworten des Bots verknüpfen.

Bei dieser Verknüpfung müssen nicht alle möglichen Eingaben antrainiert werden, sondern es werden sogenannte Entitäten ermittelt und verknüpft, um Fragevarianten zu einem bestimmten Themengebiet zusammenzufassen. Diese Entitäten kann man sich meist wie Slots vorstellen, die im Laufe der Konversation gefüllt werden müssen. Bei der Anfrage "Wie ist das Wetter in Frankfurt?" ist “Frankfurt” eine mögliche Ausprägung einer Entität zum Ort, die bei dieser Anfrage erwartet wird. Entitäten sind oft Gruppierungen von Worten, die inhaltlich dem selben Gebiet zugeordnet werden können ("Fußball" und "Volleyball" wären beide in dem Gebiet "Ballsport"), oder Synonyme. So kann es eine Entität zum Themenbereich "Kosten" geben, in der die Formulierungen "wie teuer" und "was kostet" enthalten sind. Nach Antrainieren der Frage "Wie teuer ist das Produkt?" wird die Frage "Was kostet das Produkt?" implizit erkannt. Häufig werden Konzepte zum Simulieren eines realen Gesprächsablaufs genutzt; die genauen Funktionalitäten sind jedoch plattformabhängig. 

Zusammen mit der rasant steigenden Zahl von Softwarelösungen, die sich auf NLU verlassen, ist das Angebot solcher Plattformen gestiegen. Neben proprietären Lösungen großer Unternehmen, wie beispielsweise Dialogflow von Google oder LUIS von Microsoft, existieren auch Open-Source-Plattformen wie Rasa oder Snips [6]. Mit letzteren ist ein besserer Schutz der Privatsphäre möglich, da sie nicht herstellerspezifisch in der Cloud laufen müssen. Snips spezialisiert sich zudem auf besondere Hardwarearchitekturen (Embedded/IoT).

Die Qualität der Antworten der Plattformen unterscheidet sich dabei nicht nur im inhaltlichen Themengebiet, sondern auch in den Arten der Fragestellungen, die am besten verarbeitet werden können.

Vereinfacht gesagt fokussieren sich einige Plattform mehr auf die Ermittlung von Entitäten, um aufgabenorientierte Anfragen zu verarbeiten, während andere Plattformen darüber hinaus versuchen auch natürliche, freie Texteingaben zu verarbeiten. Dies ist ein ambitioniertes Unterfangen, denn es ist im Allgemeinen schwer, die Intention aus langen Sätzen mit vielen Informationen zu filtern oder ausholendere und breitere Fragestellungen zu unterstützen.

Wenn hingegen eine Anfrage mit begrenzten Fragemöglichkeiten verarbeitet werden soll, die einem linearen Ablauf mit wenig Unregelmäßigkeiten folgt, dann sind die qualitativen Unterschiede zwischen den Plattformen eher gering. Ein Beispiel hierfür ist die Eingabe von Nutzerdaten, die einem festen Schema folgen. In so einem Fall eröffnen sich daher mehr Möglichkeiten, eine passende NLU-Plattform zu wählen, die weitere Vorteile für das eigene Projekt bietet. Dies kann beispielsweise der bereits erwähnte Fokus auf die Privatsphäre sein.

Keine der Plattformen bietet allerdings eine Lösung, die für alle Anwendungszwecke im Bereich der natürlichen Sprachverarbeitung gleichermaßen geeignet ist, weswegen die für das eigene Projekt passende Lösung stets individuell ermittelt werden sollte.

Ausreichende Informationen über den Entwicklungsaufwand sammeln

Bei der Einschätzung des Entwicklungsaufwands sollte zunächst vor allem zwischen dem inhaltlichen und dem technischen Entwicklungsaufwand differenziert werden.

Der inhaltliche Entwicklungsaufwand ist abhängig von den gewünschten Fähigkeiten der zu entwickelnden Applikation. Je komplexer die Aufgaben, Anfragen oder generell das Themengebiet des Bots, desto schwieriger ist es, Nutzeranfragen zuverlässig zu beantworten. Eine umfangreiche Unterstützung von offenen Fragen kann vor allem bei Projekten wichtig sein, die eine Außenwirkung haben. Es besteht zwar die Möglichkeit, dass die inhaltliche Entwicklung durch eine externe Firma übernommen wird, jedoch sind die Entwicklungskosten erfahrungsgemäß deutlich geringer, wenn das Training von Antworten zu offenen, fachlichen Fragen unternehmensintern durchgeführt wird. Dies liegt vor allem daran, dass es längere Absprachen bei der Erstellung von Antworten geben kann, wenn die Entwickler fachfremd sind. Ein möglicher Grund für die externe inhaltliche Entwicklung ist, dass Mitarbeiter für das Training eines Bots in der Handhabung der NLU-Plattform geschult werden müssten, was sich bei einem kleinen Bot unter Umständen nicht rentiert. 

Bei Unternehmen mit großen Datenspeichern gibt es oft den Wunsch, Daten durch einen Bot sinnvoll und beispielsweise für interne Zwecke passend aufzubereiten. In solchen unternehmensinternen Projekten können Kosten gespart werden, wenn Zusatzfunktionalitäten wie Smalltalk in den Hintergrund rücken oder ganz ignoriert werden. Je nach Anwendungsgebiet und Anspruch können einige Komponenten des Bots allerdings stattdessen ausgelagert werden, um firmenintern Aufwand zu sparen. So gibt es beispielsweise vorkonfigurierte und anpassbare Smalltalk-Komponenten. Solche Zusatzkomponenten helfen unter anderem dabei, unerwünschte Eingaben wie Beleidigungen abzufangen und dem Bot eine grundlegende Persönlichkeit und Intelligenz zu verleihen.

Das Training eines Chatbots ist vor allem zu Beginn aufwändig. Nach einer anfänglichen, ausführlichen Trainingsphase ist die Betreuung jedoch meist mit geringem Ressourcenaufwand umsetzbar. Da der Inhalt eines Chatbots zudem nicht von der Messaging-Plattform abhängt, sondern über die NLU-Plattform erstellt wird, kann der Inhalt für andere Applikationen und Messaging-Plattformen wiederverwendet werden.

Der technische Entwicklungsaufwand ist hingegen in der Regel anfangs gering, jedoch können sich die Anforderungen an die Fähigkeiten des Bots schnell ändern. In solchen Fällen hängt der zusätzliche Entwicklungsaufwand von der Architektur des Bots ab. Generell kann zwischen die Messaging- und die NLU-Plattform ein eigener Server geschaltet werden, der die Verarbeitung der Nachrichten organisiert. Ist die Applikation so aufgebaut, müssen bei einer Erweiterung lediglich entsprechende Schnittstellen für neue Messaging-Plattformen oder NLU-Plattformen geschrieben werden, die die plattformspezifischen Formate unterstützen.

Eigene Schnittstellen zu schreiben ist nicht zwingend notwendig, denn alternativ zum oben genannten Aufbau gibt es auch NLU-Plattformen, die das Sprachverständnis direkt mit einer Applikation verknüpfen und bei denen auf einen Server verzichtet werden kann. Das ist natürlich entwicklerfreundlicher und kostensparend, hat jedoch unter anderem den Nachteil, dass persönliche Informationen des Nutzers direkt an die NLU-Plattform gelangen, die sonst von einem Server abgefangen werden könnten. Diese Informationen können die Facebook-Kennung oder Angaben zur eigenen Person sein. 

Im Hinblick auf zukünftige Erweiterungen und die damit verbundenen Kosten zahlt es sich also aus, den Bot auf zwei Ebenen ordentlich zu planen. Zum Einen sollten inhaltlich die sprachlichen Möglichkeiten durch eine klare Definition des Aufgabengebiets abgesteckt werden. Zum Anderen sollte die technische Seite wohldurchdacht sein. Das von uns entwickelte Bot-Framework setzt hier auf ein Dreischichtenmodell.