Was sich mit GenAI-Chatbots im Service machen lässt – und was nicht

Dabei war das KI-basierte Sprachmodell noch vor wenigen Monaten nur Fachleuten bekannt. Seit einiger Zeit machen nun verschiedenste intelligente Textgeneratoren Furore und beeindrucken die Öffentlichkeit. Forscher, Journalisten, Marketiers oder auch Schüler experimentieren mit der neuen Technologie, um sich Essays, Sachtexte oder ganze Bücher schreiben zu lassen. Die Ergebnisse werden häufig als erstaunlich hochwertig betrachtet – zumindest auf den ersten Blick. Ein Blick hinter die Kulissen des Hypes zeigt jedoch:  Mit der Genauigkeit der Antwort nimmt es so ein Sprachmodell oft nicht ganz so genau.

Eloquenz statt Intelligenz

Tatsächlich zeigen verschiedenste Stichproben, dass die faktische Korrektheit der Antworten für viele KI-Chatbots eher zweitranging ist – gerade wenn es um spezialisiertes Wissen geht. So geht die KI etwa beim Kultfahrzeug Lloy P 300 davon aus, dass dessen Karosserie wie üblich aus Blech besteht, während hier in Wirklichkeit Kunstleder zum Einsatz kam. Die Pfeile an den Leitpfosten der Autobahn, die stets in Richtung des nächsten Hilfetelefons zeigen, geben laut KI die Richtung des Verkehrsflusses an. Woher kommt diese vermeintliche Schludrigkeit? Genau genommen kann die Künstliche Intelligenz (KI) gar nichts dafür. Wer sich intensiver mit der Thematik beschäftigt, findet schnell heraus, dass die Kernfunktion gar nicht darin besteht, faktisch korrekte Antworten zu recherchieren, sondern vielmehr die „stochastisch wahrscheinlichste Antwort“ zu einer bestimmten Anfrage zu generieren. Ob diese auch faktisch stimmt, ist – zumindest im ersten Schritt – vor diesem Hintergrund zweitranging.

Im Grunde generiert das Sprachmodell nicht nur die Antwort insgesamt auf Basis einer Wahrscheinlichkeitsbetrachtung. Vielmehr fügt es jedem generierten Wort das wahrscheinlich am besten passende hinzu und wiederholt diesen Vorgang, bis eine vollständige Antwort entsteht. Dies erfolgt stets im Kontext des „Wissens“, an dem die KI trainiert wurde. Bereiche, zu denen sich nur wenige Texte finden lassen, werden daher von der KI mit höherer Wahrscheinlichkeit inkorrekt beantwortet als Bereiche, die im Internet viel diskutiert werden. Je allgemeiner die Frage an den KI-Bot oder je größer die Datenbasis zu dieser Frage, desto höher die Wahrscheinlichkeit, dass die Antwort tatsächlich korrekt ist. So ist sich die KI beim vielbekannten Trabi beispielsweise durchaus im Klaren darüber, dass dessen Karosserie aus Kunststoff besteht. Der Lloy P 300 hingegen, zu dem sich deutlich weniger Material finden lässt, bleibt für die KI lückenhaft und wird daher mit Informationen ausgefüllt, die vor dem Kontext der Wissensbasis der KI „am wahrscheinlichsten“ erscheinen.

Da KI-Chatbots auf Basis einer riesigen Masse an Daten aus den verschiedensten Themengebieten, Kontexten und Sprachstilen trainiert werden, klingen die Antworten aber in der Regel so überzeugend und wirken so täuschend echt, dass Anwender schnell den Eindruck gewinnen, die Antworten seien tatsächlich „wahr“ – eine unter Umständen folgenschwere Fehlannahme. Denn in Kontexten, in denen es auf hundert Prozent Korrektheit ankommt und die ein spezielles Wissensgebiet betreffen, wird dieser Wahrscheinlichkeitsansatz nicht ausreichen.

Kundenservice braucht Verlässlichkeit

Wie sieht es vor diesem Hintergrund mit möglichen Einsatzszenarien intelligenter Chatbots im Kundenservice aus? Seit Jahrzehnten gibt es dort ein ehernes Gesetz: Die Antwort oder Lösung muss immer verlässlich und qualitätsgesichert sein. Entsprechend wäre die Technologie für die Generierung der eigentlichen Antwort nur mit Einschränkungen nutzbar.

Im Beispiel des Lloy P 300 würde die KI auf Basis ihrer Fehlannahme über dessen Karosseriematerial eine Bearbeitung mit Schleifpapier vorschlagen, um Rost zu entfernen. Es braucht nicht viel Phantasie, um sich auszumalen, wie das Kunstleder hinterher aussehen würde. Eine defekte Sicherung lässt sich laut KI an einem durchgebrannten Draht oder einer verfärbten Glassicherung erkennen. Während dies an sich korrekt ist, entspricht es jedoch bei weitem nicht mehr den Sicherungstypen, mit denen moderne Häuser und Wohnungen heutzutage ausgestattet sind – über die jedoch weniger Informationen im Internet zu finden sind. Inkorrekte oder unzutreffende Antworten wie diese können im Kundenservice Anwendungsfehler zur Folge haben, durch die im Ernstfall handfester Schaden entstehen kann.

Doch ist auch der Wahrheitsgehalt der Aussagen manchmal mit Vorsicht zu genießen, so ist das Sprachverständnis der großen Sprachmodelle geradezu phänomenal. Oft ähnelt der Dialog tatsächlich dem mit einem Menschen, und Nachfragen können dabei helfen, dem Ziel Schritt für Schritt näher zu kommen. Entsprechend gibt es verschiedene Ansätze, um die Qualität von Antworten im Service-Kontext steuern zu können. So kann etwa zwischen Sprachverständnis und Wissen getrennt werden. Man verwendet das durch die große Wissensbasis gelernte Sprachwissen und stellt einem Chatbot zusätzlich konkretes Wissen zum jeweiligen Problem zur Verfügung. Tatsächlich sind dann die Antworten in fast hundert Prozent der Fälle korrekt, der Umfang des bereitgestellten Wissens jedoch ist begrenzt. Ebenso kann für sehr umfangreiche Wissensgebiete auch weiterhin auf klassische Architekturen zurückgegriffen werden, also die typischen Chatbots, die vorbereitete, immer richtige Antworten liefern, deren einziges Problem jedoch darin bestehen kann, dass die Antwort nicht wirklich zur Frage passt. Eine per se falsche Aussage ist allerdings eher auszuschließen.

Letztlich besteht der Ansatz für die Anwendung innovativer, LLM-basierter Chatbots darin, das Themengebiet anhand des Umfangs und eventuell einer Risikoanalyse aufzuteilen und dann in einzelnen Chatbots umzusetzen. Durch neue Technologie-Konzepte lassen sich so unterschiedliche Fach-Bots in einer Multi-Bot-Architektur zusammenschließen – eine Technologie, wie sie beispielsweise die USU Software AG als Open-Source-System entwickelt hat. Auf diese Weise ist ein kombiniertes Chatbot-Konzept in der Lage, komplexe Service-Anfragen zuverlässig zu beantworten.

Die Stärken kombinieren

Beispielsweise kann man Chatbot-Module einer generativen KI (GenAI) nutzen, um die „Small Talk“-Elemente eines klassischen Self-Service-Chatbots zu optimieren. Klassische „Textkonserven-basierte“ Chatbot-Module werden verwendet, um beispielsweise Diagnosen durchzuführen. Und beides lässt sich dann in einem intelligenten Bot Universe zusammenfassen. Dies verbindet das Beste der beiden Technologien: Die qualitätsgesicherte Service-Unterstützung des klassischen Chatbots und die umfassenden Möglichkeiten der KI-Bots, auf Fragen zum Alltagswissen einzugehen und diese auf unterhaltsame Weise zu beantworten.

Alternativ ist es auch möglich, die KI-Chatbots spezifisch mit den individuellen, qualitätsgeprüften IT-Service-Daten des klassischen Chatbots zu trainieren. Auf diese Weise kann die Qualität der Antworten sichergestellt werden, allerdings sind die Themenbreite dabei eingeschränkt und Falschauskünfte nicht komplett ausgeschlossen. Für Anwendungsfälle wie den IT-Service oder für Prozessthemen genügt dieses Qualitätsniveau bereits – andere Bereiche wie Versicherungen, Medizin oder Automobilhersteller, bei denen zu jedem Zeitpunkt zu hundert Prozent korrektes Wissen unerlässlich ist, müssen nach wie vor auf bewährte Systeme zurückgreifen.

Wie sieht die Zukunft der KI-Chatbots aus?

Die Funktionen der Sprachmodelle wachsen rasant, müssen jedoch immer einer Qualitätskontrolle unterworfen bleiben. Wie also kann es weitergehen? Wie immer liegt die Lösung nicht einfach in der Technik, sondern in der Anwendung. Wir werden uns daran gewöhnen müssen, über Sprachverständnis, Sprachfähigkeit und Wissensbasis nachzudenken, um Kompetenz für den Einsatz der neuen Technologie auch nutzen zu können. Auch die neuen Chatbots ermöglichen nur das Umsetzen eines vorgedachten Use Cases und bieten nicht die Möglichkeit, den Chatbot selbst seinen Use Case und Mehrwert finden zu lassen. Es ist also wichtig, Anwendungsszenarien, Funktionsweise und Nutzenpotenzial genau zu durchdenken, bevor eine Umsetzung erfolgt. Zudem gilt es, stets zu bedenken, wie hoch das Risiko einer potentiellen Falschauskunft sein kann und dies entsprechend zu berücksichtigen. Mit einem solchen Konzept lässt sich die neue Technologie jedoch auf solide Weise im Service nutzen.

Bei aller Euphorie gilt es jedoch, die Technik stets entsprechend ihrer Möglichkeiten einzusetzen: KI-basierte Chatbots – basierend auf ihren Stärken – für die Bereiche, deren Fokus auf sprachlichen oder unterhaltsamen Aspekten liegt, für überschaubare Inhalte mit begrenztem Risiko, für Themen, bei denen die Erkennung der Frage oder gar Rückfrage komplex ist. Für Bereiche hingegen, in denen die faktische Korrektheit der Informationen entscheidend ist, sind weiterhin Systeme vonnöten, in denen die erforderlichen Qualitätsstandards sichergestellt sind.

Die Technologie aber bleibt nicht stehen. Die Datenbasen, auf die KI-Chatbots zurückgreifen könnten, werden immer aktueller. Die Verfügbarkeit von großen Sprachmodellen verändert sich. Wer immer auf eine Klassifikation, auf Entity-Extraction oder sonstige Sprachtechnologien zugreifen will, der kann das nun für „einen Apfel und ein Ei“ tun. Was bis vor kurzem noch exklusiv und teuer war, ist nun frei oder sehr kostengünstig verfügbar. Auch das hat das Potenzial, den Markt zu verändern. Gerade deswegen ist auch eine dynamische Verteilung in einem Bot-Netzwerk eine gute Idee: So können Funktionen, die heute noch nicht per GenAI erledigt werden können, in der Zukunft auf die neue Technologie umgezogen werden, ohne jeweils ganze Systeme umbauen zu müssen. So bleiben Unternehmen in jedem Fall gerüstet für künftige Weiterentwicklungen der intelligenten Technologie – wie auch immer diese aussehen mag.

Bildquelle: Getty Images / iStock / Getty Images Plus