Internet:

„Chatbots müssen eindeutig erkennbar sein“

von am 14.03.2017 in Aktuelle Top Themen, Allgemein, Digitale Medien, Internet, Interviews, Social Media, Technik

<h4>Internet:</h4>„Chatbots müssen eindeutig erkennbar sein“
Dr. Thomas Rüdel, Geschäftsführer Kauz GmbH und Prof. Dr. Peter Gentsch, Lehrstuhl für Internationale Betriebswirtschaftslehre an der HTW Aalen
  • Chatbots werden als Markt- und Markenbotschafter entwickelt und eingesetzt

  • Chatbots können weitgehend eigenständig aus den verfügbaren Online-Daten lernen

14.03.17 Interviews mit Prof. Dr. Peter Gentsch, Lehrstuhl für Internationale Betriebswirtschaftslehre an der HTW Aalen und Dr. Thomas Rüdel, Geschäftsführer Kauz GmbH

Bots haben in den vergangenen Monaten durch ihren manipulativen Einsatz in sozialen Netzwerken für Schlagzeilen gesorgt. Ursprünglich waren Bots aber als Dialog- und Marketingsysteme für den Kontakt mit Kunden entwickelt worden. Chatterbots, Chatbots oder kurz Bots sind textbasierte Dialogsysteme. Sie bestehen aus einer Textein- und -ausgabemaske, über die sich in natürlicher Sprache mit dem dahinterstehenden System kommunizieren lässt. Technisch sind Bots näher mit einer Volltextsuchmaschine verwandt als mit künstlicher oder gar natürlicher Intelligenz. Mit der steigenden Computerleistung können Chatbot-Systeme allerdings immer schneller auf immer umfangreichere Datenbestände zugreifen und daher auch intelligente Dialoge für den Nutzer bieten. Solche Systeme werden auch als virtuelle persönliche Assistenten bezeichnet. So hat die Felix Burda Stiftung in München ein Chatbot mit dem Namen „Leopold“ entwickelt. Leopold hat die Aufgabe, den Einstieg in das Tool APPzumARZT zu erleichtern und spielerisch über die App, die Stiftung und weitere Themen zu informieren. Der Chatbot wird automatisch dann zum Leben erweckt, wenn der facebook-User auf der Seite der APPzumARZT eine Nachricht schreibt. Über „gute“ und „schlechte“ Bots Fragen an zwei Experten Prof. Dr. Peter Gentsch und Thomas Rüdel, die mit ihren Unternehmen Bots entwickeln.

Prof. Dr. Peter Gentsch, Lehrstuhl für Internationale Betriebswirtschaftslehre an der HTW Aalen

medienpolitik.net: Für welche Aufgaben im Bereich Marketing und Service können Chatbots eingesetzt werden?

Prof. Dr. Peter Gentsch: Chatbots können an verschiedenen Stellen im Marketing und Service eingesetzt werden, etwa um Anliegen vorab zu qualifizieren, Leads mit Informationen zu versorgen (Nurturing) oder im Service automatisiert Auskunft zu geben. Chatbots werden derzeit primär als Inbound-Touchpoint eingesetzt um Fragen von Konsumenten zu Produkt, Unternehmen und Kampagnen zu beantworten. Zunehmend entstehen auch Outbound-Szenarien, bei dem Chatbots nach definierten Regeln und Events aktiv mit dem Kunden kommunizieren (Drip Communication durch Nuture Bots). Einen Schritt weiter gehen Engagement Bots, die aktiv als Markt- und Markenbotschafter mit den Users interagieren. Bekanntestes Beispiel ist hier der Chatbot Tay von Microsoft. Dieser wurde von der Commuity leider entsprechend negativ trainiert, so dass er rechtsradikale und sexistische Beiträge postete. Innerhalb eines Tages hat Microsoft Tay entschuldigend aus dem Netz genommen. Um möglichst automatisiert Customer Insights über Befragung zu erhalten, können auch sogenannte Poll Bots zum Einsatz kommen.
Im Gegensatz zu diesem Conversational Commerce-Ansatz, der zum Markt und Kunden gerichtet ist, können Chatbots auch als Instrument zur Optimierung der internen Prozesse im Service und Marketing eingesetzt werden (Conversational Office).

Dr. Thomas Rüdel, Geschäftsführer Kauz GmbH

Dr. Thomas Rüdel: Eines der Haupteinsatzgebiete von Chatbots sehen wir im Kundenservice, sowohl auf Webseiten als auch in Messengern. Viele Unternehmen haben ein hohes Aufkommen von Anfragen, die routinemäßig und automatisiert beantwortet werden können, z.B. Fragen nach Öffnungszeiten, wo sich bestimmte Informationen finden, welche Unterlagen man für einen Antrag braucht etc. Hierfür sind Chatbots ideal. Aber auch in der einfachen Beratung – zutreffender wäre vielleicht Hilfe bei der Produktauswahl – können Chatbots sehr nützlich sein. Dafür müssen sie dann allerdings schon eine ganze Menge „verstehen“, und nur die wenigsten Chatbots bringen dieses Verständnis heute mit.

 

medienpolitik.net: Wie intelligent sind diese Bots?

Prof. Dr. Peter Gentsch: Chatbots werden derzeit stark mit dem Leistungsattribut „Künstliche Intelligenz“ aufgeladen. Allerdings sind die meisten Bots derzeit noch relativ trivial umgesetzt. I.d.R. werden in Twitter- und Facebook-Feeds nach bestimmten Keywords gescannt, auf dessen Basis dann vordefinierte Texte bzw. Textbausteine automatisch ausgesteuert werden. Etwas intelligenter sind Systeme, die automatisch aus dem Internet relevante Textfundstücke detektieren und dann entsprechend zu einem Post zusammensetzen.
Diese automatisierte Form von Content Curation wird auch unter dem Begriff Robot Journalism diskutiert. Damit die Chatbots die Posts entsprechend erfassen können, werden die mittlerweile signifikant fortgeschrittenen Verfahren des Natural Language Processing (NLP) eingesetzt, die den Fließtext in entsprechende Semantik und Signalwörter transformieren. Ein weiterer Ansatz ist, die Chatbots mit Wissensdatenbaken zu verbinden. Für den User erscheinen die Chatbots aufgrund ihrer Auskunftskompetenz „intelligent“. Allerdings sind die Chatbots nur so intelligent wie die zugrundeliegende Datenbank.
Durch die Fortschritte in der Künstlichen Intelligenz (KI) (steigende verfügbare Datenmengen zum Trainieren + Deep Learning-Ansätze) können Chatbots zukünftig durchaus intelligenter gestaltet werden. KI-basierte Chatbots lernen weitgehend eigenständig aus den riesigen Mengen an verfügbaren Online-Daten und erkennen Frage-Antworten-Muster, die sie automatisiert in der Kunden-Kommunikation nutzen. Das erwähnte Beispiel von Microsoft Tay zeigt jedoch, dass das ungesteuerte Training der Bots durch die Community zu fatalen Folgen führen kann. Die nächste Generation KI-basierter Bots muss den möglichen Kommunikationsraum entsprechend kontrollieren und gestalten.

Dr. Thomas Rüdel: Die besten Bots können heute einfache Fragen durchaus in einem ernstzunehmenden Sinne verstehen und die Antworten selbständig suchen. Z.B. können Sie sich von unserem Prototyp eine Schokolade empfehlen lassen und dann fragen, ob es vielleicht auch billigere Schokoladen, oder solche mit einem höheren Kakaogehalt gibt. Der Bot „weiß“ dann, wonach Sie suchen und durchsucht das Sortiment nach Produkten mit den gewünschten Charakteristika. Es handelt sich durchaus um intelligentes, aber nicht um wirklich autonomes Verhalten, was er tut ist stark vorkonfiguriert.

medienpolitik.net: Wie werden die Social Bots „gefüttert“, woher bekommen sie ihre Informationen?

Prof. Dr. Peter Gentsch: Das Futter hängt entscheidend von dem Intelligenz- und Automatisierungsgrad der Bots ab. Die derzeitigen in der Regel nicht intelligenten Chatbots werden durch die Keywords, Wissensbausteine, Texte und Regeln ihrer Entwickler/ Programmierer gefüttert. Die intelligentere Form der Bots besorgen sich Information auch eigenständig aus Online-Quellen und verbinden diese zu neuem Content. Die KI-basierten Bots werden zudem durch die Antworten und Reaktionen der User gefüttert. Damit sinkt auch die Kontrollmöglichkeit der für das Lernen genutzten Informationen. Ein wichtiges Futter sind neben Inhalten auch Likes, Follower usw.. Diese verstärken oder reduzieren den Impact der Chatbots. Diese Feedback-Informationen können auch von anderen Bots erfolgen. Sogenannte Bot Armeen können in kurzer Zeit so Themen und Meinungen viral streuen und damit automatisiert Themen und Agenda Setting betreiben.

Dr. Thomas Rüdel: Unsere Bots können für ihre Informationen sowohl auf Datenbanken als auch auf Textbausteine zugreifen und diese je nach Bedarf zu Antworten oder allgemeinen Aussagen kombinieren.

medienpolitik.net: Welche Rolle werden Social Bots künftig in sozialen Netzwerken spielen?

Prof. Dr. Peter Gentsch: Die Bedeutung von Chatbots wird in zweierlei Hinsicht steigen. Zum einen werden Chatbots im positiven Sinne Kommunikation effizienter machen. Schnelle Antworten oder ein personalisiertes Filtern von Informationen erhöhen die User Usability und Convenience in sozialen Netzwerken. Leider wird auch „the dark side of bots“ an Bedeutung gewinnen. So lässt sich einfach positiver Buzz für das eigene Produkte und negativer Buzz für den Wettbewerber erzeugen. Dies wird dadurch erleichtert, dass im Web jeder nicht nur Leser, sondern auch Autor sein kann. Da nun für sehr viele Leser die Information aus digitalen Quellen ein hohes Meinungs- und Entscheidungsgewicht erhält, ist die Versuchung groß, als Autor zielführende Desinformation einzustreuen.

Dr. Thomas Rüdel: Wir gehen davon aus, dass nahezu alle Unternehmen in Zukunft über (mindestens) einen Chatbot verfügen werden, der Fragen beantwortet oder gegebenenfalls weiterleitet, vielleicht auch ein bisschen Werbung macht oder sich einfach für einen freundlichen Chat zu einem Thema, das für das Unternehmen wichtig ist, anbietet. Dabei kann es Chatbots geben, die Bestellungen entgegennehmen, solche, die gezielt bei der Produktauswahl helfen, oder auch solche, die zum Beispiel Bewerbern Fragen über das Unternehmen beantworten. Die ganze Kommunikation zwischen Unternehmen und Kunden oder auch nur Interessenten wird damit viel abwechslungsreicher und interaktiver. Es wäre gar nicht möglich, alle diese zusätzlichen Möglichkeiten mit Menschen abzudecken.

medienpolitik.net: Im Zusammenhang mit dem manipulativen Einsatz in sozialen Netzwerken gerieten Bots negativ in die Schlagzeilen. Glaubwürdigkeit ist für soziale Netzwerke aber eine wichtige Basis, Ist damit der Einsatz von Chatbots für ein positives Image von Unternehmen nicht kontraproduktiv?

Prof. Dr. Peter Gentsch: Der Einsatz von Chatbots zur gezielten Promotion, Desinformation und Manipulation birgt in der Tat ein hohes Risiko für Unternehmen. Die Thematik ist jedoch nicht neu. Viele Unternehmen haben in der Vergangenheit Agenturen beauftragt, negative Posts in sozialen Netzwerken zu entfernen oder zu überspielen, Themen zu puschen oder positive Bewertungen abzugeben bzw. negative für den Wettbewerber. Einige Unternehmen habe bei Entlarvung nicht überlebt bzw. einen Imageschaden erlitten oder schlimme Shitstorms ertragen müssen. Ebenso beschäftigen wir uns schon seit längerer Zeit mit dem Phänomen des Astroturfing. Nun lässt sich dieser Prozess automatisieren und skalieren. Dieser Prozess kann so smart durchgeführt werden, dass die Wahrscheinlichkeit entdeckt zu werden, relativ gering ist. Dieser Verlockungen werden viele Brands und Organisationen nicht widerstehen können.

Dr. Thomas Rüdel: Für uns ist die wichtigste Regel, das Chatbots eindeutig als solche erkennbar sein müssen. Man darf nicht vortäuschen, dass am anderen Ende ein Mensch sitzt. Die negativen Schlagzeilen werden von Leuten erzeugt, die Bots einsetzen, um Nutzer zu täuschen. Das ist aber nicht so sehr ein Problem von Chatbots, sondern von manipulativer Kommunikation allgemein. Ob ich nun einen Chatbot oder Jugendliche in Mazedonien einsetze, um Hasskommentare zu posten, macht kaum einen Unterschied.

medienpolitik.net: Bots können auch für manipulative Zwecke missbraucht werden, wie kann man sich davor schützen?

Prof. Dr. Peter Gentsch: Professionell gemachte Desinformation und Manipulation durch Bots ist derzeit in der Tat schwer zu erkennen. Daher ist eine systematische Prävention auch schwierig. Auf der anderen Seite gibt es auch Hoffnungsschimmer. Zum einen ist die Community-Hygiene von sozialen Netzwerken nicht zu unterschätzen. Wache und sensible User erkennen und melden ggf. diese manipulativen Strömungen. Zum anderen ist auf eine zunehmende Sensibilisierung von Journalisten, Usern und Unternehmen zu hoffen, die entsprechend wach und kritisch Informationen in sozialen Netzwerken bewerten und kanalisieren.
Ein systematischer, daten-getriebener Ansatz erkennt automatisiert Muster von manipulativen Bots, z.B. Posting-Frequenz und -zeiten, Netzwerk von Followern, Inhalten und Tonalitäten. Dabei werden KI-Methoden zur Detektion und Prävention eingesetzt. Diese Verfahren wurden auch schon erfolgreich bei Click- und Kreditkarten-Betrug (Fraud Detection) eingesetzt. In gewisser Hinsicht schlagen wir die manipulativen Bots mit den gleichen Waffen, die sie zur automatisierten Desinformation und Manipulation nutzen.

Dr. Thomas Rüdel: Noch ist kein Bot so gut, dass man ihn nicht schnell erkennen könnte. Wenn der dann auch noch zu manipulativen Zwecken eingesetzt wird, kann man das dahinterstehende Unternehmen am besten öffentlich kritisieren. Ansonsten sind die „Opfer“ von manipulativer Kommunikation auch manchmal selbst schuld, weil sie gar nicht nach objektiven Informationen sondern nur nach Bestätigung ihrer Vorurteile suchen. Ich persönlich glaube, dass es wichtig ist, sich in seriösen Medien zu informieren und nicht auf obskuren Websites oder nur auf Facebook.

medienpolitik.net: Wie werden sich Bots weiter entwickeln? Was leistet die nächste Generation?

Prof. Dr. Peter Gentsch: Die nächste Generation von Bots werden sicherlich im Sinne der künstlichen Intelligenz wirklich intelligenter. Diese Intelligenz hat zwei Facetten. Zum einen kann diese Intelligenz im positiven Sinne die User Experience durch hohe Antwort- und Kommunikationsqualität erhöhen. Zum anderen kann diese Intelligenz auch manipulativ genutzt werden. Damit entsteht eine Art Wettrüsten – wer kann die KI schneller und besser für seine Zwecke nutzen. Die Bot-Entwicklungen von Cortana, Alexa, Google Home/ Assistant, VIV, usw.. werden die Bot-Entwicklung weiter befeuern und voranbringen. Dabei steht nicht die viel diskutierte Sprachsteuerung als Interface im Vordergrund, sondern die zunehmende Lernfähigkeit und Intelligenz der Systeme.
Ein weiterer Bot-Trend liegt in der intelligenten Vernetzung und Verstärkung von verteilten und interagierenden Bots. Swarm Bots, Bot Farmen und Bot Netzwerke werden die komplementären und synergetischen Effekte von Bots multiplizieren. Bots werden gegenseitig aufeinander referenzieren und so den gewünschten Diskurs verstärken und teilen – im positiven wie im negativen Sinne.

Dr. Thomas Rüdel: Die sprachlichen Fähigkeiten werden sich weiter verbessern. Auch die Anbindung an verschiedene andere KI-Fähigkeiten wird besser werden. Chatbots können dann auch z.B. Bilder erkennen und darüber reden. Unser Ziel ist die sogenannte „universelle Kommunikationsfähigkeit“, d.h. mit einem entsprechend vorbereiteten Chatbot sollte man über alle relevanten Themen einigermaßen vernünftig reden können. Bis dahin wird es noch ein paar Jahre dauern, aber die Entwicklung wird dahin gehen.

Der Beitrag wurde in der promedia-Ausgabe 03/17 erstveröffentlicht.

Print article

Kommentieren

Bitte Pflichtfelder ausfüllen