Sichere KI einführen? Experten empfehlen diese 5 Strategien!

Wie können Unternehmen künstliche Intelligenz umfassend in ihre Kundenkommunikation integrieren und gleichzeitig sicherstellen, dass keine Pannen passieren? Branchenexpert:innen empfehlen, den folgenden fünf Grundsätzen für sichere KI zu folgen. 

KI-Bots, die aus der Reihe tanzen, sorgen durchaus für unterhaltsame Schlagzeilen. So schrieb neulich ein Chatbot ein Gedicht für einen Kunden, in dem er sein eigenes Unternehmen schlechtmachte. Ein anderer KI-Bot wiederum fiel vor Kurzem auf einen Hacker herein und verkaufte ihm ein Auto für einen US-Dollar. 

All das ist zwar lustig zu lesen, aber aus Unternehmenssicht sind das natürlich genau die Folgen, die Betriebe vermeiden wollen, wenn sie umfassend Bots mit künstlicher Intelligenz in ihre Kundenkommunikation integrieren. 

Genau darum scheuen sich auch viele Unternehmen davor, KI "auf Kund:innen loszulassen". Doch das Schreckensszenario einer "wildgewordenen" KI lässt sich vermeiden. Wir haben dazu Empfehlungen von Branchenexpert:innen gesammelt und daraus eine Liste mit fünf wichtigen KI-Prinzipien für Unternehmen zusammengestellt.

1. Eine sichere KI erfordert eine klare Vision 

Nur, wer weiß, was die KI im Unternehmen bezwecken soll, kann entsprechende Sicherheitsstandards schaffen. Unternehmen müssen daher in erster Linie festzurren, was sie mit KI in ihrer Kundenkommunikation tun wollen.

Das kann vom Einsatz eines smarten FAQ-Bots über das Sammeln von großen Mengen von Kundendaten bis hin zur Automatisierung eines bestimmten Prozesses reichen. 

Eine klare Vision von Aufgaben und Zielen von künstlicher Intelligenz ist der Schlüssel zu einer sicheren KI, sagte KI-Experte Alexis Safarikas kürzlich auf dem Mobile World Congress in Barcelona. Safarikas ist CEO von Campfire AI, einer Agentur, die seit vielen Jahren Unternehmen weltweit beim Bauen von Bots hilft. 

Wie kann das in der Praxis aussehen? Nehmen wir das Beispiel BMW. Die Münchner Werkstattniederlassung des Autobauers nutzt einen WhatsApp-Chatbot im Kundenservice. Über diesen können Kund:innen ihren Reparaturstatus abfragen oder Termine vereinbaren. Ziel des Bots ist es, Kund:innen schneller zu helfen und den Telefon-Service zu entlasten.

Mit dieser Roadmap vor Augen konnte BMW schon im Vorfeld sehen, dass persönliche Kundendaten beim Bot anfallen würden und von vorneherein Sicherheitsmaßnahmen festlegen, um diese zu schützen. 

---

---

2. Nur ein limitiertes Umfeld garantiert eine sichere KI

"Bots sind grundsätzlich so programmiert, dass sie Menschen glücklich machen wollen", sagt Alexis Safarikas. Wenn es also ein:e Kund:in glücklich macht, eine Lüge zu hören oder ein Auto für einen Euro zu kaufen, wird der Bot diesen Preis auch anbieten – es sei denn, dein Unternehmen setzt hier klare Grenzen. 

Unternehmen können solche ungewollten Aktionen verhindern, indem

• sie kontrollieren, auf welche Informationen eine KI Zugriff hat
• sicherstellen, dass diese Informationen alle korrekt und im Sinne des Unternehmens sind
• bewusst nur die Informationen freigeben, die sie mit Kund:innen teilen wollen. 

Geertina Hamstra, die sich beim niederländischen E-Health-Unternehmen MINND auf Conversational AI Bots spezialisiert hat, empfiehlt daher das Prinzip des begrenzten Umfelds für KIs in der Kundenkommunikation. 

So kann man beispielsweise das Wissen des Bots einschränken, indem man ihn nur mit ganz bestimmten Daten wie den eigenen FAQ-Dokumenten, Produktseiten oder dem Unternehmensblog füttert, anstatt ihm Zugriff auf das gesamte Internet zu geben. 

Das ist auch etwas, auf das Unternehmen achten sollten, wenn sie mit externen Anbietern für KI-Lösungen zusammenarbeiten, sagt Joachim Jonkers, Director of Product AI bei Sinch.

Wichtig: Auch bei direkt einsetzbaren KI-Bots sollten Unternehmen darauf achten, dass die nötigen Sicherheitsvorkehrungen bereits integriert sind. 

3. Eine sichere KI funktioniert nur mit Transparenz

Transparenz ist ein wichtiger Grundsatz für verantwortungsvolle KI. Dazu gehört, dass die Nutzer:innen darüber informiert werden, dass sie mit einem KI-Bot interagieren und dass sie die richtige Erwartungshaltung haben.

Sichere KI in der Kundenkommunikation bedeutet damit konkret, dass Nutzer:innen im Voraus wissen sollten, dass sie mit einem Bot interagieren, und - was fast noch wichtiger ist - was der Bot tun kann und was nicht, sagt Céline Lemonne, Conversation Designer bei Sinch.

Darüber hinaus sollten Nutzer:innen darüber informiert werden, was mit den Daten geschieht, die sie einem KI-Bot zur Verfügung stellen, empfiehlt Conversational-AI-Expertin Geertina Hamstra. Das Verständnis der gesamten KI-Interaktion macht es den Nutzenden nicht nur leichter, sich mit KI-Bots zu beschäftigen. Transparenz führt auch zu mehr Offenheit gegenüber der neuen Technologie. 

Hamstra hat selbst am Beispiel des niederländischen Gesundheitsdienstleister Moet Ik Naar De Dokter ("Soll ich zum Arzt gehen?") gesehen, wie dieses Verständnis die Kunden-Bot-Interaktion fördert.

Dieses anfängliche Zögern ist entsprechend nur die erste Reaktion auf die Information, dass Patient:innen mit einer KI sprechen. Sobald Nutzer:innen dies verarbeiten, sind sie direkt bereit, es auszuprobieren. Das zeigt also, dass Transparenz nicht abschreckend ist, sondern eher den Widerstand gegen die Technologie reduziert. Das gilt natürlich insbesondere dann, wenn der Austausch reibungslos funktioniert.

4. Eine gute Nutzererfahrung und sichere KI gehen Hand in Hand

Eine sichere KI geht über das Technische hinaus. Von einer wahrhaft sicheren KI können Unternehmen nur dann sprechen, wenn diese auch ethisch und fair gegenüber allen Kundengruppen ist. Und das erfordert, die Kund:innen und deren Austausch mit der KI in den Fokus zu stellen. 

Ist dein KI-Bot für Nutzer:innen jeden Alters und Hintergrunds zugänglich? Gewährleistet er eine faire Behandlung für alle? Verwendet er unterschiedliche Sprachen und Sichtweisen? 

Je mehr du über die Endnutzer:innen deiner KI-Lösungen nachdenkst, desto einfacher wird es sein, eine inklusive KI-Lösung zu integrieren. Das hat dann in der Regel auch den Effekt, dass Kund:innen die KI viel besser annehmen. 

Aktuelle Studien zeigen beispielsweise, dass Nutzer:innen lieber mit einer KI sprechen als mit Servicemitarbeiter:innen, weil sie die KI als fairer und vorurteilsfreier empfinden. "Wir haben festgestellt, dass gerade ältere Kund:innen lieber mit unserem WhatsApp-Bot sprechen, weil sie sich dabei keine Sorgen machen, ob die KI ihre Fragen als lächerlich empfindet", sagt etwa Gautam Anand, Senior Vice President der indischen HDFC Bank.

HDFC setzt ihren KI-basierten WhatsApp-Bot in ländlichen Gebieten in Indien ein und hat die KI bewusst so konzipiert, dass auch Menschen, die kein Englisch sprechen und nicht sonderlich technikaffin sind, eine nahtlose KI-Erfahrung haben können. 

5. Sicherheit heißt auch, immer alle Eventualitäten mitzudenken

Gesetzgeber:innen auf der ganzen Welt befassen sich mit KI-Tools, um neue Rechtssprechung zu erlassen, die eine sichere und ethische Nutzung der Technologie gewährleistet, wie etwa das KI-Gesetz in der Europäischen Union.

Doch wie bei vielen neuen Entwicklungen sind die Gesetze meist langsamer als die Technologie. Deshalb sind Unternehmen und IT-Fachleute in einer wichtigen Vorreiterrolle, die sie sehr ernst nehmen sollten, sagt Joachim Jonkers.

Deshalb müssen Unternehmen und KI-Anbieter noch vor allen anderen Nutzer:innen an alle möglichen "Was-wäre-wenn-Fälle" denken. 

• "Was ist, wenn personenbezogene Daten betroffen sind?" 
• "Was ist, wenn der Bot versehentlich falsche Informationen liefert?"
• "Was ist, wenn der Bot gegen Datenschutz- oder Urheberrechtsgesetze verstößt? 
• "Was ist, wenn Kund:innen den Bot verklagen wollen?" 

Je mehr "Was-wäre-wenn"-Szenarien und -Lösungen du von Anfang an einbeziehst, desto sicherer wird deine KI sein, sowohl für dich als auch für Kund:innen. Verschiedene Eventualitäten mitzudenken, bevor du die KI implementierst, hilft auch dabei, eine nachhaltige Lösung aufzusetzen, die nicht nach einem Jahr generalüberholt werden muss. 

All das liegt aber nicht nur auf den Schultern deines Unternehmens. Wenn du keine eigene KI-Lösung baust, sondern die eines Technologieanbieters verwendest, kommt es hier insbesondere darauf an, ob der Anbieter mit seinem Tool diese Szenarien abdecken kann. 

KI-Lösungen von erfahrenen Anbietern wie etwa Sinch Engage bringen all das mit. Damit können Unternehmen aller Größen mit einer effektiven und vor allem sicheren KI in der Kundenkommunikation durchstarten. 

---