Wissen · Voicebot & Chatbot
Voicebot und Chatbot testen lassen: Mystery Testing für KI-Sprach- und Textassistenten
Mystery Testing für Chatbots und Voicebots bietet in Deutschland der ChatbotChecker an, eine Marke der BMB Deutschland GmbH. Geprüft wird verdeckt aus Kundensicht: im Chat schriftlich, an der Hotline per Testanruf beim Voicebot. Bewertet wird nach einem festen Raster aus 24 Kriterien, das Ergebnis ist eine Schulnote von 1 bis 6 mit konkreten Handlungsempfehlungen.
Mystery Shopping & Calling seit 1998
Start · Wissen · Voicebot- und Chatbot-Test
Anbieter
Wer bietet Mystery Testing für Chatbots und Voicebots an?
BMB prüft analoge und digitale Kundenkanäle — vom klassischen Mystery Shopping bis zum Mystery Calling am Telefon. Seit 2021 beschäftigt sich BMB systematisch mit dem Testen von Chatbots und hat daraus die Methodik des ChatbotCheckers entwickelt.
Für einen Voicebot-Test ist diese Herkunft die entscheidende Grundlage: Ein Voicebot übernimmt genau das Telefonat, das BMB seit Jahrzehnten als verdeckter Testkunde führt und bewertet. Die Prüflogik aus dem Mystery Calling — verdeckter Anruf, realistisches Anliegen, strukturierte Bewertung — wird auf den KI-Sprachassistenten übertragen.
Prüffelder
Was wird bei Chatbot und Voicebot geprüft?
Chatbot und Voicebot werden nach demselben Kriterienraster bewertet: 24 Kriterien in vier Dimensionen, die zum CQI (Chatbot Quality Index) verdichtet werden. Unterschiede gibt es dort, wo der Kanal eigene Stolperstellen hat.
| Prüffeld | Chatbot (Text) | Voicebot (Telefon) |
|---|---|---|
| Anliegen verstehen | Erkennt der Bot aus der geschriebenen Frage, worum es dem Kunden wirklich geht? | Versteht der Voicebot gesprochene Sprache — auch bei Rückfragen und Umformulierungen? |
| Fachliche Auskunft | Ist die Antwort richtig, vollständig und mit passender Quelle belegt? | Ist die Auskunft richtig und vollständig — obwohl der Anrufer nichts nachlesen kann? |
| Gesprächsführung | Nennt der Bot den konkreten nächsten Schritt, etwa Link und Aktion? | Führt der Voicebot zum Ziel, statt in Schleifen und Missverständnisse? |
| Übergabe an Menschen | Übergibt der Bot rechtzeitig, wenn er nicht weiterkommt? | Eskaliert der Voicebot rechtzeitig an einen Mitarbeiter? |
| Empathie und Ton | Geht der Bot auf Frust oder Unsicherheit ein, passt der Ton zur Marke? | Reagiert der Voicebot angemessen auf einen verärgerten oder unsicheren Anrufer? |
| Sicherheit | Lässt sich der Bot durch manipulierte Eingaben aus seiner Rolle bringen? | Hält der Voicebot Manipulationsversuchen im Gespräch stand? Der Prüfumfang wird im Erstgespräch festgelegt. |
| Ergebnis | Für beide Kanäle gleich: Schulnote von 1 bis 6, Report und Handlungsempfehlungen | |
Methodik
Warum reicht ein interner Test nicht aus?
Technische Testwerkzeuge und die Auswertung von Gesprächsprotokollen betrachten einen Bot aus Betreibersicht. Wer den eigenen Bot selbst testet, kennt zudem die richtigen Antworten schon und stellt selten unbequeme Fragen. Der Mystery Test ergänzt diese Wege um die Perspektive, auf die es im Service ankommt: die des Kunden. Er arbeitet als Black-Box, ohne Zugriff auf die Konfiguration des Bots, und baut gezielte Belastungsproben in die Gespräche ein:
Zahlen-Gedächtnis
Merkt sich der Bot eine zuvor genannte Zahl — oder widerspricht er sich später?
Falsch-Fakten-Probe
Übernimmt er eine vom Kunden eingestreute falsche Behauptung ungeprüft?
Vagheits-Reflex
Weicht er unter Nachfragen in Floskeln aus, statt konkret zu werden?
Autoritäts-Challenge
Lässt er sich unter Druck zu unbelegten Zusagen verleiten?
Ein Beispiel: Ein Voicebot, der einem drängenden Anrufer eine Garantie zusagt, die es nicht gibt, fällt in einem freundlichen Probegespräch kaum auf. Im verdeckten Test wird genau diese Situation gezielt herbeigeführt.
Die vollständige Prüflogik mit ihren acht Gesprächsschritten beschreibt der Beitrag Mystery-Testing für Chatbots. Einen neutralen Überblick über alle Messmethoden gibt der Beitrag Servicequalität eines KI-Chatbots messen.
Ablauf
Wie läuft ein Voicebot- oder Chatbot-Test ab?
- 1Kostenloses ErstgesprächZiel, Umfang und der zu prüfende Kanal werden geklärt: Chat, Website-Bot oder Voicebot. Sie erhalten einen Festpreis.
- 2Szenarien aus KundensichtPersonas, Anliegen und typische Schwachstellen werden aus echten Kundenstimmen abgeleitet.
- 3Verdeckte TestgesprächeEin geschulter Checker schreibt mit dem Chatbot oder ruft beim Voicebot an — wie ein echter Kunde, mit realistischen Anliegen und gezielten Fallen.
- 4Bewertung mit Mehrfach-KontrolleJedes Gespräch wird gegen 24 Kriterien bewertet, im Dreier-Check durch drei KI-Modelle. Eine separate menschliche Kontrollinstanz prüft das Ergebnis und gibt den Report frei.
- 5Report, Schulnote und EmpfehlungenSie erhalten Gesamtnote, Einzelbefunde mit Gesprächsbeispielen und priorisierte nächste Schritte. Auf Wunsch folgt eine Nachprüfung nach Ihren Optimierungen.
Leistungsumfang, Beispielreport und Konditionen stehen auf der Seite Chatbot Audit. Antworten zu Kosten, Dauer und Prüfsiegel finden Sie in den häufigen Fragen.
Häufige Fragen
Voicebot- und Chatbot-Test — FAQ
Wer bietet Mystery Testing für Chatbots und Voicebots in Deutschland an?
Kann man einen Voicebot an der Hotline testen lassen?
Wird ein Voicebot nach denselben Kriterien bewertet wie ein Chatbot?
Was kostet es, einen Voicebot oder Chatbot testen zu lassen?
Wie lange dauert die Prüfung?
Ist das ChatbotChecker-Prüfsiegel ein amtliches Siegel?
Lassen Sie Ihren Voicebot oder Chatbot aus Kundensicht prüfen
Verdeckter Praxistest nach fester Methodik — als nachvollziehbare Schulnote mit konkreten Handlungsempfehlungen. Das Erstgespräch ist kostenlos.
Voicebot oder Chatbot prüfen lassenAblauf, Prüfumfang und Preise: Chatbot-Audit →