Xbox: Microsoft-Chatbot gibt User medizinische Ratschläge statt Infos zum Game Pass
News
Ein Xbox-Nutzer wollte Hilfe zum Game Pass und bekam ungefragt doch nur medizinische Ratschläge.
KI-gestützter Kundenservice ist - für viele Nutzer zum Graus - längst Alltag, so auch bei Microsoft. Doch ein kürzlich dokumentierter Schlagabtausch mit dem Xbox-Support zeigt auf, wie schnell automatisierte KI-Systeme die Kontrolle verlieren können. Ein Nutzer, der lediglich Fragen zu seinem Game-Pass-Abonnement klären wollte, erhielt plötzlich irgendwelche medizinische Ratschläge.
Der Vorfall ereignete sich auf der offiziellen Xbox-Support-Webseite. Der Nutzer stellte auf Italienisch eine Anfrage zu Xbox Game Pass Ultimate und möglichen Aktionen. Zunächst reagierte der virtuelle Support-Agent erwartungsgemäß mit allgemeinen Informationen zu Microsoft Rewards und aktuellen Angeboten. Problematisch wurde es aber, als der Nutzer nachfragte, ob er mit einer KI oder einem echten Menschen chatte.
KI gibt sich als Mensch aus und verliert den Überblick
Die Antwort des Systems lautete: "Ich bin Sneha vom Xbox-Support". Die Verwendung des menschlich klingenden Namens ist bei KI-Chatbots natürlich keine Seltenheit - soll es schließlich den Eindruck verstärken, mit einer realen Person zu sprechen. Als der Nutzer aber anschließend auf seine Verbraucherrechte verwies und um Weiterleitung an einen menschlichen Mitarbeiter bat, eskalierte die Situation ins Kuriose: Der Support-Agent antwortete, er werde "mit den Streptokokken helfen".
Der medizinische Bezug ist in diesem Kontext völlig an den Haaren herbeigezogen. Streptokokken-Bakterien sind ein Thema ohne jeden Bezug zu Gaming oder gar dem Game-Pass-Abo. Ganz klar: Hierbei handelte es sich um eine KI-Halluzination, bei der das System erfundene Inhalte generiert. Microsoft selbst beschreibt den Xbox (jetzt kaufen ) Support Virtual Agent in seinen FAQ als KI-gestütztes Tool zur Bearbeitung häufiger Anfragen. Kritisch ist jedoch, dass Nutzer im Gespräch nicht eindeutig darauf hingewiesen werden, ausschließlich mit einer KI zu interagieren.
Sollten Unternehmen vielleicht verpflichtet sein, KI im Kundenservice klarer zu kennzeichnen? Nutzt gerne die angebotene Kommentarfunktion und teilt uns eure Meinung zum Thema mit. Beachtet beim Kommentieren aber bitte die Forenregeln und die allgemeine Netiquette im Internet. Solltet ihr noch keinen Account haben, könnt ihr über eine Registrierung nachdenken, die viele Vorteile mit sich bringt. Unsere Video-Inhalte findet ihr bei Youtube, Instagram und Tiktok.
Quelle: Jake Bishop auf Clawsomegamer.com
