Xbox: Microsoft-Chatbot gibt User medizinische Ratschläge statt Infos zum Game Pass
Ein Xbox-Nutzer wollte Hilfe zum Game Pass und bekam ungefragt doch nur medizinische Ratschläge.
KI-gestützter Kundenservice ist - für viele Nutzer zum Graus - längst Alltag, so auch bei Microsoft. Doch ein kürzlich dokumentierter Schlagabtausch mit dem Xbox-Support zeigt auf, wie schnell automatisierte KI-Systeme die Kontrolle verlieren können. Ein Nutzer, der lediglich Fragen zu seinem Game-Pass-Abonnement klären wollte, erhielt plötzlich irgendwelche medizinische Ratschläge.
Der Vorfall ereignete sich auf der offiziellen Xbox-Support-Webseite. Der Nutzer stellte auf Italienisch eine Anfrage zu Xbox Game Pass Ultimate und möglichen Aktionen. Zunächst reagierte der virtuelle Support-Agent erwartungsgemäß mit allgemeinen Informationen zu Microsoft Rewards und aktuellen Angeboten. Problematisch wurde es aber, als der Nutzer nachfragte, ob er mit einer KI oder einem echten Menschen chatte.
KI gibt sich als Mensch aus und verliert den Überblick
Die Antwort des Systems lautete: "Ich bin Sneha vom Xbox-Support". Die Verwendung des menschlich klingenden Namens ist bei KI-Chatbots natürlich keine Seltenheit - soll es schließlich den Eindruck verstärken, mit einer realen Person zu sprechen. Als der Nutzer aber anschließend auf seine Verbraucherrechte verwies und um Weiterleitung an einen menschlichen Mitarbeiter bat, eskalierte die Situation ins Kuriose: Der Support-Agent antwortete, er werde "mit den Streptokokken helfen".
Der medizinische Bezug ist in diesem Kontext völlig an den Haaren herbeigezogen. Streptokokken-Bakterien sind ein Thema ohne jeden Bezug zu Gaming oder gar dem Game-Pass-Abo. Ganz klar: Hierbei handelte es sich um eine KI-Halluzination, bei der das System erfundene Inhalte generiert. Microsoft selbst beschreibt den Xbox (jetzt kaufen ) Support Virtual Agent in seinen FAQ als KI-gestütztes Tool zur Bearbeitung häufiger Anfragen. Kritisch ist jedoch, dass Nutzer im Gespräch nicht eindeutig darauf hingewiesen werden, ausschließlich mit einer KI zu interagieren.
Sollten Unternehmen vielleicht verpflichtet sein, KI im Kundenservice klarer zu kennzeichnen? Nutzt gerne die angebotene Kommentarfunktion und teilt uns eure Meinung zum Thema mit. Beachtet beim Kommentieren aber bitte die Forenregeln und die allgemeine Netiquette im Internet. Solltet ihr noch keinen Account haben, könnt ihr über eine Registrierung nachdenken, die viele Vorteile mit sich bringt. Unsere Video-Inhalte findet ihr bei Youtube, Instagram und Tiktok.
Quelle: Jake Bishop auf Clawsomegamer.com
Aber immerhin bekommt man nun bei MS verkehrte medizinische Hinweise für lau.
Ich habe KIs schon verschiedentlich eingesetzt, primär als "bessere Suchmaschine", gerade wenn ich mich in was neuen einarbeitete, und da schlug sie locker alles was es bisher gab, inklusive Beispiele, in der Umsetzung dann begleitend auf den konkreten Anwendungszweck, und und und. Natürlich - und das ist immer entscheidend- mit kritischen Hinterfragen (immer lustig, wenn sie sich anfängt selbst zu widersprechen.. weniger lustig, wenn sie subtile Fehler macht) und mit Blick auf entsprechende Primärquellen.
Wie für alle anderen Sachen gilt: Der Umgang will gelernt sein.
Aber trotzdem.. was da an Zeitersparnis drin war.. wirklich beeindruckend.
Aber immerhin bekommt man nun bei MS verkehrte medizinische Hinweise für lau.
Es ist einfach anstrengend, endlos schleifen zu drehen und nachher immer noch nicht die Info zu haben, welche man wollte.
In anderen Bereichen (Analyse z. B.) ist sie durchaus (sehr) hilfreich. Aber meiner Meinung nach kann sie keine menschliche Interaktion ersetzen.