Es war einmal … vom Märchen der künstlichen Intelligenz und Übergriffigkeit moderner Konzerne

Von Frederik D. Tunnat

Es war einmal. So beginnen zahlreiche Märchen. Das war einmal … Heute haben Märchen ausgedient. Reality ist angesagt, knallharte Realität. Und die umfasst künstliche Intelligenz und jede Menge Werbung. Werbung ist dabei, jeden Bereich unseres Lebens maximal ungemütlich zu gestalten. Vor wenigen Tagen rauschte es durch den sozialmedialen Blätterwald: BMW hatte seinen Kunden, den Nutzern seiner Autos, unaufgefordert, penetrant und nahezu nicht abstell- und ausblendbar einen Werbetrailer ihres neuen Werbepartners Marvel über dessen jüngsten Film visuell und akustisch um die Ohren gehauen.

Firmen wie BMW, angeblich Hersteller von überwiegend Oberklasse-Autos, sind aktiv dabei, die Toleranzgrenzen ihrer betuchten Kundschaft maximal auszutesten. Es ist erst einige Wochen oder Monate her, da sahen plötzlich die Käufer von Premium BMWs, also Autos jenseits der 100.000 Euro Kaufpreisgrenze, plötzlich eine elektrisierende Nachricht auf ihren groß dimensionierten Touchscreens im Auto: „Sofern sie wünschen, ihre eingebaute Sitzheizung, für die sie ungefähr 1500 – 2500 Euro bezahlt haben, weiter nutzen möchten, schließen Sie bitte ein Sitzheizungsabo in Höhe von 18 Euro pro Monat ab. Dann wird ihnen ihre Sitzheizung wie gewohnt auch im nächsten Winter den Po wärmen. Ihre BMW“.

Nachdem dieser Test wegen des massiven weltweiten Protests der Premiumkunden, die sich zu recht verarscht vorkamen, für etwas, für dass sie beim Kauf hunderte Euros auf den Tisch geblättert hatten, nun zusätzlich als Geiseln des autointernen KI-Systems permanent zur Kasse gebeten zu werden, abgeblasen und die unverschämte Abogebühr zurückgenommen werden musste, da BMW Kunden damit drohten den Kauf von künftigen BMWs einzustellen, nun also der zweite, nicht weniger unerfreuliche Versuch, die eigenen Kunden zu monetarisieren, dieses Mal nicht mit einer unverschämten Abogebühr, sondern mit einer aufgezwungenen, nervigen Werbung. Auch dieser Test ging voll in die Hose. Genervte und erzürnte BMW Kunden tauschten sich in den sozialen Medien negativ und deutlich indigniert darüber aus, was BMW hier mit ihnen abzog. Die Sache ist noch längst nicht ausgestanden. Ob BMW wie bei den Abogebühren zurückzuckt, oder ob der Drang auf permanente auf Kosten der Nerven der Kunden generierter Werbeeinnahmen die Oberhand gewinnt ist noch nicht entschieden. Ich vermute der Ruf der schnellen Zusatzeinnahme ist zu verführerisch, um auf Dauer zu widerstehen.

BMW ist auf dem ausufernden, exzessiv und penetrant angewendeten Werbemarkt beileibe nicht das einzige Unternehmen, das im Sinne der Profitsteigerung für seine Besitzer und Anteilseigner nach immer neuen Einnahmequellen fahndet. Ich dachte, mich tritt ein Pferd, als ich nach dem jüngsten Update der Amazon App, die ich bisher genutzt habe, meine Bestellungen aufzugeben und zu überwachen, ich plötzlich mit einer wahren Flut von nicht abzustellenden Werbeclips, also kurzen Werbesequenzen für jede Menge blödsinnigster chinesischer Trashprodukte überfallen wurde. Nachdem ich sämtliche Einstellungen überprüft hatte, fand sich keine Möglichkeit, diese neue Form, mich für die Tatsache, Geld bei Amazon für Produkte auszugeben nun mit unaufgeforderter Werbung der übelsten Qualität zu bestrafen. Meine Reaktion erfolgte prompt: Ich löschte die App und werde, sofern ich überhaupt noch bei Amazon ordere, Bestellungen nur via PC aufgeben, dessen Browser dank noch funktionaler Werbefilter diese unerträgliche Belästigung zuverlässig filtert und meinen Augen und Ohren diese aufgezwungenen Beleidigungen meines Intellekts erspart. Sollte auch dies irgendwann technisch überwunden werden, war‘s das für mich. Dann ist Amazon Geschichte.

Ich hoffe, dass sehr viele Kunden von Amazon meinem Beispiel folgen und das Einzige tun, das dem übergriffigen Techkonzern ernsthaft weh tut: Bestellboykott, solange wir doppelt und dreifach gemolken werden sollen.

Kürzlich erst hatte ich mich durch eine einen entsprechenden Werbehinweis verleiten lassen, Amazon Premium auszuprobieren. Da ich ohnehin des Streamingangebots von Disney und Netflix überdrüssig war, sagte ich mir, okay, probier Prime aus, da sind die Videos im Preis enthalten, sodass ich prüfen kann, ob es sich lohnt ab und an ein Video anzuschauen. Man kann sich meine Überraschung, die schnell in Wut überging vorstellen, als ich bemerkte, dass Amazon sich nicht bloß seine Videos über die monatliche Gebühr bezahlen lässt, sondern nun die Hand doppelt aufhält, um einen zweiten monatlichen Obolus zu erheben, um nicht permanent und penetrant mit Werbung während des Betrachtens eines Videos belästigt zu werden. Die Werbung und deren Umfang ist derart massiv und penetrant, dass man gar nicht umhin kann, die Antiwerbegebühr zu bezahlen, um wenigstens in Ruhe seine Videos anschauen zu können. Nachdem mir das klar geworden war, kündigte ich umgehend das Probeabo sowie die damit verbundene Antiwerbegebühr.

Doch die für das Ausspielen der Werbung genutzte KI Software ist nur die kleinste Spitze des mit Gewalt auf uns zukommenden KI Booms. KI ist ja inzwischen bereits fast überall vorhanden. Obwohl KI munter Menschen feuert um angeblich deren Platz besser und kostengünstiger einzunehmen, zeigt sich immer öfter, welches Desaster und Chaos damit einhergeht. Erst kürzlich musste beispielsweise die Ford Motor Company, nachdem ihre KI tausende Ingenieure gefeuert hatte, erkennen, dass die KI absolut nicht in der Lage war, die menschliche Arbeit adäquat zu ersetzen. Also erhielten einige zehntausend gefeuerte Ingenieure von ihrem Ex-Arbeitgeber urplötzlich, so wie Monate zuvor die Kündigung, nun erneut ein Jobangebot für ihren alten, wegrationalisierten Arbeit, da Kollege KI gefeuert wurde, weil er mit der komplexen Aufgabe der Ingenieure massiv überfordert war.

Es war einmal … die illusorische Vorstellung, bescheuerte Soft- und Hardware, künstliche Intelligenz genannt, könne jeden Arbeitsplatz übernehmen, jeden Menschen ersetzen und dessen Arbeit billiger und ebenso gut erledigen. Das hat sich als Märchen erwiesen, zumindest bisher für Ford und dessen Auto-Ingenieure.

Das ficht jedoch die großen Techunternehmen und viele Branchen im Dienstleistungssektor nicht an, exzessiv und immer stärker auf die unzuverlässige, fehleranfällige und gefährliche künstliche Intelligenz zu setzen. Was uns Kunden heutzutage in den stets endloser werdenden Telefonschlangen des unverschämterweise Kundenservice genannten Chaos zugemutet wird, ist längst nicht mehr zu überbieten.

Ich mache aktuell eine Erfahrung, die in absehbarer Zeit auf Sie alle, liebe Leser dieses Artikels zukommen wird, früher oder später. Aus scheinbar völlig heiterem Himmel wurde mir mein Konto gekündigt und die Kreditkarte gesperrt. Dank KI. Und die Banken sind inzwischen derart arrogant, dass sie den manuellen, menschlichen Gegencheck völlig eliminiert haben. Gebe es noch so etwas wie menschliche Kontrolle, hätten die internen Alarmglocken schrillen müssen, wenn einem langjährigen Kunden plötzlich durch einen Algorithmus der sog. KI, die genauso doof und unflexibel ist wie es ihre Programmierer zulassen, eine solche, unter Umständen existenzbedrohende Entscheidung fällt, ohne sich mit dem Hintergrund des Kunden und den langjährigen Daten der Kundenhistorie zu befassen.

Was war passiert? Ich war im Urlaub, in Schweden. Ein Land, dass seine Digitalisierung auf die absolut mögliche Spitze getrieben hat. Im Land existieren zu 98% nur noch automatisierte Tankstellen. Jede Zapfsäule ist mit einem Terminal verknüpft, dass die Zahlung per Kreditkarte in Echtzeit vornimmt und überwacht. Obwohl Schweden viele Touristen anzieht, genehmigt sich das Land fast flächendeckend Terminals, die ausschließlich auf Schwedisch kommunizieren. Jede Firma, die Benzin anbietet, nutzt ein eigenes System. Es ist also für einen Touristen nicht einfach, mit den Tankautomaten umzugehen, da jedes Bediensystem jeder Firma anders aussieht und einer anderen Logik folgt. Infolgedessen geriet ich an ein System, dass nur versteckt, für mich nicht erkennbar, neben Schwedisch auch englische Benutzerführung anbietet. Also nutzte ich das System auf dem mir nicht mächtigen Schwedisch. Zwar gelang es mir zu tanken, doch war es mir wegen der Sprachschwierigkeiten nicht möglich, eine Quittung zu bekommen. (Dazu muss man nämlich erstens bestimmte Tasten pressen und außerdem nochmals die Kreditkarte einschieben.) Ohne Quittung kann man jedoch schlecht bis gar nicht reklamieren oder einen Sachverhalt beweisen.

In der Ferienwohnung angekommen zeigte mir meine Banking-App an, dass 1800 SEK abgebucht worden waren, obwohl ich nur Benzin für 800 SEK getankt hatte. Ohne Beleg war ich also in einer schlechten Position. Dennoch sah ich nicht ein, 1000 SEK, also ca. 90 Euro für etwas zu bezahlen, dass ich gar nicht abgenommen hatte. Also suchte ich im Internet nach der Kundenhotline der Tankfirma, um mich zu beschweren und das zu viel bezahlte Geld zurückzufordern, trotz fehlendem Tankbeleg. Das sollte sich als folgenreicher Fehler erweisen.

Zur Information der Leser: was mir zu diesem Zeitpunkt nicht klar war: schwedische Tankautomaten buchen generell bei jedem Tankvorgang, völlig unabhängig davon wie viel oder wenig Benzin man tankt, 1800 – 2000 SEK ab. Im Lauf des Tages, nach einigen Stunden, macht sich eine andere KI-Software daran, die Daten abzugleichen und korrigiert den tatsächlichen Betrag gegenüber der zunächst einbehaltenen Summe. Wäre mir das bekannt gewesen, hätte ich einfach die 5-6 Stunden abgewartet. Da ich jedoch das Gefühl hatte, mir sein vom Tanknachbarn, der zeitgleich an der Nebensäule tanke durch das System und einen Fehler dessen Tankrechnung in Höhen von 1800 SEK statt meiner 800 SEK verbucht worden, informierte ich die Hotline über den vermeintlichen Fehler.

In Schweden bekommt man fast nirgends einen Menschen ans Telefon. Alles läuft via KI gesteuerter Telefon-Software. Erst wenn man diverse Schleifen durchlaufen hat, kann man, wenn man weiß wie, tatsächlich noch Menschen erreichen. Doch auch das war mir zu dem Zeitpunkt unbekannt. Also gab ich mich, nachdem ich telefonisch nichts ausrichten konnte, mit dem angebotenen Online-Formular zufrieden. Ich schilderte den Vorgang auf Englisch und wartete. Da nach den besagten 5-6 Stunden automatisch die Korrektur des Kreditkartenbetrags erfolgte, nahm ich an, dies sei auf meine schriftliche Intervention zurückzuführen, und der Vorgang war für mich erledigt. Doch meine schriftliche Eingabe setzte eine Entwicklung in Gang, über die ich nie informiert wurde, noch je ein menschliches Wesen nachfragte.

Wegen der nicht vorhandenen Quittung hatte ich die automatische Tankstation beschrieben, meine benutzte Zapfsäule und den getankten Betrag erwähnt. Da ich gesehen hatte, dass die Station videoüberwacht war, wies ich in der Annahme, mein Tankbetrag sei durch das System mit dem des anderen Tankenden verwechselt worden, darauf hin, dass dieser eventuell auf meine Kreditkarte getankt habe. Sie könnten ihn anhand seines Nummernschilds sicher problemlos identifizieren. Das war mein Todesurteil. Statt dass irgendein menschliches Wesen sich mit dem Vorgang befasste, war die allmächtige KI am Werk. Die las aus den Informationen so etwas wie gemeldeten Tankbetrug heraus, aber statt zu kapieren, dass der von mir als zu hoch abgebuchte Betrag dem generellen Sicherungsbetrag entsprach, entschied die KI sie müsse Kreditkarten sperren. Ohne mich zu informieren wurde meine Kreditkarte und vermutlich auch die des anderen Tankenden gesperrt. In Unkenntnis dieser Sperrung – die grundlos erfolgte – wollte ich einige Tage später wieder tanken. Da trotz korrekter Eingaben ich nicht tanken konnte, das System aber auch keinerlei Meldung anzeigte, versuchte ich, in der Annahme ich hätte eventuell eine Ziffer der Pin falsch eingegeben, es ein zweites Mal. Obwohl ich kein Benzin erhielt, weil die Karte gesperrt war, buchte das bescheuerte KI System beide Male 1800 SEK von meinem Konto ab. Das war nun der Moment, in dem die deutsche KI meiner Bank ansprang und das Gefühl hatte, da versucht jemand mit falscher Pin die Kreditkarte zu nutzen, also wurde die Karte nun komplett gesperrt und nicht nur das, auch gleich mein kompletter Bankzugang.

Das stellte ich zurück in der Ferienwohnung am PC fest, als ich nachsehen wollte, ob wieder Geld abgebucht worden war, obwohl ich nicht tanken konnte. Ich hatte plötzlich keinen Zugang mehr im Onlinebanking. Mit einigem Aufwand gelang es mir schließlich, nachdem ich meine Identität nachgewiesen hatte, wieder Zugriff auf mein Konto zu erhalten. Damit war auch die deutsche Kartensperre aufgehoben. Zu diesem Zeitpunkt war mir aber noch nicht klar, dass das schwedische Tanksystem meine Kreditkarte als verdächtig gesperrt hatte. Als ich erneut tanken wollte, schließlich hatte ich ja beim letzten Versuch kein Benzin erhalten, bekam ich erneut wegen der mir gegenüber nicht kommunizierten Sperre erneut kein Benzin. Doch die KI der Kreditkartenfirma sprang erneut an und damit setzte etwas ein, dass dann zwei Tage später dazu führte, dass mit die Bank mitteilte, sie kündige mein Konto, meine Kreditkarte sei gesperrt. Ich könne keine Einzahlungen oder Überweisungen mehr vornehmen und sollte ich nicht bis dann und dann mein Konto freiwillig aufgelöst und mein Geld transferiert haben – ziemlich einfach möglich, wenn man keine Transaktionen mehr vornehmen kann – dann würden sie das Geld auf ein zu benennendes Konto transferieren.

Auch meine ausschließlich online tätige Bank nutzt für so banale Aktionen wie die Kündigung des Kontos eines mehrjährigen Kunden keinen einzigen Menschen, der nochmals über den von der KI eigenständig ausgelösten Vorgang. Das passt natürlich extrem gut. Im Urlaub, wo man auf Onlinebanking und eine Kreditkarte, zumal in einem Land wie Schweden, wo man nahezu nirgends ohne Kreditkarte einkaufen und bezahlen kann. Sämtliche Unterlagen Zuhause, denn wer schleppt seine gesamten Leitzordner mit Bankunterlagen in jedem Urlaub mit sich herum?

Meine Online Bank, es ist die Trade Republic, ist natürlich nicht erreichbar, bzw. der beschissene Chat, den sie anbietet und den deutlich überforderte Telefonmitarbeiter irgendwo im tiefsten Asien ausführen, des Deutschen und Englischen nur rudimentär und mit starkem Akzent mächtig, sind völlig überfordert, weil das in ihren Scripten gar nicht vorgesehen ist.

Es war einmal … das wundervolle Märchen von einer Software, die möglichst viele Menschen überflüssig macht und für die Formen angeblich weit kostengünstiger arbeitet, aber Kunden wie eine x-beliebige Nummer behandelt und sieht, keinerlei Emotionen, aber eben auch nicht den Hauch von menschlicher Intuition besitzt. Ein langjähriger Bankmitarbeiter hätte bei einem Blick auf mein Konto, die Historie, der Tatsache, dass es sich um einen Rentner handelt, der immer tadellos gehandelt hat, also kein Trick- oder Tankbetrüger, vermutlich erst mal nachgehakt, bevor er eine Kündigung veranlasst hätte. Dass die KI noch nicht einmal einen Blick in meinen Schufa Eintrag geworfen hat, der meine lebenslange tadellose Kontoführung bei mehreren Banken mit einem sehr hohen Score belegt, ist schon heftig, beweist aber, wie schlampig die jungen Programmierer, die den Softwarecode programmieren und zusammenstellen agieren und über wie wenig echte Lebenserfahrung sie verfügen, um eine Plausibilitätsprüfung vor so einem Schritt einzubauen, statt eine emotionslose KI eine solche Entscheidung treffen zu lassen.

Nun denn, das war es natürlich für mich. Ich denke gar nicht daran, zu versuchen, bei so einer mies geführten Bank, die ausschließlich auf KI setzt, länger zu bleiben. Aber ich werde den Vorgang selbstverständlich nicht auf sich beruhen lassen, sondern werde ihn, wie mittels dieses Artikels, in die Öffentlichkeit tragen und werde dafür sorgen, dass das Ganze ein Nachspiel hat. Obwohl die Bankenaufsicht, wenn ich sie bisher einschalten musste, sich nie mit Ruhm bekleckert hat, sprich wenig bis nichts von dem tatsächlich bewirkt und tut, was sie vollmundig den Bankkunden verspricht.