Das vielen bekannte aber in der Konsequenz geringe Übel ist die Löschung von Postings in den Sozialen Medien. Diese Löschungen passieren meistens nicht durch einen Menschen, sondern eine Maschine. In ihrer einfachsten Ausführung sind entsprechende Wortfilter zur Überprüfung der Texte eingesetzt oder es kommen auf den Plattformen KI-Systeme mit recht komplexen Algorithmen zum Einsatz. Ein gelöschtes Posting ist keine Herausforderung. Aber: Was ist, wenn ein Algorithmus über die Existenz eurer Firma entscheidet?
Die Realität: Immer mehr KI-Systeme im Einsatz
Egal welche der großen Plattformen ihr nutzt, Facebook, Instagram, TikTok, eBay oder eben Amazon, ihr werdet überall mit einer Vielzahl automatischer Entscheidungsproramme in Berührung kommen. Meistens funktionieren sie sehr gut. Ihre Entscheidungen sind richtig und nachvollziehbar. Und wenn mal eine falsch sein sollte, sind die Konsequenzen selten bedrohlich. Das bedeutet, die Algorithmen funktionieren gut und sorgen für eine hohe Zufriedenheit der Nutzer.
Mit immer schneller werdenden Datenwegen und leistungsfähigeren Rechnern kommen aber immer mehr KI-Systeme zum Einsatz. Eine Entwicklung, die rasant fortschreitet und die wir nicht aufhalten können. grundsätzlich ein technologischer Fortschritt, der hilfreich ist und den wir begrüßen sollten. Nur, da gibt es ein ganz großes >Aber<!
Was ist, wenn eine KI-Entscheidung falsch ist?
Dann stehen wir im Regen. So deutlich darf es geschrieben werden, denn – egal ob Facebook uns daraufhin einschränkt oder unser Werbekonto kündigt -, wir können uns kaum dagegen wehren. Eine Plattform wie Facebook kennt zwar Wege, die ihr beschreiten könnt, um euch zu wehren, sie sind aber selten erfolgreich.
Noch schlimmer sind algorithmische Fehlentscheidungen auf Handelsplattformen. Eine Suspendierung des Accounts hat einen sofortigen Stopp der Handelsaktivitäten zur Folge. Kein Umsatz, kein Ertrag, kein Geld, um Mitarbeiter, Mieten etc. zu bezahlen.
Algorithmische Fehlentscheidungen sind dramatisch. Schutz davor gibt es kaum.
Händler, die von solchen Fehlentscheidungen betroffen sind, werden zu unrecht bestraft, eingeschränkt und von ihrer Geschäftstätigkeit ausgeschlossen. Sie sind Opfer falscher algorithmischer Fehlentscheidungen. Wir kennen hierfür den Begriff “Kollateralschaden”. Es sollte anzunehmen sein, dass alle Marktplätze und Plattformen – Amazon ganz vorne – sehr bemüht sind, solche Schäden zu vermeiden bzw. – wenn sie passiert sind – schnell zu korrigieren. Nur leider ist diese These falsch. Amazon kennt kaum ein effektives Instrument, welches der Seller nutzen kann, um sich im Falle eines Systemfehlers dagegen zu wehren. In den Popo seid ihr gekniffen. Fazit: Es gibt keinen wirksamen Schutz vor den teilweise krude anmutenden KI-Entscheidungen.
Ein Schutz muss her
Objektiv betrachtet muss der Schutz völlig Unbeteiligter gewährleistet sein. Ihr Geschäft darf nicht durch algorithmische Fehlentscheidungen beeinträchtigt werden. Aufgabe von Amazon – und natürlich auch allen anderen Betreibern – sollte es sein, alles zu tun, um das auch sicherzustellen. Leider ist dem nicht so. Das muss sich ändern. Wenn Algorithmische Fehlentscheidungen auf Dritte wirken, dann muss auch gleichzeitig ein effektiver Schutz vor diesen durch die Plattformen sichergestellt sein. Das geht zum Beispiel, idem die Marktplätze hierfür Länderteams einrichten, welche sich die Cases manuell anschauen.
Und wenn nichts geht, dann muss es die Politik richten
Wer billigend Händlerschäden in Kauf nimmt, der missbraucht seine Marktstellung und sorgt für ein Ungleichgewicht. Das sollte die entsprechenden europäischen und deutschen Behörden auf den Plan rufen. Ein aufgrund algorithmischer Fehlentscheidungen geschädigter Händler gehört nicht nur in den >alten Stand<, rehabilitiert versetzt, er gehört auch entschädigt. Diese Forderung gehört politisch formuliert!
Wie oft passieren solche Algorithmusfehler?
Eine Studie gibt es leider nicht. Daher findet ihr hier den Link zu einer Umfrage. Bitte macht diese mit. Sie ist enorm wichtig, um aufzuzeigen, vor welchen Herausforderungen ihr steht und wie dringlich eine Lösung zu schaffen ist.
Als kleinen Reminder ein Case von dem viele betroffen waren: das Amazon >Used as New<-Problem. Ein Kunde kauft bei euch und er behauptet, die Ware sei als “gebraucht” versendet worden. Ihr müsst nun die Rückversandkosten und den Kaufpreis erstatten. Dagegen wehren könnt ihr euch nur semi-erfolgreich. Diese Entscheidungen werden automatisch durch ein automatisches Entscheidungsprogramm getroffen. Wie oft ward ihr davon betroffen?
Da gehört schon lange eine gesetzlich vorgeschriebene Schlichtungsstelle bzw. eine Möglichkeit her, die Entscheidung zumindest durch den Marktplatz zu überschreiben. Laut einem Telefonat mit dem Customerservice von Amazon klagte die Mitarbeiterin, dass nicht nur die Händler mit den Algorithmen zu kämpfen haben, sondern auch die eigenen Mitarbeiter. Sie haben keine/begrenzte Möglichkeiten die Algo-Entscheidung zu überschreiben und selbst beim Anschreiben der Händler (in meinem Fall mit Nachname “Fuchs”) schlägt deren Algorithmus an und lässt die Mitarbeiterin keine Email verfassen, die den Name enthält, da eine gewisse Ähnlichkeit zu “Fuck” vorhanden ist.
Naja, so wirklich unerkannt und unerwähnt ist diese Gefahr ja nicht. Es werden Fehlentscheidungen in Kauf genommen, um Personal zu reduzieren und das vor der Tatsache, dass dieses Personal bereits in Ländern ist, in denen ein Bruchteil der Löhne im Vergleich zu uns gezahlt wird. Leider breitet sich diese Denke weiter und weiter aus – Banken, Versicherungen, Telekommunikation, Logistik, … . Jeder springt auf den Zug auf und solange die Mitbewerber ähnlich agieren, ist es auch kein Problem. Und die Kunden, Geschäftspartner, .. oder eben Nutzer von Amazon, Ebay und Co. akzeptieren das meist. Eine Rechnung, wie viel produktive Zeit ein wirklich mitdenkender Mitarbeiter allseits ersparen könnte, gibt es eher nicht.
Aber ich dürfte zu den älteren Personen gehören … .