Das vielen bekannte aber in der Konsequenz geringe Übel ist die Löschung von Postings in den Sozialen Medien. Diese Löschungen passieren meistens nicht durch einen Menschen, sondern eine Maschine. In ihrer einfachsten Ausführung sind entsprechende Wortfilter zur Überprüfung der Texte eingesetzt oder es kommen auf den Plattformen KI-Systeme mit recht komplexen Algorithmen zum Einsatz. Ein gelöschtes Posting ist keine Herausforderung. Aber: Was ist, wenn ein Algorithmus über die Existenz eurer Firma entscheidet?

Die Realität: Immer mehr KI-Systeme im Einsatz

Egal welche der großen Plattformen ihr nutzt, Facebook, Instagram, TikTok, eBay oder eben Amazon, ihr werdet überall mit einer Vielzahl automatischer Entscheidungsproramme in Berührung kommen. Meistens funktionieren sie sehr gut. Ihre Entscheidungen sind richtig und nachvollziehbar. Und wenn mal eine falsch sein sollte, sind die Konsequenzen selten bedrohlich. Das bedeutet, die Algorithmen funktionieren gut und sorgen für eine hohe Zufriedenheit der Nutzer.

Mit immer schneller werdenden Datenwegen und leistungsfähigeren Rechnern kommen aber immer mehr KI-Systeme zum Einsatz. Eine Entwicklung, die rasant fortschreitet und die wir nicht aufhalten können. grundsätzlich ein technologischer Fortschritt, der hilfreich ist und den wir begrüßen sollten. Nur, da gibt es ein ganz großes >Aber<!

Was ist, wenn eine KI-Entscheidung falsch ist?

Dann stehen wir im Regen. So deutlich darf es geschrieben werden, denn – egal ob Facebook uns daraufhin einschränkt oder unser Werbekonto kündigt -, wir können uns kaum dagegen wehren. Eine Plattform wie Facebook kennt zwar Wege, die ihr beschreiten könnt, um euch zu wehren, sie sind aber selten erfolgreich.

Noch schlimmer sind algorithmische Fehlentscheidungen auf Handelsplattformen. Eine Suspendierung des Accounts hat einen sofortigen Stopp der Handelsaktivitäten zur Folge. Kein Umsatz, kein Ertrag, kein Geld, um Mitarbeiter, Mieten etc. zu bezahlen.

Algorithmische Fehlentscheidungen sind dramatisch. Schutz davor gibt es kaum.

Händler, die von solchen Fehlentscheidungen betroffen sind, werden zu unrecht bestraft, eingeschränkt und von ihrer Geschäftstätigkeit ausgeschlossen. Sie sind Opfer falscher algorithmischer Fehlentscheidungen. Wir kennen hierfür den Begriff “Kollateralschaden”. Es sollte anzunehmen sein, dass alle Marktplätze und Plattformen – Amazon ganz vorne – sehr bemüht sind, solche Schäden zu vermeiden bzw. – wenn sie passiert sind – schnell zu korrigieren. Nur leider ist diese These falsch. Amazon kennt kaum ein effektives Instrument, welches der Seller nutzen kann, um sich im Falle eines Systemfehlers dagegen zu wehren. In den Popo seid ihr gekniffen. Fazit: Es gibt keinen wirksamen Schutz vor den teilweise krude anmutenden KI-Entscheidungen.

Ein Schutz muss her

Objektiv betrachtet muss der Schutz völlig Unbeteiligter gewährleistet sein. Ihr Geschäft darf nicht durch algorithmische Fehlentscheidungen beeinträchtigt werden. Aufgabe von Amazon – und natürlich auch allen anderen Betreibern – sollte es sein, alles zu tun, um das auch sicherzustellen. Leider ist dem nicht so. Das muss sich ändern. Wenn Algorithmische Fehlentscheidungen auf Dritte wirken, dann muss auch gleichzeitig ein effektiver Schutz vor diesen durch die Plattformen sichergestellt sein. Das geht zum Beispiel, idem die Marktplätze hierfür Länderteams einrichten, welche sich die Cases manuell anschauen.

Und wenn nichts geht, dann muss es die Politik richten

Wer billigend Händlerschäden in Kauf nimmt, der missbraucht seine Marktstellung und sorgt für ein Ungleichgewicht. Das sollte die entsprechenden europäischen und deutschen Behörden auf den Plan rufen. Ein aufgrund algorithmischer Fehlentscheidungen geschädigter Händler gehört nicht nur in den >alten Stand<, rehabilitiert versetzt, er gehört auch entschädigt. Diese Forderung gehört politisch formuliert!

Wie oft passieren solche Algorithmusfehler?

Eine Studie gibt es leider nicht. Daher findet ihr hier den Link zu einer Umfrage. Bitte macht diese mit. Sie ist enorm wichtig, um aufzuzeigen, vor welchen Herausforderungen ihr steht und wie dringlich eine Lösung zu schaffen ist.

Als kleinen Reminder ein Case von dem viele betroffen waren: das Amazon >Used as New<-Problem. Ein Kunde kauft bei euch und er behauptet, die Ware sei als “gebraucht” versendet worden. Ihr müsst nun die Rückversandkosten und den Kaufpreis erstatten. Dagegen wehren könnt ihr euch nur semi-erfolgreich. Diese Entscheidungen werden automatisch durch ein automatisches Entscheidungsprogramm getroffen. Wie oft ward ihr davon betroffen?