Vier KI-Bedrohungen stuft Gartner derzeit als so gefährlich ein, dass Angreifer klar im Vorteil liegen – und sie treffen den Onlinehandel an empfindlichen Stellen. Deepfakes, kompromittierte KI-Anwendungen, Prompt Injection und Angriffe auf die Software-Lieferkette stehen ganz oben auf der Liste. Vorgestellt hat das Marktforschungsunternehmen die Einschätzung auf seinem Security & Risk Management Summit, wie it-daily berichtet . Generative KI verschärft jede dieser Gefahren, statt sie zu entschärfen. Wer einen Shop betreibt, KI-Tools einsetzt oder Plugins installiert, sitzt mittendrin.
Inhaltsverzeichnis
Fasse den Artikel im Bullet-Stil zusammen.
Gartner zieht eine Matrix – und Händler stehen auf der falschen Seite
Gartner ordnet die vier Gefahren in einer Matrix namens „ThreatScape“ ein. Die eine Achse misst, wie viele belastbare Informationen zu einer Bedrohung vorliegen. Die andere zeigt, wie gut Organisationen sie mit eigenen Mitteln abwehren können. Bei allen vier Themen landen die Angreifer im Vorteil, und genau deshalb stuft Gartner sie als kritisch ein.
Ausgerechnet die Sicherheitsinitiativen der großen KI-Anbieter sorgen dabei für zusätzliches Durcheinander. Analyst John Watts spricht von erheblichem Rauschen in einer ohnehin lauten Bedrohungslandschaft. Sicherheitsverantwortliche müssten erst das Signal im Rauschen finden, bevor sie reagieren können. Für kleine Händlerteams ohne eigene Security-Abteilung wird das schnell zur Geduldsprobe.
Die Stimme im Telefon gehört nicht deinem Lieferanten
Generative KI hat Menge, Qualität und Verfügbarkeit von Deepfakes bei Stimme, Video und Bild stark erhöht. Die Fälschungen entstehen vorproduziert oder in Echtzeit. Angreifer hebeln damit biometrische Logins aus, führen Social-Engineering-Angriffe live durch und schleusen sich sogar in Bewerbungsgespräche ein. Watts nennt den Einsatz von Deepfakes „inzwischen alltäglich“, weil sich Betrug und Phishing damit kaum noch erkennen lassen.
Der gefälschte Anruf eines „Lieferanten“ mit geänderter Bankverbindung, das manipulierte Video im Vorstellungsgespräch, der täuschend echte Support-Betrug: All das wird billiger und schneller. Eine einzelne Schutzmaßnahme genügt laut Gartner nicht. Watts betont, es gebe keine einzelne Kontrolle, die schützt. Stattdessen brauche es ein Bündel aus gehärteten Abläufen bei Zahlungs- und Stammdatenänderungen, geschulten Mitarbeitern und Erkennungstechnik, sobald sie verfügbar ist.
Dein Shop-Bot wird zur offenen Tür
Mit jeder neuen KI-Anwendung wächst die Angriffsfläche. Betroffen sind längst nicht mehr nur öffentlich erreichbare Dienste. Auch intern gebaute Agenten, Drittanbieter-Integrationen und Tools für die eigene Belegschaft stehen im Visier. Bei schwachen Kontrollen liegen sensible Daten und Zugangsdaten offen.
Watts rät, die Sicherheitsprogramme über den klassischen Softwareschutz hinaus zu erweitern. Gartner empfiehlt dafür sein Framework „TRiSM“ (Trust, Risk and Security Management): einen sicheren Entwicklungszyklus samt Bedrohungsmodellierung auch für KI-Anwendungen, eine bessere Datenklassifizierung, eine zweckgebundene Zugriffssteuerung (PBAC) und die Überwachung des Laufzeitverhaltens. Wer den Chatbot im Shop oder einen KI-Agenten für die Bestellabwicklung einsetzt, sollte deshalb genau wissen, worauf der Agent zugreifen darf.
Drei manipulierte Sätze, und die KI plaudert alles aus
Als vierte Gefahr nennt Gartner Prompt Injection – Angriffe, die direkt auf Systeme mit großen Sprachmodellen (LLMs) zielen. Über manipulierte Eingaben lassen sich Modelle dazu bringen, vertrauliche Informationen preiszugeben, unautorisierte Aktionen auszuführen oder Schutzmechanismen zu umgehen. Je mehr KI im Shop steckt, desto größer wird dieses Risiko.
Gartner empfiehlt eine mehrstufige Abwehr. Eingaben sollen validiert und bereinigt werden, damit schädliche Prompts gar nicht erst durchkommen. Auffälliges Verhalten der KI muss überwacht und gemeldet werden, weil es auf eine erfolgreiche Injection hindeuten kann. Tests auf Prompt Injection gehören außerdem fest in den Entwicklungszyklus, und ihre Ergebnisse fließen in bessere Laufzeitkontrollen.
Das Plugin, das du nie geprüft hast
Angriffe über die Software-Lieferkette nehmen zu, und GenAI beschleunigt den Trend zusätzlich. Schwachstellen in Open-Source-Komponenten sind dabei das Einfallstor. Watts erwartet, dass die Entwicklung der GenAI-Angebote diesen Trend weiter antreibt, sobald mehr fremder Code im Umlauf ist.
Gartner rät zu vertrauenswürdigen Komponenten-Registries, gehärteten CI/CD-Pipelines und schneller Anomalie-Erkennung. Konkret heißt das: von allen Anbietern Stücklisten als SBOMs und AIBOMs verlangen und jede Komponente vor dem Einsatz gegen aktuelle Bedrohungsdaten prüfen. Drittanbieter-Code, Container-Images und KI-Modelle sollten nur aus kuratierten Quellen stammen. Für Shopbetreiber mit Dutzenden Plugins aus den App-Stores ist das ein unbequemer, aber notwendiger Maßstab.
Sicherheit ist kein Plugin, das man nachrüstet
Die vier KI-Bedrohungen eint ein Muster: Generative KI senkt die Kosten des Angriffs und erhöht das Tempo. Verteidiger reagieren langsamer, weil ihnen belastbare Informationen fehlen und die Abwehr teuer ist. Gartner sieht hier aber bereits Startups mit passenden Werkzeugen am Markt, und der Aufbau müsse nicht bei null beginnen.
Onlinehändler tragen das Risiko doppelt: als Betreiber eigener KI-Tools und als Kunden fremder Software. Wer Zahlungsfreigaben, Stammdatenänderungen und Plugin-Updates ohne zweite Kontrolle durchwinkt, macht es den Angreifern leicht. Die billigste Schutzmaßnahme bleibt deshalb das Misstrauen gegenüber dem, was zu einfach erscheint.
