Fake News: Brüssel verbietet KI – Das EU KI-Gesetz und was jetzt für den E-Commerce gilt

Wäre dieser Text von einer KI geschrieben worden, müssten wir dich darauf hinweisen. Denn inhaltlich geht es um ein Thema von öffentlichem Interesse: den EU Artificial Intelligence Act, Artikel 50 (aus der EU-Verordnung 2024/1689), der als Gesetz am 02. August 2026 in Kraft tritt.

Aber während andere EU-Verordnungen wie die Pflicht für den Widerrufbutton, der Green Claims Act oder die neuen Garantie- und Gewährleistungslabel in den Medien eher eine Randnotiz sind, überschlagen sich die üblichen Verdächtigen zum AI-Gesetz förmlich mit Clickbaiting.

Solltest du also bereits über eine Headline der Form: „Zwang zur Kennzeichnung aller KI-Inhalte! Brüssel droht dem E-Commerce mit Millionenstrafen! BILD sprach als Erste mit Grok!“, gestolpert sein, vergiss den Kram ganz schnell. So schlimm wird es nicht – und wir klären dich nicht nur sachlich auf, was wirklich los ist, sondern zeigen dir auch, wie dein Store EU-AI-Act-compliant bleibt.

Der EU Artificial Intelligence Act, Artikel 50: Worum geht es?

Machen wir uns nichts vor: Die Einführung der künstlichen Intelligenz lief in etwa so ab, wie es bei jeder neuen Technologie der Fall ist. Die einen setzen sie als Werkzeug ein, das ihnen ihre ehrliche Arbeit erleichtert. Die anderen, für all das, was die Welt eigentlich nicht braucht: Trickbetrug in kleinem und großem Stil, Propaganda und Fake News, Sabotage und Datendiebstahl, massive Verletzung von Persönlichkeitsrechten…

Genau dem möchte die EU Einhalt gebieten und hat mit dem Artificial Intelligence Act das erste KI-Gesetz weltweit erlassen. Das Dokument ist massiv – mit 82.000 Wörtern hat es Romanlänge –, aber für den Onlinehandel ist vor allem ein Abschnitt wichtig: der Artikel 50.

Denn Artikel 50 beschäftigt sich mit der „Transparenzpflicht für Anbieter und Betreiber bestimmter KI-Systeme“: Menschen (und Maschinen) müssen ab dem 02. August 2026 (mit einer Übergangszeit bis zum 02. Dezember 2026 für bereits bestehenden Content) eindeutig darauf hingewiesen werden, wenn Inhalte wie Konversationen, Bilder, Texte, Videos oder Audio KI-generiert sind – allerdings nicht pauschal; dazu gleich mehr.

Zunächst sollten wir noch das hier klären:

EU-AI-Act: Warum ist auch der E-Commerce betroffen?

Vielleicht denkst du gerade: „Was hat das mit mir zu tun? Ich betreibe doch gar keine KI und heiße auch nicht Sam Altman“ – aber hier wird das neue Gesetz juristisch spitzfindig. Denn es besagt: Anbieter sind tatsächlich die Hersteller einer KI-Software. Aber wer eine KI nutzt, um Inhalte zu erstellen, ist der Betreiber.

Wenn du DALL·E also anweist, ein Logo für deinen Onlinestore zu entwerfen und selbiges womöglich sogar in deinen Shop einbaust, könnte das bereits unter das EU-Gesetz fallen. Warum „könnte“? Das sehen wir uns jetzt genauer an:

Artikel 50, EU Artificial Intelligence Act: Was genau wird geregelt?

Artikel 50 der EU-Verordnung beschreibt vier Transparenzpflichten:

1. Die Information der Nutzenden darüber, dass sie mit einer KI interagieren

2. Die Kennzeichnung von durch KI erzeugte synthetische Inhalte

3. Die Offenlegung der Emotionserkennung und biometrischen Kategorisierung

4. Die Kennzeichnung von Deepfakes und KI-generierten Texten von öffentlichem Interesse

Nicht jede Transparenzpflicht betrifft den E-Commerce in gleichem Maße (oder ist überhaupt von Interesse für Händler:innen). Werfen wir also einen Blick auf die Details:

#1: Information der Nutzenden darüber, dass sie mit einer KI interagieren

Viele Chatbots kommen nach wie vor ziemlich schnell an ihre Grenzen, aber die ausgereiften LLMs sind inzwischen durchaus in der Lage, sich bei einem Turing-Test durchzumogeln. Deshalb ist es künftig verboten, Verbraucher:innen zu suggerieren, sie würden sich mit einem Menschen unterhalten, wenn eigentlich ein Algorithmus die Antworten ausrechnet.

Solltest du in deinem Store also einen digitalen Einkaufsassistenten nutzen, Retouren mithilfe eines Chatbots abwickeln oder in irgendeiner anderen Form KI-Dialog nutzen, darf deine Software sich nicht mehr mit Sätzen wie: „Hallo, ich bin Conni vom Customer Support. Wie kann ich dir helfen?“ vorstellen!

Vom ersten Moment an – und während des kompletten Gesprächsverlaufs – muss offensichtlich sein, dass hier mit einer Maschine kommuniziert wird. Als Intro ist also nur noch ein Satz in Richtung: „Hallo, ich bin dein KI-Einkaufberater. Was kann ich für dich tun?“ zulässig. Außerdem raten Juristen zu einem permanenten Hinweis in der Fußzeile des Chats, dass hier gerade eine AI spricht.

Grauzone AI-Search

Etwas schwammiger wird die gesetzliche Auslegung bei AI-basierten Suchassistenten. Sollten diese ihre Ergebnisse allein auf Datenbasis präsentieren – also etwa: „Hier sind alle grünen Gummistiefel, die in Größe 43 verfügbar sind“ – ist ein Hinweis auf die KI wahrscheinlich nicht erforderlich.

Ganz anders sieht es aus, wenn die Künstliche Intelligenz auch eine beratende Funktion übernehmen kann – zum Beispiel: „Diese Blousons sind perfekt für eine Party mit dem Motto 60er-Jahre.“ Denn auch hier könnte der Eindruck entstehen, mit einem Menschen zu kommunizieren. In solchen Fällen muss unbedingt deklariert werden, dass gerade der Algorithmus spricht.

Insgesamt raten Juristen daher dazu, alles, was über die althergebrachte Keyword-Suche hinausgeht, als AI zu kennzeichnen.

#2: Kennzeichnung von durch KI erzeugten synthetischen Inhalten

Im Gesetz heißt es: „Die Anbieter von KI-Systemen, einschließlich KI-Systemen für allgemeine Zwecke, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet sind und als künstlich erzeugt oder manipuliert erkannt werden können.“

Also: So gut wie alles, was AIs zukünftig ausspucken, muss mit einem digitalen Wasserzeichen versehen werden. Betroffen sind allerdings nur die Anbieter der KI-Systeme, nicht die Betreiber. In deiner Verantwortung liegt es daher nur, darauf zu achten, dass die von dir genutzte generative KI mit diesen Wasserzeichen arbeitet. Vielleicht siehst du in nächster Zeit also lieber davon ab, eine AI aus der Osthälfte der Weltkarte zu verwenden – auch wenn sie noch so günstig ist.

#3: Offenlegung der Emotionserkennung und biometrischen Kategorisierung

Auch dieser Absatz ist für den E-Commerce eher unproblematisch. Denn explizit nicht unter das Gesetz fallen freiwillige Angaben der Kund:innen, die allein der Kaufberatung dienen.

Sätze wie: „Ich wiege 120 kg und suche einen Laufschuh für schwere Menschen“, oder: „Ich möchte eine Brille, die gut zu blauen Augen passt“, oder auch: „Ich bin traurig und brauche einen Snack, der mich glücklich macht“, sind okay, solange klar wird, dass die anschließende Produktauswahl durch eine KI erfolgt.

Ein bisschen schwieriger gestalten sich aufwendige Features, die mit Fotos oder Live-Videos arbeiten. Denke zum Beispiel an eine vollständige KI-gesteuerte Laufstilanalyse vor laufender Kamera. Das geht nicht nur deutlich stärker Richtung biometrische Kategorisierung, sondern könnte ebenfalls den Eindruck erwecken, dass ein Mensch die anschließende Analyse übernimmt.

An solchen und ähnlichen Stellen braucht es daher ebenfalls immer den Hinweis, dass eine KI die gewonnenen Daten verarbeitet, kategorisiert und für das Ergebnis verantwortlich ist.

#4: Kennzeichnung von Deepfakes und KI-generierten Texten von öffentlichem Interesse

Im vierten Absatz von Artikel 50 steckt tatsächlich das größte Risiko für den E-Commerce. Genau wie das Gesetz selbst betrachten wir Deepfake und KI-generierte Texte getrennt:

Das gilt für Deepfakes

Deepfakes müssen als KI-generiert gekennzeichnet sein, sonst machst du dich strafbar. Dabei fallen unter Deepfakes sämtliche künstlich erzeugte oder manipulierte Inhalte, die real wirken und so eine Täuschungsgefahr erzeugen können – egal ob Bild, Ton oder Text.

Im Umkehrschluss heißt das, dass nicht jeder KI-generierte Inhalt automatisch ein Deepfake ist. Wenn du von der Bildbearbeitung etwa aus einem weißen Hintergrund einen grünen Hintergrund machen lässt, wird dadurch niemand das Bild für realistischer halten. Auch eindeutig erkennbare Fantasie-Darstellungen sind unproblematisch. Bist du der Ansicht, dass sich dein Toaster besser verkauft, wenn er mit Raketenantrieb durch die Galaxie düst, musst du nicht darauf hinweisen, dass das Bild nicht echt ist.

Schwieriger wird es bei allem, was echt wirken könnte, es aber nicht ist. Transportiert die KI dein Model aus dem Studio an den Sandstrand, ist der Hinweis auf die KI-Manipulation auf jeden Fall angebracht. Hast du dir einen virtuellen Influencer ausgedacht, der wie ein echter Mensch aussieht, solltest du immer dazuschreiben, dass „Mister Glanz“ nicht real ist.

Richtig gefährlich wird es bei allem, was ohnehin schon verboten ist: also betrügerische Darstellungen (ein Billigkleid, das passt wie ein Kartoffelsack, sitzt auf einem Gen-AI-Bild wie ein Chanel-Kostüm), die Darstellung realer Personen in Bild und Ton ohne deren Erlaubnis (Erling Haaland trägt deine Boxershorts) oder gefälschten Kundenbewertungen. Mit dem feinen Unterschied, dass die Faker jetzt nicht nur nach dem Wettbewerbsrecht, sondern auch nach dem AI-Gesetz belangt werden können – und das ist teuer; siehe unten.

Für den schnellen Gesamtüberblick konsultierst du am besten unsere Tabelle:

Das gilt für Texte

Solltest du sämtliche Produktbeschreibungen in deinem Store mithilfe einer KI erstellt haben, musst du explizit NICHT auf jeder einzelnen Seite den AI-Hinweis einbauen. Denn das Gesetz betrifft nur Texte, die von „öffentlichem Interesse“ sind – also etwa Nachrichten, wissenschaftliche Abhandlungen, akademische Lehrtexte oder auch Wahlwerbung der Parteien. Für diese gilt:

Künstliche Intelligenz darf hier nur als Hilfsmittel eingesetzt werden; zum Beispiel, um einen Satz zu straffen, eine begleitende Grafik zu erstellen oder eine Idee für eine Headline zu liefern. Sollte AI zum Verfassen der Texte eingesetzt worden sein, müssen sie durch einen Menschen redaktionell kontrolliert und nach bestem Wissen und Gewissen freigegeben werden – sonst setzt es den KI-generiert-Stempel, der (hoffentlich) sagt: Dieser Text ist nicht vertrauenswürdig.

Deine PBs dagegen sind nicht von öffentlichem Interesse – allerdings kann es in deinem Store trotzdem Grenzfälle geben. Betroffen könnte zum Beispiel dein Content Marketing sein: Hast du etwa einen Blogbeitrag veröffentlicht, der Gesetzesänderungen tangiert („Neue staatliche Förderungen für Photovoltaikanlagen ab 2027“), muss dieser als KI-generiert gekennzeichnet werden, wenn der Algo ihn verfasst hat.

Von uns außerdem der Hinweis: Deine PBs allein der KI zu überlassen, ist trotzdem keine gute Idee. Denn wenn die Maschine falsche Fakten herbeihalluziniert, verbotene Gesundheitsaussagen trifft oder unhaltbare Versprechen macht, kannst du nach dem Wettbewerbsrecht belangt werden – und das bringt uns zu …

Nicht EU-AI-compliant: Welche Strafen drohen?

Für Verstöße gegen die Transparenzpflichten des Artikels 50 gilt grundsätzlich die mittlere Bußgeldstufe des AI-Acts (Artikel 99). Das sind:

• bis zu 15 Millionen Euro oder

• bis zu 3 % des weltweiten Jahresumsatzes

je nachdem, welcher Betrag höher ist. Allerdings sieht das Gesetz für KMU und Start-ups ausdrücklich vor, dass niedrigere Höchstbeträge gelten können.

Insgesamt gehen Juristen davon aus, dass du schon arg böswillig handeln musst, damit es überhaupt eine Geldstrafe gibt. Hast du auf einer von einhundert PBs den KI-Hinweis vergessen, bekommst du wahrscheinlich erstmal ein amtliches Schreiben, das dich über den Verstoß aufklärt und dich zur Nachbesserung auffordert. Erst wenn du dem nicht nachkommst, musst du zahlen.

Trotzdem mahnen die Damen und Herren Anwälte natürlich zur Sorgfalt – auch, wenn du selbst gar keine KI einsetzt. Denn ob die Transparenzpflicht des Artikels 50 ausschließlich den Ersteller des KI-Inhalts trifft oder unter bestimmten Umständen auch Händler:innen als eigenständige Veröffentlicher, muss sich erst noch zeigen. Wenn dein Lieferant dir also Produktbilder zur Verfügung stellt, auf denen Sean Connery die schicken Smokings trägt, wird es Zeit nachzuhaken oder selbst für den KI-Hinweis zu sorgen.

Dennoch: Für den deutschen Onlinehandel liegt das größte Risiko vermutlich gar nicht im neuen AI-Gesetz, sondern in den Regeln, die es ohnehin schon gibt. Also etwa:

• Verstöße gegen das Wettbewerbsrecht (UWG), etwa bei irreführender Werbung,

• Verstöße gegen das Verbraucherschutzrecht, zum Beispiel bei Missachtung der DSGVO

• sowie Abmahnungen durch Wettbewerber oder Verbände, sollte jemand der Auffassung sein, dass du dich wettbewerbswidrig verhältst.

Dass es aufgrund des AI-Acts wirklich zu einer Millionenstrafe kommt, ist sehr unwahrscheinlich. Dennoch solltest du nichts riskieren. Was uns zu unserem letzten Punkt führt:

EU-AI-compliant bleiben: Was du jetzt tun solltest

Fünf Aufgaben warten jetzt auf dich. Wie umfangreich sie werden, hängt primär davon ab, wie stark du AI in deinem Onlineshop nutzt. Wir hätten:

• Verschaffe dir einen Überblick über deine KI-Anwendungen
  Prüfe, welche KI-Tools in deinem Shop zum Einsatz kommen – von Chatbots über Produktsuchen bis hin zu Bild- und Texterstellung. Nur wer seine KI-Prozesse kennt, kann Transparenzpflichten erfüllen. Vergiss dabei nicht, dass Shopify mit Tools wie dem Sidekick bereits selbst KI in die eigene Plattform integriert hat.

• Sorge für transparente KI-Kommunikation
  Wenn Kundinnen und Kunden mit einer KI interagieren, muss das klar erkennbar sein! Kennzeichne also Chatbots und KI-Assistenten wie die Suche, um weiterhin EU compliant zu bleiben. Vergiss auch nicht, alle KI-manipulierten Medien wie Fotos oder Videos als solche zu kennzeichnen.

• Prüfe realistisch wirkende externe Inhalte besonders kritisch
  Alles, was du nicht selbst erstellt hast, muss einmal unter das Mikroskop kommen. Kam hier AI zum Einsatz oder nicht? Im Zweifel kontaktierst du den Zulieferer, ergänzt den KI-Hinweis prophylaktisch oder tauschst das Element aus.

• Dokumentiere deinen Umgang mit KI-generierten Inhalten
  Halte fest, wie KI in deinem Unternehmen eingesetzt wird, welche Prüfprozesse gelten und wer für die Freigabe von Inhalten verantwortlich ist. Eine solche Dokumentation hilft dir, deine Entscheidungen nachvollziehbar zu machen und bei Fragen von Kunden, Partnern oder Behörden vorbereitet zu sein.

• Definiere klare interne Regeln für den KI-Einsatz
  Lege zuletzt fest, welche Tools überhaupt genutzt werden dürfen und wie KI-generierte Inhalte geprüft werden. Sensibilisiere außerdem deine Mitarbeitenden für das Thema und lass sie diesen Beitrag lesen.

AI-Act im E-Commerce: KI ist nur der Anfang

Das neue AI-Gesetz schränkt den Einsatz von KI im E-Commerce also nicht wirklich ein. Entscheidend ist einfach eine klare Kennzeichnung all dessen, was wie echt wirkt, es aber gar nicht ist. Der Rest sollte dich nicht wirklich stören, denn bestimmt gehörst du zu den Guten im Onlinehandel, oder?

Wichtiger ist für dich wahrscheinlich all das, was Brüssel sich sonst noch hat einfallen lassen und was wir gerne noch einmal für dich aufzählen: der Widerrufbutton (Hast du noch nicht? Dann hol dir unsere App!), die neuen Regeln für Green-Claims-Compliance oder das kommende Garantielabel – denn dort droht viel schneller Stress mit den Behörden oder deinen Wettbewerbern als bei einem nicht gekennzeichneten Foto, über das ein Instagram-Filter gelegt wurde. Daher: schlau lesen!

FAQ zum EU AI Act im E-Commerce