AB‑Gesetz über Künstliche Intelligenz in Kraft: Neue Verpflichtungen, wenn Ihre Anwendung KI nutzt

2. August 2026 ist der Großteil des EU‑KI‑Gesetzes (EU AI Act) in Kraft getreten. Haben Sie in Ihrer Anwendung oder auf Ihrer Web‑Plattform einen Chatbot, erzeugen Sie Bild‑ oder Textinhalte, geben Produktempfehlungen, führen Gesichtsanalyse durch, bewerten Nutzer oder rufen im Hintergrund irgendein KI‑Modell auf – und haben Sie Nutzer in der Europäischen Union – dann gelten für Sie seit Juli gesetzliche Pflichten, die es vorher nicht gab.

Dieser Beitrag ist keine Gesetzeszusammenfassung. Er ist ein praxisnaher Leitfaden, geschrieben von Ingenieuren, die diese Funktionen entwickeln, für Unternehmer, Produktverantwortliche und Unternehmen, die KI in ihrer Software einsetzen. Er erklärt, was Sie gerade blockiert, was verschoben wurde, wie die Bußgelder aussehen und was Sie am Produkt tatsächlich ändern müssen.

Dieser Beitrag dient nur der allgemeinen Information und stellt keine Rechtsberatung dar. Konsultieren Sie für Ihren Einzelfall einen Anwalt, der sich mit EU‑Technologierecht auskennt.

Interessiert mich das, wenn mein Unternehmen nicht in der EU sitzt?

Fast immer ja, wenn Sie Nutzer in der EU haben. Der AI Act folgt dem GDPR/KVKK‑Modell: Wenn das Ergebnis eines KI‑Systems in der EU genutzt wird, gilt das System auch für Unternehmen außerhalb der EU. Ein in Deutschland herunterladbarer türkischer, amerikanischer oder Golf‑Staat‑Unternehmen‑Dienst ist also erfasst. Entscheidend ist nicht der Sitz Ihrer juristischen Person, sondern der Standort Ihrer Nutzer.

Was bedeutet „KI‑System“ – breiter als gedacht

Das Gesetz zählt jedes maschinenbasierte System, das aus Eingaben Ausgaben erzeugt – Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen – als KI‑System. Praktisch umfasst das:

• Chatbots und KI‑Assistenten (einschließlich solcher, die auf OpenAI, Anthropic, Google oder Open‑Source‑Modellen basieren)
• Bild‑, Video‑, Audio‑ oder Textgenerierung
• Empfehlungssysteme („Das könnte Ihnen auch gefallen“)
• Gesichtsanalyse, Hautanalyse, Bestimmung des Körpertyps
• Betrugs‑, Kredit‑ oder Risikobewertung
• CV‑Screening und Kandidatenranking
• Sprachassistenten und Transkription
• Jede Ausgabe, die nicht durch eine von Ihnen definierte Regel, sondern durch ein Modell bestimmt wird

Wenn Sie einer LLM‑API einen Prompt senden und das Ergebnis dem Nutzer zeigen, betreiben Sie ein KI‑System.

Aktuell (September 2026) geltende Regelungen

Seit Februar 2025: verbotene Praktiken und KI‑Kompetenz

Einige Anwendungen sind komplett verboten und unterliegen den höchsten Strafen des Gesetzes. Besonders relevant für kommerzielle Anwendungen sind:

• Manipulative oder irreführende Techniken, die das Verhalten des Nutzers zu Schaden führen
• Ausbeutung von Verwundbarkeiten bestimmter Gruppen (Alter, Behinderung, finanzielle Lage)
• Soziale Bewertung von Personen
• Emotionserkennung am Arbeitsplatz und in Schulen
• Ableitung von Rasse, politischer Meinung, Religion oder sexueller Orientierung aus biometrischen Daten
• Zielgerichtetes Sammeln von Gesichtern aus dem Internet oder von Kameras zum Aufbau einer Gesichtserkennungs‑Datenbank

Darüber hinaus muss jedes Unternehmen, das KI‑Systeme bereitstellt oder nutzt, sicherstellen, dass seine Mitarbeitenden über ausreichende KI‑Kompetenz verfügen. Das ist Ihre Verpflichtung als Arbeitgeber, nicht die des Produkts.

Seit August 2025: Regeln für Anbieter von generellen KI‑Modellen

Diese betreffen Unternehmen, die große Modelle trainieren (OpenAI, Google, Meta, Mistral usw.), nicht die Entwickler, die darauf Produkte aufbauen. Wenn Sie ein bestehendes Modell für Ihr Produkt feinabstimmen, gelten Sie in der Regel noch nicht als GPAI‑Anbieter – erst bei ausreichender Weiterentwicklung könnten Sie darunter fallen.

Seit 2. August 2026: Transparenzpflichten (Artikel 50) – das eigentliche Kernstück für Anwendungen

Vier konkrete Regeln, die alle Alltagsprodukte betreffen:

1. Der Nutzer muss wissen, dass er mit KI spricht.
Enthält Ihre Anwendung einen Chatbot, Assistenten oder irgendeine Funktion, die direkt mit Menschen interagiert, muss klar sein, dass die Gegenstelle eine Maschine ist – außer es ist aus dem Kontext bereits offensichtlich. Ein Support‑Bot, der sich als „Kundendienst‑Elif“ ausgibt, ohne das zu erklären, verstößt gegen die Konformität.

2. KI‑generierte Inhalte müssen maschinenlesbar gekennzeichnet werden.
Erzeugt Ihr Produkt Bild, Video, Audio oder Text, muss ein technisches Kennzeichen – Metadaten, Wasserzeichen oder Ähnliches – enthalten, das die synthetische Herkunft signalisiert. Diese Pflicht liegt beim Anbieter des erzeugenden Systems. Wenn Sie die Funktion selbst entwickelt haben, müssen Sie das Kennzeichen implementieren; nutzen Sie eine Dritt‑API, prüfen Sie, welche Kennzeichen diese hinzufügt und ob Ihre Pipeline sie erhalten bleibt (Resize, Re‑encoding und Screenshots entfernen solche Kennzeichen häufig).

3. Emotionserkennung und biometrische Kategorisierung müssen offengelegt werden.
Extrahiert Ihre Anwendung Emotionen aus Gesicht, Stimme oder Körperdaten oder ordnet Personen Kategorien zu, müssen die betroffenen Personen informiert werden. Kamera‑basierte Analysen in Beauty‑, Health‑, Fitness‑, Dating‑ und Retail‑Apps sollten diese Regel besonders beachten.

4. Deepfakes und KI‑generierte Texte mit öffentlichem Nutzen müssen gekennzeichnet werden.
Nutzer (Deployers), die KI‑Inhalte veröffentlichen, die echten Personen, Orten oder Ereignissen ähneln, müssen diese als künstlich kennzeichnen. KI‑Texte, die zur Information der Öffentlichkeit verbreitet werden, müssen gekennzeichnet sein, wenn sie nicht von einem Menschen redaktionell geprüft oder verantwortet wurden.

Frist für bestehende Produkte: Systeme, die vor dem 2. August 2026 auf dem Markt waren, haben bis 2. Dezember 2026 Zeit, die Kennzeichnungspflicht zu erfüllen. Neue Systeme müssen von Tag 1 an konform sein.

Verschobene Pflichten – und warum sie trotzdem wichtig sind

Der schwerste Teil des Gesetzes – das vollständige Regime für hochriskante KI‑Systeme (Risikomanagement, Daten‑Governance, technische Dokumentation, menschliche Aufsicht, Konformitätsbewertung) – wurde im „Digital‑Omnibus‑Paket“ 2025–2026 aufgeschoben. Aktuelle Termine:

• 2. Dezember 2027: Für die in Anhang III aufgeführten Hochrisikokategorien – Einstellung und Personalwesen, Kreditbewertung, Versicherungsprämien, Bildungs‑ und Prüfungsergebnisse, Zugang zu Grunddiensten, biometrische Identifizierung, Strafverfolgung, Migration
• 2. August 2028: Für in bereits durch die EU‑Produktsicherheitsvorschriften geregelte Produkte integrierte Künstliche Intelligenz (medizinische Geräte, Fahrzeuge, Maschinen, Spielzeug)

Wenn Ihr Produkt eines dieser Anwendungsgebiete abdeckt, ist die Fristverlängerung kein Freibrief, sondern ein Luftpolster. Die für diese Pflichten erforderliche Dokumentation – Quelle der Trainingsdaten, Protokollierung, Bias‑Tests, Gestaltung menschlicher Eingriffe – ist etwas, das Monate in Anspruch nimmt, wenn es nachträglich in ein System eingebaut wird. Teams, die jetzt starten, werden nur einen Bruchteil dessen aufwenden, was diejenigen, die Mitte 2027 beginnen, ausgeben müssen.

Strafen

• Für verbotene Anwendungen bis zu 35 Millionen € oder bis zu 7 % des weltweiten Jahresumsatzes
• Für die meisten anderen Pflichten, einschließlich Transparenzregeln, bis zu 15 Millionen € oder bis zu 3 %
• Für falsche Angaben an Behörden bis zu 7,5 Millionen € oder bis zu 1 %

Für KMU und Start‑Ups gilt der jeweils niedrigere Betrag. Die Sanktionen werden von den nationalen Behörden in jedem Mitgliedstaat durchgesetzt; für GPAI‑Modelle direkt durch das EU‑KI‑Amt.

Anbieter oder Nutzer? Warum die Unterscheidung wichtig ist

Das Gesetz legt je nach Rolle unterschiedliche Pflichten fest:

• Anbieter (provider): Sie haben das KI‑System entwickelt (oder entwickeln lassen) und unter Ihrem Namen auf den Markt gebracht. Die meisten Pflichten liegen hier.
• Nutzer (deployer): Sie setzen ein KI‑System in einem professionellen Kontext unter Ihrer Verantwortung ein.

Ein Unternehmen, das in seiner Anwendung einen Chatbot integriert, ist in der Regel Anbieter dieses Chatbot‑Systems, selbst wenn das zugrundeliegende Modell von einem Drittanbieter stammt. Ein Unternehmen, das ein fertiges HR‑Screening‑Tool nutzt, ist dessen Nutzer. Viele Unternehmen übernehmen für verschiedene Funktionen beide Rollen. Zu bestimmen, welche Rolle Sie bei welcher Funktion einnehmen, ist der erste Schritt jeder Compliance‑Prüfung.

Praktische Checkliste für Anwendungs‑ und Plattformbetreiber

Dieses Monat erledigen

• Erstellen Sie ein Inventar aller KI‑Funktionen in Ihrem Produkt. Schließen Sie Dritt‑API‑ und SDK‑Komponenten ein – ein Modell eines Lieferanten, das in Ihrer Anwendung Entscheidungen trifft, zählt als Teil Ihres Systems.
• Entscheiden Sie für jede Funktion, ob Sie Anbieter oder Nutzer sind.
• Prüfen Sie, ob bei jeder Chat‑Funktion ein klarer Hinweis „Sie sprechen mit einer KI“ vorhanden ist.
• Vergleichen Sie Ihr Produkt mit allen verbotenen Anwendungskategorien. Achten Sie besonders auf Interaktionen mit Minderjährigen sowie auf jegliche emotionale oder biometrische Ableitungen.
• Stellen Sie sicher, dass Ihr Team eine dokumentierte KI‑Literacy‑Schulung erhalten hat. Eine kurze interne Session mit Teilnehmernachweis reicht für den Anfang.

Bis zum 2. Dezember 2026 erledigen

• Für jede Funktion, die Bild, Audio, Video oder Text erzeugt, setzen Sie maschinenlesbare Markierungen (C2PA‑Metadaten, Anbieter‑Wasserzeichen o. Ä.) und verifizieren Sie, dass das Tag den gesamten Liefer‑Pipeline‑Prozess übersteht.
• Fügen Sie dort, wo Deep‑Fake‑ oder KI‑generierte Inhalte gekennzeichnet werden müssen, sichtbare Labels für die Nutzer ein.
• Aktualisieren Sie Ihre Datenschutzerklärung und Nutzungsbedingungen, sodass KI‑Funktionen, deren Zweck und die oben genannten Hinweise enthalten sind.

Für 2027 planen

• Wenn irgendeine Funktion in Anhang‑III‑Kategorien fällt (Einstellung, Kredit, Bildung, Versicherung, Grunddienste, Biometrie), beginnen Sie jetzt mit der Hochrisikodokumentation: Datenquellen, Modellbewertung, Protokollierung, Gestaltung menschlicher Aufsicht.
• Benennen Sie intern eine verantwortliche Person für KI‑Compliance. Die erste Frage der Regulierungsbehörden lautet stets: „Wer ist verantwortlich?“

Wie das unsere Art der KI‑Entwicklung verändert

Bei UmaySoftware sind die AI‑Act‑Anforderungen jetzt Teil der Design‑Phase jedes Projekts, das KI enthält – nicht ein nachträglicher Check. Konkret bedeutet das:

• Erklärung und Kennzeichnung werden bereits im ersten Wireframe in die Benutzeroberfläche integriert, nicht nachträglich angehängt.
• Generierte Inhalte werden sofort beim Erzeugen markiert, und das Tag wird über die gesamte Liefer‑Pipeline hinweg getestet.
• Jede KI‑Funktion wird mit einem einseitigen Datensatz übergeben: Was das Modell tut, welche Daten es sieht, wer der Anbieter ist, welche gesetzlichen Pflichten gelten und wie ein Mensch eingreifen kann.
• Wenn das Nutzungsszenario eines Kunden einer Hochrisikokategorie nahekommt, wird das bereits in der Explorations‑Phase, vor der Budgetierung, angesprochen.

Falls Sie bereits KI‑Funktionen in Produktion haben und nicht sicher sind, wo Sie stehen, bieten wir eine AI‑Act‑Feature‑Analyse an: Wir erstellen ein Inventar Ihrer KI‑Komponenten, klassifizieren jede nach Rolle und Risikoniveau und liefern Ihnen eine schriftliche Checkliste, unterteilt in „Vor Dezember korrigieren“ und „Für 2027 planen“. Das ist ein technisches Review, keine Rechtsberatung – aber genau das Dokument, das Ihre Anwältin von Ihnen verlangen wird.

Analyse anfordern →

Häufige Fragen

Meine Anwendung ruft nur die OpenAI / Anthropic / Gemini‑API auf. Bin ich der Verantwortliche oder sind das die Anbieter?
Beides. Der Modell‑Anbieter übernimmt die Pflichten für das generische Modell. Sie sind verantwortlich für das von Ihnen gebildete KI‑System – also Transparenz, Verbots‑Checks und die Hochrisikopflichten, die auf Ihr Nutzungsszenario zutreffen.

Fällt der Empfehlungs‑Engine in einer E‑Commerce‑App unter den AI Act?
Ein KI‑System unterliegt grundsätzlich den allgemeinen Regeln (Verbotene Anwendungen, KI‑Literacy). Standard‑Produkt‑Empfehlungen gelten nicht als Hochrisiko und lösen Artikel 50 nicht aus, weil niemand „interagiert“ wie bei einem Chatbot. Empfehlungen, die Schwachstellen ausnutzen – etwa Minderjährige mit manipulativen Mustern ansprechen – fallen jedoch in den verbotenen Bereich.

Muss ich jedes von KI erzeugte Bild in meiner App kennzeichnen?
Maschinenlesbare Kennzeichnung ist für von Ihrem System erzeugte Inhalte verpflichtend – bei neuen Produkten ab dem ersten Tag, bei bestehenden Produkten ab dem 2. Dezember 2026. Das sichtbare Etikett ist in bestimmten Fällen für Nutzer (Deployers) verpflichtend – Deepfakes von echten Personen oder Ereignissen sowie von KI erstellte Texte von öffentlichem Interesse. Für einen KI‑Avatar‑Generator ist das Metadaten‑Tag obligatorisch; ein sichtbares Etikett gilt als Best Practice.

Wir sind ein türkisches Unternehmen ohne Niederlassung in der EU. Können sie uns wirklich bestrafen?
Wenn Ihre Ausgabe in der EU verwendet wird, gilt das Gesetz für Sie, und die Behörden der Mitgliedstaaten können – auch über App‑Stores und EU‑zentrale Vertriebspartner – gegen Anbieter außerhalb der EU vorgehen. Ob eine Sanktion tatsächlich ein kleines Unternehmen erreicht, ist eher eine Risiko‑ als eine Rechtsfrage – aber „sie finden uns nicht“ ist auch nach der DSGVO keine dauerhafte Strategie.

Ist eine Beauty‑App, die Haut‑ oder Gesichtsform analysiert, eine „biometrische Kategorisierung“?
Das kommt darauf an, was extrahiert wird. Die Ermittlung des Hauttons, um Foundations vorzuschlagen, ist in der Regel keine Kategorisierung geschützter Gruppen. Das Ableiten von ethnischer Herkunft, Gesundheitszustand oder Emotionen aus dem Gesicht ist hingegen ein anderer Fall und kann eingeschränkt oder verboten sein. Hier bestimmt die konkrete Ausgestaltung der Funktion die rechtliche Bewertung.

Was, wenn ich ein KI‑Feature entwickle und nur außerhalb der EU anbiete?
Dann findet das Gesetz auf dieses Feature keine Anwendung – vorausgesetzt, die geografische Beschränkung ist tatsächlich wirksam (Zugänglichkeit im Store, Kontrollen der Kontoregion), nicht nur durch eine Klausel in den Nutzungsbedingungen.