EU AI Act für AI Agents: Was Unternehmen ab 2026 dokumentieren müssen

EU AI Act für AI Agents: Was Unternehmen ab 2026 tun müssen

Mit 1. August 2024 ist der EU AI Act in Kraft getreten. Seither wird er schrittweise angewendet. Mit dem 2. August 2026 gelten schließlich Bestimmungen und Transparenzpflichten für Unternehmen. die Gnadenfrist ist also vorbei. Gewisse KI-Praktiken sind also bereits seit Februar 2025 verboten, ähnliches gilt für Governance-Regeln, die seit August 2025 gelten.

Hier erfahren Sie, wie Unternehmen vorgehen müssen, und in welche Risikoklasse ihre KI-Anwendungen fallen, falls diese bereits jetzt bei Ihnen zum einsatz kommen.

Grundsätzlich können wir beruhigen: Für die meisten internen AI Agents sind die Pflichten erfüllbar — wenn als wichtigste Kriterien Nachvollziehbarkeit in der Architektur zumindest in der nachträglicher Dokumentation gewährleistet sind.

Betrifft der EU AI Act Ihre AI Agents? Die Risikoklassen im Überblick

Eine gute Nachricht für den Mittelstand:

Die meisten internen Unternehmens-Agents die heute im Einsatz sind— wie beispielsweise aufgaben erfüllen wie: Wissensabfragen, Dokumentenverarbeitung, interne Prozessautomatisierung, usw.. die landen generell in der untersten Kategorie. Kritisch wird es nur dort, wo Agents Entscheidungen über Menschen vorbereiten oder treffen: Personalauswahl, Kreditwürdigkeit, Leistungsbewertung.

Die Einordnungs-Fragen für Ihren konkreten KI Agenten

• Trifft oder beeinflusst der Agent Entscheidungen über Personen (Bewerber, Mitarbeiter, Kunden mit Rechtsfolgen)? → Hochrisiko-Prüfung nötig
• Interagiert der Agent direkt mit Endnutzern oder Kunden? → Transparenzpflicht: Nutzer müssen erkennen können, dass sie mit KI interagieren
• Erzeugt der Agent Inhalte, die veröffentlicht werden (Texte, Bilder, Audio)? → Kennzeichnungspflicht für KI-generierte Inhalte
• Arbeitet der Agent rein intern, unterstützend, mit menschlicher Letztentscheidung? → In der Regel minimales Risiko
• Ist der Agent Teil eines regulierten Produkts (Medizintechnik, Maschinen)? → Anhang I, eigene Fristen

Hinweis: Die Einordnung im Grenzfall gehört in juristische Hände — insbesondere bei HR- und Finanz-Anwendungsfällen. Was wir Ihnen bai aiagent.engineer liefern können, ist die technische Dokumentationsfähigkeit, auf der jede juristische Bewertung aufsetzt. Wenn Sie nicht belegen können, was Ihre Agents tun, dann können Sie diesen auch nicht einordnen lassen.

Pflichten, die praktisch jeden treffen – EU AI Act

Unabhängig von der Risikoklasse gibt es beim EU AI Act einen Sockel an Pflichten, der de facto jedes Unternehmen mit KI-Einsatz betrifft:

• KI-Kompetenz im Team (Art. 4): Unternehmen müssen sicherstellen, dass Mitarbeitende, die mit KI-Systemen arbeiten, über ausreichende Kompetenz verfügen — dies muss ausreichend dokumentiert werden. Ein einmaliges Webinar reicht nicht unbedingt. Architektonisch gelöst empfehlen wir: Rollenbasierte Agent-Zugänge, die sichtbar machen, wer welche Systeme nutzt — dies ist die Grundlage für zielgerichtete, nachweisbare Schulung.
• Transparenz gegenüber Nutzern: Überall dort, wo Menschen mit KI interagieren, muss das auch als solches erkennbar sein. Architektonische Lösung: Kennzeichnung ist immer Teil des Agent-Frontends und der System-Prompts — nicht ein Disclaimer, den jemand vergessen kann.
• Dokumentation der Systeme und Datenflüsse: Welche Modelle, welche Datenquellen, welche Verarbeitungsschritte — das muss beschreibbar sein. Architektonisch gelöst: Eine sauber getrennte Stack-Struktur (Knowledge Layer, Agentic Layer, Konnektoren) ist per Design dokumentierbar; jeder Datenfluss hat einen definierten Pfad.
• Protokollierung und Nachvollziehbarkeit: Es muss rekonstruierbar sein, welcher Agent wann auf welcher Datenbasis welche Ausgabe erzeugt hat. Architektonisch gelöst: Audit-Logging auf Ebene jedes Agent-Schritts — Eingabe, verwendete Quellen, Modellaufruf, Ausgabe — von Tag 1 an mitgeschrieben.
• Menschliche Aufsicht bei relevanten Entscheidungen: KI darf vorbereiten, der Mensch entscheidet — überall dort, wo Ausgaben Konsequenzen für Personen haben. Architektonisch gelöst: Human-in-the-Loop als konfigurierbarer Freigabeschritt im Workflow, nicht als organisatorisches Versprechen.

Compliance von Beginn weg eingebaut: Was smarte KI Architektur liefert

Der EU AI Act belohnt eine Eigenschaft, die gut gebaute Agent-Systeme ohnehin haben sollten: Sie sind erklärbar. Konkret heißt das:

• Audit-Log ab Tag 1: Jede Agent-Interaktion wird protokolliert — nicht nachrüstbar, wenn die ersten sechs Monate Betrieb fehlen.
• Geerdete Antworten mit Quellen: Agents antworten auf Basis definierter Wissensquellen und weisen diese aus. Das ist gleichzeitig Qualitätssicherung und Compliance-Nachweis.
• Rechte- und Rollenmodell vor dem Modell: Zugriffskontrolle wird durchgesetzt, bevor Daten den Modell-Kontext erreichen — nicht durch nachgelagerte Filter. Nur so ist belegbar, dass ein Agent nie Daten gesehen hat, die er nicht sehen durfte.
• Human-in-the-Loop konfigurierbar: Freigabeschritte lassen sich pro Anwendungsfall aktivieren, ohne die Architektur umzubauen.
• Modell-Dokumentation trotz Modellwechsel: Ein modellagnostischer Stack dokumentiert, welches Modell wann im Einsatz war — und bleibt compliant, auch wenn das Modell nächstes Quartal getauscht wird. Wer sein System fest mit einem Modell verdrahtet hat, dokumentiert bei jedem Wechsel von vorn.

Der entscheidende Unterschied liegt zwischen zwei Ansätzen: „Wir schreiben nachträglich ein PDF“ — jemand rekonstruiert aus Erinnerung und Code-Archäologie, was das System vermutlich tut, und das Dokument ist am Tag der Fertigstellung veraltet. Oder: „Das System dokumentiert sich selbst“ — Architektur, Logs und Quellennachweise sind die Dokumentation, jederzeit aktuell, jederzeit vorzeigbar. Nur der zweite Ansatz skaliert. Und nur der zweite hält einer Nachfrage der Aufsichtsbehörde stand.

Ein Pragmatischer EU AI Act Fahrplan

Schritt 1 — Bestandsaufnahme aller KI-Nutzung. Und zwar wirklich aller: auch die Schatten-KI. Der ChatGPT-Account im Vertrieb, das Copilot-Experiment in der Entwicklung, das KI-Feature im CRM, das niemand bewusst aktiviert hat. Was nicht erfasst ist, kann nicht eingeordnet werden — und ist das eigentliche Risiko.

Schritt 2 — Risikoklassen zuordnen. Mit den Prüffragen oben lässt sich der Großteil der Systeme schnell sortieren. Die wenigen Grenzfälle (typisch: HR, Bewertungen, Kundenentscheidungen) gehen in die juristische Prüfung — mit der technischen Dokumentation als Grundlage.

Schritt 3 — Lücken in Dokumentation und Architektur schließen. Für Transparenzpflichten ab August 2026: Kennzeichnung und Nutzerinformation umsetzen. Für alles Weitere: Logging, Quellennachweise und Rechtemodell so aufsetzen, dass die Hochrisiko-Frist Dezember 2027 kein Projekt mehr ist, sondern ein Abhaken.

Genau diese drei Schritte sind Teil unseres Discovery — nicht als Compliance-Projekt, sondern als Nebenprodukt einer sauberen Architektur.

FAQ

Gilt der EU AI Act auch für kleine Unternehmen?
Ja. Der AI Act kennt keine generelle KMU-Ausnahme — die Pflichten richten sich nach der Risikoklasse des Systems, nicht nach der Unternehmensgröße. Der Digital Omnibus bringt für KMU Erleichterungen bei Dokumentationsformaten und Gebühren, aber keine Befreiung. Die gute Nachricht: Wer nur minimal-riskante interne Agents betreibt, hat ohnehin einen überschaubaren Pflichtenkatalog.

Sind interne AI Agents Hochrisiko-Systeme?
In den allermeisten Fällen: nein. Interne Agents für Wissensabfragen, Dokumentenverarbeitung oder Prozessautomatisierung fallen typischerweise unter minimales Risiko. Hochrisiko wird es erst, wenn der Agent Entscheidungen über Personen trifft oder maßgeblich vorbereitet — etwa im Bewerber-Screening oder bei Kreditentscheidungen. Dann gelten die Anhang-III-Pflichten ab Dezember 2027.

Welche Strafen drohen bei Verstößen?
Die Bußgeldrahmen sind gestaffelt: bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes für verbotene Praktiken, bis zu 15 Mio. € oder 3 % für Verstöße gegen zentrale Pflichten. Realistisch für den Mittelstand: Aufsichtsbehörden werden zunächst auf Nachbesserung drängen, nicht auf Maximalstrafen. Das Risiko liegt weniger im Bußgeld als in Betriebsunterbrechung und Reputationsschaden, wenn ein System vom Markt genommen werden muss.

Reicht DSGVO-Konformität für den EU AI Act?
Nein. Die DSGVO regelt den Umgang mit personenbezogenen Daten; der AI Act regelt das KI-System selbst — seine Risiken, seine Transparenz, seine Nachvollziehbarkeit, unabhängig davon, ob personenbezogene Daten im Spiel sind. Beide Regelwerke überschneiden sich (etwa bei automatisierten Entscheidungen), ersetzen einander aber nicht. → Mehr dazu in [Stück 4: DSGVO und AI Act im Vergleich]

Sie wollen wissen, wo Ihre Agents stehen? Im Discovery erfassen wir Ihre gesamte KI-Landschaft, ordnen die Risikoklassen zu und zeigen, welche Lücken Ihre Architektur schließen muss — bevor es die Aufsichtsbehörde tut. Discovery anfragen →

Autor: Thomas Heindl — Senior AI Engineer & Solutions Architect, AIAgent.Engineer. 18 Jahre Tech-Erfahrung, 21 Agents in Produktion im DACH-Raum.

Stand: Juli 2026. Dieser Artikel berücksichtigt den Digital Omnibus (Ratsannahme 29. Juni 2026). Er ersetzt keine Rechtsberatung.