EU AI Act im Mittelstand: Was Sie 2026 wirklich umsetzen müssen
Vor zwei Wochen saß ich bei einem Geschäftsführer in Süddeutschland, 80 Mitarbeiter, Spezialdienstleister. Auf seinem Schreibtisch lag ein dreiseitiger Brief seiner Wirtschaftskanzlei mit der Überschrift „EU AI Act – Dringender Handlungsbedarf". Honorarvorschlag für die laufende „Compliance-Begleitung": 24.000 € im ersten Jahr. Sein Kommentar: „Ich weiß nicht einmal, ob das auf uns zutrifft. Aber alle reden davon, also muss ich wohl."
Genau diese Situation erlebe ich 2026 in fast jedem Erstgespräch. Zwischen Panikbriefen von Kanzleien und der Verharmlosung auf LinkedIn fehlt der nüchterne Mittelweg. Dieser Artikel ist dieser Mittelweg: Was muss Ihr Unternehmen wirklich umsetzen, was ist Show, und welche drei Schritte reichen in 90 % der Mittelstandsfälle.
Was der EU AI Act tatsächlich regelt – ohne Drama
Der EU AI Act (Verordnung (EU) 2024/1689) ist seit August 2024 in Kraft. Die Pflichten greifen aber gestaffelt:
- Februar 2025: Verbotene KI-Praktiken (z. B. Social Scoring, biometrische Echtzeit-Überwachung) sind unzulässig. Betrifft fast keinen Mittelständler.
- August 2025: Transparenzpflichten für General-Purpose-Modelle wie GPT-5, Claude oder Mistral. Das trifft die Anbieter, nicht Sie als Anwender.
- August 2026: Die Hauptpflichten für Hochrisiko-Systeme greifen. Das ist der Stichtag, um den es geht.
- August 2027: Volle Anwendung für eingebettete KI in regulierten Produkten (Medizin, Maschinen, Spielzeug).
Wichtig: Der EU AI Act reguliert nicht „KI" pauschal. Er reguliert Risikoklassen. Schätzungsweise 80 % der KI-Anwendungen im Mittelstand fallen in die unterste Klasse – mit nahezu keinen direkten Pflichten.
Die vier Risikoklassen – und wo Sie wahrscheinlich landen
| Klasse | Beispiele | Pflichten |
|---|---|---|
| Verboten | Social Scoring, manipulative KI, Emotionserkennung am Arbeitsplatz | Nutzung untersagt |
| Hochrisiko | Bewerber-Screening, Kreditscoring, kritische Infrastruktur, Medizinprodukte | Konformitätsbewertung, technische Dokumentation, Risikomanagement, Logging, menschliche Aufsicht |
| Begrenztes Risiko | Chatbots mit Kundenkontakt, KI-generierte Inhalte | Transparenzpflicht (Nutzer muss wissen, dass er mit KI spricht) |
| Minimales Risiko | E-Mail-Klassifikation, Rechnungs-OCR, Marketing-Tools, interner Copilot | Keine direkten Pflichten, freiwillige Codes of Conduct |
Die ehrliche Diagnose nach 40+ Mittelstandsprojekten: Drei Viertel aller KMU-Anwendungen sind „minimales Risiko". Ein RAG-System, das interne Verfahrensanweisungen durchsucht, ist nicht Hochrisiko. Ein n8n-Workflow, der Eingangsmails in DATEV klassifiziert, ist nicht Hochrisiko. Auch ein Voice Agent für die Terminvereinbarung fällt unter „begrenztes Risiko" – Sie müssen am Anfang des Gesprächs nur klarstellen, dass die Anruferin mit einer KI spricht.
Hochrisiko wird es in der Regel erst, wenn Sie eines dieser drei Dinge tun:
- KI bei Personalauswahl, Beförderung oder Kündigungsempfehlung einsetzen.
- KI in regulierten Produkten verbauen (Medizin, Maschinen unter Maschinenverordnung).
- KI für Kreditentscheidungen, Versicherungs-Underwriting oder Bonitätsbewertung nutzen.
Wenn Sie keines dieser drei Dinge tun: Atmen Sie durch. Sie sind in einer ganz anderen Pflichtenwelt.
Was Mittelständler im „minimalen Risiko"-Bereich trotzdem tun sollten
Auch wenn der EU AI Act formal kaum Pflichten auferlegt: Drei Maßnahmen sind 2026 Hygiene, nicht Heldentum.
1. Inventar führen. Schreiben Sie auf, welche KI-Systeme bei Ihnen produktiv im Einsatz sind. Eine simple Tabelle reicht: System, Zweck, Datenquelle, Verantwortlicher, Risikoklasse. Diese Liste hilft Ihnen bei der nächsten DSGVO-Auskunft, bei Versicherungsfragen und beim internen Auditgespräch. Aufwand: ein halber Tag, einmal angelegt, vierteljährlich aktualisiert.
2. Transparenz gegenüber Kunden. Wenn ein Chatbot oder Voice Agent mit externen Personen kommuniziert: Sagen Sie das. Ein Satz reicht („Sie sprechen mit einer KI-Assistenz unseres Unternehmens. Möchten Sie sofort an einen Mitarbeitenden weitergeleitet werden?"). Das ist nicht nur Pflicht für „begrenztes Risiko", sondern baut Vertrauen. Aufwand: 15 Minuten Konfiguration im Voice Agent.
3. Mitarbeiter-Schulung dokumentieren. Wenn Sie Copilot, ChatGPT Enterprise oder eine andere KI im Team einführen, dokumentieren Sie eine kurze Einweisung (Was dürfen wir reinkippen, was nicht – Stichwort Mandanten- und Kundendaten). Eine einseitige Nutzungsrichtlinie reicht. Aufwand: zwei Stunden Erstellung, eine Stunde Einweisung pro Team.
Hochrisiko: Was sich wirklich ändert (für die wenigen, die betroffen sind)
Falls Ihr Unternehmen tatsächlich ein Hochrisiko-System betreibt – sagen wir, ein algorithmisches Bewerber-Screening – kommen ab August 2026 echte Pflichten:
- Risikomanagement-System über den gesamten Lebenszyklus.
- Daten-Governance: Trainings- und Testdaten müssen relevant, repräsentativ und so weit wie möglich fehlerfrei sein.
- Technische Dokumentation vor Inbetriebnahme (Anhang IV des AI Act).
- Logging der Systementscheidungen.
- Menschliche Aufsicht – ein Mensch muss in der Schleife sein und das Ergebnis überschreiben können.
- Transparenz gegenüber den Betroffenen und Möglichkeit zur Anfechtung.
Die Bußgelder sind real: bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Mio. € oder 3 % bei Hochrisiko-Verstößen. Aber: Im Mittelstand sind realistische Bußgelder eher im fünf- bis sechsstelligen Bereich anzusiedeln – ähnlich wie DSGVO-Praxis der letzten fünf Jahre.
Wenn Sie ein Hochrisiko-System betreiben: Holen Sie sich einen Spezialisten. Nicht für 24.000 € pro Jahr Pauschale, sondern für ein konkretes, abgrenzbares Compliance-Mandat von 8.000 bis 18.000 €.
3 typische Fehler von Mittelständlern beim EU AI Act
Fehler 1: Panik-Compliance ohne Risiko-Diagnose
Der GF aus dem Hook wollte 24.000 € für Compliance-Beratung ausgeben, ohne dass jemand seine KI-Anwendungen je klassifiziert hatte. Wir haben in zwei Stunden Workshop festgestellt: Alle drei Systeme im Einsatz waren „minimales Risiko". Echter Handlungsbedarf: zero. Pragmatisches Inventar: ein halber Tag. Bevor Sie irgendein Beratungsmandat unterschreiben, lassen Sie Ihre KI-Anwendungen klassifizieren. Das ist eine Vier-Stunden-Aufgabe, kein Jahresmandat.
Fehler 2: Ignoranz – „Das betrifft uns sowieso nicht"
Das andere Extrem. Ein Steuerberater in Niedersachsen sagte mir letzten Monat: „Wir machen nichts mit KI." Eine Stunde später hatte ich auf seinem Bildschirm Copilot in Word, einen Custom GPT seiner Mitarbeitenden für die Mandantenkommunikation und einen Chatbot auf der Webseite gesehen. Auch wenn keine Hochrisiko-Pflichten greifen: Ein Inventar ist ab August 2026 für eine ernstzunehmende Wirtschaftsprüfung Standard. Wer nichts dokumentiert, hat im Audit nicht „keine Pflichten", sondern „keine Antworten".
Fehler 3: Pauschalverträge mit Beratern oder Tools
„24.000 € Jahres-Compliance" oder „Wir kaufen das AI-Governance-Modul für 18.000 €/Jahr." Beides ist 2026 fast immer überdimensioniert für Unternehmen unter 250 Mitarbeitern. Was wirklich hilft: eine einmalige Risiko-Klassifikation (1.500–3.500 €), ein Inventar-Template, eine Mitarbeitenden-Schulung und eine jährliche Review. Gesamtaufwand realistisch: 4.000 bis 9.000 € im ersten Jahr, danach 1.500–3.000 €.
Praxis-Checkliste: 3 Schritte in 4 Wochen
Woche 1: Inventarisierung. Listen Sie alle KI-Systeme auf, die heute in Ihrem Haus laufen – einschließlich „Schatten-KI" wie privat genutzte ChatGPT-Accounts. Tabelle mit Spalten: System, Anbieter, Datenquelle, Zweck, Verantwortlicher, Anwenderkreis. Aufwand: ein halber Tag.
Woche 2: Klassifikation. Für jedes System die Risikoklasse bestimmen (Anhang III des EU AI Act listet die Hochrisiko-Kategorien auf, fünf Seiten). Wenn unklar: konkrete Frage an einen Spezialisten. Aufwand: 2–4 Stunden.
Woche 3: Maßnahmen ableiten. Für „minimales Risiko" reichen Inventar und Nutzungsrichtlinie. Für „begrenztes Risiko" zusätzlich Transparenzhinweise konfigurieren. Für „Hochrisiko" externe Begleitung beauftragen. Aufwand: 1 Tag.
Woche 4: Dokumentation und Rollout. Inventar als lebendes Dokument aufsetzen (Notion, SharePoint, Airtable). Nutzungsrichtlinie an alle Mitarbeitenden verteilen, eine kurze Einweisung in jedem Team. Verantwortlichen benennen, vierteljährlich Review terminieren. Aufwand: 1 Tag.
Vier Wochen, ein bis zwei Personentage Gesamtaufwand intern, plus optional 2.000–4.000 € extern für die Klassifikation. Das ist die ehrliche Antwort für 90 % der Mittelständler.
ROI-Rechnung: Was Compliance kostet vs. Nichts-Tun
| Position | Variante A: Pragmatisch | Variante B: Panik-Beratung |
|---|---|---|
| Externe Klassifikation | 2.500 € einmalig | – |
| Interner Aufwand | 2 Personentage (~1.200 €) | 4 Personentage (~2.400 €) |
| Laufende Beratung | – | 24.000 €/Jahr |
| Risiko bei „Nichts tun" | Geringes Audit-Risiko, mittelfristig keine direkten Bußgelder | Reines Beratungs-Risiko: viel Geld für Show |
| Erstjahres-Kosten | ~3.700 € | ~26.400 € |
Die Variante „Nichts tun" hat ein reales Restrisiko – aber kein 24.000-€-pro-Jahr-Risiko. Das pragmatische Setup deckt 90 % der Mittelstandsfälle vollständig ab.
Nächster Schritt: Das tun Sie diese Woche
Setzen Sie sich eine Stunde hin und schreiben Sie auf, welche KI-Tools heute in Ihrem Unternehmen laufen. Inklusive „Mein Marketingleiter nutzt seit drei Monaten ChatGPT Plus" und „Unsere Webseite hat einen Chatbot von Anbieter X". Das ist Ihr Ausgangsbestand. Wenn die Liste länger als fünf Zeilen ist und keine davon dokumentiert ist: Das ist Ihre erste Handlung – nicht die 24.000-€-Kanzlei.
Weiterführende Artikel:
- DSGVO-konforme KI Tools 2026: Welche Software wirklich rechtssicher ist
- Warum 95 % der KI-Projekte im Mittelstand scheitern
- KI Implementierung Agentur für den Mittelstand – Übersicht Leistungen
Über den Autor: Philip Bolz implementiert seit 2023 KI-Systeme in mittelständischen Unternehmen im DACH-Raum, Schwerpunkt Dienstleister und Handwerk, 10 bis 500 Mitarbeiter. Compliance ist bei jedem Projekt Teil des Setups – nicht als Bremse, sondern als Voraussetzung für tragfähige Systeme. Mehr unter ai-implement.de.