Vom Beschwerde-Bearbeiter zum System-Prüfer

Lange arbeiteten Datenschutzbehörden überwiegend reaktiv: Es brauchte eine Beschwerde oder eine gemeldete Panne, bevor geprüft wurde. Das ändert sich. Behörden setzen vermehrt auf routinemäßige Prüfungen – und sie schauen sich dabei seltener die Datenschutzerklärung an und häufiger das, was in den Systemen tatsächlich passiert: Wer greift wann auf welche Daten zu? Wohin fließen sie? Welche KI-Tools sind im Einsatz, und auf welcher Rechtsgrundlage?

Für Unternehmen bedeutet das: Papier-Compliance reicht nicht mehr. Ein schön formuliertes Verarbeitungsverzeichnis, das mit der gelebten Praxis nichts zu tun hat, fällt bei dieser Prüflogik schneller auf als je zuvor.

KI-Nutzung ist Datenverarbeitung – fast immer

Der häufigste Irrtum, dem wir in der Beratung begegnen: „Wir nutzen doch nur ein bisschen ChatGPT.“ Rechtlich gilt: Schon wer den Namen eines Kunden in ein frei zugängliches KI-Tool eingibt, um eine E-Mail formulieren zu lassen, verarbeitet personenbezogene Daten – und das Unternehmen trägt die Verantwortung. Bei kostenlosen Consumer-Versionen fließen diese Daten an den Anbieter, oft einschließlich der Nutzung für das Training der Modelle.

Dazu kommt seit 2026 die doppelte Sanktionslage: Neben den DSGVO-Bußgeldern (bis zu 20 Millionen Euro oder 4 Prozent des Jahresumsatzes) steht der Bußgeldrahmen des EU AI Act (bis zu 35 Millionen Euro oder 7 Prozent). DSGVO und KI-Verordnung müssen zusammen gedacht werden – wer beides getrennt bearbeitet, produziert Lücken und doppelte Arbeit.

Was eine belastbare Aufstellung ausmacht

Aus unserer Sicht gehören fünf Bausteine zusammen. Ein aktuelles Verarbeitungsverzeichnis, das die KI-Nutzung tatsächlich abbildet. Auftragsverarbeitungsverträge mit allen KI-Anbietern – was in der Regel die Business- oder Enterprise-Versionen der Tools voraussetzt, bei denen das Training mit eigenen Daten deaktiviert werden kann. Eine KI-Richtlinie, die regelt, welche Daten in welche Tools dürfen. Dokumentierte Schulungen der Mitarbeitenden. Und ein Datenpannen-Prozess, der auch KI-Vorfälle abdeckt – von der versehentlichen Eingabe sensibler Daten bis zum fehlerhaften KI-Output.

Der Aufwand ist überschaubarer, als viele befürchten – wenn er strukturiert angegangen wird. Und er zahlt sich doppelt aus: gegenüber der Aufsicht ebenso wie gegenüber Kunden und Geschäftspartnern, die zunehmend nachfragen, wie Dienstleister mit ihren Daten und mit KI umgehen.

Unser Angebot

Als zertifizierter Datenschutzbeauftragter (TÜV Süd) und zertifizierter KI-Manager (TÜV) decken wir beide Welten aus einer Hand ab. Mit dem Datenschutz-Quick-Check wissen Sie nach zwei Wochen, wo Sie stehen – mit Ampelbewertung und priorisiertem Maßnahmenplan. Und als externer Datenschutzbeauftragter übernehmen wir die laufende Verantwortung, inklusive KI-Themen. Mehr auf unseren Seiten Datenschutz und KI-Beratung.

Der Hype trifft auf Ernüchterung

Die Marktforscher von Gartner prognostizieren, dass über 40 Prozent der laufenden Agentic-AI-Projekte bis Ende 2027 abgebrochen werden – wegen steigender Kosten, unklaren Geschäftsnutzens und fehlender Governance. Dazu passt ein zweiter Befund: Nicht einmal die Hälfte der Unternehmen überwacht und sichert ihre KI-Agenten aktiv. Autonom handelnde Systeme ohne Protokollierung und Kontrolle – das ist keine Digitalisierung, das ist Blindflug.

Die typischen Fehler ähneln sich: Es wird mit der Technologie gestartet statt mit dem Prozess. Es fehlt die klare Definition, was der Agent darf – und was nicht. Und es gibt niemanden, der das Vorhaben fachlich führt, priorisiert und zwischen Fachbereich, IT und Dienstleistern vermittelt.

Was erfolgreiche Agenten-Projekte anders machen

Aus unserer Projekterfahrung lassen sich vier Prinzipien ableiten. Erstens: klein anfangen, aber richtig. Ein klar umrissener Quick-Win-Use-Case mit messbarem Nutzen schlägt jede Plattform-Vision. Zweitens: Human Oversight von Anfang an einbauen. Für jeden Agenten muss definiert sein, welche Entscheidungen er autonom treffen darf, wo ein Mensch freigibt und wie Ergebnisse überprüft werden. Drittens: Governance parallel zum Piloten aufbauen, nicht nachträglich – Zuständigkeiten, Protokollierung, Eskalationswege. Viertens: Die Datenfrage vor dem Start klären. Agenten, die auf Kundendaten, E-Mails oder Verträge zugreifen, sind ein Datenschutzthema erster Ordnung – und je nach Einsatzfeld auch ein Fall für den EU AI Act.

Product Ownership: die unterschätzte Zutat

Was KI-Agenten-Projekten am häufigsten fehlt, ist keine bessere Technik, sondern fachliche Führung: jemand, der Anforderungen sauber erfasst, Nutzen gegen Aufwand und Risiko abwägt, das Backlog priorisiert und Dienstleister steuert. Genau diese Product-Owner-Perspektive entscheidet darüber, ob ein Agent ein Werkzeug mit messbarem Geschäftswert wird – oder ein teures Experiment, das nach zwölf Monaten still beerdigt wird.

Der Mittelstand hat hier einen strukturellen Vorteil: kurze Entscheidungswege, überschaubare Prozesslandschaften, direkter Draht zwischen Geschäftsführung und Umsetzung. Wer Nutzen, Kontrolle und Verantwortung von Beginn an zusammen denkt, kann mit Agenten schneller echte Wirkung erzielen als mancher Konzern.

Unser Angebot

Wir begleiten KI- und Automatisierungsprojekte von der Use-Case-Identifikation über die Governance bis zur Umsetzung – etwa mit Workflows auf Basis von n8n oder vergleichbaren Lösungen, inklusive definierter Human-Oversight-Punkte. Und wenn die fachliche Führung fehlt, übernehmen wir sie: als Interims Product Owner oder externe Projektleitung. Mehr dazu auf unseren Seiten KI-Beratung und Digitale Projektleitung & Product Ownership.

Was Schatten-KI ist – und warum sie fast jedes Unternehmen betrifft

Schatten-KI bezeichnet den Einsatz von KI-Tools außerhalb offiziell freigegebener Unternehmensstrukturen: der private ChatGPT-Account für die Kundenmail, das kostenlose Übersetzungstool für den Vertragsentwurf, der KI-Assistent im Browser-Plugin. Die Zahlen sind deutlich: Rund 71 Prozent der Beschäftigten nutzen nicht genehmigte KI-Tools im Job, gut die Hälfte sogar wöchentlich.

Die Treiber sind nachvollziehbar: Die Tools sind aus dem Privatleben vertraut, sie sparen spürbar Zeit – und oft fehlt schlicht eine freigegebene Alternative im Unternehmen. Schatten-KI ist damit nicht nur ein Risiko, sondern auch ein Symptom: Sie zeigt, wo Mitarbeitende Unterstützung brauchen, die das Unternehmen noch nicht bereitstellt.

Warum das Thema 2026 eskaliert

Drei Entwicklungen verschärfen die Lage. Erstens die Rechtslage: Seit Februar 2025 verlangt der EU AI Act geschulte Mitarbeitende, ab August 2026 gelten die Transparenzpflichten vollständig – ungesteuerte KI-Nutzung wird damit auch regulatorisch zum Problem. Zweitens der Datenschutz: Sobald personenbezogene Daten – ein Kundenname reicht – in ein frei zugängliches KI-Tool eingegeben werden, liegt eine Datenverarbeitung im Sinne der DSGVO vor, für die das Unternehmen verantwortlich ist. Drittens die Sicherheitslage: Über 80 Prozent der befragten Fachleute berichten von einer Zunahme KI-gestützter Angriffe innerhalb der letzten zwölf Monate.

Dem steht eine ernüchternde Kontrolllage gegenüber: Nur etwa ein Drittel der Unternehmen führt überhaupt ein formales Inventar der eingesetzten KI, und mehr als die Hälfte nutzt KI-Funktionen, die in Drittanbieter-Software eingebettet sind, ohne dass dies den Nutzern als KI-Einsatz bewusst ist.

Verbieten funktioniert nicht – regeln schon

Der Reflex, KI-Tools einfach zu sperren, greift zu kurz. Wer nur verbietet, treibt die Nutzung tiefer in den Schatten und verliert die Produktivitätsgewinne gleich mit. Der bessere Weg führt über drei Schritte: Sichtbarkeit schaffen (welche Tools werden tatsächlich genutzt – auch die inoffiziellen?), Regeln definieren (eine schlanke KI-Richtlinie: welche Tools sind freigegeben, welche Daten sind tabu, wer entscheidet?) und Alternativen anbieten (freigegebene Tools mit Auftragsverarbeitungsvertrag und deaktiviertem Training, plus Schulung).

Aus unserer Erfahrung ist der wichtigste Erfolgsfaktor nicht das Dokument, sondern die Verankerung im Alltag: Eine KI-Richtlinie, die niemand kennt, schützt niemanden.

Unser Angebot

Unser KI-Readiness-Check erfasst systematisch auch die inoffizielle KI-Nutzung im Unternehmen und liefert nach vier Wochen priorisierte Empfehlungen. Ergänzend erstellen wir praxistaugliche KI-Richtlinien und schulen Ihre Teams – verständlich und dokumentiert, als Nachweis Ihrer Pflichten aus DSGVO und EU AI Act. Mehr auf unseren Seiten KI-Beratung und Datenschutz.

Was seit dem Inkrafttreten bereits verbindlich ist

Der EU AI Act ist bereits seit August 2024 in Kraft und wird stufenweise anwendbar. Seit Februar 2025 gelten die Verbote bestimmter KI-Praktiken – etwa manipulative Systeme oder Social Scoring. Ebenfalls seit Februar 2025 verpflichtet Artikel 4 alle Unternehmen, die KI einsetzen, ihre Mitarbeitenden im Umgang damit zu schulen (Stichwort KI-Kompetenz). Seit August 2025 gelten zudem die Regeln für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck.

Wer also heute noch keine dokumentierten KI-Schulungen und keinen geregelten KI-Einsatz hat, ist nicht „früh dran“ – sondern spät.

Was am 2. August 2026 dazukommt

Mit dem 2. August 2026 wird die Verordnung in weiten Teilen vollständig anwendbar. Praktisch besonders relevant sind die Transparenzpflichten: Chatbots müssen als solche erkennbar sein, KI-generierte Inhalte und insbesondere Deepfakes müssen gekennzeichnet werden. Wer Kundenkommunikation, Marketing oder Serviceprozesse mit generativer KI betreibt, muss das ab jetzt sauber ausweisen.

Außerdem greift ab diesem Datum die Durchsetzungsstruktur: Die nationalen Aufsichtsbehörden sind benannt, Sanktionen können verhängt werden. Der Bußgeldrahmen reicht – je nach Verstoß – bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.

Was sich durch den Digital Omnibus verschoben hat

Im Mai 2026 haben sich EU-Parlament und Rat politisch auf das Digital-Omnibus-Paket geeinigt, das unter anderem die Fristen für Hochrisiko-KI-Systeme entzerrt: Die vollen Pflichten für Hochrisiko-Systeme nach Anhang III – etwa KI in Personalauswahl, Kreditvergabe oder Bildung – greifen nun erst ab Dezember 2027. Für KI, die in regulierte Produkte integriert ist, gilt August 2028.

Das ist eine echte Entlastung – aber kein Freibrief. Denn erstens bleiben Transparenz-, Schulungs- und Verbotsregeln davon unberührt. Zweitens sind die Hochrisiko-Anforderungen (Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht) so umfangreich, dass Unternehmen die gewonnene Zeit für den Aufbau brauchen werden – nicht für weiteres Abwarten.

Was Unternehmen jetzt konkret tun sollten

Aus unserer Beratungspraxis ergeben sich drei Prioritäten. Erstens: ein vollständiges Inventar aller eingesetzten KI-Systeme – einschließlich der KI-Funktionen, die in Standardsoftware eingebettet sind. Ohne Inventar keine Risikoklassifizierung, ohne Klassifizierung keine belastbare Compliance-Aussage. Zweitens: Transparenzpflichten umsetzen, wo generative KI im Kundenkontakt läuft. Drittens: die Schulungspflicht nach Artikel 4 dokumentiert erfüllen – sie gilt seit über einem Jahr und ist der Punkt, an dem Aufsichtsbehörden am einfachsten ansetzen können.

Unternehmensgröße schützt übrigens nicht: Die Pflichten hängen nicht davon ab, wie groß ein Unternehmen ist, sondern davon, welche KI es einsetzt.

Unser Angebot

Wir kombinieren juristischen Hintergrund, TÜV-zertifizierte KI-Management- und Datenschutz-Expertise und Umsetzungserfahrung aus der regulierten Versicherungswirtschaft. Mit unserem KI-Governance-Starterpaket schaffen wir in vier Wochen die Grundlagen: Inventar, Risikoklassifizierung, KI-Richtlinie und Maßnahmenplan. Mehr dazu auf unserer Seite KI-Beratung – oder direkt im unverbindlichen Erstgespräch.