In den letzten Monaten haben wir uns eine Frage gestellt:
Wie können wir Unternehmen dabei helfen, KI einzusetzen, ohne auf Datenschutz und Sicherheit zu verzichten?
Um diese Frage zu beantworten, müssen Sie zuerst verstehen, weshalb sie überhaupt wichtig ist.
Weshalb Unternehmen ChatGPT und Claude nicht einfach direkt nutzen können
Das größte Problem ist nicht die Qualität der Antworten. Die ist inzwischen gut genug, um in fast jedem Arbeitsprozess einen Unterschied zu machen.
Das Problem ist, wohin die Daten dabei fließen.
Wenn ein Mitarbeiter eine Kundenliste, einen Vertragsentwurf oder eine Krankmeldung in ein öffentliches KI-Tool kopiert, verlässt diese Information Ihr Unternehmen. Sie verlässt in aller Regel auch die EU. Und damit wird aus einer Produktivitätsfrage eine Rechtsfrage.
Die Übermittlung personenbezogener Daten in die USA hat 2023 zum höchsten DSGVO-Bußgeld geführt, das je verhängt wurde: 1,2 Milliarden Euro gegen Meta, ausgesprochen von der irischen Datenschutzbehörde. Nicht wegen eines Hacks. Nicht wegen eines Datenlecks. Sondern weil Daten von Europäern auf Systemen landeten, auf die US-Behörden zugreifen können.
Seien wir ehrlich: Ihre Mitarbeiter nutzen KI längst
Die meisten Geschäftsführer, mit denen wir sprechen, unterschätzen, wie weit das im eigenen Haus bereits verbreitet ist.
Die Zahlen des Bitkom aus einer repräsentativen Befragung von 604 Unternehmen ab 20 Beschäftigten zeichnen ein deutliches Bild:
- 4 von 10 Unternehmen gehen davon aus, dass Beschäftigte private KI-Zugänge im Arbeitskontext nutzen
- In 8 Prozent der Unternehmen ist das weit verbreitet, doppelt so viele wie im Vorjahr
- Aber nur 26 Prozent stellen ihren Mitarbeitern überhaupt einen offiziellen KI-Zugang bereit
- Und nur 23 Prozent haben Regeln für den KI-Einsatz aufgestellt
Diese Lücke ist das eigentliche Problem. Ihre Mitarbeiter wollen schneller arbeiten. Wenn Sie ihnen kein Werkzeug geben, das dafür freigegeben ist, nehmen sie das nächstbeste über einen privaten Account, an der IT vorbei, ohne Protokoll darüber, was dort eingegeben wurde.
Man nennt das Schatten-KI. Wenn man nicht davor vorgeht, wird es teuer.
Was Datenschutzverstöße mit KI tatsächlich kosten
Der Rahmen ist bekannt: Die DSGVO erlaubt Bußgelder von bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.
Seit dem 2. August 2025 kommt der EU AI Act hinzu, mit einem eigenen, schärferen Rahmen: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes für verbotene Praktiken, bis zu 15 Millionen Euro oder 3 Prozent für Verstöße gegen andere Pflichten.
Das sind Obergrenzen. Interessanter ist, was tatsächlich verhängt wird:
- 1,2 Milliarden Euro gegen Meta für die unzulässige Übermittlung von Nutzerdaten in die USA (Mai 2023)
- 15 Millionen Euro gegen OpenAI durch die italienische Datenschutzbehörde Garante – unter anderem wegen fehlender Rechtsgrundlage für die Verarbeitung personenbezogener Daten im Training von ChatGPT (Dezember 2024)
Und dann sind da die Kosten, die keine Behörde verhängt. Der IBM Cost of a Data Breach Report 2025 führt Schatten-KI erstmals unter den drei teuersten Kostentreibern eines Datenlecks. Unternehmen mit hohem Schatten-KI-Anteil zahlten im Schnitt 670.000 US-Dollar mehr pro Vorfall als Unternehmen mit geringer oder keiner Schatten-KI.
Zum Einordnen: Ein Datenleck kostet ein deutsches Unternehmen im Durchschnitt 3,87 Millionen Euro.
Es geht nicht nur um Kundendaten
Über personenbezogene Daten wird viel geredet, weil sie reguliert sind. Der zweite Verlust wird oft übersehen.
Wenn ein Mitarbeiter Ihre Kalkulation, Ihre Angebotsvorlage, Ihren Quellcode oder Ihre Vertriebsstrategie in ein öffentliches Tool kopiert, gibt er ein Geschäftsgeheimnis aus der Hand. Dafür gibt es kein Bußgeld, aber es kann Sie deutlich mehr kosten als eines.
Ein Geschäftsgeheimnis nach dem Geschäftsgeheimnisgesetz ist nur so lange geschützt, wie Sie angemessene Geheimhaltungsmaßnahmen nachweisen können. Wer keine Regeln für den KI-Einsatz hat, verliert im Streitfall genau diesen Nachweis.
Was ist mit den Business-Tarifen von OpenAI, Anthropic und Google?
Das ist die naheliegende Frage und die gute Nachricht ist: Die Business- und Enterprise-Tarife lösen einen großen Teil des Problems wirklich.
Sie bringen in der Regel mit:
- einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO
- die vertragliche Zusicherung, dass Ihre Eingaben nicht zum Training der Modelle verwendet werden
- Administrationsrechte, Protokollierung und zentrale Nutzerverwaltung
- bei einigen Anbietern die Möglichkeit, Daten innerhalb der EU verarbeiten zu lassen
Für einen großen Teil des Mittelstands ist das ein sinnvoller und gangbarer Weg. Wir empfehlen ihn regelmäßig. Wer heute Schatten-KI im Haus hat und morgen einen sauberen Business-Tarif mit klaren Regeln, hat sein Risiko erheblich reduziert.
Nur: Für manche Branchen reicht es nicht.
Wo die Business-Tarife aufhören zu helfen
Es gibt zwei Gründe, warum ein AVV allein nicht immer ausreicht.
1. Der Serverstandort entscheidet nicht
Der US CLOUD Act von 2018 verpflichtet US-Anbieter, Daten auf Anordnung US-amerikanischer Behörden herauszugeben, unabhängig davon, wo diese Daten gespeichert sind. Maßgeblich ist nicht der Speicherort, sondern die Kontrolle über den Anbieter. Ein Rechenzentrum in Frankfurt schützt nicht, wenn der Mutterkonzern amerikanischem Recht unterliegt.
Der EU-US Data Privacy Framework federt das rechtlich ab und ist weiterhin gültig. Aber er steht spürbar wackliger da als bei seiner Verabschiedung: Die Klage von Philippe Latombe wurde vom Gericht der EU am 3. September 2025 zwar abgewiesen, das Rechtsmittel liegt jedoch beim EuGH. Der PCLOB, eine der US-Aufsichtsinstanzen, auf die sich die EU-Kommission bei ihrem Angemessenheitsbeschluss ausdrücklich gestützt hat ist seit Januar 2025 ohne Beschlussfähigkeit. Im Juli 2026 hat der Europäische Datenschutzausschuss die Kommission aufgefordert, den Rahmen erneut zu überprüfen.
Niemand weiß, wie das ausgeht. Aber wenn Ihre gesamte KI-Strategie auf einem Angemessenheitsbeschluss steht, der gerade überprüft wird, haben Sie ein Klumpenrisiko.
2. Für Berufsgeheimnisträger gilt Strafrecht, nicht nur DSGVO
Das ist der Punkt, den die meisten übersehen.
Steuerberater, Rechtsanwälte, Ärzte und Wirtschaftsprüfer sind Berufsgeheimnisträger nach § 203 StGB. Wer ein fremdes Geheimnis unbefugt offenbart, macht sich strafbar. Entweder mit einer Freiheitsstrafe bis zu einem Jahr oder Geldstrafe. Ein öffentlicher KI-Dienst ist in dieser Konstellation rechtlich ein Dritter.
Seit der Reform von 2017 dürfen externe Dienstleister als mitwirkende Personen eingebunden werden. Aber dafür gilt eine zusätzliche Anforderung, die viele Kanzleien nicht auf dem Schirm haben:
Ein AVV nach DSGVO genügt nicht. Erforderlich ist eine gesonderte Verschwiegenheitsverpflichtung – bei Steuerberatern nach § 62a StBerG, mit ausdrücklichem Hinweis auf die strafrechtlichen Folgen einer Verletzung.
Für Banken, Versicherungen und Teile des Gesundheitswesens kommen aufsichtsrechtliche Anforderungen obendrauf. Für diese Häuser ist die Frage nicht, welcher Tarif gebucht wird. Die Frage ist, ob die Daten das eigene Haus überhaupt verlassen dürfen.
Oft lautet die Antwort: nein.
Die Lösung: eine eigene KI-Infrastruktur
Der Weg, der dieses Problem an der Wurzel löst, ist eine eigene KI-Infrastruktur. Offene Modelle, die auf Ihrem eigenen Server oder auf einem VPS bei einem deutschen Hoster laufen.
Der offensichtliche Vorteil: Die Daten bleiben, wo sie sind. Kein Drittlandtransfer, kein CLOUD Act, keine Abhängigkeit von einem Angemessenheitsbeschluss, der gerade vor Gericht liegt. Was Sie eingeben, verlässt Ihre Infrastruktur nicht.
Der weniger offensichtliche Vorteil ist aus unserer Sicht der wichtigere.
Wenn die Infrastruktur Ihnen gehört, können Sie spezialisierte Agenten aufsetzen, statt einen Allzweck-Chat zu benutzen. Ein Agent für die Angebotserstellung, der Ihre Preislogik und Ihre Textbausteine kennt. Ein Agent für die Eingangspost, der Dokumente vorsortiert und den richtigen Vorgängen zuordnet. Ein Agent für die Recherche in Ihren eigenen Unterlagen, der nur auf das zugreift, was die jeweilige Rolle sehen darf.
Jeder Agent bekommt einen klar abgegrenzten Bereich, eigene Rechte und eigene Daten. Das ist nicht nur sicherer, es ist auch schlicht besser, weil ein spezialisierter Agent bessere Ergebnisse liefert als ein Chatfenster, dem jeder Mitarbeiter jeden Tag neu erklären muss, wie das Unternehmen arbeitet.
So entsteht über die Zeit etwas, das ein Abo nie leisten kann: eine Kette aus Arbeitsschritten, die Ihr Unternehmen tatsächlich abbildet.
Dass so etwas läuft, ist dabei nicht der Schlusspunkt, sondern der Anfang. Modelle werden aktualisiert, Rechte ändern sich, Prozesse verschieben sich. Genau deshalb sehen wir unsere Aufgabe nicht im Aufsetzen, sondern im Betrieb.
Wie Sie anfangen
Sie müssen dafür nicht Ihre gesamte IT umbauen. In den meisten Fällen beginnt es mit drei Schritten:
- Bestandsaufnahme – welche KI-Tools werden im Haus tatsächlich genutzt, und mit welchen Daten?
- Sofortmaßnahme – eine klare, schriftliche Regel und ein freigegebener Zugang, damit die Schatten-KI aufhört
- Aufbau – die eigene Infrastruktur dort, wo die Daten das Haus nicht verlassen dürfen
Schritt 2 ist oft in wenigen Tagen erledigt und nimmt sofort Druck aus dem Thema. Schritt 3 ist eine Investitionsentscheidung – und die sollte man nur treffen, wenn sie sich für den eigenen Fall wirklich rechnet.
Fazit
KI-Nutzung ist in Ihrem Unternehmen keine Zukunftsfrage mehr. Sie findet statt. Die Frage ist nur, ob unter Ihren Regeln oder ohne sie.
Für viele Unternehmen ist ein sauber aufgesetzter Business-Tarif mit klaren Richtlinien die richtige Antwort. Für Kanzleien, Banken, Versicherer und alle, die Berufsgeheimnisse verwalten, führt der Weg an einer eigenen Infrastruktur meist nicht vorbei.
Wenn Sie wissen möchten, welcher der beiden Wege für Sie der richtige ist: Sichern Sie sich ein kostenloses Erstgespräch. In weniger als 15 Minuten sagen wir Ihnen ehrlich, ob sich eine eigene KI-Infrastruktur für Sie lohnt oder ob Sie mit dem einfacheren Weg besser fahren.
Dieser Beitrag ersetzt keine Rechtsberatung. Für die Bewertung Ihres konkreten Falls sprechen Sie bitte mit Ihrem Datenschutzbeauftragten oder Ihrer Rechtsberatung.
Quellen: Bitkom, Schatten-KI (Oktober 2025) · IBM Cost of a Data Breach Report 2025 · PwC Legal zum Meta-Bußgeld · DSGVO-Portal zum OpenAI-Bußgeld