Alexander Beisswenger
ChatGPT im Unternehmen: Regeln, Risiken und bessere Alternativen
Ihre Mitarbeiter nutzen ChatGPT vermutlich schon. Statt Verboten helfen klare Regeln, Schulung und ein sicheres Werkzeug.
WeiterlesenDie Geschäftsführung möchte, dass eingehende Kundenanfragen automatisch erfasst werden. Der Vertrieb ist begeistert. Dann fragt der Datenschutzbeauftragte: „Wo landen die Daten eigentlich?“ Und plötzlich steht das Projekt. Wer KI datenschutzkonform einsetzen will, sollte diese Frage nicht am Ende stellen, sondern am Anfang.
Die gute Nachricht: Die DSGVO verbietet den Einsatz von KI nicht. Sie verlangt, dass Sie wissen, welche Daten wohin fließen, warum, und wer darauf zugreifen kann. Die folgende Checkliste fasst zusammen, was in der Praxis zu klären ist.
Wichtiger Hinweis: Dieser Artikel ist keine Rechtsberatung. Er gibt einen Überblick über typische Punkte. Für Ihren konkreten Fall ziehen Sie bitte Ihren Datenschutzbeauftragten oder eine Rechtsberatung hinzu.
Warum KI-Datenschutz eigene Fragen aufwirft
Bei klassischer Software ist meist klar, wo die Daten liegen: im eigenen ERP, auf dem eigenen Server, bei einem bekannten Hosting-Anbieter. Bei KI-Diensten ist das oft weniger offensichtlich. Ein Sprachmodell läuft häufig beim Anbieter, Eingaben werden übertragen, verarbeitet, teils gespeichert. Manche Dienste behalten sich vor, Eingaben zur Verbesserung ihrer Modelle zu verwenden.
Hinzu kommt, dass KI-Systeme gerade mit den Daten arbeiten, die heikel sind: E-Mails mit Namen und Telefonnummern, Visitenkarten von Messekontakten, Serviceberichte mit Kundenadressen, interne Dokumente mit Mitarbeiterdaten.
Die Checkliste: KI datenschutzkonform einsetzen
1. Zweck und Rechtsgrundlage festlegen
Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Im Unternehmensalltag kommen vor allem die Vertragserfüllung (lit. b) und das berechtigte Interesse (lit. f) in Betracht. Beschreiben Sie schriftlich, wofür das KI-System Daten verarbeitet. „Wir nutzen KI“ reicht nicht. „Eingehende Anfragen werden ausgelesen und als Datensatz im CRM angelegt“ ist ein Zweck.
Tragen Sie die Verarbeitung in Ihr Verzeichnis von Verarbeitungstätigkeiten nach Art. 30 DSGVO ein und prüfen Sie, ob Ihre Datenschutzhinweise nach Art. 13 und 14 DSGVO angepasst werden müssen.
2. Auftragsverarbeitungsvertrag abschließen
Wenn ein externer Anbieter Daten in Ihrem Auftrag verarbeitet, brauchen Sie einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Das gilt für den KI-Dienst ebenso wie für den Dienstleister, der die Lösung betreibt. Ohne AV-Vertrag sollte kein personenbezogenes Datum das Haus verlassen.
Prüfen Sie im Vertrag auch die Liste der Unterauftragnehmer. Gerade bei KI-Lösungen sind oft mehrere Anbieter beteiligt: der Betreiber der Anwendung, der Anbieter des Sprachmodells, der Hosting-Dienst.
3. Serverstandort und Drittlandtransfer klären
Fragen Sie konkret: Wo werden die Daten verarbeitet und gespeichert? Liegen die Server in Deutschland oder der EU? Gibt es Zugriffe aus Drittländern, etwa für Wartung oder Support?
Für Übermittlungen in Drittländer gelten die Art. 44 ff. DSGVO. Für die USA besteht seit Juli 2023 ein Angemessenheitsbeschluss (EU-US Data Privacy Framework), der allerdings nur für Unternehmen gilt, die sich darunter zertifiziert haben. Ob das für Ihren Anbieter zutrifft und wie belastbar diese Grundlage langfristig ist, sollte Ihr Datenschutzbeauftragter bewerten. Am einfachsten wird es, wenn die Verarbeitung vollständig in Deutschland oder der EU stattfindet.
4. Datenminimierung umsetzen
Art. 5 Abs. 1 lit. c DSGVO verlangt, nur die Daten zu verarbeiten, die für den Zweck nötig sind. Für KI-Lösungen heißt das praktisch:
- Nur die Dokumente und Felder an das Modell geben, die es für die Aufgabe braucht.
- Wo möglich, Namen oder Kontaktdaten vor der Verarbeitung entfernen oder ersetzen.
- Ergebnisse speichern, Rohdaten nach der Verarbeitung löschen, sofern keine Aufbewahrungspflicht besteht.
- Keine „sicherheitshalber“ angebundenen Laufwerke mit allem, was im Unternehmen liegt.
5. Berechtigungen sauber abbilden
Ein KI-Assistent, der auf Unternehmenswissen zugreift, darf nur das zeigen, was der jeweilige Nutzer auch sonst sehen dürfte. Wenn die Personalakte auf dem Netzlaufwerk nur für die Personalabteilung freigegeben ist, darf der Assistent sie dem Vertrieb nicht zusammenfassen.
Das klingt selbstverständlich, ist aber eine der häufigsten Schwachstellen. Gute Lösungen übernehmen die bestehenden Rechte aus SharePoint, Netzlaufwerk oder ERP, statt alles in einen gemeinsamen Topf zu werfen. Mehr dazu im Anwendungsfall Unternehmenswissen durchsuchbar machen.
6. Protokollierung einrichten
Sie sollten nachvollziehen können, welche Daten wann verarbeitet wurden und was das System daraus gemacht hat. Das hilft bei Auskunftsersuchen nach Art. 15 DSGVO, bei der Fehlersuche und beim Nachweis, dass Sie ordnungsgemäß gearbeitet haben.
Gleichzeitig gilt: Protokolle sind selbst personenbezogene Daten. Legen Sie fest, was protokolliert wird, wer die Protokolle einsehen darf und wann sie gelöscht werden. Bei Protokollen, die Rückschlüsse auf das Verhalten einzelner Mitarbeiter erlauben, ist der Betriebsrat einzubinden (siehe Punkt 8).
7. Training mit Ihren Daten ausschließen
Manche KI-Dienste, vor allem kostenlose Verbraucherversionen, nutzen Eingaben unter Umständen zur Verbesserung ihrer Modelle. Für Unternehmensdaten ist das in aller Regel nicht akzeptabel. Lassen Sie sich vertraglich zusichern, dass Ihre Daten nicht zum Training verwendet werden. Eine Einstellung im Benutzerkonto, die jeder Mitarbeiter selbst ändern kann, reicht dafür nicht.
Klären Sie auch, wie lange der Anbieter Eingaben speichert, etwa zur Missbrauchserkennung, und ob diese Speicherung abbestellt werden kann.
8. Mitarbeiter informieren und einbinden
Ihre Beschäftigten müssen wissen, welche KI-Werkzeuge sie nutzen dürfen, welche Daten hineingehören und welche nicht. Das ist auch Teil der KI-Kompetenzpflicht nach Art. 4 EU AI Act, die seit dem 2. Februar 2025 gilt. Mehr dazu im Beitrag EU AI Act: Was mittelständische Unternehmen jetzt wissen müssen.
Werden im KI-System auch Daten von Beschäftigten verarbeitet, sind diese zu informieren. Ist das System geeignet, Verhalten oder Leistung zu überwachen, hat ein vorhandener Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG mitzubestimmen. Eine Betriebsvereinbarung schafft hier Klarheit für beide Seiten.
9. Datenschutz-Folgenabschätzung prüfen
Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist nötig, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Betroffenen mit sich bringt. Die Datenschutzaufsichtsbehörden haben dazu Listen von Verarbeitungen veröffentlicht, für die eine DSFA in der Regel erforderlich ist.
Bei folgenden Konstellationen sollten Sie genauer hinschauen:
| Konstellation | Einschätzung |
|---|---|
| KI durchsucht technische Unterlagen wie Handbücher und Stücklisten | DSFA meist nicht nötig, wenig Personenbezug |
| KI sortiert das Sammelpostfach mit Kundenanfragen | Prüfen, in der Regel überschaubares Risiko |
| KI wertet Bewerbungen aus oder bewertet Mitarbeiter | DSFA naheliegend, zusätzlich Regeln des EU AI Act beachten |
| KI verarbeitet Gesundheitsdaten oder andere besondere Kategorien nach Art. 9 DSGVO | DSFA naheliegend |
| Systematische Auswertung des Verhaltens von Beschäftigten | DSFA naheliegend, Betriebsrat einbinden |
Die Tabelle ist eine Orientierung, keine abschließende Bewertung. Die Entscheidung, ob eine DSFA nötig ist, sollten Sie gemeinsam mit Ihrem Datenschutzbeauftragten treffen und dokumentieren.
10. Löschung und Betroffenenrechte regeln
Wer Daten verarbeitet, muss sie auch wieder löschen können. Klären Sie, wie Auskunft, Berichtigung und Löschung nach Art. 15 bis 17 DSGVO im KI-System umgesetzt werden. Bei einer Wissensdatenbank heißt das zum Beispiel: Wird ein Dokument im Quellsystem gelöscht, muss es auch aus dem Suchindex verschwinden.
Die Checkliste auf einen Blick
- Zweck schriftlich beschrieben, Rechtsgrundlage geklärt, Verarbeitungsverzeichnis ergänzt
- AV-Vertrag mit allen beteiligten Anbietern, Unterauftragnehmer bekannt
- Serverstandort und mögliche Drittlandtransfers geklärt
- Nur notwendige Daten werden verarbeitet
- Berechtigungen aus den Quellsystemen werden übernommen
- Protokollierung mit festgelegter Aufbewahrung
- Training mit Ihren Daten vertraglich ausgeschlossen
- Mitarbeiter informiert, Betriebsrat eingebunden, sofern vorhanden
- Notwendigkeit einer DSFA geprüft und dokumentiert
- Löschung und Betroffenenrechte technisch umsetzbar
Was das für die Wahl einer Lösung bedeutet
Viele dieser Punkte lassen sich nicht nachträglich anflanschen. Ob Berechtigungen sauber übernommen werden, ob Daten in Deutschland bleiben und ob ein Training ausgeschlossen ist, entscheidet sich bei der Auswahl und beim Aufbau der Lösung. Fragen Sie Anbieter deshalb früh und konkret.
Für viele Anwendungsfälle im Mittelstand ist die Verarbeitung auf Servern in Deutschland mit AV-Vertrag und Berechtigungssystem gut machbar. Das gilt etwa für das Sammelpostfach, die Erfassung von Kundenanfragen oder eine durchsuchbare Wissensbasis. Bei Daten von Beschäftigten oder besonders sensiblen Kategorien ist mehr Sorgfalt nötig, und manchmal ist die ehrliche Antwort, dass sich ein Vorhaben datenschutzrechtlich nicht vertretbar umsetzen lässt.
Fazit
KI datenschutzkonform einzusetzen ist im Mittelstand gut machbar, wenn die Fragen am Anfang gestellt werden. Rechtsgrundlage, AV-Vertrag, Serverstandort und der Ausschluss des Trainings sind die Pflicht. Datenminimierung, saubere Berechtigungen und eine überlegte Protokollierung entscheiden darüber, ob die Lösung im Alltag wirklich sicher ist. Binden Sie Ihren Datenschutzbeauftragten und, falls vorhanden, den Betriebsrat früh ein. Das kostet am Anfang etwas Zeit und spart später deutlich mehr.
