Alexander Beisswenger
KI datenschutzkonform einsetzen: Checkliste für Unternehmen
Zehn Punkte, die Sie klären sollten, bevor personenbezogene Daten durch ein KI-System laufen.
WeiterlesenEin Vertriebsmitarbeiter kopiert eine Kundenanfrage in ChatGPT und lässt sich eine Antwort formulieren. Eine Kollegin aus dem Einkauf lässt einen Lieferantenvertrag zusammenfassen. Ein Konstrukteur fragt nach einer Werkstoffalternative. Niemand hat das erlaubt, niemand hat es verboten. So sieht der Einsatz von ChatGPT im Unternehmen vielerorts aus, ohne dass die Geschäftsführung davon weiß.
Für dieses Phänomen hat sich der Begriff „Schatten-KI“ eingebürgert. Er beschreibt KI-Werkzeuge, die Beschäftigte auf eigene Faust nutzen, oft mit privaten Konten und kostenlosen Versionen. Das Motiv ist fast immer gut: Die Leute wollen schneller und besser arbeiten. Das Problem ist, dass dabei Daten das Unternehmen verlassen, ohne dass jemand weiß, wohin.
Warum Schatten-KI entsteht
Die Werkzeuge sind leicht zugänglich, kostenlos oder günstig und auf Anhieb nützlich. Ein Text, für den man sonst eine halbe Stunde braucht, steht in einer Minute da. Wer das einmal erlebt hat, will nicht mehr darauf verzichten.
Gleichzeitig fehlt in vielen Betrieben eine klare Ansage. Die IT hat keine Lösung bereitgestellt, die Geschäftsführung hat sich noch keine Meinung gebildet, und eine Richtlinie gibt es nicht. In diese Lücke stoßen die Mitarbeiter mit dem, was verfügbar ist. Schatten-KI ist meist kein Disziplinproblem, sondern ein Zeichen, dass ein Bedarf nicht gedeckt ist.
Die Risiken im Überblick
Datenabfluss
Was in ein öffentliches KI-Werkzeug eingegeben wird, verlässt das Unternehmen. Bei manchen Verbraucherversionen können Eingaben je nach Einstellung zur Verbesserung der Modelle verwendet werden. Für personenbezogene Daten von Kunden oder Mitarbeitern fehlt bei privater Nutzung in aller Regel ein Auftragsverarbeitungsvertrag. Das ist datenschutzrechtlich ein Problem, unabhängig davon, ob tatsächlich etwas passiert.
Ebenso heikel sind Geschäftsgeheimnisse: Kalkulationen, Konstruktionsdaten, Vertragsinhalte. Das Geschäftsgeheimnisgesetz schützt Informationen nur, wenn das Unternehmen angemessene Geheimhaltungsmaßnahmen getroffen hat. Wer duldet, dass vertrauliche Unterlagen unkontrolliert in externe Dienste kopiert werden, schwächt diese Position.
Urheberrecht und Rechte an Inhalten
Texte und Bilder, die eine KI erzeugt, sind in Deutschland in der Regel nicht urheberrechtlich geschützt, weil es an einer persönlichen geistigen Schöpfung fehlt. Das bedeutet: Andere dürfen sie unter Umständen ebenfalls verwenden. Umgekehrt kann ein KI-Ergebnis Inhalte enthalten, die den Rechten Dritter zu nahe kommen. Wer KI-Texte ungeprüft in Kataloge, Webseiten oder Angebote übernimmt, sollte das wissen. Bei konkreten Fragen hilft eine Rechtsberatung.
Fehler, die überzeugend klingen
Sprachmodelle formulieren flüssig und selbstsicher, auch wenn der Inhalt falsch ist. Eine erfundene Norm, ein falscher Grenzwert, eine nicht existierende Vertragsklausel. Im Alltag fällt das oft nicht auf, weil die Antwort plausibel klingt. Gefährlich wird es, wenn solche Inhalte ungeprüft an Kunden gehen oder in technische Entscheidungen einfließen.
Fehlende Nachvollziehbarkeit
Wenn jeder Mitarbeiter mit seinem privaten Konto arbeitet, weiß niemand, welche Inhalte wo entstanden sind. Verlässt jemand das Unternehmen, gehen auch seine gespeicherten Gespräche und bewährten Anweisungen mit.
Was eine KI-Richtlinie regeln sollte
Eine KI-Richtlinie muss kein umfangreiches Regelwerk sein. Zwei bis drei Seiten reichen oft, wenn sie klar sind. Diese Punkte sollte sie abdecken:
- Erlaubte Werkzeuge: Welche KI-Dienste dürfen genutzt werden, und mit welchen Konten? Private Konten für dienstliche Zwecke sollten ausgeschlossen sein.
- Datenklassen: Was darf hinein und was nicht? Eine einfache Einteilung hilft, siehe Tabelle unten.
- Prüfpflicht: KI-Ergebnisse werden vor der Weitergabe an Kunden oder vor Entscheidungen von einem Menschen geprüft. Wer ein Ergebnis verwendet, ist dafür verantwortlich.
- Kennzeichnung: Wann muss erkennbar sein, dass ein Inhalt mit KI erstellt wurde? Für bestimmte Fälle gelten ab dem 2. August 2026 Transparenzpflichten nach Art. 50 EU AI Act.
- Zuständigkeit: Wer beantwortet Fragen, wer entscheidet über neue Werkzeuge, wer wird bei Problemen informiert?
- Schulung: Wie werden Beschäftigte befähigt, KI sinnvoll und sicher zu nutzen?
Eine einfache Einteilung der Daten könnte so aussehen:
| Datenklasse | Beispiele | In öffentliche KI-Dienste? | In freigegebenes Unternehmenswerkzeug? |
|---|---|---|---|
| Öffentlich | Texte von der eigenen Website, allgemeine Fachfragen | Ja | Ja |
| Intern | Interne Abläufe, allgemeine Projektinfos ohne Namen | Nein | Ja |
| Vertraulich | Kalkulationen, Konstruktionsdaten, Verträge | Nein | Nur mit ausdrücklicher Freigabe |
| Personenbezogen | Kundenkontakte, Mitarbeiterdaten | Nein | Nur mit AV-Vertrag und klarem Zweck |
Falls ein Betriebsrat besteht, sollte er früh eingebunden werden. Wenn das Werkzeug Nutzungsprotokolle führt, die Rückschlüsse auf Leistung oder Verhalten zulassen, ist seine Mitbestimmung ohnehin erforderlich.
Die KI-Kompetenzpflicht nach Art. 4 EU AI Act
Seit dem 2. Februar 2025 gilt Art. 4 der europäischen KI-Verordnung. Er verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, damit ihr Personal über ausreichende KI-Kompetenz verfügt. Betreiber ist dabei auch ein Unternehmen, dessen Beschäftigte ein KI-System im Rahmen ihrer Arbeit nutzen.
Das betrifft also nicht nur Unternehmen, die eigene KI entwickeln, sondern praktisch jeden Betrieb, in dem ChatGPT oder vergleichbare Werkzeuge dienstlich eingesetzt werden. Eine bestimmte Form der Schulung schreibt die Verordnung nicht vor. Sinnvoll ist, die Maßnahmen zu dokumentieren: Wer wurde wann wozu geschult, welche Richtlinie gilt. Mehr zum Thema im Beitrag EU AI Act: Was mittelständische Unternehmen jetzt wissen müssen.
Wer Schatten-KI duldet, ohne zu schulen, hat in diesem Punkt eine Lücke. Eine Richtlinie mit kurzer Einweisung ist deshalb nicht nur gute Praxis, sondern hilft auch, die gesetzliche Anforderung zu erfüllen.
Bessere Alternativen
Verbote allein funktionieren selten. Wer den Nutzen von KI kennengelernt hat, sucht Wege, sie weiter zu nutzen. Besser ist es, ein Werkzeug bereitzustellen, das sicher ist und den Bedarf deckt.
Unternehmenslizenzen
Die großen Anbieter haben Geschäftsversionen ihrer Dienste, etwa als Team- oder Unternehmensvariante oder als Bestandteil von Microsoft 365. Diese bieten in der Regel einen AV-Vertrag, schließen das Training mit Ihren Daten vertraglich aus und erlauben eine zentrale Verwaltung der Konten. Prüfen Sie dennoch Serverstandort, Unterauftragnehmer und Speicherfristen. Die Datenschutz-Checkliste für KI hilft dabei.
Eigene Assistenten auf eigenem Wissen
Ein allgemeiner Chat-Dienst kennt Ihr Unternehmen nicht. Er weiß nichts über Ihre Produkte, Ihre Prüfprotokolle oder Ihre Angebotsvorlagen. Ein eigener Assistent, der auf Ihr freigegebenes Unternehmenswissen zugreift, beantwortet Fragen mit Quellenangabe und berücksichtigt dabei die bestehenden Berechtigungen. Wie das funktioniert, zeigen der Anwendungsfall Unternehmenswissen durchsuchbar machen und der Beitrag Wie eine KI-Wissensdatenbank funktioniert.
Ein solcher Assistent eignet sich auch für die Einarbeitung neuer Mitarbeiter oder als Unterstützung beim Beantworten von Ersatzteil- und Serviceanfragen.
Server in Deutschland
Für vertrauliche und personenbezogene Daten ist eine Lösung mit Servern in Deutschland und klarem AV-Vertrag oft der einfachste Weg. Damit entfallen Fragen zum Drittlandtransfer, und Sie behalten die Kontrolle darüber, wo Ihre Daten liegen. Das schließt den Einsatz leistungsfähiger Sprachmodelle nicht aus, verlangt aber eine bewusste Auswahl.
Welche Alternative passt?
| Bedarf | Naheliegende Lösung |
|---|---|
| Allgemeine Texte, E-Mails, Übersetzungen ohne vertrauliche Inhalte | Unternehmenslizenz eines großen Anbieters |
| Fragen zu internen Dokumenten, Produkten, Abläufen | Eigener Assistent auf eigenem Wissen |
| Verarbeitung personenbezogener oder vertraulicher Daten | Lösung mit Servern in Deutschland und AV-Vertrag |
| Wiederkehrende Abläufe wie Anfragen oder Bestellungen | Gezielte Automatisierung statt Chat-Werkzeug |
Erste Schritte in vier Wochen
Sie müssen nicht alles auf einmal lösen. Ein pragmatischer Einstieg könnte so aussehen:
- Bestandsaufnahme: Fragen Sie offen und ohne Vorwürfe, wer welche KI-Werkzeuge wofür nutzt. Die Antworten zeigen, wo der Bedarf liegt.
- Richtlinie entwerfen: Halten Sie erlaubte Werkzeuge, Datenklassen und Prüfpflicht auf wenigen Seiten fest. Datenschutzbeauftragten und, falls vorhanden, Betriebsrat einbinden.
- Werkzeug bereitstellen: Wählen Sie eine Lösung, die den häufigsten Bedarf sicher abdeckt, und stellen Sie dienstliche Konten bereit.
- Schulen und dokumentieren: Eine kurze Einweisung mit Beispielen aus dem eigenen Alltag, festgehalten mit Datum und Teilnehmern.
Danach lohnt der Blick auf wiederkehrende Aufgaben, bei denen ein Chat-Werkzeug nur ein Notbehelf ist und eine gezielte Automatisierung mehr bringt.
Fazit
ChatGPT im Unternehmen ist in vielen Betrieben längst Realität, nur eben ungeregelt. Statt die Nutzung zu ignorieren oder pauschal zu verbieten, hilft ein klarer Dreischritt: eine kurze, verständliche KI-Richtlinie, eine Schulung, die auch die Kompetenzpflicht nach Art. 4 EU AI Act abdeckt, und ein freigegebenes Werkzeug, das sicher ist und den Bedarf wirklich deckt. Ob das eine Unternehmenslizenz, ein eigener Assistent auf Ihrem Wissen oder eine Kombination ist, hängt von Ihren Daten und Abläufen ab. Einen ersten Überblick gibt der KI-Schnellcheck.
