Künstliche Intelligenz ist längst nicht mehr nur ein Thema für große Technologiekonzerne. Auch kleine und mittelständische Unternehmen nutzen KI inzwischen im Alltag: für Texte, E-Mails, Bewerbungen, Kundenservice, Marketing, Auswertungen, Automatisierung, Softwareentwicklung, IT-Sicherheit oder interne Wissensdatenbanken. Die Vorteile sind offensichtlich: Prozesse werden schneller, Routineaufgaben lassen sich automatisieren, Mitarbeitende bekommen bessere Entscheidungsgrundlagen und Unternehmen können effizienter arbeiten.
Gleichzeitig entsteht mit jeder KI-Anwendung eine wichtige Frage: Wie lässt sich KI Datenschutz-konform, sicher und verantwortungsvoll im Unternehmen einsetzen?
Aus Sicht eines externen Datenschutzbeauftragten ist genau das der entscheidende Punkt. Nicht die Frage, ob Unternehmen KI einsetzen dürfen, sondern wie sie KI einsetzen. Die DSGVO verbietet künstliche Intelligenz nicht. Sie verlangt aber, dass personenbezogene Daten rechtmäßig, transparent, zweckgebunden, sicher und nachvollziehbar verarbeitet werden. Gerade bei KI-Systemen ist das anspruchsvoll, weil Daten oft in Eingaben, Trainingsprozessen, Prompts, Protokollen, Ausgaben und Schnittstellen verarbeitet werden.
Hinzu kommt der europäische AI Act. Er ersetzt die DSGVO nicht, sondern kommt als zusätzliche Regulierung hinzu. Laut EU-Kommission ist der AI Act am 1. August 2024 in Kraft getreten; erste Regeln wie Verbote bestimmter KI-Praktiken und Pflichten zur KI-Kompetenz gelten seit dem 2. Februar 2025, Pflichten für General-Purpose-AI-Modelle seit dem 2. August 2025. Für Unternehmen bedeutet das: KI Datenschutz ist kein einmaliges Rechtsgutachten, sondern ein laufender Governance-Prozess.
Dieser Artikel erklärt leicht verständlich, wo KI in Firmen eingesetzt wird, wie Unternehmen den richtigen KI-Dienstleister auswählen, welche Datenschutzmaßnahmen erforderlich sind, wie ein Verarbeitungsverzeichnis für KI-Anwendungen aufgebaut wird und wann eine Datenschutz-Folgenabschätzung, kurz DSFA, notwendig oder dringend zu empfehlen ist.
1. Warum KI Datenschutz für Unternehmen so wichtig ist
Viele Unternehmen starten mit KI sehr pragmatisch. Mitarbeitende testen ein Chatbot-Tool, die Marketingabteilung nutzt KI für Texte, der Vertrieb lässt Kunden-E-Mails formulieren, die Personalabteilung prüft neue Recruiting-Software oder die IT führt ein KI-gestütztes Ticketsystem ein. Häufig passiert das schneller, als Datenschutz, IT-Sicherheit und Geschäftsleitung eingebunden werden.
Genau hier entsteht das Risiko.
Denn sobald personenbezogene Daten verarbeitet werden, gilt die DSGVO. Personenbezogene Daten sind nicht nur Kundennamen oder E-Mail-Adressen. Auch Bewerbungsunterlagen, Beschäftigtendaten, IP-Adressen, Nutzerkennungen, Gesprächsnotizen, CRM-Einträge, Support-Tickets, Gesundheitsdaten, Leistungsdaten, Standortdaten oder interne Kommunikationsinhalte können personenbezogene Daten sein.
Die DSGVO schützt natürliche Personen bei der Verarbeitung personenbezogener Daten und insbesondere deren Recht auf Schutz dieser Daten. Das ist beim Einsatz von KI besonders relevant, weil KI-Systeme Daten nicht nur speichern oder anzeigen, sondern analysieren, bewerten, kombinieren, klassifizieren, zusammenfassen oder für Prognosen nutzen können.
Aus Datenschutzsicht stellen sich deshalb unter anderem folgende Fragen:
Welche Daten werden in das KI-System eingegeben? Werden Kundendaten, Beschäftigtendaten oder sensible Daten verarbeitet? Nutzt der Anbieter die Eingaben zum Training eigener Modelle? Wo werden die Daten gespeichert? Welche Unterauftragnehmer sind beteiligt? Werden Daten in Drittländer übermittelt? Gibt es Löschfristen? Können Betroffene Auskunft, Löschung oder Berichtigung verlangen? Werden automatisierte Entscheidungen getroffen? Gibt es menschliche Kontrolle? Ist eine DSFA erforderlich?
Ein professioneller KI Datenschutz beantwortet diese Fragen nicht erst nach der Einführung, sondern vor dem produktiven Einsatz.
2. In welchen Bereichen findet KI Anwendung in Firmen?
KI ist kein einzelnes Tool. Der Begriff umfasst sehr unterschiedliche Anwendungen. Für den Datenschutz ist deshalb nicht entscheidend, ob irgendwo „KI“ auf dem Produkt steht, sondern welcher konkrete Zweck verfolgt wird und welche Daten dabei verarbeitet werden.
2.1 KI im Büroalltag und bei Assistenzaufgaben
Ein häufiger Einstieg sind KI-Assistenten für Texte, Zusammenfassungen, Präsentationen, Übersetzungen, Protokolle oder E-Mail-Entwürfe. Diese Anwendungen wirken auf den ersten Blick harmlos. Datenschutzrechtlich können sie aber relevant sein, wenn Mitarbeitende personenbezogene Inhalte eingeben, zum Beispiel Kundenanfragen, Vertragsdetails, Gesprächsnotizen, interne Konflikte oder Informationen über Bewerber.
Ein Beispiel: Ein Mitarbeiter kopiert eine vollständige Kundenbeschwerde in ein öffentliches KI-Tool, um eine freundlichere Antwort formulieren zu lassen. Enthält die Beschwerde Name, Kundennummer, Vertragsdaten oder Gesundheitsinformationen, liegt eine Verarbeitung personenbezogener Daten vor. Dann braucht das Unternehmen eine Rechtsgrundlage, klare Regeln, technische Schutzmaßnahmen und eine Prüfung des Dienstleisters.
2.2 KI im Kundenservice
Im Kundenservice werden KI-Chatbots, automatische Antwortvorschläge, Ticket-Klassifizierungen und Voicebots eingesetzt. Sie helfen, Anfragen schneller zu beantworten und Support-Teams zu entlasten. Gleichzeitig enthalten Support-Anfragen oft viele personenbezogene Daten: Namen, Kontaktdaten, Bestellnummern, Vertragsdaten, Zahlungsinformationen, Beschwerden oder technische Nutzungsdaten.
Besonders kritisch wird es, wenn der Chatbot Zugriff auf Kundendatenbanken erhält oder automatisiert entscheidet, ob ein Kunde eine Erstattung, einen Rückruf oder eine Eskalation erhält. Dann geht es nicht nur um Textgenerierung, sondern um echte Prozesssteuerung.
2.3 KI in Marketing und Vertrieb
Marketing und Vertrieb nutzen KI für Zielgruppenanalysen, Lead Scoring, Newsletter-Personalisierung, Produktempfehlungen, Kampagnenoptimierung, Social-Media-Content und automatisierte Kundenansprache. Datenschutzrechtlich ist dieser Bereich sensibel, weil KI hier oft Verhalten analysiert und Profile bildet.
Ein Lead-Scoring-System kann zum Beispiel berechnen, wie wahrscheinlich ein Interessent kauft. Dafür werden möglicherweise Websiteverhalten, E-Mail-Interaktionen, CRM-Daten und frühere Käufe kombiniert. Je genauer das Profil, desto relevanter werden Transparenz, Rechtsgrundlage, Widerspruchsmöglichkeiten und Datenminimierung.
2.4 KI im Personalwesen
HR ist einer der sensibelsten Einsatzbereiche. KI wird eingesetzt, um Bewerbungen vorzusortieren, Stellenanzeigen zu optimieren, Mitarbeiterfeedback auszuwerten, Weiterbildungsbedarf zu erkennen, Schichtpläne zu erstellen oder Fluktuationsrisiken zu prognostizieren.
Gerade hier ist KI Datenschutz besonders wichtig. Beschäftigte und Bewerber befinden sich häufig in einem Abhängigkeitsverhältnis zum Unternehmen. Eine scheinbar objektive KI-Bewertung kann zu Diskriminierung führen, wenn Trainingsdaten verzerrt sind oder bestimmte Gruppen benachteiligt werden. Werden persönliche Aspekte natürlicher Personen systematisch und umfassend bewertet und dient dies als Grundlage für Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO insbesondere erforderlich.
2.5 KI in IT, Informationssicherheit und Softwareentwicklung
Auch IT-Abteilungen nutzen KI: zur Erkennung von Sicherheitsvorfällen, zur Analyse von Logdaten, zur Unterstützung im Helpdesk, zur Codegenerierung oder zur Fehleranalyse. Diese Anwendungen können sehr nützlich sein, verarbeiten aber oft technische Daten mit Personenbezug, etwa Benutzerkennungen, IP-Adressen, Geräteinformationen, Zugriffsprotokolle oder Fehlermeldungen.
Bei Code-Assistenten kommt ein weiteres Risiko hinzu: Entwickler könnten vertraulichen Quellcode, Zugangsdaten, Kundendaten oder interne Systeminformationen in externe KI-Tools eingeben. Hier braucht es klare Richtlinien, technische Sperren und Schulungen.
2.6 KI in Finanzen, Controlling und Buchhaltung
In Finanzprozessen hilft KI bei Belegverarbeitung, Rechnungserkennung, Betrugserkennung, Risikobewertung, Liquiditätsplanung oder Reporting. Datenschutzrechtlich relevant sind hier insbesondere Zahlungsdaten, Lieferantendaten, Kundendaten, Beschäftigtendaten und gegebenenfalls Informationen über wirtschaftliche Verhältnisse.
Besondere Vorsicht ist geboten, wenn KI-Systeme Bonität, Betrugsverdacht oder Zahlungswahrscheinlichkeit bewerten. Solche Bewertungen können erhebliche Auswirkungen auf betroffene Personen haben.
2.7 KI in Produktion, Logistik und Qualitätssicherung
In Produktion und Logistik wird KI für vorausschauende Wartung, Qualitätskontrolle, Routenplanung, Lageroptimierung oder Sensoranalysen eingesetzt. Nicht jede industrielle KI verarbeitet personenbezogene Daten. Wenn aber Beschäftigtendaten, Schichtdaten, Leistungsdaten, Standortdaten oder Videoaufnahmen verarbeitet werden, ist Datenschutz unmittelbar betroffen.
Ein Kamerasystem zur Qualitätskontrolle kann etwa unproblematischer sein, wenn nur Produkte erfasst werden. Erfasst es aber Mitarbeitende am Arbeitsplatz, können Überwachungsrisiken entstehen.
2.8 KI in Wissensmanagement und internen Suchsystemen
Viele Unternehmen planen interne KI-Wissensdatenbanken. Mitarbeitende sollen Fragen stellen können wie: „Was steht in unseren Richtlinien?“, „Welche Vertragsklausel gilt für diesen Kunden?“ oder „Wie läuft der Onboarding-Prozess?“
Diese Systeme sind sehr hilfreich, aber datenschutzrechtlich anspruchsvoll. Denn interne Dokumente enthalten häufig personenbezogene Daten, vertrauliche Informationen, Betriebsgeheimnisse oder personenbezogene Bewertungen. Ohne Rechte- und Rollenkonzept könnte ein Mitarbeiter über die KI Zugriff auf Informationen erhalten, die er in der normalen Dateiablage nicht sehen dürfte.
3. Wo entstehen beim KI-Einsatz personenbezogene Daten?
Viele Unternehmen denken beim KI Datenschutz nur an den Text, den ein Mitarbeiter in ein Tool eingibt. Das greift zu kurz. Bei KI-Anwendungen entstehen personenbezogene Daten an mehreren Stellen.
Erstens gibt es die Eingabedaten. Das sind Prompts, hochgeladene Dokumente, Audiodateien, Bilder, Tickets, E-Mails oder Datensätze, die an das KI-System übergeben werden.
Zweitens gibt es die System- und Nutzungsdaten. Dazu gehören Benutzerkonten, Login-Zeiten, IP-Adressen, Nutzungsstatistiken, Chatverläufe, Fehlerprotokolle und Abrechnungsdaten.
Drittens gibt es die Ausgabedaten. Auch ein KI-Ergebnis kann personenbezogene Daten enthalten, zum Beispiel eine Zusammenfassung über einen Kunden, eine Bewertung eines Bewerbers oder eine Empfehlung zu einem Mitarbeiter.
Viertens gibt es mögliche Trainings- oder Optimierungsdaten. Manche Anbieter verwenden Eingaben oder Interaktionen, um Modelle zu verbessern. Das kann datenschutzrechtlich problematisch sein, wenn keine klare vertragliche Begrenzung besteht.
Fünftens gibt es abgeleitete Daten. KI-Systeme können Kategorien, Scores, Wahrscheinlichkeiten oder Profile erzeugen. Diese Daten sind oft besonders kritisch, weil sie Bewertungen über Menschen enthalten.
Der Europäische Datenschutzausschuss hat in seiner Stellungnahme zu KI-Modellen ausdrücklich Fragen behandelt wie: wann KI-Modelle als anonym betrachtet werden können, ob berechtigte Interessen als Rechtsgrundlage in Betracht kommen und was passiert, wenn ein Modell mit unrechtmäßig verarbeiteten personenbezogenen Daten entwickelt wurde. Für Unternehmen ist das ein klares Signal: KI Datenschutz endet nicht beim Prompt, sondern umfasst den gesamten Lebenszyklus der KI-Anwendung.
4. Die wichtigsten Datenschutzgrundsätze beim KI Einsatz
Ein Unternehmen sollte jede KI-Anwendung anhand der Grundsätze der DSGVO prüfen. Diese Grundsätze sind keine Theorie, sondern praktische Prüfpunkte.
Rechtmäßigkeit
Für jede Verarbeitung personenbezogener Daten braucht es eine Rechtsgrundlage. In Betracht kommen je nach Fall Vertragserfüllung, rechtliche Pflicht, berechtigtes Interesse, Einwilligung oder im Beschäftigungskontext spezielle Regelungen. Eine Einwilligung ist im Arbeitsverhältnis häufig problematisch, weil sie freiwillig sein muss.
Transparenz
Betroffene Personen müssen verstehen können, dass und wie ihre Daten verarbeitet werden. Bei KI bedeutet das: Unternehmen müssen erklären, welche KI eingesetzt wird, zu welchem Zweck, mit welchen Daten, welchen Empfängern und welchen Rechten der Betroffenen.
Zweckbindung
Daten dürfen nicht beliebig für neue KI-Zwecke verwendet werden. Wer Kundendaten zur Vertragserfüllung erhebt, darf sie nicht automatisch für KI-Training, Profiling oder Marketinganalysen verwenden.
Datenminimierung
KI verleitet dazu, möglichst viele Daten zu verwenden. Datenschutz verlangt das Gegenteil: Nur die Daten verarbeiten, die für den konkreten Zweck erforderlich sind. In vielen Fällen reichen anonymisierte, pseudonymisierte oder gekürzte Daten.
Richtigkeit
KI kann falsche Ergebnisse erzeugen. Werden KI-Ausgaben über Menschen verwendet, müssen Unternehmen sicherstellen, dass keine falschen Informationen ungeprüft übernommen werden.
Speicherbegrenzung
Prompts, Chatverläufe, Uploads, Protokolle und Ausgaben dürfen nicht unbegrenzt gespeichert werden. Es braucht Löschfristen und technische Löschmöglichkeiten.
Integrität und Vertraulichkeit
Daten müssen vor unbefugtem Zugriff, Verlust, Veränderung und Offenlegung geschützt werden. Art. 32 DSGVO nennt dafür unter anderem Pseudonymisierung, Verschlüsselung, dauerhafte Vertraulichkeit, Integrität, Verfügbarkeit und Belastbarkeit sowie Verfahren zur regelmäßigen Überprüfung der Wirksamkeit technischer und organisatorischer Maßnahmen.
5. Wie wählt man den richtigen KI Dienstleister aus?
Die Auswahl des richtigen Dienstleisters ist einer der wichtigsten Punkte beim KI Datenschutz. Ein guter Anbieter ist nicht nur technisch leistungsfähig, sondern kann auch Datenschutz, Informationssicherheit und Transparenz nachweisen.
Nach Art. 28 DSGVO darf ein Verantwortlicher bei Auftragsverarbeitung nur mit Auftragsverarbeitern arbeiten, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten. Auch die DSK-Kurzinformation zur Auftragsverarbeitung betont die Prüfung der Geeignetheit des Auftragsverarbeiters vor Auftragsvergabe und den Nachweis ausreichender Datenschutzgarantien.
Aus der Praxis als externer Datenschutzbeauftragter empfehle ich Unternehmen, KI-Dienstleister nicht nur nach Preis und Funktionsumfang auszuwählen. Entscheidend sind mindestens diese Prüfpunkte:
Der Anbieter sollte klar erklären können, ob er als Auftragsverarbeiter, eigenständig Verantwortlicher oder gemeinsam Verantwortlicher handelt. Er sollte einen DSGVO-konformen Auftragsverarbeitungsvertrag anbieten, wenn personenbezogene Daten im Auftrag verarbeitet werden. Er sollte dokumentieren, ob Eingaben zum Training eigener Modelle genutzt werden. Er sollte Speicherorte, Unterauftragnehmer und Drittlandtransfers offenlegen. Er sollte technische und organisatorische Maßnahmen beschreiben. Er sollte Löschkonzepte, Rollen- und Berechtigungskonzepte, Protokollierung, Verschlüsselung und Supportprozesse erklären können.
Besonders wichtig ist die Frage: Werden Kundendaten, Beschäftigtendaten oder sonstige Eingaben für das Training des KI-Modells verwendet? Für viele Unternehmen sollte die Antwort im produktiven Einsatz lauten: nein, jedenfalls nicht ohne ausdrückliche Prüfung, Rechtsgrundlage und vertragliche Regelung.
Ein professioneller KI-Dienstleister stellt außerdem Informationen für die Datenschutz-Folgenabschätzung bereit. Das Fraunhofer-DSFA-Handbuch weist darauf hin, dass Dienstleister generische DSFA-Elemente für typische Einsatzszenarien bereitstellen können, die Verantwortliche dann für ihren konkreten Kontext nutzen. Genau solche Unterlagen sind in der Praxis sehr wertvoll.
6. Auftragsverarbeitung, gemeinsame Verantwortlichkeit oder eigene Verantwortung?
Ein häufiger Fehler beim KI Datenschutz ist die Annahme, dass jeder KI-Anbieter automatisch Auftragsverarbeiter ist. Das stimmt nicht immer.
Ein Anbieter ist typischerweise Auftragsverarbeiter, wenn er personenbezogene Daten nur nach Weisung des Unternehmens verarbeitet, etwa bei einem KI-Tool, das interne Dokumente analysiert und die Daten nicht für eigene Zwecke nutzt. Dann ist ein AV-Vertrag nach Art. 28 DSGVO notwendig. Dieser Vertrag muss Gegenstand und Dauer der Verarbeitung, Art und Zweck, Art der personenbezogenen Daten, Kategorien betroffener Personen sowie Pflichten und Rechte des Verantwortlichen festlegen.
Ein Anbieter kann aber eigenständig Verantwortlicher sein, wenn er selbst über Zwecke und Mittel entscheidet, zum Beispiel wenn er Daten für eigene Produktentwicklung, Modelltraining, Analysezwecke oder eigene Sicherheitszwecke verarbeitet. Dann reicht ein AV-Vertrag nicht aus. Das Unternehmen muss prüfen, ob eine Datenübermittlung an diesen Anbieter rechtmäßig ist.
Eine gemeinsame Verantwortlichkeit kann vorliegen, wenn Unternehmen und Anbieter gemeinsam Zwecke und Mittel festlegen. Dann ist eine Vereinbarung nach Art. 26 DSGVO erforderlich.
Für Unternehmen ist diese Einordnung zentral. Sie entscheidet darüber, welche Verträge benötigt werden, welche Informationspflichten bestehen, wie Betroffenenrechte umgesetzt werden und wer für Datenschutzverstöße verantwortlich ist.
7. Was muss im Verarbeitungsverzeichnis für eine KI-Anwendung stehen?
Ein Verarbeitungsverzeichnis, oft VVT genannt, ist die Datenschutz-Landkarte des Unternehmens. Es zeigt, welche Verarbeitungstätigkeiten stattfinden, zu welchem Zweck, mit welchen Daten, welchen Betroffenen, welchen Empfängern, welchen Löschfristen und welchen Schutzmaßnahmen.
Nach Art. 30 DSGVO muss das Verzeichnis unter anderem Namen und Kontaktdaten des Verantwortlichen, Zwecke der Verarbeitung, Kategorien betroffener Personen und personenbezogener Daten, Empfänger, Drittlandübermittlungen, Löschfristen und eine allgemeine Beschreibung der technischen und organisatorischen Maßnahmen enthalten. Das Fraunhofer-DSFA-Handbuch betont ebenfalls, dass ein Verarbeitungsverzeichnis, die Rechtsgrundlage und eine Bewertung der Notwendigkeit der Verarbeitung wichtige Vorarbeiten für eine DSFA sind.
Für eine KI-Anwendung sollte der VVT-Eintrag besonders sauber formuliert werden. Folgende Angaben sind empfehlenswert:
Name der Verarbeitungstätigkeit: Zum Beispiel „Einsatz eines KI-Assistenzsystems zur Unterstützung der Kundenkommunikation“ oder „KI-gestützte Analyse von Support-Tickets“.
Zweck der Verarbeitung: Hier sollte nicht allgemein „KI-Nutzung“ stehen. Besser ist ein konkreter Zweck, etwa „Erstellung von Antwortvorschlägen für Kundenanfragen“, „Zusammenfassung interner Dokumente“ oder „Klassifizierung von Support-Tickets nach Dringlichkeit“.
Beschreibung der Verarbeitung: Welche Daten werden eingegeben? Was macht das KI-System damit? Werden Daten gespeichert? Werden Ergebnisse in andere Systeme übernommen? Gibt es eine menschliche Prüfung?
Kategorien betroffener Personen: Kunden, Interessenten, Beschäftigte, Bewerber, Lieferanten, Ansprechpartner bei Geschäftspartnern oder Websitebesucher.
Kategorien personenbezogener Daten: Kontaktdaten, Vertragsdaten, Kommunikationsdaten, Inhaltsdaten, Nutzungsdaten, Bewerbungsdaten, Beschäftigtendaten, Supportdaten, technische Kennungen oder besondere Kategorien personenbezogener Daten.
Rechtsgrundlage: Je nach Zweck zum Beispiel Vertragserfüllung, berechtigtes Interesse, rechtliche Pflicht oder Einwilligung. Im Beschäftigungskontext sind zusätzliche nationale Regelungen zu beachten.
Empfänger und Dienstleister: KI-Anbieter, Hosting-Anbieter, Supportdienstleister, Unterauftragnehmer, verbundene Unternehmen oder IT-Dienstleister.
Drittlandtransfer: Werden Daten außerhalb der EU oder des EWR verarbeitet? Gibt es Standardvertragsklauseln, Transfer Impact Assessment oder andere Garantien?
Löschfristen: Wie lange werden Prompts, Uploads, Chatverläufe, Protokolle und Ausgaben gespeichert? Gibt es unterschiedliche Fristen für operative Nutzung, Sicherheit, Abrechnung und Support?
Technische und organisatorische Maßnahmen: Zugriffsbeschränkungen, Verschlüsselung, Pseudonymisierung, Mandantentrennung, Protokollierung, Berechtigungskonzept, Schulungen, Löschkonzept, Freigabeprozess und Monitoring.
Bewertung DSFA: Wurde eine Schwellwertanalyse durchgeführt? Ist eine DSFA erforderlich? Wenn ja, wo ist sie dokumentiert?
Ein guter VVT-Eintrag ist nicht nur eine Formalität. Er zwingt das Unternehmen, den KI-Einsatz konkret zu verstehen. Genau das ist die Grundlage für rechtssicheren KI Datenschutz.
8. Wann ist eine DSFA bei KI erforderlich?
Die Datenschutz-Folgenabschätzung ist bei KI eines der wichtigsten Instrumente. Sie ist nicht bei jeder KI-Anwendung automatisch erforderlich. Ein einfacher Textassistent, der ohne personenbezogene Daten genutzt wird, kann möglicherweise ohne DSFA betrieben werden. Bei vielen realen KI-Anwendungen in Unternehmen ist aber mindestens eine Schwellwertanalyse notwendig. In vielen Fällen wird eine DSFA erforderlich oder zumindest dringend empfehlenswert sein.
Nach Art. 35 DSGVO ist eine DSFA durchzuführen, wenn eine Form der Verarbeitung, insbesondere bei Verwendung neuer Technologien, voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Die DSFA muss mindestens eine systematische Beschreibung der Verarbeitung, eine Bewertung von Notwendigkeit und Verhältnismäßigkeit, eine Risikobewertung und geplante Abhilfemaßnahmen enthalten.
Typische Fälle, in denen bei KI eine DSFA naheliegt, sind:
KI im Bewerbungsprozess, KI zur Bewertung von Beschäftigten, KI-Scoring von Kunden oder Leads, automatisierte Entscheidungen mit erheblichen Auswirkungen, Profiling, Verarbeitung sensibler Daten, Auswertung großer Datenmengen, systematische Überwachung, KI-gestützte Videoanalyse, biometrische Verfahren, Betrugserkennung, Bonitätsbewertung oder KI-Systeme mit Zugriff auf umfangreiche Kunden- oder Beschäftigtendaten.
Das Fraunhofer-DSFA-Handbuch beschreibt die DSFA als fünfphasigen Prozess: Initialisierung, Vorbereitung, Durchführung, Umsetzung und Nachhaltigkeit. In der Durchführungsphase sollten Schadensszenarien, betroffene Personen, personenbezogene Daten, beteiligte Akteure, mögliche Schäden, auslösende Ereignisse, bestehende Maßnahmen, Eintrittswahrscheinlichkeit, Risikobewertung und zusätzliche Abhilfemaßnahmen betrachtet werden.
Aus Sicht eines externen Datenschutzbeauftragten ist wichtig: Die DSFA ist kein Dokument, das man am Ende unterschreibt, damit das Projekt weiterläuft. Sie ist ein Arbeitsinstrument. Sie hilft, Risiken früh zu erkennen und technische, organisatorische oder vertragliche Maßnahmen festzulegen, bevor der KI-Einsatz Schaden verursacht.
9. Welche Risiken müssen bei einer KI-DSFA betrachtet werden?
Bei einer DSFA für KI-Anwendungen sollten Unternehmen nicht nur an Hackerangriffe denken. Datenschutzrisiken sind breiter. Es geht um Risiken für Menschen.
Ein Risiko kann entstehen, wenn falsche Daten verarbeitet werden und dadurch eine Person falsch bewertet wird. Ein Bewerber kann benachteiligt werden, wenn ein KI-System bestimmte Lebensläufe systematisch schlechter einstuft. Ein Kunde kann Nachteile erleiden, wenn ein KI-System ihn fälschlich als Betrugsrisiko markiert. Ein Beschäftigter kann sich überwacht fühlen, wenn KI seine Leistung, Kommunikation oder Arbeitsweise auswertet. Eine Person kann die Kontrolle über ihre Daten verlieren, wenn Prompts oder Dokumente in ein System gelangen, das die Daten für eigene Zwecke nutzt.
Bei KI sind besonders folgende Schadensszenarien relevant:
Verlust der Vertraulichkeit, ungewollte Offenlegung von Geschäfts- oder Personaldaten, Diskriminierung, falsche Entscheidungen, Identitätsdiebstahl, Rufschädigung, wirtschaftliche Nachteile, Überwachung am Arbeitsplatz, unklare Verantwortlichkeiten, unzulässige Drittlandübermittlung, unkontrolliertes Training mit personenbezogenen Daten, fehlende Löschung, fehlende Transparenz und fehlende Interventionsmöglichkeiten für Betroffene.
Die DSFA sollte diese Risiken bewerten und konkrete Gegenmaßnahmen definieren. Dazu gehören zum Beispiel Datenminimierung, Pseudonymisierung, menschliche Kontrolle, Qualitätssicherung, Testverfahren, Bias-Prüfungen, Zugriffsrechte, Protokollierung, Löschfristen, klare Verantwortlichkeiten und Vertragskontrollen.
Wichtig ist auch die Nachhaltigkeit. Nach Abschluss einer DSFA müssen Risiken und Maßnahmen überwacht und bei Änderungen angepasst werden. Das Fraunhofer-Handbuch empfiehlt, die Überprüfung in ein Datenschutzmanagementsystem einzubinden und bei wesentlichen Änderungen Teile der DSFA erneut zu durchlaufen.
10. Konkrete Maßnahmen für KI Datenschutz im Unternehmen
Ein datenschutzkonformer KI-Einsatz braucht mehr als eine Richtlinie. Er braucht ein Zusammenspiel aus Organisation, Technik, Verträgen, Schulung und Kontrolle.
10.1 KI-Inventar erstellen
Unternehmen sollten zunächst erfassen, welche KI-Tools bereits genutzt werden. Oft gibt es eine Schatten-IT: Mitarbeitende verwenden Tools, ohne dass IT, Datenschutz oder Geschäftsleitung davon wissen. Ein KI-Inventar sollte Toolname, Anbieter, Zweck, Nutzerkreis, Datenarten, Schnittstellen, Speicherorte und Verantwortliche enthalten.
10.2 Freigabeprozess einführen
Neue KI-Tools sollten nicht ohne Prüfung eingeführt werden. Sinnvoll ist ein kurzer Freigabeprozess: Fachbereich beschreibt den Zweck, Datenschutz prüft personenbezogene Daten und Rechtsgrundlage, IT prüft Sicherheit, Einkauf prüft Vertrag und Geschäftsleitung gibt bei risikoreichen Anwendungen frei.
10.3 KI-Richtlinie für Mitarbeitende erstellen
Mitarbeitende brauchen klare Regeln. Eine gute KI-Richtlinie beantwortet verständlich: Welche Tools dürfen genutzt werden? Welche Daten dürfen eingegeben werden? Welche Daten sind verboten? Müssen Ergebnisse geprüft werden? Wie werden Fehler gemeldet? Wer ist Ansprechpartner?
Besonders wichtig: Keine vertraulichen personenbezogenen Daten, Geschäftsgeheimnisse, Zugangsdaten, Kundendaten, Bewerbungsunterlagen oder Gesundheitsdaten in nicht freigegebene KI-Tools eingeben.
10.4 Prompts und Eingaben minimieren
Ein einfacher Grundsatz lautet: So wenig personenbezogene Daten wie möglich in KI-Systeme eingeben. Statt „Schreibe eine Antwort an Max Müller, Kundennummer 12345, wegen seiner Mahnung“ kann oft ein neutralisierter Prompt verwendet werden: „Formuliere eine höfliche Antwort an einen Kunden wegen einer offenen Rechnung.“
10.5 Training mit Unternehmensdaten vertraglich ausschließen
Wenn ein KI-Anbieter Eingaben, Uploads oder Chatverläufe zum Training eigener Modelle verwenden darf, entsteht ein erhebliches Risiko. Unternehmen sollten vertraglich regeln, dass Daten nicht für Anbietertraining genutzt werden, es sei denn, dies wurde ausdrücklich geprüft und freigegeben.
10.6 Rollen- und Berechtigungskonzept umsetzen
Nicht jeder Mitarbeiter darf jede KI-Funktion nutzen. Besonders bei internen Wissensdatenbanken, CRM-Integrationen oder HR-Systemen muss sichergestellt sein, dass die KI nur Informationen verarbeitet und ausgibt, auf die der jeweilige Nutzer ohnehin zugreifen darf.
10.7 Technische und organisatorische Maßnahmen prüfen
Zu den wichtigen TOMs gehören Verschlüsselung, Zugriffskontrolle, Mandantentrennung, Protokollierung, Löschfunktionen, Backup- und Wiederherstellungskonzepte, sichere Schnittstellen, Mehr-Faktor-Authentifizierung, Berechtigungskonzepte und regelmäßige Wirksamkeitsprüfungen. Die EU-Standardvertragsklauseln für Auftragsverarbeitung nennen unter anderem Maßnahmen zur Pseudonymisierung, Verschlüsselung, Vertraulichkeit, Integrität, Verfügbarkeit, Belastbarkeit, Datenminimierung, Datenqualität, Speicherbegrenzung, Rechenschaftspflicht, Löschung und Datenübertragbarkeit.
10.8 Menschliche Kontrolle sicherstellen
KI-Ergebnisse dürfen nicht blind übernommen werden. Das gilt besonders bei Bewerbungen, Kundenentscheidungen, Bewertungen, Diagnosen, Vertragsanalysen oder Compliance-Einschätzungen. Unternehmen sollten festlegen, wer Ergebnisse prüft und wann KI nur unterstützend eingesetzt werden darf.
10.9 Betroffenenrechte vorbereiten
Betroffene haben Rechte auf Auskunft, Berichtigung, Löschung, Einschränkung, Widerspruch und gegebenenfalls Datenübertragbarkeit. Unternehmen müssen wissen, wo KI-Daten gespeichert sind, wie sie gefunden werden und wie sie gelöscht oder korrigiert werden können.
10.10 Datenschutzverletzungen einplanen
Auch bei KI kann es zu Datenschutzverletzungen kommen: falsche Berechtigungen, ungewollte Offenlegung, Prompt-Leaks, falsche Empfänger, unsichere Schnittstellen oder kompromittierte Accounts. Verantwortliche müssen Datenschutzverletzungen grundsätzlich unverzüglich und möglichst binnen 72 Stunden nach Bekanntwerden der Aufsichtsbehörde melden, sofern ein Risiko für Rechte und Freiheiten natürlicher Personen besteht.
11. KI Datenschutz im Beschäftigungskontext
Besonders vorsichtig sollten Unternehmen beim Einsatz von KI gegenüber Beschäftigten sein. Der Arbeitsplatz ist kein normaler Markt. Mitarbeitende können sich dem Einsatz bestimmter Systeme oft nicht frei entziehen. Deshalb sind Transparenz, Verhältnismäßigkeit und Beteiligung besonders wichtig.
Typische Beispiele sind KI zur Analyse von Arbeitsleistung, automatische Schichtplanung, Auswertung von Kommunikation, Produktivitätsmessung, Bewerberauswahl, Weiterbildungsempfehlungen oder Prognosen zu Kündigungsrisiken.
Hier sollten Unternehmen immer prüfen:
Ist der Zweck legitim und konkret? Ist die KI wirklich erforderlich? Gibt es mildere Mittel? Werden Beschäftigte transparent informiert? Ist der Betriebsrat einzubeziehen? Werden Leistungs- oder Verhaltenskontrollen durchgeführt? Werden sensible Daten verarbeitet? Gibt es menschliche Entscheidung? Gibt es Widerspruchs- oder Überprüfungsmöglichkeiten? Ist eine DSFA erforderlich?
In vielen HR-Fällen ist eine DSFA nicht nur sinnvoll, sondern rechtlich naheliegend. Denn KI kann persönliche Aspekte bewerten und Entscheidungen beeinflussen, die erhebliche Auswirkungen auf Bewerber oder Beschäftigte haben.
12. KI Datenschutz und Informationspflichten
Ein weiterer Praxispunkt sind die Datenschutzhinweise. Wenn Unternehmen KI einsetzen, müssen sie prüfen, ob ihre Datenschutzerklärung, Mitarbeiterinformationen, Bewerberinformationen oder Kundendatenschutzhinweise angepasst werden müssen.
Betroffene sollten verständlich erfahren:
dass KI eingesetzt wird, für welchen Zweck die KI genutzt wird, welche Daten verarbeitet werden, welche Rechtsgrundlage gilt, welche Dienstleister beteiligt sind, ob Daten in Drittländer übermittelt werden, wie lange Daten gespeichert werden, welche Rechte bestehen und ob automatisierte Entscheidungen stattfinden.
Dabei muss nicht jedes technische Detail erklärt werden. Aber die Information muss so konkret sein, dass Betroffene verstehen, was mit ihren Daten passiert. Pauschale Formulierungen wie „Wir nutzen KI zur Verbesserung unserer Dienste“ sind meistens zu ungenau.
13. Häufige Fehler beim KI Einsatz in Unternehmen
Aus der Beratungspraxis zeigen sich typische Fehler immer wieder.
Der erste Fehler ist die ungeregelte Nutzung öffentlicher KI-Tools. Mitarbeitende handeln oft mit guter Absicht, geben aber personenbezogene oder vertrauliche Daten in Tools ein, die nicht geprüft wurden.
Der zweite Fehler ist ein fehlender AV-Vertrag. Wenn ein Anbieter personenbezogene Daten im Auftrag verarbeitet, braucht es eine vertragliche Grundlage. Der Vertrag oder ein anderes Rechtsinstrument muss schriftlich oder elektronisch abgefasst sein.
Der dritte Fehler ist die unklare Trainingsnutzung. Unternehmen wissen oft nicht, ob ihre Eingaben zur Modellverbesserung genutzt werden.
Der vierte Fehler ist ein fehlendes Löschkonzept. Gerade Chatverläufe, Prompts und Protokolle werden häufig vergessen.
Der fünfte Fehler ist fehlende Transparenz gegenüber Beschäftigten, Kunden oder Bewerbern.
Der sechste Fehler ist eine fehlende DSFA-Schwellwertanalyse. Viele Unternehmen führen KI ein, ohne zu dokumentieren, warum keine DSFA erforderlich sein soll.
Der siebte Fehler ist blinder Glaube an KI-Ergebnisse. KI kann Fehler machen, halluzinieren, diskriminieren oder veraltete Informationen liefern. Für rechtlich, wirtschaftlich oder persönlich relevante Entscheidungen braucht es menschliche Prüfung.
14. Praktischer Fahrplan: KI Datenschutz in 10 Schritten einführen
Ein guter KI Datenschutz muss nicht kompliziert beginnen. Wichtig ist ein strukturierter Prozess.
Schritt 1: KI-Bestandsaufnahme
Erfassen Sie alle KI-Tools, die im Unternehmen genutzt oder geplant werden.
Schritt 2: Zwecke definieren
Beschreiben Sie konkret, wofür die KI eingesetzt wird. Ohne klaren Zweck gibt es keine saubere Datenschutzprüfung.
Schritt 3: Datenkategorien prüfen
Klären Sie, ob personenbezogene Daten, Beschäftigtendaten, Kundendaten oder besondere Kategorien personenbezogener Daten verarbeitet werden.
Schritt 4: Rechtsgrundlage bestimmen
Legen Sie fest, auf welcher Rechtsgrundlage die Verarbeitung erfolgt.
Schritt 5: Anbieter prüfen
Bewerten Sie Datenschutz, IT-Sicherheit, Speicherorte, Unterauftragnehmer, Training, Löschung, Support und Nachweise.
Schritt 6: Vertrag abschließen
Schließen Sie bei Auftragsverarbeitung einen AV-Vertrag und prüfen Sie Drittlandtransfers.
Schritt 7: VVT erstellen oder aktualisieren
Dokumentieren Sie die KI-Anwendung im Verarbeitungsverzeichnis.
Schritt 8: DSFA-Schwellwertanalyse durchführen
Prüfen und dokumentieren Sie, ob eine DSFA erforderlich ist. Bei hohem Risiko führen Sie die DSFA vor Inbetriebnahme durch.
Schritt 9: Technische und organisatorische Maßnahmen umsetzen
Dazu gehören Berechtigungskonzepte, Verschlüsselung, Löschfristen, Protokollierung, Schulungen und Freigabeprozesse.
Schritt 10: Laufend überwachen
KI-Systeme, Anbieterfunktionen und Rechtslage ändern sich. Deshalb müssen KI-Anwendungen regelmäßig überprüft werden.
15. Fazit: KI Datenschutz ist kein Hindernis, sondern ein Erfolgsfaktor
Künstliche Intelligenz kann Unternehmen enorm helfen. Sie kann Prozesse beschleunigen, Mitarbeitende entlasten, Kundenservice verbessern, Wissen nutzbar machen und Entscheidungen vorbereiten. Aber KI darf nicht unkontrolliert eingeführt werden.
Der richtige Weg ist nicht Angst vor KI, sondern professioneller KI Datenschutz. Unternehmen sollten wissen, welche KI sie einsetzen, welche Daten verarbeitet werden, welcher Dienstleister beteiligt ist, welche Rechtsgrundlage gilt, welche Risiken bestehen und welche Maßnahmen erforderlich sind.
Ein gutes Datenschutzkonzept schafft Vertrauen: bei Kunden, Beschäftigten, Geschäftspartnern und Aufsichtsbehörden. Es schützt nicht nur vor Bußgeldern, sondern auch vor Reputationsschäden, Datenverlust, falschen Entscheidungen und internen Unsicherheiten.
Gerade für kleine und mittelständische Unternehmen ist es sinnvoll, frühzeitig externe Datenschutzexpertise einzubinden. So lassen sich KI-Projekte pragmatisch, sicher und rechtssicher gestalten, ohne Innovation zu blockieren.
Call to Action: KI Datenschutz mit DSBOK sicher umsetzen
Sie möchten KI in Ihrem Unternehmen einsetzen oder nutzen bereits KI-Tools und sind unsicher, ob alles DSGVO-konform geregelt ist?
DSBOK unterstützt Sie als externer Datenschutzbeauftragter bei der datenschutzkonformen Einführung von KI-Anwendungen: von der Prüfung des Dienstleisters über AV-Verträge, Verarbeitungsverzeichnis und Informationspflichten bis zur DSFA und internen KI-Richtlinie.
Nehmen Sie Kontakt mit uns auf und vereinbaren Sie ein erstes Beratungsgespräch. Gemeinsam prüfen wir, wie Sie KI sicher, effizient und datenschutzkonform in Ihrem Unternehmen einsetzen können.