Auftragsverarbeitungsvertrag mit KI-Anbietern: Die wichtigsten Prüfpunkte

Wer im Unternehmen ein KI-Tool einführt, das mit personenbezogenen Daten arbeitet, etwa ein Chatbot mit Kundendaten, ein Recruiting-Tool oder ein KI-gestütztes CRM, wird damit in aller Regel zum datenschutzrechtlich Verantwortlichen. Der Anbieter, der die Verarbeitung technisch übernimmt, wird zum Auftragsverarbeiter. Damit ist ein Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO Pflicht, keine Kür. In der Praxis unterschreiben viele Unternehmen den Standard-AVV eines KI-Anbieters, ohne ihn wirklich zu prüfen. Dieser Beitrag zeigt, welche Punkte gesetzlich vorgeschrieben sind und welche vier Fragen bei KI-Anbietern zusätzlich auf den Tisch gehören.

 

Hinweis: Dieser Beitrag bietet eine allgemeine Orientierung und ersetzt keine Rechtsberatung oder die Prüfung durch Ihren Datenschutzbeauftragten. Für die rechtssichere Bewertung eines konkreten Vertrags ziehen Sie bitte fachkundigen Rat hinzu.

 

Wann Sie überhaupt einen AVV brauchen

 

Ein AVV ist immer dann erforderlich, wenn der KI-Anbieter in Ihrem Auftrag personenbezogene Daten verarbeitet, also weisungsgebunden und für Ihre Zwecke, statt eigene Zwecke zu verfolgen. Das betrifft praktisch jedes KI-Tool, das mit Namen, E-Mail-Adressen, Kundendaten, Bewerberdaten oder Mitarbeiterdaten arbeitet, von der KI-gestützten Texterstellung über Chatbots bis zu CRM- oder HR-Systemen mit KI-Funktion. Welche Grundpflichten beim KI-Einsatz insgesamt gelten, ordnet unser Beitrag DSGVO-konforme KI im Mittelstand: Der Leitfaden für 2026 ein. Kein AVV nötig ist dagegen, wenn tatsächlich keine personenbezogenen Daten verarbeitet werden, etwa bei rein synthetischen Testdaten, oder wenn der Anbieter über Zwecke und Mittel der Verarbeitung mitentscheidet und damit gemeinsam verantwortlich nach Art. 26 DSGVO ist statt Auftragsverarbeiter. Im Zweifel lohnt die Rückfrage bei Ihrem Datenschutzbeauftragten.

 

Die acht Pflichtinhalte nach Art. 28 Abs. 3 DSGVO

 

Art. 28 Abs. 3 DSGVO legt fest, was ein AVV mindestens regeln muss. Diese Liste gilt unabhängig davon, ob der Auftragsverarbeiter ein KI-Anbieter oder ein klassischer IT-Dienstleister ist:

 

• Gegenstand und Dauer der Verarbeitung: eine konkrete Beschreibung, wofür und wie lange die Daten verarbeitet werden.
• Art und Zweck der Verarbeitung sowie Art der Daten und Kategorien betroffener Personen.
• Weisungsgebundenheit: Der Anbieter darf Daten ausschließlich nach dokumentierten Weisungen verarbeiten, nicht für eigene Zwecke.
• Vertraulichkeitsverpflichtung aller Personen, die beim Anbieter Zugriff auf die Daten haben.
• Technische und organisatorische Maßnahmen nach Art. 32 DSGVO, konkret beschrieben statt pauschal zugesichert.
• Regeln zu Subunternehmern: Zustimmungspflicht des Verantwortlichen und Weitergabe der Pflichten an Subunternehmer.
• Unterstützungspflichten bei Betroffenenrechten, Meldungen von Datenschutzverletzungen und Datenschutz-Folgenabschätzungen.
• Löschung oder Rückgabe der Daten nach Vertragsende sowie Nachweis- und Kontrollrechte des Verantwortlichen.

 

Diese acht Punkte sind bei etablierten Anbietern in der Regel bereits im Standard-AVV enthalten, oft als PDF im Self-Service-Portal abrufbar. Fehlt einer davon vollständig, ist das ein klares Warnsignal.

 

Vier Prüfpunkte, die bei KI-Anbietern zusätzlich wichtig sind

 

Die gesetzliche Mindestliste wurde nicht mit Blick auf generative KI geschrieben. Bei KI-Anbietern kommen vier Fragen hinzu, die im Standardvertrag klassischer SaaS-Anbieter oft fehlen oder zu vage formuliert sind.

 

1. Wird mit Ihren Daten das Modell trainiert?

 

Der wichtigste Punkt zuerst: Schließt der Vertrag ausdrücklich aus, dass Ihre Eingaben, Dokumente oder Kundendaten zum Training oder Fine-Tuning des Anbietermodells verwendet werden? Eine allgemeine Datenschutzformulierung reicht hier nicht, gefordert ist eine konkrete vertragliche Zusage, im Idealfall mit Bezug auf die tatsächlich genutzte Produktvariante. Viele Anbieter unterscheiden vertraglich zwischen kostenlosen oder privaten Consumer-Versionen, bei denen eine Trainingsnutzung häufig vorgesehen ist, und kostenpflichtigen Business- oder Enterprise-Tarifen, bei denen sie ausgeschlossen wird. Prüfen Sie deshalb, für welchen konkreten Tarif der AVV tatsächlich gilt.

 

2. Wie transparent ist die Kette der Unterauftragsverarbeiter?

 

KI-Anbieter betreiben ihre Modelle selten vollständig selbst. Häufig liegen Rechenzentrum, Cloud-Infrastruktur und teils auch das zugrunde liegende Sprachmodell bei einem weiteren Unternehmen. Der AVV muss eine aktuelle, einsehbare Liste aller Subunternehmer enthalten sowie ein Verfahren, wie Sie über neue Subunternehmer informiert werden und wie Sie widersprechen können. Ohne diese Transparenz lässt sich weder das Verzeichnis der Verarbeitungstätigkeiten korrekt pflegen noch beurteilen, wo Ihre Daten tatsächlich verarbeitet werden.

 

3. Wohin fließen die Daten, und mit welcher Rechtsgrundlage?

 

Viele KI-Anbieter verarbeiten Daten ganz oder teilweise in den USA oder anderen Drittländern. Für diesen Transfer braucht es eine eigene Rechtsgrundlage, üblicherweise Standardvertragsklauseln als Anhang zum AVV. Warum dieses Konstrukt rechtlich nicht ganz unumstritten ist, erklärt unser Beitrag Data Privacy Framework, SCCs & Schrems: Warum US-KI-Tools wackeln. Manche Anbieter betreiben ihre Modelle inzwischen alternativ vollständig auf EU-Servern, etwa über Amazon Bedrock in Frankfurt, wie wir in Claude & GPT DSGVO-konform betreiben: AWS Bedrock in Frankfurt beschreiben. Das reduziert diesen Prüfpunkt erheblich, weil dann kein Drittlandtransfer mehr stattfindet.

 

4. Was passiert mit Protokollen, Chatverläufen und Zwischenergebnissen?

 

Neben den eigentlichen Nutzungsdaten fallen bei KI-Systemen oft zusätzliche personenbezogene Daten an: Chatprotokolle, Prompt-Logs, Zwischenschritte eines KI-Agenten oder Debugging-Daten beim Support. Der AVV sollte klar regeln, wie lange diese Daten aufbewahrt werden, wozu sie genutzt werden dürfen, etwa nur zur Fehlerbehebung, und wann sie gelöscht werden. Gerade bei KI-Agenten, die mehrere Zwischenschritte protokollieren, lohnt eine gezielte Nachfrage, da Standardklauseln diesen Punkt häufig nicht abdecken.

 

So gehen Sie in der Praxis vor

 

1. Bedarf klären: Werden im Tool tatsächlich personenbezogene Daten verarbeitet? Falls nein, ist unter Umständen kein AVV nötig, die Einschätzung gehört trotzdem dokumentiert.
2. Standard-AVV anfordern: Seriöse Anbieter stellen ihn zum Download bereit oder senden ihn auf Anfrage.
3. Gegen die zwölf Punkte prüfen: die acht gesetzlichen Pflichtinhalte plus die vier KI-spezifischen Fragen aus diesem Beitrag.
4. Lücken ansprechen: Bei kleineren Anbietern lassen sich fehlende Punkte oft nachverhandeln oder per Zusatzvereinbarung ergänzen, bei sehr großen Anbietern seltener. Dann entscheidet die Geschäftsleitung, ob das verbleibende Risiko tragbar ist.
5. Datenschutzbeauftragten einbinden und die Freigabe dokumentieren, bevor das Tool produktiv genutzt wird.
6. Verzeichnis der Verarbeitungstätigkeiten aktualisieren und im Blick behalten, wenn sich Subunternehmer oder Vertragsbedingungen ändern.

 

Ein AVV ist dabei kein einmaliges Häkchen, sondern Teil einer laufenden KI-Governance. Wie Sie diese im Unternehmen strukturell verankern, von der Freigabe neuer Tools bis zur regelmäßigen Überprüfung, zeigt unser Beitrag KI-Nutzungsrichtlinie im Unternehmen: In 7 Schritten zum Regelwerk.

 

Was bei einem fehlenden oder lückenhaften AVV droht

 

Ein Verstoß gegen Art. 28 DSGVO fällt unter Art. 83 Abs. 4 DSGVO und kann mit einer Geldbuße von bis zu 10 Millionen Euro oder bis zu 2 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist. Praktisch relevanter als das Bußgeldrisiko ist für die meisten Mittelständler aber ein anderer Punkt: Ohne wirksamen AVV haften Sie als Verantwortlicher grundsätzlich für die gesamte Verarbeitung, auch für Fehler, die eigentlich beim Anbieter liegen. Ein sauberer Vertrag schafft hier Klarheit über Zuständigkeiten, bevor es zu einem Vorfall kommt.

 

Fazit

 

Der Auftragsverarbeitungsvertrag ist selten das spannendste Kapitel einer KI-Einführung, aber eines der wichtigsten. Die acht gesetzlichen Pflichtinhalte sind bei etablierten Anbietern meist Standard. Entscheidend ist, ob der Vertrag auch die vier KI-spezifischen Fragen zu Training, Subunternehmern, Drittlandtransfer und Protokollierung sauber beantwortet, und ob diese Antworten zum tatsächlich genutzten Tarif passen. Wer das vor der Einführung prüft, spart sich im Zweifel eine aufwendige Nachbesserung, wenn das Tool bereits produktiv im Einsatz ist.

 

Unsicher, ob Ihr aktueller AVV mit einem KI-Anbieter alle relevanten Punkte abdeckt? Im kostenlosen Erstgespräch schauen wir gemeinsam darauf.