Vertraulichkeit vor der ersten Zeile Code: was ein Sprachmodell sehen darf

Vertraulichkeit entscheidet sich in App- und KI-Projekten nicht im Vertrag am Ende, sondern in der Reihenfolge der ersten Schritte. Wer Unterlagen zeigt, bevor Geheimhaltung vereinbart ist, oder ein Muster mit echten Kundendaten baut, bevor feststeht, welche Dienste beteiligt sind, holt diese Fragen später mit Mühe nach. Wir klären sie deshalb in fünf festen Schritten.

Warum Vertraulichkeit meist zu spät kommt

Der typische Verlauf ist harmlos. Ein Geschäftsführer möchte zeigen, wo es hakt, und öffnet im ersten Gespräch die echte Kundenliste. Ein Mitarbeiter schickt einige Beispielanfragen, damit man sich vorstellen kann, worum es geht, samt Namen und Telefonnummern. Ein Entwickler probiert kurz aus, ob ein Sprachmodell die Belege lesen kann, und nutzt dafür echte Rechnungen.

Niemand handelt dabei fahrlässig, alle wollen schnell verstehen. Aber nach diesen ersten Tagen haben vertrauliche Informationen das Haus verlassen, ohne dass eine Vereinbarung sie schützt, und personenbezogene Daten sind bei Diensten gelandet, die in keinem Verzeichnis stehen. Die Frage, was ein Sprachmodell sehen darf, stellt sich dann nicht mehr, sie ist schon beantwortet worden, nur von niemandem bewusst.

Hinzu kommt ein zweiter Effekt. Was einmal mit echten Daten gebaut wurde, bleibt oft so. Das schnelle Muster wird zur ersten Fassung, die erste Fassung zum Betrieb, und die Frage, ob die Kundennamen im Testsystem überhaupt nötig waren, stellt niemand mehr. Wer die Reihenfolge am Anfang festlegt, muss sie später nicht gegen eingefahrene Gewohnheiten durchsetzen. Deshalb behandeln wir diese Schritte nicht als Formalien, die parallel zur eigentlichen Arbeit laufen, sondern als ihren Beginn.

Fünf Schritte vom ersten Termin bis zum Betrieb

1. Geheimhaltung vor dem Termin

Bevor Unterlagen gezeigt werden, schließen wir eine gegenseitige Geheimhaltungsvereinbarung, mit der Vorlage des Auftraggebers oder mit unserer. Das geschieht per E-Mail vor dem Gespräch, nicht am Ende eines langen Termins, in dem schon alles gesagt wurde.

2. Beispieldaten statt Kundendaten

Im ersten Gespräch zeigen wir laufende Systeme mit Beispieldaten statt Kundendaten und bitten den Auftraggeber, es genauso zu halten. Für das Verständnis eines Ablaufs genügt fast immer ein nachgestellter Fall: eine Anfrage mit erfundenem Namen, eine Rechnung mit geschwärzten Angaben.

3. Datenfluss im Angebot

Im Angebot halten wir fest, welche Daten die Anwendung verarbeitet, welche externen Dienste beteiligt sind und welche Daten ein Sprachmodell zu sehen bekommt. Diese Liste ist kein Anhang für die Rechtsabteilung, sondern eine Entscheidungsgrundlage: Oft zeigt sich hier, dass ein Teil der Aufgabe ohne Modell auskommt oder mit anonymisierten Eingaben genauso gut funktioniert.

4. Vertrag zur Auftragsverarbeitung

Verarbeiten wir personenbezogene Daten im Auftrag, schließen wir einen Auftragsverarbeitungsvertrag. Technische und organisatorische Maßnahmen sowie beteiligte Dienste halten wir im Angebot fest. Erst danach arbeiten wir mit echten Daten, und auch dann nur mit denen, die für die Aufgabe nötig sind.

5. Kontrollierter Betrieb

Anwendungen laufen auf eigenen Servern bei Hetzner in Deutschland und der EU. Anwendungen, die im Betrieb Sprachmodelle nutzen, rufen sie über ein eigenes Gateway auf. Dort ist sichtbar, welche Anwendung welches Modell mit welchen Anfragen nutzt, und eine Kostengrenze verhindert, dass ein Fehler im Ablauf unbemerkt teuer wird.

Der Satz über Modellanbieter

Einen Satz sagen wir früh, weil er sonst später für Enttäuschung sorgt: Die leistungsfähigsten Sprachmodelle werden heute überwiegend von Anbietern mit Sitz in den USA betrieben. Auch wenn eine Anwendung auf Servern in Deutschland läuft, gehen die Eingaben an das Modell zu diesem Anbieter. Die Aussage »alle Daten bleiben in Deutschland« wäre für solche Anwendungen schlicht falsch.

Was wir stattdessen tun: Wir halten fest, welche Daten an das Modell gehen, prüfen, ob sie sich vorher reduzieren oder anonymisieren lassen, und benennen die Anbieter in der Liste der beteiligten Dienste. Ob das für einen Ablauf vertretbar ist, entscheidet der Auftraggeber auf dieser Grundlage, zusammen mit seiner Datenschutzberatung. Für manche Aufgaben ist die Antwort, dass sie ohne Modell gelöst werden. Für andere genügt es, Namen, Adressen und Kontonummern vor dem Aufruf durch Platzhalter zu ersetzen und erst im Ergebnis wieder einzusetzen; das Modell arbeitet dann mit dem Inhalt, ohne die Person zu kennen. Wie Unternehmen diese Fragen auch intern für ihre Mitarbeiter regeln, beschreibt der Beitrag zur KI-Richtlinie.

Vertraulichkeit: was wir zusagen und was nicht

Zusagen können wir die Reihenfolge: keine Unterlagen ohne Geheimhaltung, keine echten Daten ohne Vertrag, keine Modellaufrufe ohne festgehaltene Liste. Zusagen können wir auch, dass jede Änderung am Code zuerst von unseren KI-Werkzeugen und danach von einem Entwickler geprüft wird.

Nicht zusagen können wir, dass ein externer Dienst niemals eine Störung oder eine Sicherheitslücke hat, und keine Vereinbarung macht eine Datenübermittlung ungeschehen. Wir beschreiben deshalb lieber genau, was passiert, statt pauschal Sicherheit zu versprechen. Wie diese Arbeitsweise in einem Projekt aussieht, zeigen die Seiten App-Entwicklung und KI-Beratung.