Datenschutz bei LLM für Schweizer Unternehmen: Was Sie vor dem Einsatz prüfen sollten

Datenschutz bei LLM lässt sich auf drei Fragen zurückführen: Was geht in das Modell hinein, wo werden diese Daten gespeichert und wer darf sie weiterverwenden, und was kommt wieder heraus. In der Schweiz beantworten Sie diese Fragen unter dem Datenschutzgesetz (DSG), das applies to AI-supported data processing wie jede andere Bearbeitung auch. Das sicherste Setup ist selten die Wahl eines einzelnen Werkzeugs. Es ist ein Arbeitsablauf, der so gebaut ist, dass sensible Daten gar nie dorthin gelangen, wo sie nichts zu suchen haben, abgesichert durch Verträge, Zugriffsregeln und laufende Überwachung. Das ist Arbeit am Software-Entwurf, und sie gelingt am besten, wenn erfahrene Entwickler:innen sie von Anfang an prägen.
Kurz zusammengefasst
- Das Datenschutzrisiko bei LLM liegt an zwei Orten: im Modell selbst (Auswendiglernen von Trainingsdaten) und im System darum herum (Eingaben, Protokolle, Abfragen Ihrer Dokumente, Schnittstellen).
- Viele KI-Werkzeuge dürfen Ihre Eingaben zum Training künftiger Modelle nutzen, sofern dies nicht contractually excluded ist, und einmal eingespeiste Daten lassen sich praktisch nicht mehr zurückholen.
- Das DSG ist technologieneutral: Nutzende haben ein gesetzliches Recht zu erfahren, ob sie mit einer Maschine sprechen und ob ihre Eingaben zu deren Training verwendet werden.
- Ein «privates LLM» begrenzt das Risiko, indem die Daten in einer kontrollierten Umgebung bleiben, braucht aber weiterhin Zugriffsregeln, Protokollierung und Überprüfung.
- Vor dem Start: Datenflüsse erfassen, festlegen, was das Modell sehen darf, die Vertragsbedingungen klären und die Überwachung einrichten. Danach die Prüfung regelmässig wiederholen.
Wo LLM Daten tatsächlich preisgeben
Die meisten Teams denken an ein einziges Risiko: Eine Mitarbeiterin kopiert eine Kundenliste in einen Chatbot. Dieses Risiko ist real, aber es ist nur eines von mehreren, und sie alle verlangen unterschiedliche Massnahmen.
Die Untersuchung des Europarats zum Datenschutz bei LLM unterscheidet model-level risks from system-level risks. Zu den Risiken auf Modellebene gehören Personendaten, die beim Vortraining eingeflossen sind, das Auswendiglernen und die Wiedergabe solcher Daten. Zu den Risiken auf Systemebene gehören dauerhafte Nutzerprofile durch Gedächtnisfunktionen, unklare Bearbeitung, das Durchsickern von Daten zwischen Kontexten und schwache Steuerungsmöglichkeiten für Nutzende. Für jede Kategorie gelten andere Schutzmassnahmen, und deshalb hält die pauschale Aussage «wir verwenden ein sicheres Modell» selten stand.
Risiken, die vom Modell ausgehen
LLM können sich Personendaten merken, etwa Namen, Telefonnummern, E-Mail-Adressen und E-Mail-Signaturen. Derselbe Bericht des Europarats hält fest, dass auswendig gelernte Sequenzen mit hoher Wahrscheinlichkeit in Ausgaben auftauchen, entweder versehentlich wörtlich wiederholt oder gezielt durch Angriffe zur Extraktion von Trainingsdaten herausgeholt.
Für die meisten Schweizer Unternehmen, die ein gehostetes Modell nutzen, ist diese Ebene nicht steuerbar. Steuerbar ist, was Sie darauf aufsetzen: welche Daten Sie senden und ob der Anbieter daraus lernen darf.
Risiken, die aus Ihrem eigenen Arbeitsablauf entstehen
Hier entsteht der grösste Teil der Gefährdung im Geschäftsalltag. Das Datenschutzteam von Walder Wyss zählt in einem report on LLM risks and measures Probleme auf Anwendungsebene auf: das Durchsickern von Daten, die Rekonstruierbarkeit von Eingaben und die Offenlegung sensibler Inhalte über Retrieval-Augmented Generation (RAG). RAG bedeutet, dass das Modell vor der Antwort Passagen aus Ihren eigenen Dokumenten nachschlägt. Enthält der Dokumentenindex Personaldossiers oder Verträge und sind die Zugriffsregeln locker, kann jede Person, die den Assistenten nutzt, diese Passagen unter Umständen herauskitzeln.
Prompt Injection eröffnet einen weiteren Weg. Swisscom beschreibt, wie eine geschickt formulierte Eingabe die bypass a model’s safety guardrails und dazu genutzt werden kann, vertrauliche Daten abzugreifen, einschliesslich der Quellen, die dem Modell mitgegeben wurden. Ein Assistent, der an Ihr CRM oder Ihren Shop angebunden ist, ist nur so vertraulich wie die Berechtigungen, die Sie ihm erteilt haben.
Das Problem der Weiterverwendung
Die Cybersicherheits-Hinweise der Schweizer Bundesverwaltung benennen das grösste versteckte Risiko klar. Viele KI-Werkzeuge dürfen Eingabedaten zum Training künftiger Modelle verwenden, solange dies nicht vertraglich ausgeschlossen wurde, und sobald eine Information im System ist, lässt sie sich praktisch nicht mehr herausholen und kann in Antworten an andere Nutzende auftauchen. KPMG Schweiz macht denselben Punkt: Wenn Sie dem Anbieter nicht ausdrücklich restrict the provider from using your data, können Ihre Daten zur Beantwortung fremder Anfragen genutzt werden, und je intensiver die Nutzung, desto grösser die Chance, dass andere an Ihre vertraulichen Informationen gelangen.
Ein bekanntes Beispiel ist Samsung: Mitarbeitende gaben geschützte Daten in ChatGPT ein, was zu einem Datenabfluss führte und das Unternehmen zwang, die interne Nutzung restrict internal use einzuschränken.
Was das Schweizer Datenschutzrecht verlangt
Es braucht kein neues KI-Gesetz, damit Sie in der Pflicht stehen. Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) hält fest, dass das DSG technologieneutral ist und KI-gestützte Bearbeitungen abdeckt, und dass Herstellerinnen, Anbieter und Anwenderinnen den betroffenen Personen die grösstmögliche Kontrolle über ihre Daten geben müssen (applies to AI-supported data processing).
In der Praxis sind für ein Unternehmen, das ein LLM einsetzt, drei Punkte entscheidend:
- Transparenz. Wer Sprachmodelle nutzt, die direkt kommunizieren, hat ein gesetzliches Recht zu erfahren, ob er oder sie es mit einer Maschine zu tun hat und ob die Eingaben zur Verbesserung selbstlernender Programme oder für andere Zwecke bearbeitet werden. Wenn Sie einen Chatbot auf Ihrer Website einsetzen, sagen Sie das, und sagen Sie, was mit den Eingaben geschieht.
- Zweck und Quellen. Der EDÖB und das Bundesamt für Cybersicherheit (BACS) betonen, dass Anbieter und Anwender:innen offenlegen müssen, welchem contractually excluded ihre KI-Anwendungen dienen und wie sie funktionieren.
- Trainingsdaten. Der EDÖB hat zusammen mit anderen internationalen Behörden 2023 und 2024 Hinweise zum Daten-Scraping für das Training von Sprachmodellen veröffentlicht. Sie verpflichten Unternehmen, die Datenschutzvorgaben einzuhalten und Schutzmassnahmen gegen unrechtmässiges Scraping zu treffen. Das ist vor allem relevant, wenn Sie ein Modell mit gescrapten oder fremden Daten feinabstimmen.
Im Oktober 2026 führten EDÖB und BACS eine gemeinsame Kampagne zum Cyber Security Month über generative KI am Arbeitsplatz durch, mit questions and answers on using AI tools consistently with the FADP. Das ist der aktuellste offizielle Ausgangspunkt für ein Schweizer Team.
Wenn Ihr Arbeitsablauf Gesundheitsdaten, Personaldossiers oder andere besonders schützenswerte Personendaten berührt, lassen Sie den Entwurf vor dem Start von einer Schweizer Datenschutzanwältin oder einem Datenschutzanwalt prüfen. Die folgenden Prüfpunkte bereiten dieses Gespräch vor, sie ersetzen es nicht.
Was Sie beim LLM-Anbieter prüfen sollten
Die Bedingungen des Anbieters entscheiden darüber, ob Ihre Eingaben Ihnen gehören. Die rechtlichen Hinweise von PwC Schweiz zur Beschaffung von KI-Werkzeugen halten fest, dass Verträge dem Unternehmen das guarantee the company ownership of its data zusichern, Datenschutzklauseln enthalten sollten, die das Risiko unbefugter Zugriffe senken, und dem Lieferanten die Nutzung Ihrer Daten untersagen sollten, ausser für Verbesserungen, die ausschliesslich Ihnen zugutekommen. Empfohlen wird zudem eine Zusicherung der Einhaltung der KI-Regulierung, abgesichert durch eine Schadloshaltung.
Machen Sie daraus eine Checkliste, die Sie jedem Anbieter vorlegen können:
| Frage | So sieht eine gute Antwort aus |
|---|---|
| Werden meine Eingaben zum Training von Modellen verwendet? | Vertraglich ausgeschlossen, nicht bloss ein Schalter in den Einstellungen |
| Wie lange werden Eingaben und Ausgaben aufbewahrt? | Eine festgelegte Dauer, mit einer Option ohne Aufbewahrung bei sensiblen Daten |
| Wer beim Anbieter kann meine Daten lesen? | Benannte Rollen und ein protokollierter, eingeschränkter Zugriffsprozess |
| Wo werden Daten bearbeitet und gespeichert? | Benannte Regionen und Unterauftragsbearbeiter, passend zu Ihren eigenen Informationspflichten |
| Wem gehören Eingaben und Ausgaben? | Ihnen, schriftlich festgehalten |
| Was passiert bei einer Datenschutzverletzung? | Eine Meldepflicht und eine Schadloshaltung |
Optionen ganz ohne Datenaufbewahrung gibt es bei den grossen Anbietern, sie brauchen aber meist eine Freigabe oder eine Vereinbarung über den Vertrieb, und nicht jedes Modell kommt dafür infrage. Behandeln Sie die Aufbewahrung als etwas, das Sie aushandeln und dokumentieren, nicht als selbstverständliche Voreinstellung.
Was ein privates LLM für Unternehmen bedeutet
Ein «privates LLM» ist ein Sprachmodell, das in einer von Ihnen kontrollierten Umgebung läuft, etwa in Ihrem eigenen Cloud-Mandanten oder auf Ihren Servern, statt als geteilter öffentlicher Dienst. Der Hauptgrund, warum sich Unternehmen dafür entscheiden, ist laut InformationWeek die restrict internal use darüber, was das Modell zu sehen bekommt.
Was damit begrenzt wird:
- Eingaben und Dokumente verlassen Ihre Umgebung nicht in Richtung der Trainingspipeline eines Dritten.
- Sie bestimmen Aufbewahrung, Protokollierung und wer das Modell abfragen darf.
- Sie können das Modell von Systemen fernhalten, die es nicht braucht.
Was damit nicht wegfällt: Ein privates Modell merkt sich weiterhin alles, womit Sie es feinabstimmen, folgt weiterhin einer Prompt Injection, wenn Sie es zulassen, und braucht weiterhin eine Zugriffskontrolle auf die Dokumente hinter RAG. «Privat» beschreibt, wo das Modell läuft. Datenschutz entsteht daraus, wie der gesamte Arbeitsablauf gestaltet ist.
Für viele Teams ist die richtige Antwort nicht ein vollständig selbst betriebenes Modell, sondern ein gehostetes Unternehmensmodell mit vertraglichem Trainingsverbot, ergänzt um eine dünne Schicht eigener Software, die sensible Felder entfernt oder maskiert, bevor etwas verschickt wird. Diese Schicht ist ganz normale Anwendungsentwicklung, und genau dort entsteht der grösste Teil des Datenschutznutzens.
Schutzmassnahmen, die in der Praxis funktionieren
Die Hinweise der Bundesverwaltung nennen vier Schritte: klare interne Richtlinien und Weisungen, Schulung der Mitarbeitenden, vertragliche Zusicherungen, dass Unternehmenslösungen nicht mit Ihren Daten trainieren, und technische Kontrollen wie Werkzeuge zur Verhinderung von Datenabfluss (Data Loss Prevention, DLP), die das Abfliessen sensibler Daten erkennen und blockieren. PwC ergänzt eine Governance-Struktur mit einem interdisziplinären Team aus data scientists, ethicists and legal experts.
So machen Sie jeden dieser Punkte konkret.
Einstufen, bevor Sie anbinden
Legen Sie drei Datenstufen fest und halten Sie sie schriftlich fest:
- Geht nie an ein LLM: Gesundheitsdaten, Lohndaten, Zugangsdaten, Kundengeheimnisse unter Berufsgeheimnis.
- Nur an ein freigegebenes, vertraglich abgesichertes Modell: Kundenkorrespondenz, interne Dokumente, Quellcode.
- Frei verwendbar: öffentliche Werbetexte, veröffentlichte Dokumentation.
Mitarbeitende halten sich an eine Regel von drei Zeilen deutlich besser als an eine Weisung von zwanzig Seiten.
So wenig wie möglich ans Modell geben
Senden Sie dem Modell den kleinsten Ausschnitt an Daten, der die Aufgabe erfüllt. Ersetzen Sie Namen und Kontonummern vor dem Aufruf durch Platzhalter und setzen Sie sie danach wieder ein. Geben Sie einem RAG-Assistenten nur Zugriff auf jene Dokumente, welche die fragende Person ohnehin lesen darf. Jedes zusätzliche Feld ist etwas, das zusätzlich durchsickern kann.
Die Anbindungen im Griff behalten
Ein Assistent, der an Ihren Shop, Ihr CRM oder ERP angeschlossen ist, erbt alles, was diese Systeme offenlegen. Geben Sie ihm ein Dienstkonto mit eng gefassten Leserechten. Lassen Sie nicht zu, dass eine Modellausgabe ohne Prüfung Aktionen auslöst, etwa Rückerstattungen oder Datenexporte. Genau hier richtet Prompt Injection Schaden an, weil die angreifende Person das Modell dazu bringt, die Zugriffsrechte zu nutzen, die Sie ihm gegeben haben.
Menschen schulen und Regeln setzen
Kurze, konkrete Schulungen bringen mehr als eine allgemeine Warnung: welche Werkzeuge freigegeben sind, welche Datenstufe jedes davon berühren darf und was nach einem Fehler zu tun ist. Marketing- und Content-Teams haben eigene Fragen zu Rechten und Offenlegung, behandelt in dieser Übersicht zu AI content legal issues. Bestimmen Sie eine verantwortliche Person für die Weisung, damit sie aktuell bleibt.
Wie Sie einen LLM-Arbeitsablauf beurteilen und überwachen
Eine Datenschutzprüfung ist keine einmalige Hürde. Modelle, Anbieterbedingungen und Ihre eigenen Anbindungen ändern sich. Eine praktikable Routine besteht aus einem Durchgang vor dem Start und einem wiederkehrenden Durchgang.
Vor dem Start
- Den Datenfluss erfassen. Zeichnen Sie jeden Punkt auf, an dem Daten eintreten, gespeichert, an einen Anbieter gesendet werden und zurückkommen: Eingaben der Nutzenden, Prompt-Vorlagen, Suchindizes, Protokolle, Auswertungen, Sicherungskopien. Die meisten Überraschungen stecken in den Protokollen und den Indizes, nicht im Aufruf des Modells.
- Die betroffenen Personendaten auflisten. Halten Sie für jeden Fluss fest, welche Personendaten oder vertraulichen Daten vorkommen und auf welcher Rechtsgrundlage sie bearbeitet werden. Prüfen Sie, ob Ihre Datenschutzerklärung die Nutzung beschreibt, einschliesslich der oben genannten Transparenzpflichten.
- Den Vertrag in Ordnung bringen. Gehen Sie die weiter oben stehende Anbieter-Checkliste durch und legen Sie die Antworten ab.
- Mit feindlichen Eingaben testen. Probieren Sie Prompt Injection aus, Anfragen nach Daten anderer Nutzender und Versuche, die Systemanweisung oder die Dokumentquellen auszulesen. Wenn etwas durchkommt, korrigieren Sie die Berechtigungen, nicht nur den Wortlaut der Anweisung.
- Eine Abbruchbedingung festlegen. Entscheiden Sie vorab, bei welchem Vorfall die Funktion abgeschaltet wird und wer das tun darf.
Nach dem Start
- Sorgfältig protokollieren. Behalten Sie genug, um einen Vorfall untersuchen zu können, behandeln Sie Protokolle aber ebenfalls als Personendaten: Zugriff einschränken und eine Aufbewahrungsdauer festlegen.
- Auf Abweichungen achten. Prüfen Sie regelmässig eine Stichprobe der Ausgaben auf durchgesickerte Identifikatoren, auffällige herangezogene Quellen und Anfragen, die zuerst abgelehnt und dann doch beantwortet wurden.
- Bei Änderungen erneut prüfen. Eine neue Modellversion, ein neu angebundenes System, geänderte Anbieterbedingungen oder eine neue Dokumentquelle öffnen die Datenkarte jeweils wieder.
- Nach Zeitplan überprüfen. Eine vierteljährliche Überprüfung von Zugriffsrechten, Aufbewahrung und Anbieterbedingungen ist für die meisten kleinen Teams ein vernünftiger Rhythmus.
- Den Weg für Zwischenfälle bereithalten. Wissen Sie, wer entscheidet, wer die betroffenen Personen informiert und wer mit den Behörden spricht, falls Personendaten offengelegt wurden.
So bauen, dass Datenschutz von Anfang an mitgedacht ist
Die obige Checkliste ist grösstenteils Entwicklungsarbeit: Schichten zur Datensparsamkeit, berechtigungsgesteuerte Abfragen, eng gefasste Anbindungen und Überwachung. Genau diese Teile gehen schief, wenn ein Projekt von einer Verkaufsperson an ein unerfahrenes Team übergeben und die Anforderungen auf halbem Weg neu geschrieben werden.
Bei Ampersand, einem kleinen Studio in Zürich, sind erfahrene Entwickler:innen von der ersten Beratung bis zur Übergabe beteiligt. So sind jene Personen, die Ihre Datenschutzanforderungen hören, auch jene, die danach bauen. Wir entwickeln KI-Automatisierung für Geschäftsprozesse und Systemintegrationen für Shop, CRM und ERP, und zu unseren Kunden zählen UBS und die Stadt Lugano. Wenn Sie eine Aussensicht auf ein bestehendes Setup wünschen, bieten wir auch Audits und technische Beratung durch erfahrene Fachleute an, dazu KI-Masterclasses für Teams, welche die Regeln der sicheren Nutzung lernen möchten.
Für die laufende Zusammenarbeit sind zwei Pakete publiziert: Run & monitor für CHF 750 pro Monat und Guidance für CHF 799 pro Monat. Der Umfang von Projekten für Automatisierungen und Integrationen wird pro Projekt offeriert. Die vollständige Übersicht finden Sie auf der Preisseite von Ampersand.
Häufige Fragen
Ist es sicher, Kundendaten in ChatGPT oder ähnliche Werkzeuge einzugeben?
Nur wenn das genutzte Werkzeug und das gewählte Abo das Training mit Ihren Eingaben vertraglich ausschliessen und die Datenstufe es zulässt. Der Bund warnt, dass Eingaben in viele Werkzeuge zum Training künftiger Modelle verwendet werden können und sich danach praktisch nicht mehr zurückholen lassen. Besonders schützenswerte Daten wie Gesundheitsdaten gehören gar nicht erst in Werkzeuge für den allgemeinen Gebrauch.
Gilt das Schweizer DSG auch für KI und LLM?
Ja. Der EDÖB hält fest, dass das DSG technologieneutral ist und für KI-gestützte Datenbearbeitung gilt. Nutzende haben zudem das Recht zu erfahren, ob sie mit einer Maschine kommunizieren und ob ihre Eingaben zu deren Training verwendet werden. Ihre Hinweise beim Chatbot und Ihre Datenschutzerklärung sollten das entsprechend festhalten.
Was ist ein privates LLM für Unternehmen?
Es ist ein Sprachmodell, das in einer von Ihnen kontrollierten Umgebung läuft statt als geteilter öffentlicher Dienst, sodass Eingaben und Dokumente Ihren Regeln zu Aufbewahrung und Zugriff unterliegen. Es begrenzt das Risiko von Training und Weiterverwendung durch Dritte, braucht für echten Datenschutz aber weiterhin berechtigungsgesteuerten Dokumentenzugriff und Überwachung.
Kann ein LLM die Daten preisgeben, mit denen es trainiert wurde?
Ja. Der Europarat berichtet, dass Modelle sich Namen, Telefonnummern, E-Mail-Adressen und Signaturen merken können und dass diese in Ausgaben auftauchen, entweder durch versehentliche Wiedergabe oder durch gezielte Angriffe zur Extraktion. Deshalb sollten Sie begrenzen, womit Sie feinabstimmen und was Sie senden.
Wie oft sollte ich einen LLM-Arbeitsablauf auf Datenschutz prüfen?
Prüfen Sie vor dem Start, bei jeder Änderung von Modell, Anbieterbedingungen, angebundenen Systemen oder Dokumentquellen und in einem festen Rhythmus, zum Beispiel vierteljährlich. Jede Prüfung umfasst die Datenkarte, die Zugriffsrechte, die Aufbewahrungsfristen und eine Stichprobe der Ausgaben.
Quellen
- applies to AI-supported data processing
- questions and answers on using AI tools consistently with the FADP
- contractually excluded
- model-level risks from system-level risks
- report on LLM risks and measures
- restrict the provider from using your data
- guarantee the company ownership of its data
- data scientists, ethicists and legal experts
- bypass a model’s safety guardrails
- restrict internal use
- AI content legal issues
Sprechen Sie mit uns
Haben Sie ein Projekt, das dieses Thema berührt?
Ein kostenloses 10-Minuten-Gespräch ist der schnellste Weg, um herauszufinden, ob wir das richtige Studio dafür sind.
Kostenloses 10-Min-Gespräch buchenWeiterlesen
Weitere Artikel.
Support-Modelle für Applikationen: So finden Sie das passende
Intern, geteilt, ausgelagert oder hybrid: Wie Support-Modelle funktionieren, welche Stufe was übernimmt und welches Modell zu Ihrem Team passt.
Artikel lesenIntegrationsmuster: So finden Sie das richtige
Punkt-zu-Punkt, API-geführt, Queues, Pub/Sub und ereignisgesteuerte Integration verständlich erklärt, mit einem einfachen Weg zum passenden Muster.
Artikel lesenSingle Sign-on anbinden: So funktioniert es, so gehen Sie vor
Wie Sie Single Sign-on anbinden: SAML oder OIDC, Rollout Schritt für Schritt, SCIM, Tests, Sicherheit und Schweizer Datenschutzpflichten für Ihre Geschäftsanwendungen.
Artikel lesen