Protezione dei dati e LLM per le aziende svizzere: cosa verificare prima di partire

La protezione dei dati con gli LLM si riduce a tre domande: cosa entra nel modello, dove vengono conservati quei dati e chi può riutilizzarli, e cosa esce. In Svizzera la risposta sta nella Legge federale sulla protezione dei dati (LPD), che applies to AI-supported data processing come per qualsiasi altro trattamento. La configurazione più sicura raramente coincide con la scelta di un singolo strumento. È un flusso di lavoro costruito in modo che i dati sensibili non arrivino mai dove non devono, con contratti, regole di accesso e monitoraggio attorno. Questo è lavoro di progettazione software, e riesce meglio quando sono ingegneri senior a impostarlo fin dall'inizio.
In breve
- Il rischio per la privacy con gli LLM si annida in due punti: il modello stesso (memorizzazione dei dati di addestramento) e il sistema che lo circonda (prompt, log, recupero dai tuoi documenti, integrazioni).
- Molti strumenti di IA possono usare i tuoi input per addestrare i modelli futuri, a meno che questo non sia contractually excluded, e i dati immessi non si possono praticamente più recuperare.
- La LPD è neutrale sul piano tecnologico: chi la usa ha il diritto di sapere se sta parlando con una macchina e se quello che inserisce serve ad addestrarla.
- Un "LLM privato" riduce l'esposizione tenendo i dati in un ambiente controllato, ma servono comunque regole di accesso, registrazione e revisione.
- Prima di partire, mappa i flussi di dati, classifica cosa il modello può vedere, sistema le clausole contrattuali e imposta il monitoraggio. Poi ripeti la revisione a cadenza regolare.
Dove gli LLM espongono davvero i dati
La maggior parte dei team immagina un solo rischio: un collaboratore incolla una lista clienti in un chatbot. Quel rischio esiste, ma è solo uno fra tanti, e ognuno richiede una soluzione diversa.
La ricerca del Consiglio d'Europa sulla privacy degli LLM distingue i model-level risks from system-level risks. Fra i rischi a livello di modello ci sono i dati personali assorbiti durante il pre-addestramento, la memorizzazione e la loro riproduzione. Fra quelli a livello di sistema ci sono la profilazione continua degli utenti tramite le funzioni di memoria, trattamenti poco chiari, fughe di dati fra contesti diversi e controlli deboli per l'utente. A ogni categoria corrispondono misure di protezione diverse: ecco perché un generico "usiamo un modello sicuro" raramente regge.
I rischi che arrivano dal modello
Gli LLM possono memorizzare dati personali come nomi, numeri di telefono, indirizzi e-mail e firme in calce alle e-mail. Lo stesso rapporto del Consiglio d'Europa osserva che le sequenze memorizzate hanno un'alta probabilità di ricomparire negli output, ripetute parola per parola per caso oppure estratte deliberatamente con attacchi mirati ai dati di addestramento.
Per la maggior parte delle aziende svizzere che usano un modello in hosting, questo livello non è sotto il tuo controllo. Quello che controlli è ciò che aggiungi sopra: i dati che invii e la possibilità che il fornitore ne tragga apprendimento.
I rischi che arrivano dal tuo flusso di lavoro
È qui che si concentra la maggior parte dell'esposizione aziendale. Il team di protezione dei dati di Walder Wyss, in un report on LLM risks and measures, elenca i problemi a livello applicativo: fughe di dati, ricostruibilità degli input e divulgazione di contenuti sensibili tramite la generazione aumentata dal recupero (RAG). RAG significa che il modello cerca passaggi nei tuoi documenti prima di rispondere. Se l'indice dei documenti contiene fascicoli del personale o contratti e le regole di accesso sono larghe, qualsiasi utente dell'assistente può riuscire a farsi restituire quei passaggi.
La prompt injection apre un'altra strada. Swisscom descrive come un input formulato con astuzia possa bypass a model’s safety guardrails ed essere usato per estrarre dati confidenziali, incluse le fonti fornite al modello. Un assistente collegato al tuo CRM o al tuo negozio online è privato solo quanto lo sono i permessi che gli hai dato.
Il problema del riutilizzo
Le indicazioni della Cancelleria federale svizzera sulla sicurezza informatica descrivono il rischio nascosto più grande in modo diretto. Molti strumenti di IA possono usare i dati in entrata per addestrare i modelli futuri, salvo esclusione contrattuale, e una volta che un'informazione è nel sistema non si può in pratica più recuperare e può riaffiorare nelle risposte date ad altri utenti. KPMG Svizzera fa la stessa osservazione: se non restrict the provider from using your data in modo esplicito, i tuoi dati possono servire a rispondere al prompt di qualcun altro, e più li usi più cresce la probabilità che altri arrivino alle tue informazioni riservate.
Un caso noto è quello di Samsung, dove alcuni collaboratori hanno inserito dati proprietari in ChatGPT: ne è derivata una violazione e l'azienda è stata costretta a restrict internal use.
Cosa chiede il diritto svizzero sulla protezione dei dati
Non serve una nuova legge sull'IA perché tu sia responsabile. L'Incaricato federale della protezione dei dati e della trasparenza (IFPDT) afferma che la LPD è neutrale sul piano tecnologico e copre i trattamenti supportati dall'IA, e che produttori, fornitori e utilizzatori devono garantire alle persone interessate il massimo controllo possibile sui propri dati (applies to AI-supported data processing).
In pratica, per un'azienda che usa un LLM contano tre punti:
- Trasparenza. Chi usa modelli linguistici che comunicano direttamente ha il diritto di sapere se ha a che fare con una macchina e se quello che inserisce viene trattato per migliorare programmi ad apprendimento automatico o per altri scopi. Se metti un chatbot sul tuo sito, dillo, e spiega cosa succede ai dati inseriti.
- Scopo e fonti. L'IFPDT e l'Ufficio federale della cibersicurezza (UFCS) sottolineano che fornitori e utilizzatori devono essere chiari su contractually excluded delle loro applicazioni di IA.
- Dati di addestramento. L'IFPDT, insieme ad altre autorità internazionali, ha pubblicato nel 2023 e nel 2024 indicazioni sullo scraping di dati per l'addestramento dei modelli linguistici, che obbligano le aziende a rispettare le regole sulla protezione dei dati e a predisporre misure contro lo scraping illecito. Conta soprattutto se perfezioni un modello su dati raccolti tramite scraping o provenienti da terzi.
Nell'ottobre 2026 l'IFPDT e l'UFCS hanno condotto una campagna congiunta per il Mese della cibersicurezza sull'IA generativa al lavoro, con questions and answers on using AI tools consistently with the FADP. È il punto di partenza ufficiale più aggiornato per un team svizzero.
Se il tuo flusso di lavoro tocca dati sanitari, fascicoli del personale o altri dati personali degni di particolare protezione, fai rivedere l'impostazione da un avvocato svizzero specializzato in protezione dei dati prima di partire. I controlli qui sotto preparano quella conversazione, non la sostituiscono.
Cosa verificare con un fornitore di LLM
Le condizioni del fornitore decidono se i tuoi input restano tuoi. Le indicazioni legali di PwC Svizzera sull'acquisto di strumenti di IA dicono che i contratti devono guarantee the company ownership of its data, contenere clausole di protezione dei dati che riducano il rischio di accessi non autorizzati e vietare al fornitore di usare i tuoi dati, salvo per miglioramenti a esclusivo tuo vantaggio. Raccomandano anche una garanzia di conformità alla regolamentazione sull'IA, sostenuta da un'indennità.
Trasformalo in una lista di controllo da mettere davanti a qualsiasi fornitore:
| Domanda | Com'è fatta una buona risposta |
|---|---|
| I miei input servono ad addestrare i modelli? | Escluso per contratto, non solo con un interruttore nelle impostazioni |
| Per quanto tempo si conservano prompt e risposte? | Un periodo dichiarato, con opzione a conservazione zero se i dati sono sensibili |
| Chi, presso il fornitore, può leggere i miei dati? | Ruoli indicati per nome e una procedura di accesso limitata e tracciata |
| Dove vengono trattati e conservati i dati? | Regioni e subfornitori dichiarati, coerenti con i tuoi obblighi di informazione |
| A chi appartengono input e risposte? | A te, per iscritto |
| Cosa succede in caso di violazione? | Un obbligo di notifica e un'indennità |
Le opzioni a conservazione zero esistono presso i grandi fornitori, ma di norma richiedono un'approvazione o un accordo commerciale, e non tutti i modelli sono ammessi. Tratta la conservazione come qualcosa da negoziare e documentare, non come un'impostazione predefinita da dare per scontata.
Cosa significa un LLM privato per l'azienda
Un "LLM privato" è un modello linguistico che gira in un ambiente sotto il tuo controllo, per esempio il tuo spazio cloud o i tuoi server, invece che in un servizio pubblico condiviso. Secondo InformationWeek, la ragione principale per cui le aziende lo scelgono è la restrict internal use su ciò che il modello vede.
Cosa limita:
- Prompt e documenti non escono dal tuo ambiente per finire nella catena di addestramento di un terzo.
- Decidi tu conservazione, registrazione e chi può interrogare il modello.
- Puoi tenere il modello separato dai sistemi che non gli servono.
Cosa non elimina: un modello privato memorizza comunque tutto ciò su cui lo perfezioni, segue comunque una prompt injection se glielo permetti e ha comunque bisogno di un controllo degli accessi sui documenti dietro il RAG. "Privato" descrive dove gira il modello. La privacy è il risultato di come è progettato l'intero flusso di lavoro.
Per molti team la risposta giusta non è un modello interamente self-hosted, ma un modello aziendale in hosting con un contratto che esclude l'addestramento, più un sottile strato di software tuo che elimina o maschera i campi sensibili prima dell'invio. Quello strato è normale ingegneria applicativa, ed è lì che si crea la maggior parte del valore in termini di privacy.
Misure di protezione che funzionano nella pratica
Le indicazioni della Cancelleria federale nominano quattro mosse: direttive e politiche interne chiare, formazione del personale, garanzie contrattuali che le soluzioni aziendali non useranno i tuoi dati per l'addestramento e controlli tecnici come gli strumenti di data loss prevention (DLP), che rilevano e bloccano l'uscita di dati sensibili dai tuoi sistemi. PwC aggiunge una struttura di governance con un team multidisciplinare di data scientists, ethicists and legal experts.
Ecco come rendere concreto ognuno di questi punti.
Classifica prima di collegare
Definisci tre livelli di dati e mettili per iscritto:
- Mai a un LLM: dati sanitari, buste paga, credenziali, segreti dei clienti coperti dal segreto professionale.
- Solo a un modello approvato e protetto da contratto: corrispondenza con i clienti, documenti interni, codice sorgente.
- Liberamente utilizzabili: testi di marketing pubblici, documentazione già pubblicata.
Il personale segue una regola di tre righe molto meglio di una direttiva di venti pagine.
Riduci al minimo ciò che il modello vede
Invia al modello la porzione di dati più piccola che basta a fare il lavoro. Sostituisci nomi e numeri di conto con segnaposto prima della chiamata e rimettili al loro posto dopo. Dai a un assistente RAG accesso solo ai documenti che l'utente che pone la domanda è già autorizzato a leggere. Ogni campo in più è una cosa in più che può uscire.
Tieni sotto controllo le integrazioni
Un assistente collegato al tuo negozio online, al CRM o all'ERP eredita tutto ciò che quei sistemi espongono. Dagli un account di servizio in sola lettura, con permessi ristretti. Non lasciare che l'output del modello attivi azioni come rimborsi o esportazioni di dati senza una verifica. È qui che la prompt injection fa danni, perché chi attacca guida il modello a usare gli accessi che gli hai consegnato tu.
Forma le persone e fissa le regole
Una formazione breve e concreta batte un avvertimento generico: quali strumenti sono approvati, quale livello di dati ognuno può toccare e cosa fare dopo un errore. I team di marketing e contenuti hanno domande proprie su proprietà e dichiarazioni, trattate in questa panoramica sui AI content legal issues. Assegna un responsabile alla direttiva, così viene aggiornata.
Come valutare e monitorare un flusso di lavoro con LLM
Una verifica sulla privacy non è un controllo una tantum. Modelli, condizioni dei fornitori e le tue integrazioni cambiano. Una routine praticabile prevede un passaggio prima del lancio e uno ricorrente.
Prima del lancio
- Mappa il flusso dei dati. Disegna ogni punto in cui i dati entrano, vengono conservati, vengono inviati a un fornitore e tornano indietro: input dell'utente, modelli di prompt, indici di recupero, log, analisi, backup. Le sorprese stanno quasi sempre nei log e negli indici, non nella chiamata al modello.
- Elenca i dati personali coinvolti. Per ogni flusso, annota quali dati personali o riservati sono presenti e la base legale per trattarli. Verifica che la tua informativa sulla privacy descriva questo uso, inclusi gli obblighi di trasparenza visti sopra.
- Sistema il contratto. Percorri la lista di controllo per il fornitore vista prima e conserva le risposte agli atti.
- Prova con input ostili. Tenta una prompt injection, richieste di dati di altri utenti e tentativi di estrarre il prompt di sistema o le fonti documentali. Quando qualcosa passa, correggi i permessi, non solo la formulazione del prompt.
- Definisci una condizione di arresto. Decidi in anticipo quale incidente comporta lo spegnimento della funzione, e chi può farlo.
Dopo il lancio
- Registra con criterio. Conserva quanto basta per indagare su un incidente, ma tratta i log anch'essi come dati personali: limita gli accessi e fissa un periodo di conservazione.
- Osserva le derive. Rivedi regolarmente un campione di risposte per individuare identificatori usciti per errore, fonti recuperate strane e richieste prima rifiutate e poi accolte.
- Ricontrolla a ogni cambiamento. Una nuova versione del modello, un nuovo sistema collegato, un aggiornamento delle condizioni del fornitore o una nuova fonte documentale riaprono la mappa dei dati.
- Rivedi a cadenza fissa. Una revisione trimestrale di diritti di accesso, conservazione e condizioni dei fornitori è un ritmo ragionevole per la maggior parte dei piccoli team.
- Tieni pronta la procedura per gli incidenti. Sappi chi decide, chi informa le persone interessate e chi parla con le autorità se sono stati esposti dati personali.
Costruire in modo che la privacy sia già nel progetto
La lista di controllo qui sopra è per lo più ingegneria: strati di minimizzazione dei dati, recupero con permessi, integrazioni ristrette e monitoraggio. Sono proprio le parti che vanno storte quando un progetto passa da un commerciale a un team giovane e i requisiti vengono riscritti a metà strada.
In Ampersand, piccolo studio di Zurigo, gli ingegneri senior sono coinvolti dalla prima consulenza fino alla consegna: così chi ascolta i tuoi requisiti di protezione dei dati è anche chi li realizza. Costruiamo automazioni con IA per i processi aziendali e integrazioni di sistema per negozi online, CRM ed ERP, e fra i nostri clienti ci sono UBS e la Città di Lugano. Se vuoi una valutazione esterna di un'installazione già esistente, offriamo anche audit e consulenza tecnica guidata da senior, oltre a masterclass sull'IA per i team che devono imparare le regole di un uso sicuro.
Per il lavoro continuativo sono pubblicati due piani: Run & monitor a CHF 750 al mese e Guidance a CHF 799 al mese. I progetti di automazione e integrazione vengono preventivati caso per caso. Trovi l'elenco completo sulla pagina dei prezzi di Ampersand.
Domande frequenti
È sicuro inserire dati dei clienti in ChatGPT o in strumenti simili?
Solo se lo strumento e il piano che usi escludono per contratto l'addestramento sui tuoi input, e se il livello dei dati lo consente. Le indicazioni federali svizzere avvertono che gli input di molti strumenti possono servire ad addestrare i modelli futuri e che poi non si possono praticamente più recuperare. Tieni i dati degni di particolare protezione, come le cartelle sanitarie, completamente fuori dagli strumenti generalisti.
La LPD svizzera si applica all'IA e agli LLM?
Sì. L'IFPDT afferma che la LPD è neutrale sul piano tecnologico e si applica ai trattamenti di dati supportati dall'IA. Gli utenti hanno inoltre il diritto di sapere se stanno comunicando con una macchina e se il loro input serve ad addestrarla: le avvertenze del tuo chatbot e la tua informativa sulla privacy devono quindi dirlo.
Cos'è un LLM privato per l'azienda?
È un modello linguistico che gira in un ambiente sotto il tuo controllo, invece che in un servizio pubblico condiviso: così prompt e documenti restano soggetti alle tue regole di conservazione e di accesso. Riduce l'esposizione all'addestramento e al riutilizzo da parte di terzi, ma per mantenere i dati privati servono comunque accessi ai documenti regolati da permessi e monitoraggio.
Un LLM può far uscire i dati su cui è stato addestrato?
Sì. Il Consiglio d'Europa riferisce che i modelli possono memorizzare nomi, numeri di telefono, indirizzi e-mail e firme, e che questi possono comparire nelle risposte per riproduzione accidentale o a seguito di attacchi di estrazione deliberati. Per questo conviene limitare sia i dati su cui perfezioni il modello sia quelli che gli invii.
Ogni quanto devo rivedere un flusso di lavoro con LLM sotto il profilo della privacy?
Rivedilo prima del lancio, ogni volta che cambiano il modello, le condizioni del fornitore, i sistemi collegati o le fonti documentali, e a cadenza fissa, per esempio ogni trimestre. Ogni revisione controlla la mappa dei dati, i diritti di accesso, i periodi di conservazione e un campione di risposte.
Fonti
- applies to AI-supported data processing
- questions and answers on using AI tools consistently with the FADP
- contractually excluded
- model-level risks from system-level risks
- report on LLM risks and measures
- restrict the provider from using your data
- guarantee the company ownership of its data
- data scientists, ethicists and legal experts
- bypass a model’s safety guardrails
- restrict internal use
- AI content legal issues
Parliamone
Hai un progetto che tocca questo tema?
Una chiamata gratuita di 10 minuti è il modo più rapido per capire se siamo lo studio giusto.
Prenota una chiamata gratuita di 10 minContinua a leggere
Altri articoli.
Modelli di supporto applicativo: come scegliere quello giusto
Interno, condiviso, esternalizzato o ibrido: come funzionano i modelli di supporto applicativo, cosa copre ogni livello e come scegliere quello adatto al tuo team.
Leggi l'articoloPattern di architettura d'integrazione: come scegliere quello giusto
Point-to-point, API, code, pub/sub e integrazione a eventi a confronto in parole semplici, con un metodo chiaro per scegliere il pattern adatto ai tuoi sistemi.
Leggi l'articoloIntegrazione Single Sign-On: come funziona e come realizzarla
Come funziona l'integrazione single sign-on, SAML o OIDC, il rollout passo per passo, SCIM, test, sicurezza e obblighi svizzeri sulla protezione dei dati.
Leggi l'articolo