GDPR e intelligenza artificiale: cosa fare con i dati dei clienti in un'app AI

Il GDPR si applica a un'app con l'intelligenza artificiale?

Sì, ogni volta che l'app tratta dati personali: nomi, email, conversazioni, documenti dei clienti, registrazioni di chiamate. Il GDPR non distingue tra un modulo di contatto e un modello linguistico: contano i dati, le finalità e chi decide come trattarli. La differenza, con l'AI, è che i dati passano per più mani (il tuo sistema, il fornitore del modello, eventuali database per la ricerca nei documenti) e ogni passaggio va documentato.

Nel caso tipico tu sei il titolare del trattamento, perché decidi cosa fare dei dati, e il fornitore del modello è un responsabile che li tratta per tuo conto. L'art. 28 chiede che questo rapporto sia regolato da un contratto, il cosiddetto DPA: i fornitori di API per aziende in genere ne offrono uno standard, da accettare e conservare.

Per altri obblighi, come protezione dei dati fin dalla progettazione (art. 25), contratti con i responsabili (art. 28) e valutazione d'impatto (art. 35), il tetto è più basso: 10 milioni o il 2% (art. 83, par. 4). Restano cifre che una startup non può permettersi.

I dati dei clienti finiscono nei modelli AI?

Con le API a pagamento dei principali fornitori, per impostazione predefinita no: i dati inviati non vengono usati per addestrare i modelli. Con i piani gratuiti, invece, le condizioni possono essere diverse anche presso lo stesso fornitore. Ecco cosa dicono le pagine ufficiali.

Le fonti sono la documentazione di OpenAI, il centro privacy di Anthropic con la pagina sulla residenza dei dati, e i termini aggiuntivi dell'API Gemini. Queste condizioni cambiano: rileggile prima di collegare dati personali e salva una copia della versione che hai accettato.

Quale base giuridica serve per usare l'AI sui dati dei clienti?

Serve una delle sei basi dell'art. 6: per le funzioni AI di un prodotto sono di solito l'esecuzione del contratto con l'utente o l'interesse legittimo, più raramente il consenso. La scelta dipende dalla finalità: riassumere le email di un cliente dentro il servizio che ti paga è diverso dall'usare quelle email per addestrare un modello.

Sull'interesse legittimo il riferimento è il parere 28/2024 del Comitato europeo per la protezione dei dati (EDPB), adottato a dicembre 2024. Il parere non crea una gerarchia tra le basi giuridiche e indica un test in tre passi: l'interesse dev'essere legittimo, reale e chiaramente definito; il trattamento dev'essere necessario, senza alternative meno invasive; il bilanciamento con i diritti e le aspettative delle persone deve reggere.

Due punti del parere EDPB che riguardano chi usa modelli di terzi

• Se un modello addestrato su dati personali sia davvero anonimo va valutato caso per caso: non lo è automaticamente.
• Un modello sviluppato trattando dati in modo illecito può avere conseguenze sulla liceità del suo uso, salvo che sia stato anonimizzato. Chi lo usa deve fare la propria verifica, nell'ambito della sua responsabilità.

Cosa devo scrivere nell'informativa privacy?

Devi spiegare che usi sistemi di AI, per quali finalità, su quale base giuridica, a quali fornitori passano i dati e per quanto tempo restano (artt. 13 e 14). Se il sistema prende decisioni basate unicamente su un trattamento automatizzato che producono effetti giuridici o incidono in modo analogo sulle persone, come rifiutare un servizio o un credito, entra in gioco l'art. 22: le persone hanno il diritto di non esservi sottoposte salvo eccezioni, di ottenere l'intervento di una persona e di ricevere informazioni significative sulla logica utilizzata.

Per i prodotti rivolti al pubblico in Italia c'è un punto in più: la legge 132/2025, all'art. 4, richiede il consenso di chi esercita la responsabilità genitoriale per l'accesso dei minori di 14 anni alle tecnologie di AI e per il relativo trattamento dei dati.

Serve una valutazione d'impatto (DPIA)?

Serve quando il trattamento può presentare un rischio elevato per i diritti delle persone, in particolare se usa nuove tecnologie (art. 35). Un'app che usa l'AI per valutare persone in modo sistematico, trattare dati sanitari o monitorare comportamenti ci rientra quasi certamente; un assistente interno che riassume documenti senza dati personali, probabilmente no. Nel dubbio, la valutazione va fatta e documentata prima del lancio, non dopo.

Posso mandare i dati a un fornitore negli Stati Uniti?

Sì, rispettando le regole sui trasferimenti fuori dall'UE (artt. 44 e seguenti). La strada più semplice è un fornitore certificato al Data Privacy Framework UE-USA, riconosciuto adeguato dalla Commissione nel luglio 2023. Il 3 settembre 2025 il Tribunale dell'UE ha respinto il ricorso di annullamento contro la decisione (causa T-553/23); è stata presentata un'impugnazione alla Corte di giustizia (C-703/25 P). In alternativa si usano le clausole contrattuali standard, di solito già incluse nel DPA del fornitore. Se puoi, scegli opzioni di elaborazione in Europa quando il fornitore le offre.

Cosa insegnano i provvedimenti del Garante sull'AI?

Insegnano che le autorità guardano soprattutto a basi giuridiche, trasparenza, sicurezza e tutela dei minori. Nel dicembre 2024 il Garante ha sanzionato OpenAI per 15 milioni di euro, contestando tra l'altro l'addestramento di ChatGPT senza un'adeguata base giuridica, la mancata notifica di una violazione di dati, carenze di trasparenza e l'assenza di verifica dell'età. Nel marzo 2026 il Tribunale di Roma (sentenza n. 4153/2026) ha accolto l'opposizione di OpenAI e il provvedimento è stato rimosso dal sito del Garante. Le contestazioni, però, restano un ottimo elenco di cosa controllare nella tua app.

Da dove parto? Una checklist per app con AI

Parti dai dati, non dal modello: cosa entra, dove va, quanto resta. La checklist qui sotto l'abbiamo costruita noi per i prodotti basati su modelli linguistici.

Questa guida non sostituisce un consulente privacy o un avvocato, che restano indispensabili per il tuo caso. Per gli obblighi specifici sull'AI, leggila insieme a quella sull'AI Act per startup; per la parte tecnica, la guida su RAG e costi delle API spiega come i documenti dei clienti entrano nel sistema, e quella su cosa sono gli agenti AI perché un agente moltiplica i dati che tocca.