OpenAI ha reso disponibile Privacy Filter, un modello pensato per individuare e mascherare i dati personali nei testi non strutturati. L’idea è semplice ma rilevante: intercettare informazioni sensibili prima che finiscano in strumenti cloud o in pipeline di lavoro dove la privacy può diventare un punto debole.
Il progetto è stato rilasciato con licenza Apache 2.0 e pubblicato su Hugging Face e GitHub, quindi può essere scaricato, modificato e integrato anche in contesti commerciali. Il suo valore sta soprattutto nell’approccio: non si limita a cercare pattern fissi, ma prova a capire il contesto per distinguere ciò che è pubblico da ciò che va protetto.
Privacy Filter porta la protezione dei dati personali dentro il flusso di lavoro
Privacy Filter nasce come livello di pre-filtraggio locale: il testo viene analizzato sul dispositivo dell’utente, i dati personali vengono rilevati e solo la versione già oscurata può essere inviata a un modello LLM in cloud. In pratica, il passaggio più delicato avviene prima che l’informazione lasci il dispositivo.
Il modello è pensato per ambienti dove la riservatezza non è un dettaglio secondario, ma una parte del processo. OpenAI lo descrive come uno strumento che può essere adattato ai casi d’uso specifici, con una logica utile in fase di training, negli indici di ricerca, nei log e nei controlli di revisione.
- Individua e maschera informazioni personali nei testi non strutturati.
- Lavora in locale, prima dell’invio dei contenuti a servizi cloud.
- Può essere adattato con fine-tuning per domini e flussi di lavoro specifici.
- È distribuito con licenza Apache 2.0.
Il modello usa una struttura MoE e arriva fino a 128.000 token di contesto
Sul piano tecnico, Privacy Filter adotta una classificazione token per token in due direzioni e una struttura di tipo Mixture of Experts. Il modello totale conta 1,5 miliardi di parametri, ma a ogni inferenza ne attiva circa 50 milioni, con un’impostazione che ne alleggerisce l’esecuzione.
OpenAI indica un contesto massimo di 128.000 token e spiega che una singola passata può etichettare l’intera sequenza di input. La decodifica dei segmenti avviene con un algoritmo di Viterbi vincolato, pensato per restituire risultati coerenti anche su testi lunghi.
- Modello totale da 1,5 miliardi di parametri.
- Circa 50 milioni di parametri attivi per inferenza.
- Finestra di contesto fino a 128.000 token.
- Progettato per girare anche su notebook e browser, secondo OpenAI.
Nei test il modello supera il 96% di F1 e sale oltre il 97% dopo le correzioni
Nella valutazione su PII-Masking-300k, Privacy Filter ha ottenuto un punteggio F1 del 96%, con precisione al 94,04% e richiamo al 98,04%. Dopo la correzione di alcuni problemi di annotazione presenti nel dataset iniziale, il risultato è salito al 97,43% di F1, con precisione al 96,79% e richiamo al 98,08%.
OpenAI sostiene inoltre che bastino pochi dati per adattare il modello a un settore specifico e spostare l’equilibrio tra precisione e richiamo in base alle esigenze. È un aspetto importante, perché in ambito privacy un filtro troppo aggressivo può cancellare informazioni utili, mentre uno troppo prudente rischia di lasciare scoperti dati sensibili.
- F1 del 96% su PII-Masking-300k.
- F1 del 97,43% dopo la correzione delle annotazioni.
- Precisione fino al 96,79% e richiamo fino al 98,08%.
- Supporta otto categorie di dati personali e sensibili.
