Doubao Phone: privacy e sicurezza dell’AI basate su TEE — lettura e traduzione di un whitepaper

Prefazione

Doubao Phone è lo smartphone AI-native di ByteDance. Al centro dell’esperienza c’è Doubao Phone Assistant, un assistente AI in grado di comprendere le intenzioni dell’utente, operare il telefono per conto dell’utente e fornire servizi personalizzati attraverso applicazioni, funzioni di sistema e contenuti.

Poiché questo assistente può vedere e agire su informazioni altamente sensibili, dai messaggi e dalle foto fino alle app finanziarie (vedi il tweet di Taylor Ogan), Doubao Phone è progettato attorno ai Trusted Execution Environment (TEE) e al confidential computing end-to-cloud. Queste protezioni basate su hardware isolano i modelli AI e i dati degli utenti dal resto del sistema, in modo che, anche se un altro componente venisse compromesso, i dati sensibili e la logica dei modelli restino protetti:

• Sul dispositivo, i TEE e la crittografia hardware isolano i modelli e i dati dell’utente dal resto del sistema operativo.
• Sulla rete, gli identificatori vengono pseudonimizzati e il traffico di inferenza è cifrato.
• Nel cloud, container di confidential computing e controlli di accesso rigorosi limitano l’esposizione e l’accesso ai dati sensibili in chiaro.

Questo documento è una traduzione inglese fedele 1:1 del whitepaper originale **Doubao Phone Assistant Privacy & Security (v1)**, pubblicato dal gruppo ByteDance. L’obiettivo non è reinterpretare il design, ma rendere la sua architettura e le relative garanzie comprensibili a un pubblico globale più ampio: in particolare a chi è interessato all’AI confidenziale, alle infrastrutture verificabili e alla protezione della privacy basata su TEE nei dispositivi consumer.

Quanto segue è la descrizione fornita direttamente da ByteDance di come Doubao Phone Assistant è costruito e di come gestisce la sicurezza dei modelli, l’esecuzione on-device e nel cloud, la protezione dei dati e i processi di governance lungo l’intero ciclo di vita del prodotto.

1. Panoramica

L’innovazione nelle tecnologie di AI ha aperto nuove possibilità per i terminali intelligenti mobili. Le applicazioni rappresentate dagli assistenti AI sfruttano appieno i vantaggi di interazione degli smartphone per offrire agli utenti servizi di assistenza più intelligenti e convenienti. Gli assistenti AI sono in grado di riconoscere le intenzioni dell’utente ed eseguire rapidamente le attività, oltre a fornire risposte personalizzate basate sulle abitudini degli utenti.

Pur offrendo maggiore comodità, siamo pienamente consapevoli dell’importanza della privacy e della sicurezza degli utenti. In tutte le fasi di progettazione di prodotti e servizi, Doubao Phone Assistant ha sempre considerato la sicurezza dei dati degli utenti e della privacy come uno degli aspetti fondamentali.

Questo whitepaper sulla sicurezza fornisce una descrizione dettagliata delle specifiche misure gestionali e tecniche implementate da Doubao Phone Assistant per rafforzare le capacità di sicurezza delle informazioni dei propri prodotti e servizi. È strutturato principalmente nei seguenti quattro capitoli:

• Fondamenti di privacy e sicurezza dell’AI
• Privacy e sicurezza delle applicazioni AI
• Sicurezza dei dati e protezione della privacy
• Sistema di gestione della sicurezza

In un mondo altamente interconnesso, il continuo sviluppo tecnologico introduce nuovi rischi per la sicurezza delle informazioni. Doubao Phone Assistant si impegna a fornire agli utenti prodotti sicuri, affidabili e degni di fiducia. Ci auguriamo che questo whitepaper aiuti gli utenti a comprendere meglio la nostra filosofia e le nostre implementazioni in materia di sicurezza delle informazioni e protezione della privacy nei prodotti e servizi Doubao Phone Assistant.

Per qualsiasi dubbio o domanda relativa a questo whitepaper, non esitate a contattarci via email all’indirizzo: o-feedback@mail.doubao.com.

2. Fondamenti di privacy e sicurezza dell’AI

Doubao Phone Assistant è fermamente convinto che garantire agli utenti il controllo sui propri dati sia un prerequisito fondamentale per il valore dei servizi AI. Non consideriamo privacy e sicurezza come “funzionalità aggiuntive”, ma le integriamo lungo l’intero ciclo di vita dei servizi AI: dalla progettazione iniziale delle capacità dei modelli, alla trasmissione delle informazioni durante l’interazione con l’utente, fino alla distruzione dei dati sensibili al termine del servizio.

In ogni fase sostituiamo la “risposta passiva” con la “difesa proattiva”, tutelando al contempo il diritto degli utenti a essere informati. In questo modo garantiamo che l’innovazione e l’applicazione delle tecnologie AI procedano sempre nel rispetto della privacy degli utenti e nella protezione della sicurezza dei dati, consentendo a ciascun utente di godere della comodità dell’AI senza preoccupazioni per privacy e sicurezza.

2.1 Architettura dei servizi AI

Doubao Phone Assistant è costruito su un sistema di protezione della sicurezza AI end-to-cloud. Basandoci sui grandi modelli sviluppati internamente da ByteDance, abbiamo realizzato una serie di servizi AI intelligenti che offrono esperienze utente innovative.

(Nel documento originale è presente un diagramma che mostra le applicazioni AI in esecuzione sopra una piattaforma sicura di protezione della sicurezza e della privacy dell’AI, distribuita tra elaborazione on-device e cloud.)

2.2 Privacy e sicurezza della piattaforma AI

2.2.1 Privacy e sicurezza dell’AI on-device (lato client)

Ambiente di esecuzione sicuro

Doubao Phone Assistant funziona su una piattaforma hardware sicura dotata di un motore di inferenza NPU (Neural-network Processing Unit) e di capacità di sicurezza hardware TEE (Trusted Execution Environment). Grazie a meccanismi di isolamento e crittografia a livello hardware, Doubao Phone Assistant offre una protezione completa dei dati degli utenti.

Sicurezza dei modelli locali

Basandosi su TEE affidabili e tecnologie di crittografia dei file a livello hardware, Doubao Phone Assistant garantisce una protezione end-to-end per il provisioning, la distribuzione, l’aggiornamento, l’archiviazione e l’inferenza dei modelli. Questo protegge la sicurezza degli algoritmi dei modelli e impedisce la fuoriuscita dei dati degli utenti durante l’inferenza on-device.

Protezione dei dati dei modelli

• I dati dei modelli sono cifrati utilizzando chiavi di piattaforma pre-fornite all’interno del TEE affidabile.
• Prima della distribuzione o dell’aggiornamento dei modelli, viene utilizzata un’autenticazione di dispositivi affidabili basata su PKI per garantire che i modelli siano distribuiti esclusivamente a dispositivi hardware sicuri.
• Sul dispositivo, i modelli cifrati vengono decifrati dai servizi di sicurezza TEE e successivamente ricifrati tramite tecnologie di crittografia a livello hardware, quindi archiviati in directory di file dedicate e cifrate.

Inferenza sicura dei modelli

• Sotto la supervisione dei servizi di misurazione e rilevamento dell’integrità del sistema, i modelli vengono decifrati dalla directory cifrata locale e caricati nel framework di inferenza.
• Quando il sistema rileva un tentativo di attacco con privilegi elevati, rifiuta di fornire servizi di decifratura e caricamento dei modelli, garantendo così la sicurezza sia dei modelli sia dei dati degli utenti durante l’inferenza.

Inferenza sicura dei modelli locali

Doubao Phone Assistant distribuisce una parte dei propri modelli AI direttamente sullo smartphone per consentire la protezione dei dati altamente sensibili tramite elaborazione esclusivamente locale. Attualmente, le principali categorie di grandi modelli on-device includono:

• Modello OCR — utilizzato per estrarre e riconoscere testo da immagini locali degli utenti.
• Modello di embedding testuale — utilizzato per vettorializzare i dati degli utenti e consentire un recupero efficiente.
• Modello di Named Entity Recognition (NER) — utilizzato per estrarre entità nominate dai dati di business.
• Modello di riconoscimento dei contenuti — utilizzato per controlli di sicurezza e conformità dei contenuti sugli input e sugli output dell’inferenza locale.
• Grande modello multimodale — utilizzato per comprendere immagini e video locali, nonché per la sintesi di testi.

Questi modelli vengono applicati in diversi scenari di servizio AI che coinvolgono dati altamente sensibili e continueranno a essere ottimizzati ed estesi a ulteriori scenari in futuro.

2.2.2 Privacy e sicurezza dell’AI nel cloud

I dati sensibili non vengono utilizzati per l’addestramento

Doubao Phone Assistant adotta un’architettura di sicurezza completa che, a livello di progettazione tecnica, garantisce che i dati sensibili degli utenti non vengano utilizzati per l’addestramento dei modelli. I dati originali degli utenti sono utilizzati esclusivamente per elaborare le richieste di servizio. Qualsiasi dato di business generato è rigorosamente protetto e isolato dai dati di addestramento.

Controllo granulare degli accessi ai dati

Grazie a un controllo dei permessi altamente granulare sulla piattaforma cloud, garantiamo che, in assenza di un’esplicita autorizzazione dell’utente, i dati sensibili non vengano archiviati, consultati o utilizzati da terze parti in scenari o forme non necessarie.

Protezione end-to-end della sicurezza dei dati

Le misure di sicurezza a livello tecnico si concentrano sulla copertura dell’intera catena, senza fare affidamento su accordi o processi manuali. I dati sono sempre cifrati durante la trasmissione e l’archiviazione. Per l’inferenza dei modelli vengono utilizzate tecniche di de-identificazione e disaccoppiamento, eliminando il legame con le persone fisiche e prevenendo l’accesso mirato a dati sensibili in chiaro riconducibili all’utente.

Sicurezza della trasmissione

• I dati trasmessi sul collegamento end-to-cloud sono cifrati.
• Le chiamate tra servizi includono controlli di identità e autenticazione, garantendo la riservatezza e l’integrità dei dati.

Sicurezza dell’archiviazione

• I dati nel cloud sono cifrati a riposo utilizzando TKMS (Trusted Key Management Service).
• L’algoritmo di cifratura utilizzato è AES-256-GCM.

Sicurezza dei log

• Tutti i log seguono rigorosamente le specifiche di logging di Doubao Phone Assistant.
• Non è consentita la registrazione di informazioni personali degli utenti o di altri dati sensibili.
• Un team di sicurezza dedicato esegue attività di revisione e accettazione.

Trusted computing

Per garantire l’esecuzione affidabile delle capacità di sicurezza lato cloud, i principali servizi cloud sono distribuiti in container di confidential computing. Tutta la logica di elaborazione sfrutta le funzionalità di isolamento del confidential computing per assicurare che i dati in chiaro rimangano isolati dall’ambiente esterno.

Nel lungo periodo, stiamo sviluppando capacità come l’inferenza basata su trusted computing e la remote attestation, allo scopo di dimostrare tecnicamente, anche da un punto di vista teorico, che nessuno può accedere ai dati sensibili degli utenti.

Servizi di protezione della sicurezza dei modelli

Per garantire che i grandi modelli cloud possano servire in modo sicuro e affidabile i servizi AI, abbiamo sviluppato un servizio di protezione dei modelli. Questo servizio analizza, rileva e filtra gli input e gli output dei modelli di linguaggio di grandi dimensioni e dei modelli multimodali, mitigando rischi quali:

• attacchi di prompt injection
• deviazioni nell’esecuzione delle intenzioni
• fuoriuscita di informazioni sensibili

2.2.3 Sicurezza dei servizi cloud

Sicurezza dell’infrastruttura cloud

Doubao Phone Assistant aderisce a una filosofia di sicurezza “defense in depth” e ha realizzato un’architettura di protezione della sicurezza cloud completa e avanzata. Dal livello di rete a quello host fino ai container, adottiamo tecnologie di sicurezza all’avanguardia.

Queste includono, a titolo esemplificativo:

• distribuzione di sistemi avanzati di rilevamento delle minacce di rete (Network Traffic Analysis, NTA) ai confini della rete per individuare e segnalare intrusioni malevole;
• instradamento di tutto il traffico attraverso un Web Application Firewall (WAF) per il rilevamento e la validazione degli attacchi, garantendo sicurezza e legittimità e bloccando le richieste malevole in tempo reale;
• implementazione di Host-based Intrusion Detection Systems (HIDS) sui server fisici per monitorare processi anomali, rilevare connessioni in uscita sospette e identificare malware e backdoor, consentendo una risposta tempestiva;
• utilizzo di sistemi di protezione DDoS per filtrare automaticamente il traffico di attacco e inoltrare solo quello legittimo ai server, assicurando che i servizi non vengano compromessi da attacchi di tipo Distributed Denial-of-Service (DDoS).

Il team di sicurezza monitora costantemente il panorama generale della sicurezza e le più recenti tecniche di attacco, iterando e aggiornando continuamente le misure difensive per mantenere sicuri i servizi.

Sicurezza dei sistemi di business cloud

Per rafforzare la sicurezza e la disponibilità dei sistemi cloud correlati a Doubao Phone Assistant e prevenire potenziali attacchi dopo il lancio, eseguiamo rigorosi test di sicurezza prima della messa in produzione dei sistemi. Solo dopo il superamento di tali test i sistemi possono essere distribuiti.

Durante i test facciamo riferimento alle migliori pratiche del settore (ad esempio, OWASP Top 10 Web Application Security Risks) e adattiamo i piani di test tecnici in base agli scenari di business reali. I test vengono quindi eseguiti da professionisti della sicurezza.

Inoltre, i livelli di accesso di Doubao Phone Assistant adottano architetture ad alta disponibilità, eseguendo più istanze in parallelo per garantire affidabilità e stabilità del servizio.

3. Privacy e sicurezza delle applicazioni AI

Doubao Phone Assistant riconosce pienamente l’importanza della privacy degli utenti e la considera un fondamento centrale della progettazione del prodotto. Tutte le funzionalità sono progettate attorno a questo principio e rispettano i criteri di consenso informato, minimizzazione dei dati e controllo da parte dell’utente.

Per quanto riguarda il consenso informato, sia durante l’attivazione di Doubao Assistant sia nell’abilitazione di altre applicazioni, spieghiamo chiaramente agli utenti le regole di trattamento dei dati. Le funzionalità pertinenti vengono abilitate solo dopo il consenso dell’utente, garantendo così il diritto degli utenti a sapere come vengono utilizzati i propri dati.

Il controllo da parte dell’utente significa che gli utenti mantengono un forte controllo sia sui dati sia sulle funzionalità. Ad esempio, nelle operazioni del telefono assistite dall’AI, quando un’azione può incidere in modo significativo sugli interessi importanti dell’utente, l’assistente richiede in modo proattivo una conferma per garantire che l’operazione sia allineata con la reale intenzione dell’utente.

3.1 Doubao Assistant

Quando Doubao Assistant viene invocato mentre il telefono è in stato di blocco, per evitare che operazioni altamente sensibili vengano eseguite senza autorizzazione, l’assistente avvia un’autenticazione di accesso sicuro. Solo dopo il completamento con successo dell’autenticazione può eseguire operazioni avanzate successive o interrogare dati sensibili, proteggendo così la privacy dell’utente.

Quando gli utenti utilizzano Doubao Assistant per accedere e recuperare dati locali, possono controllarne il comportamento app per app in base alle proprie esigenze e preferenze di privacy. Gli utenti possono scegliere l’ambito dei dati che possono essere ricercati, controllando così l’accesso ai propri dati personali e tutelando la privacy.

Quando Doubao Assistant fornisce funzionalità di esecuzione delle intenzioni, imponiamo meccanismi di controllo degli accessi basati sulle intenzioni per operazioni chiave quali la registrazione delle intenzioni, l’esecuzione delle intenzioni e l’accesso o utilizzo dei dati. Tutte le operazioni devono superare l’autenticazione di accesso sicuro prima dell’esecuzione, garantendo la legittimità del soggetto che avvia l’operazione e prevenendo attività non autorizzate.

Per completare in modo più flessibile le istruzioni degli utenti, Doubao Phone Assistant offre una funzionalità che consente all’AI di operare automaticamente il telefono per conto dell’utente. Per evitare rischi di sovra-autorizzazione, sono stati definiti rigorosi meccanismi di controllo per le operazioni che coinvolgono dati sensibili degli utenti. Tali operazioni richiedono una conferma e un’autorizzazione esplicite da parte dell’utente. In particolare, le operazioni ad alto rischio richiedono una seconda conferma prima di poter essere accessibili ed eseguite. Queste includono sei categorie principali:

• Gestione di autorizzazioni e privacy
• Operazioni finanziarie e transazioni
• Controllo del sistema e del dispositivo
• Operazioni relative a requisiti legali e di conformità
• Operazioni irreversibili ad alto rischio
• Trattamento di dati sanitari e medici

Lo stack di agenti dietro Doubao (UI-TARS-2)

Dal punto di vista dei sistemi, Doubao Phone non è semplicemente “un telefono con un LLM al suo interno”, ma poggia su uno stack di GUI agent di notevole complessità. Il report UI-TARS-2 di ByteDance descrive un agente nativo centrato sulla GUI che unifica percezione, ragionamento e controllo su ambienti desktop, Android e browser, addestrato tramite una pipeline di reinforcement learning multi-turn e supportato da un ampio data flywheel.

Alcuni dettagli meritano particolare attenzione quando si considera Doubao come dispositivo di AI confidenziale:

• Sandbox GUI unificata. UI-TARS-2 opera all’interno di una sandbox unica in grado di controllare Windows, Ubuntu, Android e giochi browser utilizzando lo stesso spazio di azione (clic, digitazione, scroll, chiamate a strumenti, terminale, ecc.). Questo è esattamente il tipo di infrastruttura necessario affinché un assistente telefonico possa operare su applicazioni arbitrarie e superfici UI, invece di limitarsi a rispondere a prompt testuali.
• Data flywheel + reinforcement learning multi-turn. Invece di affidarsi solo al supervised fine-tuning su tracce umane, viene eseguito un ciclo continuo di pre-addestramento, fine-tuning supervisionato e RL con ricompense verificabili, reintegrando le traiettorie dell’agente nel dataset di training. È così che si ottiene un assistente in grado di sostenere interazioni lunghe, complesse e multi-step su applicazioni reali, senza sovra-adattarsi a brevi dimostrazioni.
• Benchmark reali, non demo giocattolo. UI-TARS-2 riporta risultati solidi su OSWorld, WindowsAgentArena, AndroidWorld, Online-Mind2Web, oltre a una suite di 15 giochi e LMGame-Bench, spesso superando agenti in stile Claude e OpenAI CUA nei task basati su GUI. In altre parole, non si tratta di un semplice prototipo di ricerca, ma di un sistema competitivo con gli agenti di frontiera nei flussi di lavoro reali di cui un telefono ha bisogno.

Nel complesso, Doubao Phone può essere visto come capacità di livello UI-TARS eseguite all’interno di un involucro di confidential computing ancorato ai TEE. Lo stack di agenti GUI addestrati tramite RL fornisce sul piano delle capacità quello che può essere definito un “momento DeepSeek per l’AI locale”, mentre i TEE e il confidential computing end-to-cloud trasformano tali capacità in qualcosa a cui è plausibile affidare l’intera vita digitale dell’utente.

3.2 Memoria globale

La Memoria globale è soggetta a rigorose misure di sicurezza sia nella fase di acquisizione sia in quella di elaborazione dei dati, implementando pienamente il principio del controllo da parte dell’utente.

Misure di protezione

1. Principio di minimizzazione dei dati

• La raccolta dei dati segue un criterio di necessità ragionevole.
• Vengono raccolti esclusivamente i dati necessari all’implementazione della funzionalità di Memoria globale, evitando raccolte eccessive e riducendo alla fonte il rischio di violazioni della privacy.

2. Principio di elaborazione “on-device first”

• L’elaborazione dei dati avviene sul dispositivo ogni volta che è possibile, con i dati elaborati cifrati e archiviati localmente sul dispositivo.
• Qualora, a causa delle capacità del dispositivo o di altre limitazioni tecniche, i dati debbano essere caricati nel cloud per l’elaborazione, vengono applicate rigorose misure di protezione durante la trasmissione e il trattamento. I dati vengono eliminati immediatamente dopo l’utilizzo.

3. Chiarezza nella limitazione della finalità

• I dati registrati dalla Memoria globale vengono utilizzati esclusivamente per fornire agli utenti le funzionalità di visualizzazione della memoria e di risposta intelligente.
• Non vengono utilizzati in scenari non correlati a tali funzioni né impiegati per l’addestramento dei modelli, garantendo così una finalità unica e sicura.

Misure di controllo da parte dell’utente

1. Autorizzazione controllabile

• Prima di abilitare qualsiasi funzionalità di Memoria globale vengono presentate chiare informative sulla privacy, che descrivono l’ambito dei dati coinvolti.
• Le funzionalità vengono attivate solo previa autorizzazione dell’utente.

2. Interruttori di funzionalità controllabili

• Dopo l’abilitazione delle funzionalità di memoria, gli utenti possono disattivarle in qualsiasi momento.
• Nel Centro di controllo è disponibile un interruttore rapido che consente di interrompere in ogni momento la registrazione della memoria, proteggendo la privacy.

3. Gestione controllabile dei dati

• Gli utenti possono eliminare dati specifici o cancellare tutti i record.
• È possibile gestire in modo flessibile i dati della memoria, decidendo quali informazioni conservare o eliminare.

4. Consapevolezza controllabile della registrazione

• La barra di stato fornisce notifiche in tempo reale durante la registrazione, consentendo agli utenti di sapere sempre quando le funzionalità di memoria stanno registrando informazioni e di comprendere e controllare chiaramente il processo.

5. Autorizzazioni di visualizzazione controllabili

• La visualizzazione dei record della memoria richiede la verifica tramite il codice di sblocco dello schermo, garantendo che solo l’utente possa accedere ai contenuti della memoria e prevenendo accessi non autorizzati.

6. Ambito di registrazione controllabile

• Gli utenti possono configurare quali applicazioni sono autorizzate a essere registrate, personalizzare gli intervalli temporali di registrazione e impostare geofence.
• Gli utenti possono inoltre utilizzare istruzioni in linguaggio naturale per richiedere che determinate informazioni non vengano registrate, controllando in modo preciso l’ambito della registrazione.

4. Sicurezza dei dati e protezione della privacy

Doubao Phone Assistant fornisce agli utenti soluzioni di protezione della sicurezza dei dati lungo l’intero ciclo di vita, garantendo che i dati degli utenti siano protetti in ogni fase: raccolta, archiviazione, trasmissione, accesso e distruzione.

Facciamo inoltre riferimento alle migliori pratiche del settore per definire standard di classificazione e graduazione dei dati, insieme ai relativi requisiti di sicurezza, assicurando che le misure di protezione siano allineate alla sensibilità dei dati personali e al valore degli asset informativi. Questo riduce al minimo i rischi di utilizzo non autorizzato dei dati, esposizione dei dati e fuoriuscita di informazioni.

4.1 Protezione tramite cifratura dei dati

4.1.1 Cifratura dei dati archiviati on-device

Basandosi sui meccanismi di cifratura dei file a livello di sistema, i dati e i file degli utenti raccolti dai servizi AI sono archiviati in directory sandbox delle applicazioni, cifrate e protette dal codice di sblocco dello schermo del dispositivo.

Per i database di memoria personale altamente sensibili, viene inoltre utilizzata la cifratura a livello di database. I dati vengono decifrati solo quando il servizio AI è in esecuzione, rafforzando ulteriormente la sicurezza dei dati.

(Nel documento originale è presente un diagramma che mostra le applicazioni AI che scrivono su file e database cifrati tramite un SDK di cifratura, con le chiavi protette dal codice di sblocco dello schermo.)

4.1.2 Cifratura end-to-cloud dell’intero collegamento

Cifratura del collegamento di comunicazione

Doubao Phone Assistant è dotato di un certificato di sicurezza TLS emesso da ByteDance e la comunicazione end-to-cloud utilizza canali cifrati con autenticazione reciproca.

Quando il servizio AI on-device avvia una richiesta di inferenza nel cloud, i servizi di sicurezza del dispositivo e del cloud eseguono un’autenticazione reciproca dell’identità sia del dispositivo sia del servizio cloud, assicurando che entrambe le parti siano entità di comunicazione affidabili. Successivamente viene stabilito un canale cifrato sicuro per proteggere i dati di comunicazione.

Cifratura dei dati sensibili

Al fine di ridurre ulteriormente i rischi di fuoriuscita dei dati degli utenti, applichiamo una cifratura secondaria ai dati relativi alla privacy contenuti nelle richieste di inferenza nel cloud. Questo garantisce una trasmissione cifrata sicura dei dati di inferenza tra l’app client e i servizi cloud.

All’inizio di ogni sessione, il servizio di sicurezza della privacy on-device negozia una chiave di cifratura monouso con il servizio di protezione della sicurezza lato cloud e la utilizza per cifrare i dati della richiesta di inferenza, garantendo la sicurezza dei dati. Una volta completata l’inferenza, sia la chiave sia i dati vengono immediatamente distrutti, impedendo analisi illecite o utilizzi dei dati non correlati alla richiesta corrente.

4.1.3 Cifratura dell’archiviazione dei dati nel cloud

Doubao Phone Assistant ha implementato uno schema di archiviazione cifrata dei dati con isolamento per utente. Ogni utente dispone di un sistema indipendente di chiavi di cifratura dei dati, che consente la cifratura per singolo file dei dati e dei file archiviati nel cloud, prevenendo accessi incrociati tra utenti.

Prima del caricamento nel cloud, i dati degli utenti vengono cifrati sul dispositivo. Dopo il caricamento dei dati cifrati, i servizi di business non possono utilizzare direttamente i dati in chiaro senza autorizzazione.

(Nel documento originale è presente un diagramma che mostra TKMS come gestore delle chiavi master degli utenti e delle chiavi di business, utilizzate per cifrare i dati e i file archiviati per ciascun utente.)

4.2 Protezione tramite de-identificazione dei dati

4.2.1 Pseudonimizzazione degli ID

Doubao Phone Assistant ha costruito una pipeline di inferenza a tutela della privacy per gli utenti. Per alcune richieste di inferenza on-device che coinvolgono dati di privacy dell’utente e che devono essere inviate al cloud, il servizio di sicurezza coordinato end-to-cloud esegue la pseudonimizzazione dell’UID dell’account utente e del DID del dispositivo.

In altre parole, un ID pseudonimo viene utilizzato in sostituzione dell’ID reale come identificatore del soggetto dei dati. Di conseguenza, le richieste AI nel cloud non contengono l’UID reale dell’utente né l’ID del dispositivo, e le attività di analisi ed elaborazione dei dati lato business non possono tracciare o analizzare direttamente gli utenti.

4.2.2 De-identificazione della privacy

Prima che una richiesta di inferenza entri nella fase di inferenza del modello, le informazioni dell’utente vengono ulteriormente anonimizzate e de-identificate. Le informazioni sensibili che possono identificare direttamente un singolo utente vengono riconosciute e mascherate, riducendo la possibilità di esposizione delle informazioni personali.

4.3 Protezione della privacy

4.3.1 Politiche di protezione della privacy

Doubao Phone Assistant si conforma attivamente ai requisiti delle leggi e dei regolamenti cinesi, adottando come riferimenti principali:

• Personal Information Protection Law
• Data Security Law
• Cybersecurity Law
• GB/T 35273–2020 — Tecnologia della sicurezza delle informazioni — Specifiche di sicurezza delle informazioni personali
• GB/T 41391–2022 — Tecnologia della sicurezza delle informazioni — Requisiti di base per la raccolta di informazioni personali da parte delle applicazioni Internet mobili (App)
• YD/T 2407–2021 — Requisiti tecnici per le capacità di sicurezza dei terminali intelligenti mobili

Interpretiamo in modo dettagliato tali norme e, in combinazione con le caratteristiche di Doubao Phone Assistant, definiamo linee guida interne di conformità alla privacy e checklist di auto-verifica, tra cui:

• Guida ai requisiti di conformità e certificazione per sicurezza e privacy dei dati
• Standard e linee guida di auto-verifica per l’individuazione della raccolta e del trattamento illegali di informazioni personali da parte delle App
• Specifica del processo di progettazione della sicurezza di business
• Baseline di progettazione della sicurezza end-to-cloud

4.3.2 Pratiche di protezione della privacy

Valutazione di impatto sulla privacy (PIA)

Per rafforzare la gestione dei dati personali degli utenti e ridurre la probabilità di rischi per la sicurezza della privacy, Doubao Phone Assistant ha istituito un processo di Privacy Impact Assessment (PIA).

Per le attività di trattamento dei dati personali, esaminiamo la loro legalità e conformità, valutiamo i diversi rischi che possono comportare per i diritti e gli interessi legittimi degli interessati e analizziamo l’efficacia delle misure di protezione. Questo garantisce che la raccolta, il trattamento e l’utilizzo dei dati personali siano ragionevoli, leciti, legittimi e necessari, tutelando i diritti e gli interessi dei soggetti dei dati.

Per assicurare un’esecuzione efficace del processo PIA, abbiamo istituito un Gruppo di revisione per la conformità alla privacy, che:

• gestisce le richieste di valutazione connesse al PIA;
• fornisce pareri e soluzioni di valutazione della conformità;
• monitora l’implementazione delle misure di conformità.

Il processo PIA è integrato nell’intero ciclo di sviluppo di Doubao Phone Assistant. In base all’ambito del PIA, conduciamo le valutazioni, individuiamo i rischi di conformità alla privacy e adottiamo le opportune misure di mitigazione, assicurando che le attività di business soddisfino i requisiti di sicurezza e privacy a livello di gruppo.

Doubao Phone Assistant avvia il processo PIA nei seguenti scenari:

• raccolta di nuove categorie di dati personali;
• richiesta agli utenti di fornire dati personali come condizione (raccolta obbligatoria);
• comunicazione di dati personali a organizzazioni o individui che in precedenza non avevano accesso;
• utilizzo di dati personali precedentemente raccolti per nuove finalità;
• utilizzo di nuove tecnologie potenzialmente invasive della privacy;
• utilizzo di informazioni personali sensibili;
• modifiche a leggi, standard nazionali o politiche regolatorie;
• altri scenari ad alto rischio in cui cambiamenti nei contenuti o nei metodi di trattamento dei dati personali possano introdurre rischi significativi.

Capacità di rilevamento della conformità alla privacy

Per implementare efficacemente i requisiti di conformità alla privacy, integriamo revisioni manuali e strumenti automatizzati nei processi di sviluppo e iterazione dei prodotti. Gli elementi di rilevamento coprono i requisiti di conformità lungo l’intero ciclo di vita dei dati, in linea con i requisiti di trattamento delle informazioni personali previsti dalla Personal Information Protection Law.

Gli obiettivi di rilevamento includono tutte le applicazioni auto-sviluppate preinstallate e le applicazioni di terze parti preinstallate. Attraverso una combinazione di tecnologie di rilevamento statico e dinamico della conformità alla privacy, individuiamo problematiche di rischio per la privacy, tra cui:

• rilevamento statico, come la scansione di API sensibili e delle autorizzazioni sensibili;
• rilevamento dinamico, come l’analisi delle chiamate a funzioni sensibili.

Considerando che i dati di Doubao Phone Assistant sono “generati sul dispositivo e fluiscono tra dispositivo e cloud”, proteggiamo i dati personali degli utenti in ogni fase, bilanciando al contempo protezione della sicurezza ed esperienza utente. Attraverso le tecnologie di base, blocchiamo i rischi di fuga di dati personali, consentendo al tempo stesso agli utenti di percepire intuitivamente e controllare in modo autonomo le autorizzazioni sulla privacy e i propri dati personali.

4.3.3 Protezione della privacy nella pratica

Doubao Phone Assistant tutela i dati personali degli utenti lungo l’intero ciclo di vita:

1. Autorizzazione

• Gli utenti mantengono un controllo autonomo sui propri dati personali.
• All’interno del client, gli utenti possono gestire le autorizzazioni di utilizzo dei dati per ciascuna applicazione AI e perfezionare ulteriormente i controlli in base al tipo di dato.
• Questo garantisce che la gestione dei dati avvenga in modo “conoscibile, controllabile e revocabile”.

2. Trasmissione

• La trasmissione dei dati tra le applicazioni, così come di voce, prompt e immagini inviati dagli utenti, è cifrata.
• Ciò previene intercettazioni durante il trasferimento e garantisce che i dati siano protetti dal lato utente fino al lato servizio.

3. Archiviazione

• I dati vengono archiviati in forma cifrata tramite tecnologie di crittografia.
• Vengono conservati solo i dati di interazione necessari e anche gli identificatori di account associati sono cifrati.
• I dati scaduti vengono eliminati automaticamente, riducendo i rischi legati all’archiviazione.

4. Utilizzo

• I dati vocali sono utilizzati esclusivamente per la conversione da voce a testo e per la comprensione delle intenzioni.
• Le informazioni sensibili presenti nei prompt vengono automaticamente de-identificate.
• Le informazioni personali contenute nelle immagini vengono riconosciute dall’AI e ricevono un livello di protezione rafforzato.
• Tutti i dati vengono utilizzati unicamente per rispondere alle richieste degli utenti; le informazioni sensibili vengono anonimizzate e, per impostazione predefinita, non sono utilizzate per l’addestramento dei modelli.

5. Gestione

• Applichiamo un controllo degli accessi basato sul principio del minimo privilegio.
• Tutte le operazioni interne sono tracciate end-to-end.
• Gli utenti possono visualizzare i propri dati, eliminarli selettivamente o cancellarli completamente con un solo clic.
• Quando un account viene chiuso, tutte le informazioni associate vengono eliminate simultaneamente, garantendo che gli utenti mantengano il pieno controllo sui propri dati.

5. Sistema di Gestione della Sicurezza

Doubao Phone Assistant ha sviluppato un sistema di gestione completo per la sicurezza dell’AI, che va dall’istituzione di team di sicurezza dedicati, all’integrazione delle considerazioni sulla sicurezza nella progettazione e nello sviluppo dei progetti, alla gestione rigorosa dei fornitori, fino alla formulazione di piani di risposta alle emergenze per incidenti di sicurezza.

Attraverso una combinazione di politiche, salvaguardie tecniche e team professionali, miriamo a costruire una barriera di sicurezza robusta per l’intero ciclo di vita dei dati degli utenti.

5.1 Team dedicati alla Sicurezza e alla Privacy

Per Doubao Phone Assistant, sono stati istituiti team dedicati alla sicurezza e alla privacy, formando una garanzia a doppio livello: tecnologica e di conformità.

Team Sicurezza: si concentra sulle difese tecniche lungo tutto il ciclo di vita del sistema AI. È profondamente coinvolto nel Software Development Lifecycle (SDLC):

• Definizione dei requisiti di sicurezza durante l’analisi dei requisiti
• Revisione della sicurezza architetturale nella fase di progettazione
• Fornitura di formazione e linee guida sulla sicurezza durante la codifica
• Esecuzione di test di sicurezza nella fase di testing
• Monitoraggio continuo e gestione rapida delle anomalie dopo il lancio

Team Privacy: si concentra sul controllo della conformità:

• Revisione dell’ambito di raccolta dei dati e delle pratiche di autorizzazione
• Supervisione dell’implementazione di crittografia e de-identificazione
• Monitoraggio degli aggiornamenti normativi e audit di conformità per proteggere i diritti degli utenti

5.2 Sicurezza per Progettazione e Processo di Sviluppo Sicuro

Per fornire una protezione robusta, Doubao Phone Assistant applica profondamente i concetti di Security by Design e Privacy by Design. Durante la progettazione del prodotto, la sicurezza delle informazioni e la protezione della privacy sono trattate come considerazioni chiave, garantendo una forte protezione per l’esperienza AI.

È stato stabilito un processo di sviluppo sicuro che copre l’intero ciclo di vita — dai requisiti del prodotto, progettazione, sviluppo e test fino al lancio — adattato alle caratteristiche del business AI. Le fasi principali includono:

Identificazione dei Rischi e dei Requisiti:

• Guidata dal team di sicurezza in collaborazione con i team di business e sviluppo
• Revisione degli scenari e delle funzioni del sistema AI per identificare rischi potenziali (es. fuga di dati, attacchi ai modelli)
• Definizione degli obiettivi di controllo del rischio e dei requisiti di sicurezza, creando una “lista dei rischi” come baseline per lo sviluppo sicuro

Revisione della Sicurezza:

• Dopo la finalizzazione della progettazione del sistema, vengono tenute riunioni di revisione della sicurezza tra i reparti
• Il team di sicurezza valuta la sicurezza del piano e la conformità del flusso dei dati, verificando se i rischi identificati sono stati affrontati
• I progetti che non superano la revisione devono essere ottimizzati e ripresentati, garantendo assenza di lacune di sicurezza nella fase di progettazione

Test di Sicurezza:

• Dopo lo sviluppo dei moduli funzionali, viene inviato un ticket di test di sicurezza al team
• Il ticket include le funzionalità del modulo, i tipi di dati coinvolti e l’ambito del test
• Il team di sicurezza formula un piano di test specifico, con metodi (es. penetration test, validazione vulnerabilità) e criteri di accettazione

Scansione Incrementale:

• Durante l’iterazione del codice e l’aggiornamento delle funzionalità, gli strumenti di scansione automatizzati si concentrano sul codice nuovo o modificato
• Le scansioni di sicurezza in tempo reale rilevano problemi come vulnerabilità del codice e rischi di dipendenze
• I risultati vengono sincronizzati con il team di sviluppo con requisiti e scadenze per la correzione, e il team di sicurezza ne monitora l’avanzamento

Accettazione della Sicurezza Pre-Lancio:

• Prima del rilascio, il team di sicurezza esegue una valutazione completa basata sulla “lista dei rischi”, tra cui:
• Verifica dell’implementazione delle misure di controllo del rischio
• Controllo della risoluzione dei problemi individuati nelle scansioni incrementali
• Esecuzione di penetration test completi
• Il prodotto può essere rilasciato solo dopo aver superato l’accettazione e il rilascio del report; i progetti che falliscono devono essere corretti e riesaminati

5.3 Gestione e Risposta alle Vulnerabilità di Sicurezza

Doubao Phone Assistant ha un processo completo di gestione delle vulnerabilità di sicurezza per scoprire, rispondere e analizzare rapidamente nuove vulnerabilità, fornendo correzioni e mitigazioni nel più breve tempo possibile.

Il team di sicurezza professionale esegue regolarmente test di sicurezza e esercitazioni offensive-difensive per identificare vulnerabilità e rischi il prima possibile. Ogni fase del processo ha ruoli e tempi chiaramente definiti, ad esempio:

• Nella fase di raccolta dei rischi, l’intelligence sulle vulnerabilità deve essere ottenuta, analizzata e giudicata entro 9 ore
• Nella fase di risposta alle emergenze, i business critici devono essere riparati entro 96 ore

Il team ha una struttura di collaborazione professionale con membri specializzati in intelligence sulle vulnerabilità, sicurezza offensiva e difensiva, e PMO, ciascuno con ruoli definiti. Il PMO monitora i progressi per garantire l’implementazione efficace.

Dal punto di vista tecnico, l’azienda utilizza:

• Monitoraggio dell’intelligence sulle minacce multidimensionale (inclusi CVE, social media, ecc.)
• Valutazioni d’impatto a scenario completo (server, client e reti aziendali)
• Monitoraggio 24/7 degli attacchi

Integrazione con strumenti come WAF e HIDS per protezione della sicurezza.

Il team ha anche stabilito un meccanismo completo di correzione delle vulnerabilità, che copre:

• Notifiche esterne e interne (personale interno, clienti cloud, regolatori)
• Correzione delle vulnerabilità esistenti
• Controllo continuo dei nuovi rischi introdotti
• Revisione e ottimizzazione post-incidente

Queste misure assicurano un elevato tasso di correzione delle vulnerabilità e un miglioramento continuo della postura di sicurezza.

Nota Conclusiva: AI Confidenziale Basata su TEE su Doubao Phone

Dal punto di vista dell’AI confidenziale, Doubao Phone Assistant è meglio inteso come un’architettura di riferimento per un’AI centrata sui TEE su hardware consumer:

• Spinge le operazioni di inferenza sensibile e la memoria il più possibile verso il TEE del dispositivo, minimizzando la necessità di fidarsi dell’infrastruttura remota.
• Quando è necessario utilizzare il cloud, si fa affidamento su confidential computing, crittografia per utente e de-identificazione per limitare chi può vedere cosa.
• Queste misure tecniche sono integrate con processi organizzativi: valutazioni d’impatto sulla privacy, pratiche di sviluppo sicuro e team dedicati alla sicurezza e alla privacy.

Per operatori e ricercatori occidentali, questo whitepaper ha valore meno come materiale promozionale e più come esempio concreto di progettazione a livello di sistema: mostra come un grande fornitore integri TEE, gestione delle chiavi e confidential computing in uno smartphone AI-native, e come venga tracciata la linea di demarcazione tra esecuzione sul dispositivo e sul cloud.