Il Garante Privacy italiano ha comminato una multa di 5 milioni di euro alla società statunitense Luka Inc., responsabile della chatbot di intelligenza artificiale "Replika", avviando anche una nuova istruttoria sul trattamento dei dati personali.

Il provvedimento fa seguito a precedenti accertamenti che avevano evidenziato rischi significativi per utenti vulnerabili e minori, con contenuti inappropriati e conversazioni a sfondo sessuale. Replika, presentato come un amico virtuale capace di assumere il ruolo di confidente, partner o mentore, era già stato bloccato nel 2023 per violazioni gravi in materia di protezione dei dati. Secondo l´Autorità, Luka Inc. non aveva definito basi giuridiche adeguate al trattamento dei dati e la sua informativa sulla privacy risultava carente. Particolarmente preoccupante è risultata l´assenza di un sistema efficace di verifica dell´età, nonostante l´esclusione dichiarata dei minori dal servizio. L´attuale sistema di controllo continua, secondo il Garante, a presentare gravi lacune. Per questi motivi, la società dovrà adeguare le sue procedure al Regolamento europeo. L´istruttoria avviata ora mira a chiarire anche come vengano trattati i dati durante tutte le fasi del ciclo di vita del sistema di intelligenza artificiale, comprese le tecniche di anonimizzazione adottate e le misure di protezione applicate.