(Credito: Olivier Douliery/Getty Images)

Secondo ReutersItalia ordinato Replication app, dietro la quale c’è un’azienda con sede a San Francisco che realizza chatbot AI, per fermare il trattamento dei dati degli utenti italiani. L’adozione di “amici virtuali” sembra rappresentare un rischio per i minori e per le persone emotivamente vulnerabili.

L’app Replica offre ai suoi utenti avatar con cui chattare dal 2017. L’app è commercializzata come in grado di migliorare la salute mentale dei suoi utenti.

Contrariamente alla società, l’Agenzia italiana per la protezione dei dati (DPA) ha affermato venerdì che il fatto che danneggi la salute mentale degli utenti “può aumentare il rischio per le persone che sono ancora in via di sviluppo o in uno stato di instabilità emotiva”.

Il watchdog accusa lo sviluppatore di Replica, Luka Inc, di non aver rispettato i requisiti legali per dimostrare come utilizza i dati degli utenti. Successivamente, il servizio ha affermato che, secondo la legge europea, la società non ha il diritto di trattare i dati dei minori.

Di conseguenza, viene chiesto a Replica di interrompere immediatamente l’elaborazione dei dati degli utenti italiani.

Quello conferenza personale del DPO ha affermato che l’app “presenta dei rischi per i bambini, in particolare il fatto che possano ricevere risposte non adeguate alla loro età”. Inoltre, menzionano che non esiste un sistema o un processo di verifica dell’età, il che significa che l’app non esclude l’accesso ai minori.

In una dichiarazione, l’organizzazione ha aggiunto: “Non esiste alcun meccanismo di verifica dell’età, nessuna restrizione se un utente dichiara di essere minorenne. Quando si crea un account, la piattaforma richiede solo nome utente, e-mail e sesso.”

Le forze dell’ordine italiane hanno ordinato alla società di presentare entro 20 giorni le misure messe in atto per modificare le sue politiche e pratiche in conformità con il diritto italiano e dell’UE. In caso contrario, la società potrebbe incorrere in multe fino a 21,8 milioni di dollari, ovvero circa il 4% del suo profitto annuale.

La società dietro Replica non ha risposto immediatamente alla richiesta di commento di PCMag.

Nel gennaio 2021, il Ministero degli Affari Esteri italiano ordinato TikTok per bloccare gli utenti la cui età non può essere verificata. È stata la morte di una bambina di 10 anni in Sicilia, a causa della “black out challenge” di Tiktok, a rendere più rigorosa la DPA italiana. Dopo quell’ordine, più di mezzo milione di account sono stati cancellati.