I suoi servizi di protezione dei dati Italia ha annunciato venerdì che stava vietando l’uso di Replica delle società di chatbot di intelligenza artificiale (AI). personale Gli utenti italiani, citando il rischio per minori e le persone emotivamente sensibili.

Replica, una startup di San Francisco lanciata nel 2017, offre agli utenti un avatar personalizzato che parla e li ascolta. Ha preso il comando tra le sue controparti di lingua inglese ed è gratuito, nonostante generi circa $ 2 milioni di entrate mensili dalla vendita di funzionalità bonus come la chat vocale.

Intelligenza artificiale: la risposta alla domanda su come risolvere il problema di Cipro

Un “amico virtuale”

Gli “amici virtuali” sono pubblicizzati come in grado di migliorare il benessere emotivo dell’utente. Tuttavia, come riportato da Reuters, il watchdog italiano ha affermato che interferendo con l’umore di un utente, “può aumentare il rischio per le persone che sono ancora in una fase di sviluppo o in uno stato emotivamente vulnerabile”.

Jen Persson, direttore del gruppo di difesa della privacy dei bambini Defend Digital Me, ha dichiarato a Reuters che gli strumenti progettati per influenzare l’umore o il benessere mentale di un bambino dovrebbero essere classificati come prodotti per la salute e dovrebbero quindi essere soggetti a rigorosi standard di sicurezza.

“Questi strumenti vengono utilizzati dai bambini senza molta supervisione o protezione da potenziali abusi”, ha affermato.

I regolatori italiani evidenziano l’assenza di qualsiasi meccanismo di verifica dell’età, come filtri per minorenni o dispositivi di blocco se gli utenti non dichiarano esplicitamente la loro età.

“Trattamento dati personali”

Le repliche violano le norme europee sulla privacy e trattano i dati personali illegalmente perché non possono fare affidamento, nemmeno implicitamente, su contratti che i minori non possono firmare, dicono i cani da guardia.

Robert Grosvenor, amministratore delegato della società di consulenza Alvarez & Marsal, ha affermato che è probabile che altri regolatori europei seguiranno l’esempio dell’Italia.

“Sebbene la verifica dell’età possa fornire un mezzo per proteggere alcuni dei gruppi più vulnerabili, non affronta i rischi e i danni che i servizi e le soluzioni basati sull’intelligenza artificiale possono comportare, se non regolamentati, in termini di potenziale pregiudizio e discriminazione indesiderati, ” Egli ha detto.

L’azienda produttrice di Replica, la statunitense Luka Inc, deve notificare alle autorità italiane le misure adottate per attuare le sue richieste entro 20 giorni e potrebbe essere multata fino a 20 milioni di euro o fino al 4% del suo fatturato annuo globale, dichiarava l’annuncio.