Risultano inadeguati i controlli della società sui contenuti che circolano sulla piattaforma, in particolare quelli che possono minacciare la sicurezza di soggetti minori e vulnerabili. Inoltre questi contenuti vengono sistematicamente riproposti agli utenti a seguito della loro profilazione algoritmica, stimolando un uso sempre crescente del social network.
L’Autorità Garante della Concorrenza e del Mercato ha irrogato una sanzione di 10 milioni di euro in solido a tre società del gruppo Bytedance Ltd, ovvero l’irlandese TikTok Technology Limited, la britannica TikTok Information Technologies UK Limited e l’italiana TikTok Italy Srl.
L’attività istruttoria ha consentito di accertare la responsabilità di TikTok nella diffusione di contenuti – come quelli relativi alla challenge “cicatrice francese” – suscettibili di minacciare la sicurezza psico-fisica degli utenti, specialmente se minori e vulnerabili. Inoltre, TikTok non ha assunto misure adeguate ad evitare la diffusione di tali contenuti, non rispettando pienamente le Linee Guida di cui si è dotata e che ha reso note ai consumatori rassicurandoli che la piattaforma è uno spazio “sicuro”. Le Linee Guida vengono infatti applicate senza tenere in adeguato conto la specifica vulnerabilità degli adolescenti, caratterizzata da peculiari meccanismi cognitivi dai quali derivano, ad esempio, la difficoltà a distinguere la realtà dalla finzione e la tendenza ad emulare comportamenti di gruppo.
Infine, i contenuti – pur essendo potenzialmente pericolosi – sono diffusi tramite un “sistema di raccomandazione” basato sulla profilazione algoritmica dell’utenza, che seleziona costantemente quali video destinare a ciascun consumatore nelle sezioni denominate “Per Te” e “Seguiti”, con l’obiettivo di aumentare le interazioni tra utenti e il tempo speso sulla piattaforma così da accrescere la redditività degli introiti pubblicitari. Ciò causa un indebito condizionamento degli utenti che vengono stimolati ad adoperare sempre di più la piattaforma.
