(reuters)
Il governo spagnolo intende richiedere ufficialmente alla Fiscalía, ovvero alla Procura, di esaminare se alcune delle principali piattaforme social abbiano facilitato, amplificato o in altro modo permesso la creazione e la diffusione di contenuti di abuso sessuale su minori generati o distribuiti attraverso strumenti di intelligenza artificiale. L’annuncio è stato fatto dal premier Pedro Sánchez, direttamente su X, una delle piattaforme che potrebbero essere oggetto di indagine: “Oggi il Consiglio dei Ministri attiverà l’articolo 8 dello Statuto Organico del Pubblico Ministero per richiedere un’indagine sui reati che X, Meta e TikTok potrebbero commettere nella creazione e diffusione di pornografia infantile tramite la loro intelligenza artificiale”, ha dichiarato.
Non si tratta, almeno per il momento, di un atto di accusa, né di una sentenza. È l’attivazione di un canale istituzionale che ha l’obiettivo di trasformare una preoccupazione pubblica in un accertamento: verificare se esistano fatti, comportamenti e nessi causali che possano configurare ipotesi di reato, e soprattutto se il perimetro delle responsabilità possa estendersi oltre il singolo utente che crea o condivide contenuti illeciti. Questo è un aspetto cruciale, poiché segna un potenziale cambiamento di paradigma: non solo la ricerca di contenuti illeciti e di chi li pubblica, ma anche la valutazione del ruolo della piattaforma e dei suoi meccanismi di raccomandazione, moderazione e diffusione nel rendere quel contenuto più visibile, replicabile, monetizzabile o più difficile da rimuovere in tempi utili.
Sánchez ha collegato questa iniziativa a un contesto più ampio di politiche di protezione dell’infanzia online che il suo governo sta promuovendo nelle ultime settimane. L’obiettivo è prevenire, ma anche combattere la produzione e la circolazione di materiale pedopornografico o di abuso sessuale infantile associato a sistemi di intelligenza artificiale generativa. Qui il punto non è solo che esistano immagini illegali, ma che sia eccessivamente semplice generare contenuti sintetici, manipolare volti, creare deepfake, automatizzare varianti, aggirare filtri con prompt e strategie linguistiche, e poi diffondere rapidamente il risultato attraverso le reti sociali. La preoccupazione espressa dal governo spagnolo è che alcune funzionalità, chatbot integrati, strumenti creativi e algoritmi di raccomandazione possano rendere più agevole la produzione di contenuti abusivi e più efficiente la loro diffusione.
Il riferimento a piattaforme specifiche, come X, Meta e TikTok, non è casuale. X, ad esempio, è frequentemente citata in relazione a Grok, un sistema associato all’ecosistema di xAI, l’azienda di intelligenza artificiale legata a Elon Musk, e in queste ore il dibattito europeo sta includendo anche profili di protezione dei dati e rischi di generazione di media dannosi. Anche Meta e TikTok sono coinvolte nella questione, che si intreccia con l’uso di strumenti generativi e con le dinamiche di amplificazione. L’obiettivo politico è evitare che il dibattito rimanga limitato a una guerra infinita contro i singoli upload, e portare invece il tema sul piano della responsabilità di chi progetta e gestisce gli ambienti in cui quei contenuti si diffondono.
La mossa della Spagna si colloca in un periodo di forte pressione normativa sulle grandi piattaforme. Da un lato c’è la DSA, Digital Services Act, ovvero la Legge europea sui servizi digitali, che obbliga i grandi servizi online a valutare e mitigare i rischi sistemici, tra cui la protezione dei minori, la diffusione di contenuti illeciti e gli effetti dei sistemi di raccomandazione. Dall’altro lato, esiste un clima politico in cui diversi governi stanno cercando di imporre alle piattaforme obblighi verificabili, con sanzioni e possibili responsabilità in caso di inadempienza. In questi giorni, la Commissione europea ha reso note valutazioni preliminari su TikTok legate anche a caratteristiche di design considerate potenzialmente dannose, segno che la direzione generale è quella di un controllo più rigoroso, non solo sui contenuti ma anche sull’architettura dei prodotti digitali.
“Queste piattaforme”, ha sottolineato il premier, “stanno minacciando la salute mentale, la dignità e i diritti dei nostri figli e delle nostre figlie. Lo Stato non può tollerarlo. L’impunità dei giganti deve finire”. Sánchez ha descritto il digitale come un far west, un luogo dove regole e responsabilità si dissolvono mentre l’impatto sui più giovani aumenta. La portavoce del governo, Elma Saiz, ha dichiarato che “in 11 giorni sono state generate tre milioni di immagini di nudi tramite intelligenza artificiale e molte di esse ritraggono minori”. Questa narrazione serve a costruire consenso attorno a misure potenzialmente impopolari o difficili da attuare, come la verifica dell’età. La Spagna, come altri Paesi, sta infatti considerando la possibilità di vietare ai minori di 16 anni l’accesso e l’utilizzo dei social network. Ed Elon Musk non è d’accordo: «Lo sporco Sánchez è un tiranno e un traditore del popolo spagnolo», ha scritto sulla sua piattaforma social X, aggiungendo poco dopo «Sánchez è il vero totalitarista fascista».
Dal punto di vista pratico, l’indagine richiesta alla Procura solleva una serie di interrogativi che determineranno la sostanza della questione. La prima è l’oggetto specifico: si indaga sulla creazione, sulla diffusione, o su entrambe, e con quali strumenti concreti collegati alle piattaforme, ad esempio strumenti di intelligenza artificiale, sistemi di generazione integrati, o meccanismi algoritmici che promuovono i contenuti. La seconda è la prova del nesso: non basta che un contenuto illecito sia transitato, occorre comprendere se vi siano state omissioni gravi, tolleranza sistemica, incentivi indiretti, ritardi significativi nella rimozione, o carenze di controllo tali da configurare responsabilità più ampie. La terza è la scala: quanto è diffuso il fenomeno, con quali schemi, in quali comunità, e con quali segnali ignorati o non intercettati. Su questi aspetti, parallelamente, stanno crescendo anche analisi di organizzazioni e iniziative internazionali che insistono su un punto fondamentale: un contenuto sintetico che sessualizza un minore resta un abuso, anche quando non deriva da una foto reale, poiché produce danno, normalizza la violenza e alimenta circuiti criminali.
I commenti sono chiusi.