OnlyDown: Così L’Intelligenza Artificiale “Feticizza La Disabilità”

Di Associazione Italiana Persone Down

AIPD

Rubano immagini in rete e le “danno in pasto” all’intelligenza artificiale per creare profili falsi (tecnicamente, “deepfake”) di avvenenti ragazze e donne con sindrome di Down. È l’ultima allarmante moda che si sta rapidamente diffondendo in rete. L’obiettivo è catturare l’attenzione di chi, attratto da questi profili, è pronto a pagare per avere loro foto o video. “OnlyDown” è il trend che s’è diffuso nelle scorse settimane dando particolare visibilità ad alcuni di questi profili: i tratti somatici caratteristici della sindrome di Down erano prestati a un corpo che si mostra, provocante, in varie pose e angolazioni.

OnlyDown

Attraverso il passaggio su varie piattaforme s’arriva alla proposta d’acquisto dell’account preso di mira. I contenuti sono quasi sempre molto espliciti.

Tratta la questione Matteo Flora: “Recentemente, sui social s’è registrato un trend apparentemente positivo legato a ragazze con sindrome di Down che mostrano con naturalezza la propria vita quotidiana – spiega nell’introduzione del video in cui illustra il trend “OnlyDown” -. Tuttavia, scavando più a fondo, emerge una realtà molto più inquietante: profili fake generati tramite Intelligenza Artificiale che sfruttano l’immagine di persone reali (ignare e modificate) per vendere contenuti. Dietro al fenomeno ci sono problematiche complesse: l’insufficiente regolamentazione legale e tecnologica contro questi abusi; le difficoltà di moderazione da parte delle piattaforme social; il confine molto labile tra inclusione e feticizzazione di persone vulnerabili”.

Proprio per prevenire e contrastare questi abusi, lo stesso Flora ha segnalati numerosi profili, alcuni dei quali sono stati rimossi, come uno in particolare che aveva raggiunto quasi 150 mila follower.

Abbiamo contattato Matteo Flora per chiedergli di dare un consiglio alle persone con sindrome di Down e alle loro famiglie perché possano proteggersi da questi abusi. “Io ho fatto rimuovere già circa un migliaio di contenuti, ma voi come associazione potreste interfacciarvi direttamente tramite AGCOM, per chiedere le singole rimozioni – suggerisce -. Sarebbe ancora una volta l’affermazione di una leadership nel campo, cosa che secondo me dovete reclamare a gran voce”.

Un suggerimento che Gianfranco Salbini, presidente nazionale di AIPD, accoglie con favore, consapevole di quanto il problema richieda attenzione: “La ricerca di visibilità attraverso l’esposizione dei propri figli è diventata, purtroppo, una pratica comune. Tuttavia, è fondamentale porre l’attenzione su questo fenomeno, ancora più allarmante: l’utilizzo dei deepfake per sfruttare l’immagine delle persone con disabilità. Anche se parlarne potrebbe generare un effetto d’emulazione, è essenziale sensibilizzare le famiglie sull’estrema pericolosità di queste pratiche. Il mercato dell’immagine umana, quando non regolamentato, può diventare uno strumento diabolico di sfruttamento, soprattutto per le comunità più vulnerabili. In Italia, la legge prevede pene detentive da 1 a 5 anni per chi crea e diffonde contenuti deepfake che causano danni ingiusti. Tuttavia, la rapidità con cui queste tecnologie s’evolvono richiede un costante aggiornamento delle normative e una maggiore consapevolezza da parte del pubblico. Ritengo quindi fondamentale approfondire e diffondere queste informazioni per proteggere le persone con disabilità e prevenire ulteriori abusi”.