La UPV desenvolupa una IA per a detectar sexisme en memes i vídeos de TikTok
Investigadors de la Universitat Politècnica de València (UPV) presenten un sistema d'intel·ligència artificial capaç de detectar continguts i missatges sexistes a mems i vídeos de TikTok.
El sistema fusiona l'anàlisi del contingut audiovisual amb dades sobre l'activitat cerebral, el moviment dels ulls i el ritme cardíac dels espectadors per identificar missatges sexistes, especialment quan s'amaguen darrere de l'humor o depenen del context.
El projecte, liderat pel grup PRHLT, apunta a detectar i denunciar aquests continguts de manera més eficaç que les eines actuals.
Per construir el sistema, els investigadors van analitzar prop de quatre mil mems i uns dos mil cinc-cents vídeos en espanyol i anglès procedents del conjunt de dades EXIST, una competició internacional sobre detecció de sexisme a les xarxes socials.
Van treballar amb deu participants a la fase de vídeos i setze a la de memes, que van visionar els continguts mentre es registraven les seves respostes mitjançant seguiment ocular, electroencefalografia (EEG) i mesurament del ritme cardíac, explica Paolo Rosso, catedràtic del Departament de Sistemes Informàtics i Computació.
Els resultats mostren diferències substancials entre les respostes a continguts sexistes i continguts no sexistes. Els vídeos sexistes van generar, entre altres efectes, més temps de reacció, un increment de les fixacions de la mirada i diferències en l'activitat cerebral.
A més, el nombre mitjà de fixacions va augmentar quan es mostraven o jutjaven situacions sexistes. Els moviments oculars ràpids i els parpellejos van seguir la mateixa tendència, i el ritme cardíac va presentar més fluctuacions davant aquests continguts.
En el cas dels mems es va observar un patró semblant. La resposta variava segons el tipus de sexisme, distingint-se entre sexisme directe i continguts que mostren o jutgen situacions sexistes, la correcta interpretació dels quals exigeix comprendre millor la intenció i el context.
Els investigadors sostenen que aquestes diferències en la mirada reflecteixen una càrrega cognitiva més gran: com més difícil és interpretar un contingut, més s'atura i desplaça la mirada mentre es busquen pistes textuals, gestuals i contextuals per entendre'n el significat.
L'estudi indica que l'EEG registra l'activitat elèctrica del cervell a través de 16 elèctrodes i permet distingir entre els patrons d'activitat diferents quan es visiona contingut sexista.
Remitido | Fotografies: Remitido
Amb la col.laboració de: