La UPV desarrolla una IA para detectar sexismo en memes y videos de TikTok
Investigadores de la Universitat Politècnica de València (UPV) presentan un sistema de inteligencia artificial capaz de detectar contenidos y mensajes sexistas en memes y vídeos de TikTok.
El sistema fusiona el análisis del contenido audiovisual con datos sobre la actividad cerebral, el movimiento de los ojos y el ritmo cardíaco de los espectadores para identificar mensajes sexistas, especialmente cuando se ocultan tras el humor o dependen del contexto.
El proyecto, liderado por el grupo PRHLT, apunta a detectar y denunciar estos contenidos de forma más eficaz que las herramientas actuales.
Para construir el sistema, los investigadores analizaron cerca de cuatro mil memes y unos dos mil quinientos vídeos en español e inglés procedentes del conjunto de datos EXIST, una competición internacional sobre detección de sexismo en redes sociales.
Trabajaron con diez participantes en la fase de vídeos y dieciséis en la de memes, que visionaron los contenidos mientras se registraban sus respuestas mediante seguimiento ocular, electroencefalografía (EEG) y medición del ritmo cardíaco, explica Paolo Rosso, catedrático del Departamento de Sistemas Informáticos y Computación.
Los resultados muestran diferencias sustanciales entre las respuestas a contenidos sexistas y a contenidos no sexistas. Los vídeos sexistas generaron, entre otros efectos, mayores tiempos de reacción, un incremento de las fijaciones de la mirada y diferencias en la actividad cerebral.
Además, el número medio de fijaciones aumentó cuando se mostraban o se juzgaban situaciones sexistas. Los movimientos oculares rápidos y los parpadeos siguieron la misma tendencia, y el ritmo cardíaco presentó mayores fluctuaciones ante estos contenidos.
En el caso de los memes se observó un patrón similar. La respuesta variaba según el tipo de sexismo, distinguiéndose entre sexismo directo y contenidos que muestran o juzgan situaciones sexistas, cuya correcta interpretación exige comprender mejor la intención y el contexto.
Los investigadores sostienen que estas diferencias en la mirada reflejan una mayor carga cognitiva: cuanto más difícil es interpretar un contenido, más se detiene y desplaza la mirada mientras se buscan pistas textuales, gestuales y contextuales para entender su significado.
El estudio indica que el EEG registra la actividad eléctrica del cerebro a través de 16 electrodos y permite distinguir entre diferentes patrones de actividad cuando se visiona contenido sexista.
Remitido | Fotografías: Remitido
Amb la col.laboració de: