Comunitat Valenciana: UPV desenvolupa un sistema d’intel·ligència artificial que analitza la toxicitat en el discurs polític


 

Galeria fotogràfica

Fotografia /Galeria/2025/3/241840_154955/1_M1.jpg
La Plana al Dia | Comunitat Valenciana | General | 21-03-2025
UPV desenvolupa un sistema d’intel·ligència artificial que analitza la toxicitat en el discurs polític

Un equip de l'Institut VRAIN de la Universitat Politècnica de València (UPV) ha desenvolupat una metodologia amb un sistema d'intel·ligència artificial modular que és capaç d'identificar amb una major precisió la ironia, la crítica mordaç o el sarcasme per detectar quan el llenguatge polític creua el llindar de la toxicitat.

Aquesta metodologia ja s'ha posat a prova en l'anàlisi de 10 sessions de Les Corts Valencianes. D'aquestes sessions es van seleccionar 875 mostres, la meitat de les quals, 435, tenien una puntuació de toxicitat superior al 50%, la qual cosa implica una major probabilitat de toxicitat, mentre que l'altra meitat tenia una puntuació de toxicitat inferior al 50%.

L'equip d'investigadors de VRAIN de la UPV, format pels membres del grup PROS, Antoni Mestre, Joan Fons, Manoli Albert, Vicente Pelechano, i la investigadora del departament d'informàtica de la Universitat de València, Miriam Gil, juntament amb l'investigador de la Università degli Studi del Sannio en Benevento (Itàlia), Franccesco Malafarina, són els desenvolupadors d'aquesta metodologia les conclusions de la qual han presentat recentment.

Sota el títul 'IA enriquida en sentiments per a la detecció de discursos tòxics; Un cas d'estudi de discursos polítics a Les Corts Valencianes', l'article ha estat exposat en la conferència internacional d'agents i intel·ligència artificial (ICAART) 2025 celebrada a la ciutat de Porto.

'L'estudi, aplicat a intervencions a Les Corts Valencianes, proposa un enfocament innovador que millora els sistemes tradicionals de detecció de discurs tòxic en introduir una 'zona de confusió'. En lloc d'etiquetar un missatge com simplement tòxic o no tòxic, la IA detecta els casos més ambigus i els sotmet a una anàlisi de sentiment que permet avaluar millor el to emocional del discurs', explica l'investigador de VRAIN de la UPV, Antoni Mestre.

Mentre que els resultats, sense la zona de confusió, arriben a una precisió del 80,35%, quan s'incorpora la capa d'anàlisi de sentiment a la detecció de discursos tòxics, sobretot en contextos políticament carregats i lingüísticament complexes, com Les Corts, la precisió millora fins al 87,89%.

'El nostre treball ofereix una visió més matitzada del llenguatge polític. I obre noves possibilitats per a la moderació automatitzada de continguts i l'anàlisi del debat públic amb eines més sofisticades i justes. La seva aplicació en els parlaments permetria als seus presidents moderar el debat de manera més equitativa i precisa, garantint un discurs més respectuós i constructiu', conclou Antoni Mestre.


 
Amb la col.laboració de:
la conselleria d'educació, investgació, cultura i esport.
Generalitat Valenciana