El investigador José Hernández-Orallo, seleccionado para asesorar la Ley de IA Europea
El investigador de la UPV, José Hernández-Orallo, ha sido seleccionado para formar parte del Comité Científico que asesorará a la Oficina de Inteligencia Artificial de la Comisión Europea, integrada por 60 expertos internacionales.
El objetivo del comité es orientar la aplicación de la Ley de IA Europea, evaluar impactos y riesgos de los modelos de IA de propósito general y apoyar la vigilancia del despliegue de la IA en la Unión Europea.
Hernández-Orallo es investigador del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial de la UPV, catedrático de la Universitat Politècnica de Valencia, impulsor del AI Evaluation Program de ValgrAI y director de investigación del Leverhulme Centre for the Future of Intelligence de la Universidad de Cambridge.
Su actividad abarca ámbitos de la inteligencia artificial, el aprendizaje automático, la ciencia de datos y la medición de la inteligencia, y se centra en analizar capacidades, generalidad, progreso, impacto y riesgos de la IA.
Desde 2017 ha liderado la agenda científica de la evaluación de la IA mediante nuevos paradigmas de medición y marcos evaluativos publicados en Nature, Science y conferencias técnicas; es fundador de aievaluation.substack.com y ai-evaluation.org.
Entre las responsabilidades del Comité se incluye alertar a la Oficina de IA sobre riesgos sistémicos, asesorar sobre metodologías de clasificación y evaluación de los modelos de IA de propósito general y apoyar las actividades de vigilancia del despliegue de la IA en la UE.
En la selección de personal experto se buscó equilibrio geográfico y paridad de género. Hernández-Orallo ha sido nombrado junto a dos especialistas españoles, Javier Del Ser y Asunción Gómez-Pérez, para un mandato de 24 meses renovable, a título personal.
Sobre la IA de propósito general, el investigador explica que el panel se centrará en aquella IA con riesgos sistémicos y que su función incluye asesoramiento a corto, medio y largo plazo, así como vigilancia constante y posibles alertas ante nuevos modelos.
Añade que aportará rigor científico en la evaluación de capacidades y propensiones de la IA y que el trabajo del panel se orientará hacia la anticipación.
Remitido | Fotografías: Remitido
Amb la col.laboració de: