Tres profesores de la UPC formarán parte del consejo asesor en IA del Ayuntamiento de Barcelona
El Ayuntamiento de Barcelona crea un Consejo Asesor en Inteligencia Artificial, Ética y Derechos Digitales para asistir al consistorio en el uso de IA para el bien común. El consejo está formado por 15 expertos independientes, entre ellos los profesores de la UPC Cecilio Angulo y Ulises Cortés, y la profesora Karina Gibert.
13/04/2023
Ante la preocupación por los avances de la Inteligencia Artificial (IA) y el debate sobre el uso ético de esta tecnología, el Ayuntamiento de Barcelona ha aprobado la creación de un consejo asesor en Inteligencia Artificial, Ética y Derechos Digitales. El consejo, integrado por 15 expertos, contará con tres profesores del Intelligent Data Science and Artificial Intelligence Research Center (IDEAI) de la Universitat Politècnica de Catalunya – BarcelonaTech (UPC): Cecilio Angulo, investigador también del subgrupo de investigación en Ingeniería del Conocimiento (GREC); Karina Gibert, directora del IDEAI-UPC e investigadora del subgrupo de investigación en Ingeniería del Conocimiento y Aprendizaje Automático (KEMLG) y Ulises Cortés, también investigador del KEMLG y del Barcelona Supercomputing Center (BSC-CNS).
El consejo asesor se ocupará de la evaluación de sistemas algorítmicos de alto riesgo, es decir, aquellos que se aplican en ámbitos sensibles (como la educación, el empleo y los servicios públicos esenciales) y que pueden poner en peligro los derechos fundamentales de los ciudadanos. El órgano emitirá estudios de impacto algorítmico en los que analizará posibles errores del sistema y sus implicaciones en cuanto a la privacidad de datos y las vulneraciones de derechos humanos que podrían derivar, y propondrá medidas para corregirlos.
Asimismo, el consejo quiere promover la colaboración entre universidades, centros docentes y de investigación, instituciones públicas y privadas y fundaciones vinculadas a la IA, así como facilitar el debate sobre el impacto de esta tecnología, haciendo de puente entre el mundo académico, las instituciones y la ciudadanía. También promoverá actuaciones para situar a Barcelona como ciudad referente del humanismo tecnológico y propondrá políticas públicas para velar por los derechos digitales de la ciudadanía. Asimismo, evaluará el desarrollo y propondrá mejoras para la Estrategia Municipal de Algoritmos y Datos para el Impulso Ético de la Inteligencia Artificial.
Los otros 12 expertos que integran el consejo provienen tanto de ámbitos científicos y tecnológicos como de las ciencias sociales y las humanidades.
