Diario da 鶹
En dúas xornadas, os das 3 e 6 de maio, a través de Campus Remoto s 16.00 h
Un seminario analizar os nesgos de xénero da intelixencia artificial na administracin pública
Decisins sobre certas prestacins sociais ou acceso a fronteiras nacionais xa se apoian na IA
No marco da Ctedra Feminismos 4.0 Depo-鶹, varias investigadoras e investigadores de Dereito Público e Dereito Privado desenvolveron un proxecto sobre intelixencia artificial e xénero, no que avaliaron as bases éticas e os problemas de nesgo de xénero na elaboracin de algoritmos para polticas públicas e procedementos administrativos. Ese estudo constatou unha falta de transparencia sobre a elaboracin e acceso a este tipo de innovacin tecnolxica, as como unha falta de diversidade das persoas que elaboran e adestran os algoritmos, derivado coa falta de mulleres en profesins vinculadas coa tecnoloxa e a súa escasa representacin no mbito da programacin. Agora, esta investigacin vai un paso mis al a través da organizacin dun seminario virtual titulado Intelixencia artificial na administracin pública en clave de xénero, coordinado pola docente Itziar Sobrino. O programa comprende dúas xornadas, ambas a través de Campus Remoto, que se desenvolvern os da 3 e 6 de maio.
Explica Sobrino que este seminario é unha “oportunidade idnea” para difundir e seguir afondando “nunha problemtica tan relevante” como a existencia de nesgos nos algoritmos empregados na administracin pública. Explica que “os patrns de diferenza por xénero, raza e unha gama doutros atributos humanos atpanse por todas partes nos sistemas econmicos e sociais. No caso da intelixencia artificial, a medida que os algoritmos aprenden dos datos do mundo real tenden a replicar e amplificar esas diferenzas, incorporando dese modo os mesmos nesgos”. Un caso paradigmtico, exemplifica, aconteceu coa empresa Amazon, “cuxo sistema de contratacin baseado na intelixencia artificial e alimentado con datos histricos de prcticas de contratacin, ensinouse a si mesmo a mostrarse nesgado en detrimento dos currculos femininos e confundiu a escaseza de currculos femininos con falta de aptitude”.
Situacins coma estas fixeron que “nos plantexsemos unha serie de dilemas sobre o uso de algoritmos na toma de decisins ou a realizacin de tarefas mediante polticas públicas ou nos procesos administrativos”. E esta é a temtica que se quere achegar tanto ao alumnado da Universidade como aos profesionais do sector a través deste seminario, no que “catro grandes investigadores da rea exporn e debatern” sobre as posibles consecuencias e solucins para evitalo.
A IA na administracin pública, anda nunha fase de implantacin temper
No que se refire implantacin da IA na administracin pública, Iztiar Sobrino explica que o seu uso serve para mellorar as polticas públicas e as decisins administrativas e avanzar, en definitiva, cara ao bo goberno e a boa administracin. Actualmente, “decisins administrativas sobre determinadas prestacins sociais, acceso s fronteiras nacionais ou desenvolvemento de certas polticas públicas, entre outras, estanse a apoiar crecentemente na IA”, pero de momento a súa implantacin “est nunha etapa moi temper”, polo que é neste momento cando é preciso abordar os nesgos de xénero. E é que existen investigacins sobre o uso de algoritmos polas administracins públicas que apuntan necesidade de “elaborar un marco xurdico bsico que garanta a proteccin dos dereitos fundamentais e estableza a auditora e certificacin de estes algoritmos, a transparencia na elaboracin dos mesmos, e tamén a creacin dun rgano ou comité multidisciplinar mixto e con representacin diversa encargado de testar e supervisar este proceso”.
Programa das xornadas
No seminario participarn diferentes autoridades recoecidas na materia, como Eva Mara Menéndez, catedrtica de Dereito Administrativo da Universidade de Oviedo e Agust Cerrillo, catedrtico de Dereito Administrativo da Universitat Oberta de Catalunya, ambos na xornada do 3 de maio. O da 6, o seminario contar coa presenza de Susana de la Sierra, profesora de Dereito Administrativo da Universidad de Castilla la Mancha e Alba Soriano, doutora en Dereito da Universidade de Valencia.
Ao longo da dúas xornadas abordaranse temas como a identificacin dos dilemas éticos na aplicacin da intelixencia artificial e debaterase sobre a problemtica dende a perspectiva de xénero que se derive da utilizacin de algoritmos nas polticas públicas e procesos administrativos. As persoas participantes tamén podern coecer diferentes casos de aplicacin da IA en polticas públicas e recoecern as experiencias prcticas nas que se aplicasen algoritmos con nesgo de xénero. A finalidade é colaborar na construcin de estratexias e polticas de IA no sector público desde unha perspectiva ética, polo que Sobrino marcouse como meta poder editar unha publicacin na que recoller as conclusins e o debate que tea lugar no marco do seminario.