En el Debate que se realizó ayer 30 de Mayo de 2024, organizado por Dones en Xarxa, tomaron parte
- Miren Gutierrez, Filóloga, periodista, profesora e investigadora de la universidad de Deusto y una de las primeras académicas en empezar a examinar el activismo de datos como una nueva teoría y práctica centrada en la infraestructura de datos.
- Cristina Ubani, Experta en estudios feministas y en el diseño y gestión de políticas de igualdad.
- Lourdes Muñoz Presidenta de “Dones en Xarxa” y directora de Iniciativa barcelona Open Data, ingeniera especialista en la gestión de datos y la aplicación de datos abiertos al ámbito público y privado.
- Montserrat Boix Periodista y fundadora de Mujeres en Red que actuó como moderadora del debate.
Ya en la presentación del debate Montserrat Boix aporta, que desde las organizaciones de mujeres, desde el activismo feminista, tenemos que “ponernos las pilas” para ver donde podemos aportar a este debate, porque quizas pensabamos que ya habia especialistas pensando y trabajando en ello, cuando en realidad es la sociedad civil quien debe marcar la agenda.
Por ello Montse Boix centra el debate marcando el objetivo de introducir una serie de elementos que nos ayuden a marcar esta “agenda feminista” respecto los datos y la inteligencia artificial.
En una primera ronda se tratarán los aspectos negativos para después dar una visión de la parte positiva de la IA..
- Ideas clave respecto a los aspectos negativos de la IA de cada una de las ponentes.
Lourdes Muñoz: Las mujeres no estamos decidiendo las tecnologías. El entrenamiento de la IA se decide por alguien y si las mujeres no estamos presentes los estereotipos se repiten e incluso podemos retroceder en los derechos. Actualmente somos sólo el 10% de desarrolladoras y no podemos esperar 20 años para que lleguemos al 30% de nivel crítico para que los procesos de IA respeten los derechos del 52% de la población. Todo el mundo que desarrolla se ha de encargar de que la tecnología no perjudique a las mujeres. Pensemos también en el caso de la IA bien formulada pero con hombres que pueden hacer mal uso de esa tecnología para discriminar y acosar a las mujeres.
Cristina Ubani: Asegura que hay que estar muy alerta en la desigualdad estructural que no vemos, donde los hombres están sobrerrepresentados. Tenemos una parcialidad en contra que nos hace imposible vencer a la desigualdad estructural. Los datos no son nada favorables a la igualdad y aunque no nos guste, los repositorios de los que se nutre la IA son tremendamente sexistas y reproducen de mayor manera la desigualdad existente. La parcialidad implícita nos impide ver con objetividad la realidad, en definitiva la desigualdad estructural que sufren las mujeres. El uso para la trata y la explotación sexual del anonimato seria un aspecto negativo de la IA.
Miren Gutiérrez aporta su opinión sobre la utilización negativa con la desinformación de género, cuando se usa para atacar a mujeres relevantes como por ejemplo con la “pornografia fake”. Añade el caso de los asistentes de voz que siempre son voces femeninas porque se asocia a la voz de la mujer como un “ser servil”. Alexa, Siri etc (todo nombres de mujer)
Sobre reconocimiento facial por fortuna la nueva ley europea ha puesto coto al mal uso, pero el peligro siempre está ahí como ocurre en países como China e Irán, donde su mal uso es evidente con el control sobre la población en ambos casos.
Otro ámbito delicado son los sistemas de datos públicos se usan cada vez más para gestionar lo público, ver quien recibe ayudas por ejemplo, y es básico que lo público sea público.
Montserrat Boix pone sobre la mesa el tema de los datos libres y la importancia que las instituciones públicas los pongan a disposición de la sociedad
- Pasamos luego a debatir sobre las buenas prácticas en la Inteligència Artificial. Ideas de cada una de las ponentes:
Lourdes Muñoz nos da ejemplos como los algoritmos que detectan los sesgos , que detectan anticipadamente el cáncer de mama, y en general hay diversos proyectos tecnológicos en la buena dirección. Cristina Ubani pone mas ejemplos: reconocimiento facial para poder identificar victimas de violencia sexual. Miren Gutiérrez añade el desarrollo de fármacos de fabricación no directamente por humanos y en UNESCO una plataforma para una regulación ética de la IA para generar bases de datos justas, representativas, agregadas o desagregadas adecuadamente Y también la identificación de patrones negativos para corregirlos.
- Se entró después en una última ronda de la mesa de debate donde se planteó a nivel de titulares de propuestas clave desde el feminismo:
Miren Gutierrez recalca de nuevo que todo código que haya de aplicarse a lo público, sea público. También apunta como clave la alfabetización en datos, que desde primaria es fundamental para los derechos de las mujeres. Para Cristina Ubani es clave que se escuche a las organizaciones de mujeres cuando se están haciendo por ejemplo leyes que implican a las mujeres. La lucha es la misma en la IA que en la “no IA” ,que es, la defensa a ultranza de la agenda feminista. Lourdes Muñoz recuerda que quiere conocer el contexto del programa que utiliza la #IA, y quiere que en la programación intervengan técnicas que sepan detectar los sesgos y que también debemos pedir la no opacidad y la validación humana de los sistemas.
A preguntas de las asistentes desde la mesa de debate, corroboran el poco peso de las mujeres desarrolladoras. Tambien hubo un acuerdo total sobre la importancia de la construcción de redes de mujeres, separándonos de estereotipos como el de que las mujeres somos las mayores enemigas de otras mujeres. Estas redes son elementos que no podemos perder y en todo caso buscar nuevas palabras para este concepto que es estratégico y que muchas veces hemos perdido.
Lourdes Muñoz remarcó que la diversidad no garantiza la igualdad. Lourdes quiere Igualdad , no sólo diversidad. Miren Gutierrez aportó que el 44% de las empresas dicen que van a echar a gente por la aparición de la IA, e instó a las asistentes a adivinar a quienes creían que iban echar.
Cierre positivo por parte de una de las asistentes: el porcentaje de mujeres que están escogiendo la carrera de ingeniería de ciencias de datos en la upc es altísimo.
Igualmente hubo un consenso total respecto a la idea aportada por Cristina de que no puedes ser lo que no puedes ver. Necesitamos mujeres referentes. Necesitamos ver para poder estar y para terminar el debate unas reflexiones de Lourdes Muñoz: “Todo lo que nos está marcando la vida tiene datos, no están solo en la IA. Todas las tecnologías emergentes tienen datos (blockchain, Internet de las cosas, IA, Sistemas automatizados,…) son bases de datos estructuradas, y si no estamos en esta información estructurada somos invisibles.” y que “nunca las cosas son casuales, solo se puede avanzar en políticas a favor de las mujeres si se hacen acciones concretas para que las cosas ocurran.”
Lourdes anunció la organización del Curso “Uso de Herramientas de IA de Generación de Texto e Imagen en tu Carrera Profesional” para mujeres, bootcamp de 4 dias intensivos en verano que dones en xarxa organizarà para que las mujeres aprendan como profesionales a usar la IA en sus proyectos.
Recalcó que no era una formación para programar sino para saber utilizarla . Además el 13 de Junio haremos un webinar con Lourdes Muñoz y Maria Aperador para explicar cómo se desarrollará el curso siguiendo la línea de Dones en Xarxa de formar a las mujeres en tecnologías. En el Webinar descubriremos qué herramientas de IA utilizan en su trabajo, cómo se apoyan en la IA para tener éxito y qué herramientas son las que más les ayudan a mejorar profesionalmente. Queremos poder usarlas intensamente, utilizarlas para el bien y criticar lo que no nos guste. ¡INSCRÍBETE AHORA!
