En el Debat que es va realitzar ahir 30 de maig de 2024 organitzat per Dones en Xarxa al Coctels&Net, van participar
- Miren Gutierrez, Filòloga, periodista, professora i investigadora de la universitat de Deusto i una de les primeres acadèmiques en començar a examinar l’activisme de dades com una nova teoria i pràctica centrada en la infraestructura de dades.
- Cristina Ubani, experta en estudis feministes i en el disseny i gestió de polítiques d’igualtat.
- Lourdes Muñoz, presidenta de Dones en Xarxa i directora d’Iniciativa Barcelona Open Data, enginyera especialista en gestió de dades i aplicació de dades obertes a l’àmbit públic i privat.
- Montserrat Boix, periodista i fundadora de Mujeres en Red, que va actuar com a moderadora del debat.
Ja en la presentació, Montserrat Boix va aportar que des de les organitzacions de dones i des de l’activisme feminista hem de “posar-nos les piles” per veure què podem aportar a aquest debat perquè potser pensàvem que ja hi havia especialistes pensant i treballant-hi, quan en realitat és la societat civil qui ha de marcar l’agenda.
Per això, Montse Boix centra el debat marcant l’objectiu d’introduir una sèrie d’elements que ens ajudin a visibilitzar aquesta “agenda feminista” respecte a les dades i la intel·ligència artificial.
En una primera ronda es van tractar els aspectes negatius per després donar una visió de la part positiva de la IA.
Idees clau respecte als aspectes negatius de la IA de cadascuna de les ponents:
Lourdes Muñoz: «Les dones no estem decidint les tecnologies. L’entrenament de la IA el decideix algú i si les dones no hi som presents, els estereotips es repeteixen i fins i tot podem retrocedir en els drets. Actualment som només el 10% de desenvolupadores i no podem esperar 20 anys perquè arribem al 30% de nivell crític perquè els processos de IA respectin els drets del 52% de la població. Tothom que desenvolupa s’ha d’encarregar que la tecnologia no perjudiqui les dones. Pensem també en la IA ben formulada però amb homes que poden fer mal ús d’aquesta tecnologia per discriminar i assetjar les dones, com a aspecte negatiu també».
Cristina Ubani: Assegura que cal estar molt alerta en la desigualtat estructural perque no veiem com els homes estan sobrerepresentats. Tenim una parcialitat en contra que ens fa impossible vèncer la desigualtat estructural. Les dades no són gens favorables a la igualtat i, encara que no ens agradi, els repositoris dels quals s’alimenta la IA són tremendament sexistes i reprodueixen de manera més gran la desigualtat existent. La parcialitat implícita ens impedeix veure amb objectivitat la realitat, en definitiva, la desigualtat estructural que pateixen les dones. L’ús per a la tracta i l’explotació sexual de l’anonimat seria unaltre aspecte negatiu de la IA.
Miren Gutiérrez aporta la seva opinió sobre la utilització negativa amb la desinformació de gènere quan s’utilitza per atacar dones rellevants com per exemple amb la “pornografia fake”. Afegeix el cas dels assistents de veu que sempre són veus femenines perquè s’associa la veu de la dona com un “ésser servil”. Alexa, Siri, etc. (tots noms de dona). Sobre reconeixement facial, afortunadament la nova llei europea ha posat límit al mal ús però el perill sempre hi és, com passa en països com la Xina i l’Iran on el seu mal ús és evident amb el control sobre la població en ambdós casos. Un altre àmbit delicat són els sistemes de dades públics que s’usen cada cop més per gestionar allò públic, veure qui rep ajudes, per exemple
Montserrat Boix posa sobre la taula el tema de les dades lliures i la importància que les institucions públiques les posin a disposició de la societat.
Després varem passar a debatre sobre les bones pràctiques en la Intel·ligència Artificial. Veiguem Idees de cadascuna de les ponents:
Lourdes Muñoz ens dóna exemples com: els algorismes que detecten els biaixos, que detecten anticipadament el càncer de mama i, en general, hi ha diversos projectes tecnològics en la bona direcció. Cristina Ubani posa més exemples: reconeixement facial per poder identificar víctimes de violència sexual. Miren Gutiérrez afegeix el desenvolupament de fàrmacs de fabricació no directament per humans i a UNESCO una plataforma per a una regulació ètica de la IA per generar bases de dades justes, representatives, agregades o desagregades adequadament, i també la identificació de patrons negatius per corregir-los.
Es va entrar després en una última ronda de la taula de debat on es va plantejar a nivell de titulars de propostes clau des del feminisme:
Miren Gutierrez recalca de nou que tot codi que hagi d’aplicar-se a allò públic sigui públic. També apunta com a clau l’alfabetització en dades que des de primària és fonamental per als drets de les dones. Per a Cristina Ubani és clau que s’escolti les organitzacions de dones quan s’estan fent, per exemple, lleis que impliquen les dones. La lluita és la mateixa en la IA que en la “no IA”, que és la defensa a ultrança de l’agenda feminista. Lourdes Muñoz recorda que vol conèixer el context del programa que utilitza la #IA i vol que en la programació intervinguin tècniques que sàpiguen detectar els biaixos i que també hem de demanar la no opacitat i la validació humana dels sistemes.
A preguntes de les assistents, des de la taula de debat corroboren el poc pes de les dones desenvolupadores. També hi va haver un acord total sobre la importància de la construcció de xarxes de dones separant-nos d’estereotips com el que les dones som les majors enemigues d’altres dones. Aquestes xarxes són elements que no podem perdre i, en tot cas, buscar noves paraules per a aquest concepte que és estratègic i que moltes vegades hem perdut.
Lourdes Muñoz va remarcar que la diversitat no garanteix la igualtat. Lourdes vol igualtat, no només diversitat. Miren Gutierrez va aportar que el 44% de les empreses diuen que acomiadaran gent per l’aparició de la IA i va instar les assistents a endevinar a qui creien que acomiadarien.
Tancament positiu per part d’una de les assistents: el percentatge de dones que estan escollint la carrera d’enginyeria de ciències de dades a la UPC és altíssim.
Igualment hi va haver consens respecte la idea aportada per Cristina: no pots ser el que no pots veure. Necessitem dones referents. Necessitem veure per poder-hi ser.
I per acabar el debat unes reflexions de Lourdes Muñoz: “Tot el que ens està marcant la vida té dades, no estan només en la IA. Totes les tecnologies emergents tenen dades (blockchain, Internet de les coses, IA, sistemes automatitzats…) són bases de dades estructurades i si no estem en aquesta informació estructurada som invisibles.” «Mai les coses són casuals, només es pot avançar en polítiques a favor de les dones si es fan accions concretes perquè les coses passin» va remarcar
En aquest sentit, Lourdes va avançar respecte a la formació relacionada amb la IA la notícia del bootcamp de 4 dies intensius d’estiu que Dones en Xarxa organitzarà perquè les dones aprenguin com a professionals a usar la IA en els seus projectes. Va recalcar que no era una formació adreçada a aprendre a programar, sinó per saber utilitzar-la. Pots incriure’t en aquest enllaç
A més, el 13 de juny farem un webinar gratuit amb Lourdes Muñoz i Maria Aperador per explicar com es desenvoluparà el curs seguint la línia de Dones en Xarxa de formar les dones en tecnologies. Descobrirem quines eines d’IA fan servir a la seva feina, com es recolcen en la IA per a tenir èxit i quines eines són les que més les ajuden a millorar professionalment. INSCRIU-TE ARA!
Si no usem les tecnologies no ens podem apropiar d’elles i criticar-les. Volem poder usar-les intensament, utilitzar-les per al bé i criticar el que no ens agradi.
