Dijous passat dia 18 d’Abril, la presidenta de Dones en Xarxa, Lourdes Muñoz, va presentar la segona edició de Coctels&Net de la temporada 2024 centrada en tres temes crucials que marquen l’inici d’un debat profund i necessari sobre l’impacte de la IA en els drets de les dones:
- La violència contra les dones relacionat amb l’IA
- Exemples de bones i males pràctiques en el seu ús
- Desafiaments de la IA en la promoció dels drets de les dones i la lluita contra la violència.
Les convidades varen ser Marta Aymeric, directora del centre de salut digital de la UOC i Marta Rodríguez-Tobalo, CEO de BlindStairs .
Lourdes Muñoz ens va alertar dels perill dels algoritmes ja que si no es modifica la repetició de patrons, acaben reproduint les desigualtats existents.
Ens va explicar que des del feminisme de dades, creiem que fonamentalment hi ha tres àmbits des dels que abordar aquestes questions:
- La creació dels programes per evitar que hi hagin biaixos en la IA
- Els bancs de dades amb el que s’entrenen els programes. (Si els bancs de dades son masclistes els resultats ja sabem com seran…)
- Bancs de dades públiques. (Com les dades obertes públiques son fonamentals ja que és amb elles com s’entreneran els algoritmes.)
Després que Lourdes Muñoz poses el marc en el que es desenvoluparia el debat i dins de l’apartat de bones pràctiques, Marta Aymeric ens en va presentar 5, relacionades amb les dones:
- Recerca científica en els problemes de salut que son desatesos per ser de dones. Per exemple amb l’endometriosi i l’IA, hi ha estudis que estan ajudant a trobar la diana terapeútica
- Relacionat amb la salut sexual i reproductiva, xatbots i apps ajuden amb tots els problemes que hi han alla on no hi ha prou personal sanitari.
- Casos de cáncer que son especifics de les dones. Amb IA s’aconsegueix trobar la causa o detectar lesions precanceroses.
- En el cas de problemes de salut mental, les dones tenim dues vegades més problemes de depressió i ansietat que els homes. Amb l’IA es pot detectar prèviament a que es desenvolupi aquest trastorn
- Detectar diferències en l’atenció en la salut. Se sap que en casos de malaltia cardiovascular, es plantegen aquestes diferències que afecten les dones, i amb IA es podria detectar aquest biaix i modificar aquests comportaments.
Marta Rodríguez-Tobalo, per la seva part, comenta el cas d’una startup , Blue Box, que amb IA detecta cáncer de mama a partir de la orina fins i tot abans que ho detecti una mamografia, i també una app de lactancia materna que amb la IA , solventa a les mares els dubtes que els hi sorgeixen a l’hora d’alletar als seus fills.
A part del sector salut, com a bona pràctica ens aporta l’empresa “Teodora” que mesura i mitiga biaixos, transformant les nostres paraules, les nostres imatges i el nostre món per intentar corregir-los.
Un cop finalitzat l’apartat de bones pràctqiues, es va entrar en debatre sobre les males pràctiques.
Lourdes Muñoz inicia aquest part del debat posant l’exemple d’una empresa on l’IA va eliminar directament a totes les dones que optaven a un lloc de treball per estar mal entrenada, tot i que a vegades, la mala utilització d’una bona eina d’IA també porta a una mala pràctica.
Marta Rodríguez-Tobalo explica el cas de linkedin, on com que té vist que els homes busquen més vegades feina que les dones, mostra més ofertes de feina a ells. Òbviament aquestes algoritmes s’han d’arreglar. I per la part de l’ús, aquesta eina tant poderosa com sempre depèn de com l’utilitzis, i “per fer-ne un bon ús, la societat ha de tenir la perspectiva de gènere clara i fer-ne un bon ús amb aquests criteris, que són de no quedar-nos amb el que ens dona la IA sino lluitar contra els estereotips de gènere amb esperit crític”, recalca Marta.
Marta Aymeric, per la seva part, remarca aquestes paraules dient que el problema no es tant la IA com la Intel·ligència humana. Explica el cas d’una mala pràctica fent servir Chat GPT4 on se li demanava que generés cassos clínics i que els solucionés i en últim terme a veure com ho feia. Però clar, els casos clínics els generava malament per culpa del biaix de gènere de les bases de dades aportades.
Per tant cal experimentar contínuament per detectar els biaixos que hi puguin haver. Cal aprendre a detectar-los, ens diu Marta Aymerich
El tercer y últim punt a comentar y desenvolupar per part de les ponents va ser la presentació de propostes, consells per a la utilització de la IA
Marta Aymeric, ens dona 3 consells:
- Ser conscients que el biaix existeix i que per tant ens cal una avaluació del biaix que esta generant l’eina i que ella mateixa proposi estratègies de mitigació.
- Transparencia: Quines han estat les dades que han entrenat el model? d’on venen les dades? com s’ha entrenat?
- Col·laboració per a dades disponibles obertes i de qualitat
- Crear plataformes on es puguin compartir, tant qui ha detectat els problemes que hi puguin haver, desenvolupadors, investigadors, com les persones expertes en anàlisi de gènere
Marta Aymeric remarca en aquest apartat de propostes la creació dels mecanismes de control per aconseguir bons resultats aplicant l’IA. Un dels components perquè la IA doni els menors possibles problemes, menys biaixos, es que als equips de treball hi hagi diversitat (d’edat , gènere, nacionalitats, etc) i finalment ens aporta que creu que caldria legislar com per exemple a Europa es fa ja, posant el punt d’atenció al que ja s’ha comentat, transparencia, origen de dades, biaixos etc i prohibint males pràctiques com és per exemple puntuar a les persones segons la seva gestualitat.
Com a resum , Lourdes Muñoz remarca que hem de conèixer la IA precisament per no tenir-li por i treure profit de les seves potencialitats positives, per utilitzar-la, dominar-la i treure’n el màxim aprofitament.
Despres es va passar a la participació de les assistents on es va tornar a fer esment de la importància de les dades amb que “s’entretenen els algoritmes”. Com les dades amb que els “alimentem” son discriminades positivament per incorporar la visió de les dones. Nuria Espuny parla de la necessitat imperiosa que les dones siguem presents al sector IA , la importancia de incorporar les dones als equipos de desenvolupament de totes aquestes tecnologies emergents.
Marta Aymeric respecte al tema de la qualitat de les dades en la salut, ens fa saber a preguntes de les assistents, que a Catalunya tenim el programa PADRIS (Programa d’Analitica de dades de Recerca i Innovació en Salut) que el que fa és tenir una base de dades enormes absolutament anonimitzades molt ben controlada, un projecte que fa 20 anys que es porta a terme, i avui dia es pot demanar aquestes dades i fer gran quantitat d’analisi. Per tant es disposa d’unes dades de gran qualitat.
Marta Rodríguez-Tobalo després d’incentivar l’ús de la IA de forma positiva, també posa el contrapunt que per a ella cal sempre una visió, una supervisió humana respecte als seus resultats, ni que sigui durant les primeres etapes de desenvolupament d’eines relacionades amb la IA. «Cal apropar aquesta tecnologia a les dones», la importància que els equips incorporin la diversitat i les dones.
Igualment ens comparteix que l’IA no ve a substituir a les persones. Els treballs que substituirà l’IA son precisament els treballs que no fan les dones, els treballs de cures son els més difícils de substituir. Les apps amb IA cal seguir-les fent evolucionar, seguir incorporant evidencia científica., etc.
Ens fa arribar també un missatge optimista de la gran utilitat i servei que ens poden fer les tecnologies d’IA. Potser les persones tenen més biaixos que la IA, comenta. Tot i que s’ha automatitzat en IA no només l’screening i també les entrevistes, ja s’han detectat biaixos (com vesteixes, color de pell, iluminació, …) pero l’origen del biaix es qui entrena aquest algoritme. L’origen dels biaixos es la persona.
Com a resum final, Lourdes Muñoz va recalcar que cal que les dones puguem utilitzar les tecnologies mes avançades perquè tinguem més drets, perque es poden utilitzar per lluitar contra la violència de gènere o per paliar questions mèdiques com s’ha vist durant el debat.
També resum final per part de Marta Aymeric. “Parlem molt de biaixos i els hem de conèixer”, comenta, i “és important experimentar per conèixer-los i comunicar el potencial que té l’IA per avançar i solucionar aquest biaixos. Ens hem de focalitzar en comunicar en com ens pot servir la IA per eliminar els biaixos i la discriminació de gènere”.
Marta Rodríguez-Tobalo clou la sessió de Coctels&Net amb un missatge clar: “Experimenteu amb les IA, cal entendre el potencial que ténen i com el podem aprofitar.”
Seguidament es va obrir un temps de networking entre totes les assistents esperant retrobar-nos a la propera sessió de Coctels&Net
Aqui podeu veure un video resum del temes que van tractar les ponents, tot seguit d’unes quantes imatges de la jornada.
