L’estudi : “Perspectiva de gènere en intel·ligència artificial, una necessitat» d’ Eva Cernadas y Encina Calvo, subratlla la importància de considerar la perspectiva de gènere en el camp de la Intel·ligència Artificial (IA), un àmbit tradicionalment dominat per homes. Aquesta dominació masculina ha conduït a la creació d’algoritmes i productes tecnològics que reflecteixen i, sovint, perpetuen biaixos de gènere. L’estudi argumenta que, per reconèixer i limitar les conseqüències negatives d’aquests biaixos, és essencial introduir una perspectiva de gènere en la investigació i el desenvolupament de la IA.
L’absència de diversitat en els equips de desenvolupament d’IA significa que les perspectives i experiències de les dones sovint no són considerades durant el disseny d’aquests sistemes, conduint a productes que no tenen en compte les necessitats ni les realitats de gairebé la meitat de la població mundial.
L’estudi ressalta diversos exemples de com els biaixos de gènere s’han manifestat en productes d’IA, incloent des de sistemes de reconeixement facial que tenen dificultats per identificar correctament cares femenines o de persones de color, fins a assistents de veu programats amb veus femenines que perpetuen estereotips de gènere sobre els rols i les funcions de les dones en la societat. Aquests exemples serveixen per il·lustrar no només les deficiències tècniques que poden sorgir d’una falta de consideració de la perspectiva de gènere, sinó també com aquests biaixos poden reforçar les desigualtats de gènere existents.
Biaixos de Gènere a la Inteligencia Artificial
Es subratlla la problemàtica inherent als sistemes d’IA que amplifiquen els estereotips de gènere existents. La creixent integració de la IA en diversos àmbits de la nostra vida fa que els efectes dels biaixos de gènere siguin més palpables i potencialment perjudicials.
Els biaixos de gènere en l’IA sovint emanen de dos factors principals: la manca de diversitat en els equips de desenvolupament i els conjunts de dades utilitzats per a entrenar els algoritmes. Aquests dos elements contribueixen a una visió parcial i limitada, que es tradueix en productes i serveis que no reconeixen o malinterpreten les necessitats i les realitats de diferents grups de gènere.
Impacte i Conseqüències dels Biaixos de Gènere
El biaix de gènere en l’IA no només és un problema tècnic sinó també social, amb implicacions profundes en la igualtat de gènere. Aquests biaixos poden limitar l’accés a oportunitats, reforçar estereotips perjudicials i fins i tot posar en risc la integritat física de certs grups. Es discuteix el potencial de la IA per a exacerbar les desigualtats de gènere si no es prenen mesures correctores.
Es posa de manifest la importància de reconèixer i abordar els biaixos de gènere en l’IA, destacant les conseqüències d’aquests biaixos i proposant vies per a la seva mitigació a través de la regulació, l’educació i el desenvolupament d’una tecnologia més inclusiva i equitativa.
L’estudi ressalta que l’ús de Big Data i IA, mentre ofereix avantatges potencials significatius en àrees com el diagnòstic mèdic i l’eficiència dels serveis públics, també comporta riscos significatius de perpetuar biaixos de gènere existents. Això es deu a que les dades utilitzades per entrenar algoritmes d’IA freqüentment manquen de diversitat i representació equitativa, el que condueix a algoritmes que poden discriminar sistemàticament contra certes poblacions.
Estratègies per a Mitigar els Biaixos de Gènere
Es proposen diverses estratègies per a combatre els biaixos de gènere en l’IA. Aquestes inclouen la promoció de la diversitat en els equips de desenvolupament d’IA, la creació de conjunts de dades més equilibrats i representatius, i el desenvolupament de marcs ètics i protocols de revisió que considerin explícitament els impactes de gènere. A més, s’enfasitza la importància de la formació en perspectiva de gènere per als professionals de l’IA, així com la implementació de polítiques públiques que fomentin la igualtat de gènere en el sector tecnològic.
Integració de l’Ètica i la Perspectiva de Gènere en l’Educació en IA
Es constata una introducció molt limitada de competències transversals relatives a l’ètica i el compromís social en els màsters d’IA, exceptuant les propostes de la Universitat Politècnica de Catalunya i les universitats gallegues. Aquesta falta d’incorporació es presenta com un repte significatiu per a l’educació en IA, necessitant un canvi per assegurar el desenvolupament de tecnologies justes i responsables.
Conclusions
Les conclusions de l’estudi destaquen la importància crucial d’integrar les competències en ètica i perspectiva de gènere dins de la formació universitària en intel·ligència artificial (IA) per assegurar el desenvolupament d’una tecnologia confiable, responsable i inclusiva. Per aconseguir aquests canvis, l’estudi subratlla la necessitat de formar al professorat en qüestions de gènere, realitzar un seguiment del progrés en la igualtat de gènere dins de les institucions educatives i comunicar a la societat la importància de la inclusió de les dones en el desenvolupament professional de la IA. A més, es proposa que tant el govern espanyol com les universitats fomentin la difusió d’experiències docents que integrin la perspectiva de gènere i promoguin el desenvolupament de materials didàctics específics per suportar aquesta integració.
Finalment, les conclusions de l’estudi remarquen la importància que l’estudiantat prengui consciència dels biaixos socials relacionats amb el gènere per poder-los abordar eficaçment en el seu futur professional, tant en el disseny de tecnologies basades en IA com en la promoció d’un treball igualitari dins dels equips de desenvolupament. Aquest enfocament no només busca eradicar els biaixos de gènere dins de les tecnologies actuals i futures sinó també promoure una societat més justa i equitativa.
