La brecha de género en la IA: desafíos y oportunidades para las mujeres
La Inteligencia Artificial es un juego que ya empezó y las reglas apenas se escriben. Las mujeres tienen que ser autoras y protagonistas. El reto es titánico y les exige que desarrollen hard skills y soft skills para usarla, construirla y aprovecharla.
CIUDAD DE MÉXICO. En el Oxxo ubicado en el campus del Tecnológico de Monterrey, en Nuevo León, las cajas de pago permanecen cerradas y las personas que compran tampoco se forman en espera de su turno. Esto se logra gracias a 37 cámaras de Inteligencia Artificial (IA) que detectan los movimientos de los más de 200 alumnos que realizan compras diariamente. Estas cámaras capturan con precisión los productos seleccionados, facilitando que las personas prescindan de pasar por la caja. En vez de ello, salen de la tienda con el cargo reflejado automáticamente en su tarjeta de crédito. María de la Paz Rico Fernández, ingeniera de investigación en visión computacional en AiFi Inc, contribuyó al desarrollo de este modelo.
“Le damos a las máquinas la capacidad de ver. Las cámaras recopilan información y con ello podemos dar seguimiento al cliente, saber qué producto tomó, clasificar sus compras y cobrar”, describe la también doctora en Ciencias, Robótica, Manufactura Avanzada y Computer Vision del Centro de Investigación de Estudios Avanzados del Instituto Politécnico Nacional (Cinvestav). Se trata de Inteligencia Artificial: la capacidad de las máquinas para imitar o simular procesos cognitivos humanos. ¿Cómo lo hace? Con millones de datos que recopila de la red.
“[Desafortunadamente] la ciencia no es neutra. Al final, es desarrollada por humanos. [Por lo tanto], los datos con los que se entrena la IA tienen sesgos [prejuicios e imparcialidades humanos]. Al ir aprendiendo [la IA], se refuerzan y promueven estos sesgos. Si no se está consciente de la perspectiva de género, al final se continuarán haciendo algoritmos sesgados”, advirtió Ivete Sánchez Bravo, Coordinadora de Servicios Tecnológicos en Centro de Investigación en Matemáticas (Cimat), en entrevista para Dalia Empower.
Dalia es el movimiento que busca cerrar la brecha de género transformando el liderazgo a través de sus programas sobre life skills (habilidades blandas), diversidad, equidad e inclusión, tanto para personas como para empresas.
Sesgos y prejuicios replicados al infinito
El colectivo IA2030Mx, en su Agenda Nacional Mexicana de Inteligencia Artificial, publicada en 2020, señala que cuando se trasladan los sesgos y la discriminación de género a los datos que replican los sistemas autónomos inteligentes, éstos terminan replicándolos y generando prácticas discriminatorias. Por ejemplo, se refuerzan estereotipos, así como la falta de representatividad poblacional; se perpetúan desigualdades sociales, económicas y laborales.
Fue el caso del marketplace Amazon. La empresa entrenó un algoritmo de selección de talento que finalmente descartó. El objetivo era identificar a las mejores personas para un puesto de trabajo, por lo que analizaba los perfiles contratados en los últimos 10 años. Sin embargo, como la mayoría de los candidatos seleccionados eran hombres, el algoritmo descartaba los currículums de las mujeres.
La web tampoco se libra. Por ejemplo, si en el buscador de internet se escribe “mujer exitosa”, enseguida aparecen imágenes de mujeres altas, blancas y delgadas. Si se escribe “mujer pobre”, emergen imágenes de mujeres de tez morena, cabello oscuro y de apariencia descuidada. Sucede lo mismo con ChatGPT, el chatbot de inteligencia artificial desarrollado en 2022 por OpenAI. Si se le solicita el nombre de un personaje para un cuento que haga las funciones del personal de limpieza, responde con nombres latinos de mujer.
De acuerdo con el documento de IA2030Mx, estas prácticas discriminatorias también están presentes en sistemas autónomos inteligentes encargados de publicidad en internet. Estudios han demostrado que anuncios laborales en los campos de la ciencia, tecnología, ingeniería y matemáticas son presentados con mucha mayor frecuencia a hombres que a mujeres, resalta Tatiana Telles, directora de Género y Tecnología de PuenTech, laboratorio de políticas públicas en tecnología.
La coalición IA2030MX señala que las problemáticas de discriminación están asociadas con los datos o con los algoritmos. En el primer caso, puede ser por falta de representatividad de distintas poblaciones en las bases de datos o por no incluir atributos protegidos por normativas de no discriminación. En el segundo caso puede ser por la manera en que se seleccionaron las variables o la manera en la que se calibran los algoritmos.
Faltan las mujeres
Gabriela Ramos, subdirectora general de Ciencias Sociales para la UNESCO, en su visita al Senado mexicano en agosto de 2023, compartió un dato significativo: 85% de las tecnologías de inteligencia artificial en el mundo son desarrolladas por hombres, blancos y que hablan inglés. Estados Unidos y China están a la cabeza de los desarrollos. Las mujeres y otros grupos vulnerables o minoritarios están casi fuera de la ecuación. Para Ramos, eso explica la existencia de sesgos en la IA.
Esta brecha de género se comprende mejor al mirar los números de mujeres que participan en los campos de ciencia, tecnología, ingeniería y matemáticas (STEM, por sus siglas en inglés). El Instituto Mexicano para la Competitividad (Imco) apunta que en México solo tres de cada 10 profesionistas en STEM son mujeres. Ellas también están relegadas de la producción científica y en la academia. Menos de 30% de las patentes incluyen una mujer al menos en el equipo inventor y su participación en publicaciones se reduce también a un porcentaje similar (30%), apunta la Comisión Económica para América Latina y el Caribe (CEPAL).
A nivel posgrado en México, la participación femenina en el desarrollo e investigación de la IA es raquítica, según el Padrón de Beneficiarios del Consejo Nacional de Humanidades, Ciencias y Tecnologías (Conahcyt). Apenas 20 mujeres estudiaron un posgrado en IA con beca nacional en el primer semestre de 2023.
Lee más: La mujer que creó ChatGPT: ¿Quién es Mira Murati?
Alejandra Lagunes, senadora de la República, señala que estas brechas combinadas con otras desigualdades sociales alejan a las mujeres del mundo laboral STEM y eso, definitivamente impacta en el desarrollo de Inteligencia Artificial. Las entrevistadas destacan también que los prejuicios de familias y del profesorado, alejan a niñas y adolescentes. Esos prejuicios se traducen en frases como: “Las matemáticas no se hicieron para las mujeres, mejor estudia otra cosa”; “¿Apoco sí sabes?”; “Eres una ñoña”. De hecho, algunas de las consultadas mencionaron que en sus propios ámbitos académicos y laborales, especializados en la IA, han vivido bullying, discriminación e intimidación por ser mujeres.
México, sin una estrategia de inclusión STEM
Lograr que más mujeres estudien y se dediquen a las ciencias duras suena titánico, pero no es imposible. Un estudio del Imco titulado Mujeres y Niñas en STEM: Sin Suficiente Impulso en los Estados, liberado en febrero de 2023, acusó la inexistencia de una estrategia integral para incrementar la participación femenina. En su lugar, detectó iniciativas aisladas de cursos y talleres. Por ejemplo: NiñasSTEM Pueden; Ferias de Ciencias e Ingenierías; Premio Talento Coahuila para Jóvenes Científicos (en Coahuila); Technolochicas, Proyecto de Digitalización en tu Centro (en Nuevo León); Cursos de verano y Bachillerato Avanzado en Universidades (en Querétaro); o Epic Queen (en la zona metropolitana de la CDMX).
Maciel Vázquez Montoya, coordinadora nacional de Technolochicas México, una iniciativa de Fundación Televisa que inició en Estados Unidos, comenta que han becado aproximadamente a 15,000 niñas y jóvenes desde 2019 en cursos que las acercan a herramientas teóricas y prácticas para construir páginas web, diseñar aplicaciones, desarrollar robótica e Inteligencia Artificial. Asegura que muchas de ellas son la primera generación en sus familias que estudian un curso de esta índole y que posteriormente deciden estudiar una ingeniería.
Chicas en Tecnología, por su parte, es una organización argentina. Este 2023 cumple ocho años, durante los cuales ha capacitado a jóvenes de 15 países de América Latina -incluido México-, explica Paula Coto, directora ejecutiva. Cada año capacita a 4,000 jóvenes (30% de ellas mexicanas) para insertarse y permanecer en el mundo laboral a través de certificaciones y mentorías en habilidades STEM.
Estas son grandes iniciativas, pero insuficientes. Gobierno, iniciativa privada y sociedad tienen un rol que cumplir, de acuerdo con las mujeres entrevistadas, quienes señalaron 8 acciones para romper la brecha de género específicamente en el ramo de la Inteligencia Artificial.
8 acciones para romper la brecha de género en IA
Ellas son rentables
La participación igualitaria de las mujeres en ciencia y tecnología no solo es una de las claves para reducir sesgos de género, sino también para elevar la competitividad de un país, justo porque la diversidad de talento conlleva diversidad de visiones, lo que a su vez detona innovación, de acuerdo con el Imco y con las expertas consultadas para este reportaje.
La Organización Internacional del Trabajo (OIT) sustenta en su informe Más Allá del Techo de Cristal: Por Qué las Empresas Necesitan a las Mujeres en Puestos Directivos, señala que cuando existe equilibrio de género en una empresa, hay 63% más probabilidad de que haya una mayor rentabilidad y productividad.
Frida Ruh, especialista en Inteligencia Artificial, trabaja en el área de marketing digital de Google, donde crea estrategias para que los anunciantes aparezcan en el mejor momento a los prospectos correctos y en el dispositivo adecuado. También entrena Inteligencia Artificial con la que pronto estarán interactuando los usuarios para crear copys, imágenes y videos que acompañarán sus anuncios. Ella sabe que para estar dentro del pequeño círculo de las y los desarrolladores de Inteligencia Artificial, hay que especializarse. Por eso cuenta con dos licenciaturas, una en Actuaría y otra en Finanzas y Banca. También hizo un diplomado en Big Data y Data Science, y una especialidad en Escenarios Futuros. Igualmente es una autodidacta de los lenguajes de programación.
“En la Inteligencia Artificial hay un déficit de multidisciplinariedad porque se pensaba que solo se necesitaban ingenieros para desarrollar productos tecnológicos, pero no es verdad. Se necesitan mujeres diseñadoras, programadoras en Python o Javascript, expertas en la experiencia del usuario, y psicólogas que ayuden a entender cómo va a afectar la interacción de la tecnología en el día a día de las personas”.
Catalina García Cure, líder de Inteligencia Artificial Generativa, EY Latinoamérica y Líder Global de EY en Inteligencia Artificial para Impuestos, señala que para “construir sistemas de IA más representativos, que no repliquen y refuercen sesgos de género”, es obligada la diversidad en los equipos que los diseñan y desarrollan. Ello requiere promover la educación STEM para las niñas, visibilizar el talento femenino que hoy existe en este campo y fomentar lugares de trabajo inclusivos. “Se requiere de un esfuerzo colectivo de los gobiernos, instituciones académicas y de las empresas de tecnología”, enfatiza.
Habilidades de vida para la IA
Exponer ideas, discutir proyectos y sostener una conversación en el mundo de la inteligencia artificial, dominado por hombres, no ha sido fácil para las entrevistadas. Confiesan que en ocasiones han tenido que alzar la voz o hasta explicar cómo llegaron a sus puestos para ser tomadas en cuenta. Frida Ruh asegura que un gran reto es romper con el síndrome de la impostora, que es una sensación que viven muchas personas -con mayor frecuencia las mujeres-, de ser insuficientes para un cargo o ser un fraude, cuando en realidad tienen la capacidad y el conocimiento para el puesto. En ese sentido, las entrevistadas señalan que la autoconfianza y la resiliencia son básicas, así como perder el miedo al fracaso y al rechazo, saber negociar, hablar de manera asertiva, buscar mentoras y postularse siempre a un mejor puesto o por un mejor sueldo.
“Fortalecer la comunicación asertiva y tener empatía para entender de dónde viene la perspectiva de otra persona, nos permite escuchar; [eso es] lo que nos hará más fuertes y nos permitirá colaborar mejor con el ecosistema”, sugiere Claudia May Del Pozo, fundadora de Eon Institute, una organización sin fines de lucro liderada por mujeres, que surgió en julio de 2023 para crear sociedades a prueba de futuro. Eon Institute trabaja temas como niñez segura, metaverso y privacidad en la tecnología e inteligencia artificial. Su objetivo final es crear recomendaciones de política pública a través de investigación, pruebas piloto y guías.
Ivete Sánchez, de Cimat, también destaca la habilidad de saber trabajar en equipo y saber divulgar la ciencia, es decir, traducir a un lenguaje sencillo los avances tecnológicos para que todo tipo de público entienda qué se está desarrollando, para qué sirve, cómo se utiliza y qué beneficios traerá.
¿Riesgo u oportunidad para ellas?
Gabriela Ramos, de la UNESCO, mencionaba que con la Inteligencia Artificial “no van a desaparecer empleos, van a desaparecer funciones”. Pero no hay que temerle, sino aprovechar las oportunidades que trae, como las ha traído cada avance tecnológico que la humanidad ha vivido hasta ahora.
El estudio Los Efectos de la IA en la Vida Laboral de las Mujeres, publicado en 2022 por la UNESCO, el BID y la Organización para la Cooperación y el Desarrollo Económicos (OCDE), confirma que la Inteligencia Artificial afectará las oportunidades de las mujeres en el trabajo, su posición, estatus y tratamiento en el ámbito laboral, pues demanda nuevas habilidades. Los organismos internacionales sugieren que las mujeres comiencen a mejorar sus habilidades y conocimientos (upskilling) a través de capacitación, estudios complementarios o certificaciones que les permitan crecer en su rol actual, mejorando su productividad o facilitando la promoción interna en la compañía.
Esta mejora tiene más que ver con habilidades blandas o _ life skills_ como negociación, resiliencia y adaptabilidad. Y si la compañía abre nuevos puestos o líneas de negocio, se recomienda capacitar a las colaboradoras que busquen postularse con habilidades y competencias nuevas (reskilling), relacionadas principalmente con habilidades técnicas o hard skills.
Entre las habilidades a fortalecer están: la alfabetización básica y lectura; aritmética; estrategias de procesamiento de información como análisis, síntesis, integración e interpretación de información relevante de múltiples textos y fuentes de información; resolución de problemas, pensamiento creativo y habilidades interpersonales.
Puedes leer además: Inteligencia artificial, ¿infectada por sesgos racistas y sexistas?
La oportunidad para una IA con equidad de género
Si bien la era de la Inteligencia Artificial llegó desde hace más de 70 años, cuando por primera vez se dijo que se unirían el humano y la máquina, fue hasta hace unos meses -con el lanzamiento de ChatGPT- que México y varios países comenzaron a despertar en materia de legislación y reglamentación de la IA, menciona la legisladora Alejandra Lagunes. “[Hoy] no hay una estrategia nacional [de Inteligencia Artificial], no hay políticas públicas y todavía no hay una iniciativa, y qué bueno, porque antes de empezar con ocurrencias legislativas, es mejor sentarnos todas las partes interesadas a construir una estrategia país”, advirtió.
Las políticas públicas son más que prioritarias porque solo a través de ellas la IA podrá desarrollarse bajo parámetros éticos, seguros, inclusivos, con respeto a los derechos humanos y con perspectiva de género. En ese sentido, es preciso señalar que la Estrategia Digital Nacional 2021-2024 del actual gobierno de México, que tiene por objetivo digitalizar al país, deja fuera el tema. Pero ya existen iniciativas de otros sectores de la sociedad.
Como seguimiento a la agenda de Inteligencia Artificial que Lagunes y otros expertos en tecnologías de la información habían presentado en 2018 a la administración federal entrante, cinco años más tarde, en abril de 2023, se formó la Alianza Nacional de Inteligencia Artificial (ANIA), que busca reunir a gobierno, iniciativa privada, academia, activistas y sociedad civil para generar una agenda en materia de Inteligencia Artificial y políticas públicas. De la mano de la UNESCO, la ANIA trabajará para hacer un diagnóstico del estatus en el que se encuentran las naciones en materia de IA.
Por su parte, la organización civil IA2030Mx, un grupo multisectorial integrado por nueve instituciones del sector privado, científico y académico, publicó a finales de 2020 la Agenda Nacional Mexicana de Inteligencia Artificial, en la cual participaron Claudia May Del Pozo y Cristina Martínez Pinto. Con este primer mapeo en México, el país se colocó como uno de los primeros 10 en tener un esbozo de una estrategia de IA.
Ese mismo año, Martínez Pinto creó PIT Policy Lab, donde hoy diseña modelos de gobernanza de tecnología que responden a necesidades latinoamericanas. Entre los proyectos que encabeza hay tres en que la IA y las mujeres se encuentran. Uno de ellos es un análisis de las condiciones laborales de los colectivos de mujeres que trabajan en el etiquetado de imágenes en la red; imágenes con las que se entrenan los algoritmos de inteligencia artificial. Otro proyecto es un mapeo de mujeres creadoras de políticas públicas en tecnología e Inteligencia Artificial, donde ya se localizan 25 perfiles latinos con el fin de visibilizar su trabajo y convertirlas en modelos a seguir dentro del sector. Siete de ellas están involucradas en IA.
7 mujeres role models en IA en América Latina
La IA es un juego que ya empezó y las reglas apenas se están escribiendo. Mientras eso sucede, es imperativo conocerla, aprender a utilizarla y sacarle el máximo provecho, pero con responsabilidad, cuidando la seguridad de la información, la protección de la propiedad intelectual, la ética y privilegiando la equidad de género, advierten las entrevistadas.
Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-SinDerivadas 4.0 Internacional
