الريــم
03-27-2023, 12:50 PM
Hace unas semanas, ChatGPT contaba chistes sexistas. Ahora ya no hace bromas sobre las mujeres y contesta que "es importante promover la igualdad de género y evitar estereotipos y discriminaci?n". Esto es as? porque se le ha a?adido una capa para que sus respuestas sean respetuosas con los valores de la sociedad, incluido el feminismo: se trata de un movimiento m?s hacia la justicia algor?tmica que empieza a ganar terreno en la inteligencia artificial.
La IA es ubicua, pero ni todopoderosa ni perfecta. Las advertencias sobre los sesgos machistas (y también racistas) de algunos algoritmos se suceden desde hace a?os y preocupan tanto a las Naciones Unidas como a la Uni?n Europea, que se ha puesto manos a la obra para evitar que esos sesgos deriven en consecuencias nocivas para la ciudadan?a, particularmente para las mujeres y grupos vulnerables.
Se est?n produciendo avances regulatorios para proteger la diversidad y la representatividad, se est?n implementando mecanismos que corrijan errores y sesgos de la IA. ?Pero se puede ir m?s all?? ?La inteligencia artificial puede ser una aliada para la consecuci?n de la igualdad? ?Pueden los algoritmos ser feministas?
El porqué de los sesgos machistas
La inteligencia artificial funciona con datos: los sistemas de IA son entrenados con informaci?n que han generado previamente las personas, el modelo aprende de ellos y genera conclusiones, como explica la presidenta del Observatorio del Impacto ?tico y Social de la IA (OdiseIA), Idoia Salazar a EL PERI?DICO DE ESPA?A (https://www.epe.es/es/)
"Si lo entrenamos con muestras sesgadas, porque se le dan m?s datos de hombres que de mujeres, el sistema entiende, por ejemplo, que para acceder a un puesto de trabajo son mejores los hombres por una cuesti?n estad?stica. Resulta que el humano no le ha dado bien los datos para que aprenda en igualdad de condiciones: el problema es del humano, que no lo ha entrenado correctamente", a?ade.
Hay menos datos sobre mujeres que sobre hombres, pero es que el volumen de informaci?n disponible es mucho menor si hablamos de mujeres racializadas, migrantes, trans, ancianas... Es necesario asegurar que los datos que nutren a estos sistemas sean representativos de toda la sociedad para evitar la discriminaci?n, especialmente de las m?s vulnerables.
La cofundadora del European Laboratory for Learning and Intelligent Systems (ELLIS), Nuria Oliver, incide en que son varias las cuestiones que impactan sobre la falta de representatividad de la inteligencia artificial, pero destaca la falta de diversidad de género en la disciplina de la inteligencia artificial (con apenas un 15 % de mujeres).
"Sabemos que cualquier disciplina que carece de diversidad es una disciplina empobrecida, donde las soluciones van a ser menos inclusivas e innovadoras. Entendiendo que la inteligencia artificial est? transformando la sociedad y est? en el coraz?n de la cuarta revoluci?n industrial, no podemos permitirnos que no esté siendo dise?ada por equipos que no sean diversos", apunta Oliver.
La investigadora en ?tica y Gobernanza de la Inteligencia Artificial de la Universidad Aut?noma de Madrid Luc?a Ortiz de Z?rate lamenta que en Espa?a la baja presencia de mujeres en carreras tecnol?gicas s?lo sea percibida como un problema por los partidos de izquierda: "Hay personas e ideolog?as empe?adas en pensar que la tecnolog?a es neutral y por tanto no podemos aplicar el feminismo", denuncia.
El mundo tecnol?gico est? altamente masculinizado, subraya, y necesita un cambio urgente para que la perspectiva de género forme parte de los desarrollos.
La ONU alerta de que el desarrollo de la inteligencia artificial es un ejemplo paradigm?tico de la exclusi?n de las mujeres en las fronteras tecnol?gicas. Por el escaso n?mero de mujeres que programan estos algoritmos, por la persistencia de sesgos de género en los datos en los que se sustentan esos algoritmos y por una perspectiva cient?fica de neutralidad que no problematiza esos sesgos que se filtran en los algoritmos.
Todo ello, afirma la ONU, contribuye a reforzar "los estereotipos de género que estigmatizan a las mujeres y las relegan de estos ?mbitos" y a profundizar las brechas existentes.
Salazar insiste en que "lo que refleja la m?quina es un problema humano". En este sentido, el cofundador de la compa??a Blindstairs, Javier R. de la Rubia, asevera que toda inteligencia artificial tiene que ser programada y que le parece ut?pico pretender que una tecnolog?a sea inclusiva cuando los propios humanos no lo somos: "?Quién podr?a programar eso cuando nadie est? libre de pecado? Todos tenemos sesgos conscientes e inconscientes".
Corregir al sistema
Si los algoritmos son entrenados con gran cantidad de datos sobre una realidad y esa realidad tiene patrones de discriminaci?n, sesgos y estereotipos, obviamente los datos los van a reflejar, replicar e incluso exacerbar, precisa Oliver.
Frente a esta realidad, coinciden Oliver y Salazar, ha emergido la "l?nea de la justicia algor?tmica" para inventar algoritmos que tengan un concepto de justicia social y sean capaces de mitigar los patrones de discriminaci?n que existan en los datos. de detectar esos sesgos y contrarrestarlos computacionalmente.
Salazar expone que ya "hay muchas herramientas que permiten al sistema tomar decisiones no sesgadas", ya que pueden extraer las variables de sexo, de raza, de condici?n social... de manera que no los tenga en cuenta a la hora de tomar sus decisiones.
Y est? convencida de que la IA va a ser una "aliada" de la igualdad, pues va a ayudar a combatir los sesgos humanos, a mejorar decisiones mediadas por el machismo, a predecir situaciones injustas para poder cambiarlas. Eso s?, la fundadora de OdiseIA hace hincapié en que la capacidad de la tecnolog?a es limitada y siempre va a necesitar supervisi?n de las personas.
En ELLIS Alicante, fundaci?n sin ?nimo de lucro por una inteligencia artificial ética, trabajan en algoritmos que no discriminen, que sean transparentes y explicables, que no tengan sesgos e incluso que nos ayude a las personas a detectar y mitigar nuestros sesgos, pues impactan en nuestra toma de decisiones.
También estudian el impacto de los algoritmos de las redes sociales en la vida de las mujeres: por un lado, un proyecto investiga los filtros de embellecimiento en tiempo real, y otro va sobre los algoritmos que moderan el contenido y censuran el arte en el que aparecen desnudos femeninos porque los equiparan con la pornograf?a.
La UE se lo toma en serio
En la Uni?n Europea se es consciente de que existen problemas con la inteligencia artificial. Por eso, se est? tramitando una regulaci?n para evitar que cualquier sistema de alto riesgo, esto es, con una repercusi?n social o profesional sobre las personas, contenga sesgos. Por ejemplos, sistemas de selecci?n de recursos humanos, de admisi?n a una universidad, de concesi?n de un préstamos...
La futura regulaci?n exigir? supervisi?n humana de esos sistemas para que si el modelo selecciona a m?s hombres que a mujeres, se estudie antes de aplicarlo.
Ortiz de Z?rate explica que la regulaci?n exigir? que se retiren esos sesgos y el sistema sea revisado: "Si no son aceptables en las personas, como para aceptarlos en m?quinas que deben hacernos la vida mejor".
Y pone el acento en que la regulaci?n europea no va a cubrir sistemas de inteligencia artificial cotidianos como puedan ser los chatbots o los asistentes de voz, que pueden seguir perpetuando estereotipos y roles nocivos.
Dar un sentido distinto a la tecnolog?a
A juicio de la investigadora de la Aut?noma, el mundo tecnol?gico requiere de perfiles feministas (mujeres y hombres) que sepan solucionar los problemas existentes, pero también que le den un sentido distinto a la tecnolog?a.
Una gran cantidad de proyectos se orientan a emancipar del trabajo remunerado, pero apenas hay iniciativas que piensen en utilizar la inteligencia artificial para los cuidados, ?mbito del que se encargan mayoritariamente las mujeres.
Habla Ortiz de Z?rate de "una orientaci?n clara de la tecnolog?a, un saber para qué la queremos": "Parece que por tener inteligencia artificial vale m?s , pero no es as?, lo que vale es cambiar radicalmente la vida de las personas, particularmente de las mujeres".
"Creo que queda much?simo tiempo para que una visi?n feminista de la tecnolog?a consiga redefinirla y transformar nuestra vida. Eso lo veo lejos a?n", confiesa.
Ejemplos de diversidad: recursos humanos y lenguaje inclusivo
Blindstairs es un ejemplo de empleo de la inteligencia artificial para combatir los sesgos. Se trata de un sistema de automatizaci?n de los procesos de selecci?n de personal para evitar que cuestiones como el sexo o el origen influyan a la hora de cribar las candidaturas m?s adecuadas.
A través de la inteligencia artificial, se elimina de los curr?culum todos los datos personales para evitar que se pueda hacer una trazabilidad de la persona candidata y se pasa todo a lenguaje neutro.
As?, la persona de recursos humanos encargada del proceso de selecci?n no sabe si es un hombre o una mujer. Una vez se llega a la fase de las entrevistas, el sistema crea un avatar de rasgos neutros que, gracias a tecnolog?a de reconocimiento facial y de modulaci?n de la voz, evita que se pueda diferenciar el género a la vez que replica gestos y expresiones de la persona candidata.
Marta Rodr?guez-Tobalo, cofundadora de Blindstairs, cuenta a este peri?dico que la iniciativa naci? de su propia experiencia personal, después de haber sido preguntada en varias ocasiones por su situaci?n sentimental en varias entrevistas de trabajo.
"Esta experiencia personal es habitual, se ha investigado por la academia, y tiene consecuencias directas en problem?ticas como la brecha salarial, el techo de cristal o la infrarrepresentaci?n de ciertos colectivos", asevera.
Junto a su socio, Javier R. de la Rubia, decidieron emplear la tecnolog?a para acabar con estos sesgos en la gesti?n de los recursos humanos y se inspiraron en la Filarm?nica de Boston que, tras detectar que s?lo el 5 % de sus integrantes eran mujeres, pasaron a hacer las audiciones a ciegas y esa cifra subi? hasta el 41 %.
"Los sesgos hacen perder talento. (...) Para evitarlo, utilizamos la tecnolog?a, que hace que la informaci?n esté despersonalizada, pero manteniendo siempre el componente humano. La inteligencia artificial no es una persona, t? le das un input y te saca un output. Pretender que tome decisiones humanas es un error. Creemos en un modelo en que ayude y dé soporte a las personas para cometer menos errores y ser m?s inclusivos", asevera R. de la Rubia.
Otro caso pr?ctico en el que la tecnolog?a contribuye a la diversidad y a corregir la desigualdad es el de Themis, un software de procesamiento de lenguaje natural que revisa cualquier texto para convertirlo en inclusivo: detecta expresiones no inclusivas y sugiere alternativas para cambiarlas.
La directora de Operaciones de Themis, Sara Llorens, se?ala que la ética cada vez est? m?s presente en el desarrollo tecnol?gico: "Es b?sica, la tecnolog?a sin ética ser?a un disparate", afirma. El programa se centra en un lenguaje inclusivo de género, pero su equipo ya trabaja en versiones adaptadas a personas con discapacidad, que eviten el racismo y el lenguaje violento.
A su juicio, no es una quimera hablar de inteligencia artificial como herramienta que "integre y envuelva" a todas las personas en su diversidad.
أكثر... (https://www.sport.es/es/noticias/sociedad/inteligencia-artificial-feminista-85228875)
La IA es ubicua, pero ni todopoderosa ni perfecta. Las advertencias sobre los sesgos machistas (y también racistas) de algunos algoritmos se suceden desde hace a?os y preocupan tanto a las Naciones Unidas como a la Uni?n Europea, que se ha puesto manos a la obra para evitar que esos sesgos deriven en consecuencias nocivas para la ciudadan?a, particularmente para las mujeres y grupos vulnerables.
Se est?n produciendo avances regulatorios para proteger la diversidad y la representatividad, se est?n implementando mecanismos que corrijan errores y sesgos de la IA. ?Pero se puede ir m?s all?? ?La inteligencia artificial puede ser una aliada para la consecuci?n de la igualdad? ?Pueden los algoritmos ser feministas?
El porqué de los sesgos machistas
La inteligencia artificial funciona con datos: los sistemas de IA son entrenados con informaci?n que han generado previamente las personas, el modelo aprende de ellos y genera conclusiones, como explica la presidenta del Observatorio del Impacto ?tico y Social de la IA (OdiseIA), Idoia Salazar a EL PERI?DICO DE ESPA?A (https://www.epe.es/es/)
"Si lo entrenamos con muestras sesgadas, porque se le dan m?s datos de hombres que de mujeres, el sistema entiende, por ejemplo, que para acceder a un puesto de trabajo son mejores los hombres por una cuesti?n estad?stica. Resulta que el humano no le ha dado bien los datos para que aprenda en igualdad de condiciones: el problema es del humano, que no lo ha entrenado correctamente", a?ade.
Hay menos datos sobre mujeres que sobre hombres, pero es que el volumen de informaci?n disponible es mucho menor si hablamos de mujeres racializadas, migrantes, trans, ancianas... Es necesario asegurar que los datos que nutren a estos sistemas sean representativos de toda la sociedad para evitar la discriminaci?n, especialmente de las m?s vulnerables.
La cofundadora del European Laboratory for Learning and Intelligent Systems (ELLIS), Nuria Oliver, incide en que son varias las cuestiones que impactan sobre la falta de representatividad de la inteligencia artificial, pero destaca la falta de diversidad de género en la disciplina de la inteligencia artificial (con apenas un 15 % de mujeres).
"Sabemos que cualquier disciplina que carece de diversidad es una disciplina empobrecida, donde las soluciones van a ser menos inclusivas e innovadoras. Entendiendo que la inteligencia artificial est? transformando la sociedad y est? en el coraz?n de la cuarta revoluci?n industrial, no podemos permitirnos que no esté siendo dise?ada por equipos que no sean diversos", apunta Oliver.
La investigadora en ?tica y Gobernanza de la Inteligencia Artificial de la Universidad Aut?noma de Madrid Luc?a Ortiz de Z?rate lamenta que en Espa?a la baja presencia de mujeres en carreras tecnol?gicas s?lo sea percibida como un problema por los partidos de izquierda: "Hay personas e ideolog?as empe?adas en pensar que la tecnolog?a es neutral y por tanto no podemos aplicar el feminismo", denuncia.
El mundo tecnol?gico est? altamente masculinizado, subraya, y necesita un cambio urgente para que la perspectiva de género forme parte de los desarrollos.
La ONU alerta de que el desarrollo de la inteligencia artificial es un ejemplo paradigm?tico de la exclusi?n de las mujeres en las fronteras tecnol?gicas. Por el escaso n?mero de mujeres que programan estos algoritmos, por la persistencia de sesgos de género en los datos en los que se sustentan esos algoritmos y por una perspectiva cient?fica de neutralidad que no problematiza esos sesgos que se filtran en los algoritmos.
Todo ello, afirma la ONU, contribuye a reforzar "los estereotipos de género que estigmatizan a las mujeres y las relegan de estos ?mbitos" y a profundizar las brechas existentes.
Salazar insiste en que "lo que refleja la m?quina es un problema humano". En este sentido, el cofundador de la compa??a Blindstairs, Javier R. de la Rubia, asevera que toda inteligencia artificial tiene que ser programada y que le parece ut?pico pretender que una tecnolog?a sea inclusiva cuando los propios humanos no lo somos: "?Quién podr?a programar eso cuando nadie est? libre de pecado? Todos tenemos sesgos conscientes e inconscientes".
Corregir al sistema
Si los algoritmos son entrenados con gran cantidad de datos sobre una realidad y esa realidad tiene patrones de discriminaci?n, sesgos y estereotipos, obviamente los datos los van a reflejar, replicar e incluso exacerbar, precisa Oliver.
Frente a esta realidad, coinciden Oliver y Salazar, ha emergido la "l?nea de la justicia algor?tmica" para inventar algoritmos que tengan un concepto de justicia social y sean capaces de mitigar los patrones de discriminaci?n que existan en los datos. de detectar esos sesgos y contrarrestarlos computacionalmente.
Salazar expone que ya "hay muchas herramientas que permiten al sistema tomar decisiones no sesgadas", ya que pueden extraer las variables de sexo, de raza, de condici?n social... de manera que no los tenga en cuenta a la hora de tomar sus decisiones.
Y est? convencida de que la IA va a ser una "aliada" de la igualdad, pues va a ayudar a combatir los sesgos humanos, a mejorar decisiones mediadas por el machismo, a predecir situaciones injustas para poder cambiarlas. Eso s?, la fundadora de OdiseIA hace hincapié en que la capacidad de la tecnolog?a es limitada y siempre va a necesitar supervisi?n de las personas.
En ELLIS Alicante, fundaci?n sin ?nimo de lucro por una inteligencia artificial ética, trabajan en algoritmos que no discriminen, que sean transparentes y explicables, que no tengan sesgos e incluso que nos ayude a las personas a detectar y mitigar nuestros sesgos, pues impactan en nuestra toma de decisiones.
También estudian el impacto de los algoritmos de las redes sociales en la vida de las mujeres: por un lado, un proyecto investiga los filtros de embellecimiento en tiempo real, y otro va sobre los algoritmos que moderan el contenido y censuran el arte en el que aparecen desnudos femeninos porque los equiparan con la pornograf?a.
La UE se lo toma en serio
En la Uni?n Europea se es consciente de que existen problemas con la inteligencia artificial. Por eso, se est? tramitando una regulaci?n para evitar que cualquier sistema de alto riesgo, esto es, con una repercusi?n social o profesional sobre las personas, contenga sesgos. Por ejemplos, sistemas de selecci?n de recursos humanos, de admisi?n a una universidad, de concesi?n de un préstamos...
La futura regulaci?n exigir? supervisi?n humana de esos sistemas para que si el modelo selecciona a m?s hombres que a mujeres, se estudie antes de aplicarlo.
Ortiz de Z?rate explica que la regulaci?n exigir? que se retiren esos sesgos y el sistema sea revisado: "Si no son aceptables en las personas, como para aceptarlos en m?quinas que deben hacernos la vida mejor".
Y pone el acento en que la regulaci?n europea no va a cubrir sistemas de inteligencia artificial cotidianos como puedan ser los chatbots o los asistentes de voz, que pueden seguir perpetuando estereotipos y roles nocivos.
Dar un sentido distinto a la tecnolog?a
A juicio de la investigadora de la Aut?noma, el mundo tecnol?gico requiere de perfiles feministas (mujeres y hombres) que sepan solucionar los problemas existentes, pero también que le den un sentido distinto a la tecnolog?a.
Una gran cantidad de proyectos se orientan a emancipar del trabajo remunerado, pero apenas hay iniciativas que piensen en utilizar la inteligencia artificial para los cuidados, ?mbito del que se encargan mayoritariamente las mujeres.
Habla Ortiz de Z?rate de "una orientaci?n clara de la tecnolog?a, un saber para qué la queremos": "Parece que por tener inteligencia artificial vale m?s , pero no es as?, lo que vale es cambiar radicalmente la vida de las personas, particularmente de las mujeres".
"Creo que queda much?simo tiempo para que una visi?n feminista de la tecnolog?a consiga redefinirla y transformar nuestra vida. Eso lo veo lejos a?n", confiesa.
Ejemplos de diversidad: recursos humanos y lenguaje inclusivo
Blindstairs es un ejemplo de empleo de la inteligencia artificial para combatir los sesgos. Se trata de un sistema de automatizaci?n de los procesos de selecci?n de personal para evitar que cuestiones como el sexo o el origen influyan a la hora de cribar las candidaturas m?s adecuadas.
A través de la inteligencia artificial, se elimina de los curr?culum todos los datos personales para evitar que se pueda hacer una trazabilidad de la persona candidata y se pasa todo a lenguaje neutro.
As?, la persona de recursos humanos encargada del proceso de selecci?n no sabe si es un hombre o una mujer. Una vez se llega a la fase de las entrevistas, el sistema crea un avatar de rasgos neutros que, gracias a tecnolog?a de reconocimiento facial y de modulaci?n de la voz, evita que se pueda diferenciar el género a la vez que replica gestos y expresiones de la persona candidata.
Marta Rodr?guez-Tobalo, cofundadora de Blindstairs, cuenta a este peri?dico que la iniciativa naci? de su propia experiencia personal, después de haber sido preguntada en varias ocasiones por su situaci?n sentimental en varias entrevistas de trabajo.
"Esta experiencia personal es habitual, se ha investigado por la academia, y tiene consecuencias directas en problem?ticas como la brecha salarial, el techo de cristal o la infrarrepresentaci?n de ciertos colectivos", asevera.
Junto a su socio, Javier R. de la Rubia, decidieron emplear la tecnolog?a para acabar con estos sesgos en la gesti?n de los recursos humanos y se inspiraron en la Filarm?nica de Boston que, tras detectar que s?lo el 5 % de sus integrantes eran mujeres, pasaron a hacer las audiciones a ciegas y esa cifra subi? hasta el 41 %.
"Los sesgos hacen perder talento. (...) Para evitarlo, utilizamos la tecnolog?a, que hace que la informaci?n esté despersonalizada, pero manteniendo siempre el componente humano. La inteligencia artificial no es una persona, t? le das un input y te saca un output. Pretender que tome decisiones humanas es un error. Creemos en un modelo en que ayude y dé soporte a las personas para cometer menos errores y ser m?s inclusivos", asevera R. de la Rubia.
Otro caso pr?ctico en el que la tecnolog?a contribuye a la diversidad y a corregir la desigualdad es el de Themis, un software de procesamiento de lenguaje natural que revisa cualquier texto para convertirlo en inclusivo: detecta expresiones no inclusivas y sugiere alternativas para cambiarlas.
La directora de Operaciones de Themis, Sara Llorens, se?ala que la ética cada vez est? m?s presente en el desarrollo tecnol?gico: "Es b?sica, la tecnolog?a sin ética ser?a un disparate", afirma. El programa se centra en un lenguaje inclusivo de género, pero su equipo ya trabaja en versiones adaptadas a personas con discapacidad, que eviten el racismo y el lenguaje violento.
A su juicio, no es una quimera hablar de inteligencia artificial como herramienta que "integre y envuelva" a todas las personas en su diversidad.
أكثر... (https://www.sport.es/es/noticias/sociedad/inteligencia-artificial-feminista-85228875)