الريــم
10-09-2022, 06:14 AM
Los expertos aseguran que las afirmaciones de que la inteligencia artificial puede eludir los prejuicios humanos por etnia o género para impulsar la diversidad en el lugar de trabajo, son "falsas y peligrosas". Seg?n los investigadores de la Universidad de Cambridge (Reino Unido), estas herramientas reducen la raza y el género a datos triviales, y a menudo se basan en an?lisis de personalidad que son "pseudociencia automatizada".
En los ?ltimos a?os han aparecido herramientas de IA que se comercializan como respuesta a la falta de diversidad en la mano de obra, desde el uso de chatbots para alinear a los posibles candidatos, hasta el software de an?lisis para las entrevistas de v?deo.
Quienes est?n detr?s de esta tecnolog?a afirman que anula los prejuicios humanos contra el género y el origen étnico durante la contrataci?n, utilizando en su lugar algoritmos que leen el vocabulario, los patrones del habla e incluso las microexpresiones faciales para evaluar enormes grupos de solicitantes de empleo en busca del tipo de personalidad y el "ajuste cultural" adecuados.
M?s informaci?n (Auto)
http://placehold.it/175x100 T?tulo noticia (Auto)
Sin embargo, en un nuevo informe publicado en a revista 'Philosophy and Technology', los investigadores del Centro de Estudios de Género de Cambridge sostienen que estas afirmaciones hacen que algunos usos de la IA en la contrataci?n sean poco m?s que una "pseudociencia automatizada" que recuerda a la fisiognom?a o la frenolog?a: la desacreditada creencia de que la personalidad puede deducirse de los rasgos faciales y la forma del cr?neo.
Afirman que es un peligroso ejemplo de "tecnosolucionismo": recurrir a la tecnolog?a para ofrecer soluciones r?pidas a problemas de discriminaci?n muy arraigados que requieren inversiones y cambios en la cultura de la empresa.
De hecho, los investigadores han trabajado con un equipo de estudiantes de inform?tica de Cambridge para desacreditar estas nuevas técnicas de contrataci?n mediante la creaci?n de una herramienta de IA basada en la tecnolog?a, disponible en 'https://personal-ambiguator-frontend.vercel.app/
La "M?quina de la Personalidad" demuestra c?mo cambios arbitrarios en la expresi?n facial, la ropa, la iluminaci?n y el fondo pueden dar lecturas de la personalidad radicalmente diferentes, lo que podr?a marcar la diferencia entre el rechazo y la progresi?n para una generaci?n de solicitantes de empleo que compiten por puestos de trabajo para licenciados.
El equipo de Cambridge afirma que el uso de la IA para reducir el n?mero de candidatos puede, en ?ltima instancia, aumentar la uniformidad en lugar de la diversidad de la mano de obra, ya que la tecnolog?a est? calibrada para buscar el "candidato ideal" de fantas?a del empleador.
Seg?n los investigadores, quienes tengan la formaci?n y los antecedentes adecuados podr?an "ganarle a los algoritmos" replicando los comportamientos que la IA est? programada para identificar, y llevando esas actitudes al lugar de trabajo.
Adem?s, como los algoritmos se perfeccionan utilizando datos anteriores, sostienen que los candidatos considerados m?s adecuados probablemente acaben siendo los que m?s se parezcan a la plantilla actual.
"Nos preocupa que algunos proveedores estén envolviendo productos de 'aceite de serpiente' en un paquete brillante y vendiéndolos a clientes desprevenidos --asegura la coautora, la doctora Eleanor Drage--. Al afirmar que elracismo, el sexismo y otras formas de discriminaci?n pueden eliminarse del proceso de contrataci?n mediante la inteligencia artificial, estas empresas reducen la raza y el género a puntos de datos insignificantes, en lugar de sistemas de poder que dan forma a c?mo nos movemos por el mundo".
Los investigadores se?alan que estas herramientas de contrataci?n con IA suelen suelen estar patentadas -o ser una "caja negra"-, por lo que su funcionamiento es un misterio.
"Si bien las empresas pueden no estar actuando de mala fe, hay poca responsabilidad sobre c?mo se construyen o prueban estos productos" --admite Drage--. Como tal, esta tecnolog?a, y la forma en que se comercializa, podr?an acabar siendo peligrosas fuentes de desinformaci?n sobre c?mo se puede 'desprejuiciar' la contrataci?n y hacerla m?s justa".
A pesar de algunas cr?ticas --la Ley de IA propuesta por la UE clasifica el software de contrataci?n impulsado por IA como de "alto riesgo"--, los investigadores afirman que las herramientas fabricadas por empresas como Retorio y HIreVue se despliegan con poca regulaci?n, y se?alan que las encuestas sugieren que el uso de la IA en la contrataci?n est? creciendo.
Un estudio realizado en 2020 sobre 500 organizaciones de diversos sectores en cinco pa?ses revel? que el 24% de las empresas han implementado la IA con fines de contrataci?n y que el 56% de los directores de contrataci?n planean adoptarla en el pr?ximo a?o.
Otra encuesta realizada en abril de 2020 a 334 l?deres de recursos humanos, cuando la pandemia se afianzaba, descubri? que el 86% de las organizaciones estaban incorporando la nueva tecnolog?a virtual a las pr?cticas de contrataci?n.
"Esta tendencia ya estaba en marcha cuando comenz? la pandemia, y el cambio acelerado hacia el trabajo en l?nea provocado por COVID-19 probablemente har? que los departamentos de recursos humanos desplieguen m?s herramientas de IA en el futuro", se?ala la coautora, la doctora Kerry Mackereth, que presenta el podcast Good Robot con Drage, en el que el d?o explora la ética de la tecnolog?a.
La covid-19 no es el ?nico factor, seg?n los operarios de recursos humanos a los que han entrevistado los investigadores. "La contrataci?n por volumen es cada vez m?s insostenible para los equipos de recursos humanos, que est?n desesperados por el software para reducir los costes, as? como por el n?mero de solicitantes que necesitan atenci?n personal", afirma Mackereth.
Drage y Mackereth afirman que muchas empresas utilizan ahora la IA para analizar los v?deos de los candidatos, interpretando la personalidad mediante la evaluaci?n de las regiones de un rostro --similar a la IA para la detecci?n de mentiras-- y puntuando los "cinco grandes" tropos de la personalidad: extroversi?n, simpat?a, apertura, conciencia y neuroticismo.
Los estudiantes que est?n detr?s de la "M?quina de la Personalidad", que utiliza una técnica similar para exponer sus defectos, afirman que, aunque su herramienta no ayude a los usuarios a superar el algoritmo, dar? a los solicitantes de empleo una idea de los tipos de escrutinio de la IA a los que podr?an estar sometidos, quiz?s incluso sin su conocimiento.
"Con demasiada frecuencia, el proceso de contrataci?n es oblicuo y confuso --asegura Euan Ong, uno de los estudiantes desarrolladores--. Queremos dar a la gente una demostraci?n visceral del tipo de juicios que ahora se hacen sobre ellos de forma autom?tica".
"Estas herramientas est?n entrenadas para predecir la personalidad bas?ndose en patrones comunes en im?genes de personas que han visto previamente, y a menudo acaban encontrando correlaciones espurias entre la personalidad y propiedades aparentemente no relacionadas de la imagen, como el brillo --a?ade Ong--. Hicimos una versi?n de juguete del tipo de modelos que creemos que se utilizan en la pr?ctica, para experimentar nosotros mismos".
أكثر... (https://www.sport.es/es/noticias/sociedad/inteligencia-artificial-capaz-aludir-prejuicios-77027303)
En los ?ltimos a?os han aparecido herramientas de IA que se comercializan como respuesta a la falta de diversidad en la mano de obra, desde el uso de chatbots para alinear a los posibles candidatos, hasta el software de an?lisis para las entrevistas de v?deo.
Quienes est?n detr?s de esta tecnolog?a afirman que anula los prejuicios humanos contra el género y el origen étnico durante la contrataci?n, utilizando en su lugar algoritmos que leen el vocabulario, los patrones del habla e incluso las microexpresiones faciales para evaluar enormes grupos de solicitantes de empleo en busca del tipo de personalidad y el "ajuste cultural" adecuados.
M?s informaci?n (Auto)
http://placehold.it/175x100 T?tulo noticia (Auto)
Sin embargo, en un nuevo informe publicado en a revista 'Philosophy and Technology', los investigadores del Centro de Estudios de Género de Cambridge sostienen que estas afirmaciones hacen que algunos usos de la IA en la contrataci?n sean poco m?s que una "pseudociencia automatizada" que recuerda a la fisiognom?a o la frenolog?a: la desacreditada creencia de que la personalidad puede deducirse de los rasgos faciales y la forma del cr?neo.
Afirman que es un peligroso ejemplo de "tecnosolucionismo": recurrir a la tecnolog?a para ofrecer soluciones r?pidas a problemas de discriminaci?n muy arraigados que requieren inversiones y cambios en la cultura de la empresa.
De hecho, los investigadores han trabajado con un equipo de estudiantes de inform?tica de Cambridge para desacreditar estas nuevas técnicas de contrataci?n mediante la creaci?n de una herramienta de IA basada en la tecnolog?a, disponible en 'https://personal-ambiguator-frontend.vercel.app/
La "M?quina de la Personalidad" demuestra c?mo cambios arbitrarios en la expresi?n facial, la ropa, la iluminaci?n y el fondo pueden dar lecturas de la personalidad radicalmente diferentes, lo que podr?a marcar la diferencia entre el rechazo y la progresi?n para una generaci?n de solicitantes de empleo que compiten por puestos de trabajo para licenciados.
El equipo de Cambridge afirma que el uso de la IA para reducir el n?mero de candidatos puede, en ?ltima instancia, aumentar la uniformidad en lugar de la diversidad de la mano de obra, ya que la tecnolog?a est? calibrada para buscar el "candidato ideal" de fantas?a del empleador.
Seg?n los investigadores, quienes tengan la formaci?n y los antecedentes adecuados podr?an "ganarle a los algoritmos" replicando los comportamientos que la IA est? programada para identificar, y llevando esas actitudes al lugar de trabajo.
Adem?s, como los algoritmos se perfeccionan utilizando datos anteriores, sostienen que los candidatos considerados m?s adecuados probablemente acaben siendo los que m?s se parezcan a la plantilla actual.
"Nos preocupa que algunos proveedores estén envolviendo productos de 'aceite de serpiente' en un paquete brillante y vendiéndolos a clientes desprevenidos --asegura la coautora, la doctora Eleanor Drage--. Al afirmar que elracismo, el sexismo y otras formas de discriminaci?n pueden eliminarse del proceso de contrataci?n mediante la inteligencia artificial, estas empresas reducen la raza y el género a puntos de datos insignificantes, en lugar de sistemas de poder que dan forma a c?mo nos movemos por el mundo".
Los investigadores se?alan que estas herramientas de contrataci?n con IA suelen suelen estar patentadas -o ser una "caja negra"-, por lo que su funcionamiento es un misterio.
"Si bien las empresas pueden no estar actuando de mala fe, hay poca responsabilidad sobre c?mo se construyen o prueban estos productos" --admite Drage--. Como tal, esta tecnolog?a, y la forma en que se comercializa, podr?an acabar siendo peligrosas fuentes de desinformaci?n sobre c?mo se puede 'desprejuiciar' la contrataci?n y hacerla m?s justa".
A pesar de algunas cr?ticas --la Ley de IA propuesta por la UE clasifica el software de contrataci?n impulsado por IA como de "alto riesgo"--, los investigadores afirman que las herramientas fabricadas por empresas como Retorio y HIreVue se despliegan con poca regulaci?n, y se?alan que las encuestas sugieren que el uso de la IA en la contrataci?n est? creciendo.
Un estudio realizado en 2020 sobre 500 organizaciones de diversos sectores en cinco pa?ses revel? que el 24% de las empresas han implementado la IA con fines de contrataci?n y que el 56% de los directores de contrataci?n planean adoptarla en el pr?ximo a?o.
Otra encuesta realizada en abril de 2020 a 334 l?deres de recursos humanos, cuando la pandemia se afianzaba, descubri? que el 86% de las organizaciones estaban incorporando la nueva tecnolog?a virtual a las pr?cticas de contrataci?n.
"Esta tendencia ya estaba en marcha cuando comenz? la pandemia, y el cambio acelerado hacia el trabajo en l?nea provocado por COVID-19 probablemente har? que los departamentos de recursos humanos desplieguen m?s herramientas de IA en el futuro", se?ala la coautora, la doctora Kerry Mackereth, que presenta el podcast Good Robot con Drage, en el que el d?o explora la ética de la tecnolog?a.
La covid-19 no es el ?nico factor, seg?n los operarios de recursos humanos a los que han entrevistado los investigadores. "La contrataci?n por volumen es cada vez m?s insostenible para los equipos de recursos humanos, que est?n desesperados por el software para reducir los costes, as? como por el n?mero de solicitantes que necesitan atenci?n personal", afirma Mackereth.
Drage y Mackereth afirman que muchas empresas utilizan ahora la IA para analizar los v?deos de los candidatos, interpretando la personalidad mediante la evaluaci?n de las regiones de un rostro --similar a la IA para la detecci?n de mentiras-- y puntuando los "cinco grandes" tropos de la personalidad: extroversi?n, simpat?a, apertura, conciencia y neuroticismo.
Los estudiantes que est?n detr?s de la "M?quina de la Personalidad", que utiliza una técnica similar para exponer sus defectos, afirman que, aunque su herramienta no ayude a los usuarios a superar el algoritmo, dar? a los solicitantes de empleo una idea de los tipos de escrutinio de la IA a los que podr?an estar sometidos, quiz?s incluso sin su conocimiento.
"Con demasiada frecuencia, el proceso de contrataci?n es oblicuo y confuso --asegura Euan Ong, uno de los estudiantes desarrolladores--. Queremos dar a la gente una demostraci?n visceral del tipo de juicios que ahora se hacen sobre ellos de forma autom?tica".
"Estas herramientas est?n entrenadas para predecir la personalidad bas?ndose en patrones comunes en im?genes de personas que han visto previamente, y a menudo acaban encontrando correlaciones espurias entre la personalidad y propiedades aparentemente no relacionadas de la imagen, como el brillo --a?ade Ong--. Hicimos una versi?n de juguete del tipo de modelos que creemos que se utilizan en la pr?ctica, para experimentar nosotros mismos".
أكثر... (https://www.sport.es/es/noticias/sociedad/inteligencia-artificial-capaz-aludir-prejuicios-77027303)