الريــم
10-03-2023, 04:11 PM
El desarrollo de la Inteligencia Artificial debe llevar en paralelo una evoluci?n de normas precisas y éticamente adecuadas para establecer su control. El ingeniero chileno*Ricardo Baeza-Yates*es director de investigaci?n en el Instituto de IA Experiencial de la Northeastern University, del Silicon Valley Campus. Est? especializado en lo que se ha dado en llamar "IA responsable", un enfoque que pretende facilitar que la evoluci?n de esta tecnolog?a se produzca de manera confiable, segura y ética. Baeza-Yates ser? el primer conferenciante del*II Forum Europeo de Inteligencia Artificial*que se celebrar? este miércoles en el ADDA, que organizan y promueven*Encuentros NOW, Ellis*Alicante, Prensa Ibérica e INFORMACI?N.
?Por qué hay a?n tanta gente a la que todo lo relacionado con la inteligencia artificial le causa a?n tanta inquietud? ?Es un efecto parecido a las reacciones negativas que provocaron las anteriores «revoluciones industriales» a las que se compara la llegada de la IA?
Es una pregunta dif?cil pues hay muchos factores involucrados. Primero, mucha gente no entiende que es la IA y la reacci?n natural que tenemos a lo desconocido es temor. Segundo, el mensaje negativo que algunas personas muy influyentes en IA est?n enviando, tampoco ayuda, pues la IA general a?n no existe e incluso si existiera (falta mucho para eso) el peligro debiera estar bajo control. Finalmente, en algunos casos incluso este mensaje puede ser s?lo una cortina de humo para los problemas que tenemos hoy mismo como falta de transparencia y discriminaci?n automatizada que afectan a muchas personas ya sea f?sica o mentalmente (y nuestra salud mental es para m? el peligro inmediato m?s importante).
?Crees que est? cambiando la percepci?n negativa o neutra que mucha gente tiene de la IA y que ésta se est? convirtiendo en positiva?
No lo sé, nuestra precepci?n de lo que cree la gente puede estar enga?ada por la amplificaci?n de las redes sociales o nuestras burbujas culturales.
?Qué principios y normas deber?an regir el desarrollo y el uso de la inteligencia artificial para garantizar su responsabilidad, transparencia, equidad y respeto a los derechos humanos?
Hay muchas propuestas de principios instrumentales, como las de la UNESCO o la OCDE, pero prefiero los de ACM publicados en octubre del 2022 donde yo fui uno de los dos autores principales. Estos nueve principios comienzan con uno que yo propuse: legitimidad y competencia. Es decir, cualquier nueva aplicaci?n debe mostrar que su uso es mucho m?s beneficioso que los posibles da?os que puede provocar y que se poseen todas las competencias administrativas y técnicas para llevarla a cabo con éxito.
?Qué l?mites éticos y legales deber?an tener las investigaciones y experimentos con la inteligencia artificial, especialmente cuando involucran a seres humanos o animales?
Aplicaciones que no tienen una base cient?fica clara o no son leg?timas, como comento en la respuesta anterior, debieran estar prohibidas. Por ejemplo, hoy se supone que datos de otras personas pueden ser usados para predecir mi comportamiento (por ejemplo, que devolveré un préstamo bancario). Esto puede que sea cierto en promedio, pero cada persona es distinta y al usar el promedio estamos discriminando a muchas personas.
?C?mo se puede evitar el sesgo de género en la IA?
Nunca se puede evitar, pero se puede mitigar analizando los datos, los algoritmos y analizando las interacciones entre los sistemas de IA y las personas. También ayuda tener mecanismos para que las personas pueden retroalimentar a los sistemas y advertir de posibles discriminaciones (el sesgo de género no siempre es negativo).
?C?mo se puede compatibilizar la protecci?n de datos con la IA?
Siempre hay que anonimizar los datos agrup?ndolos de modo que no sea posible inferir valores individuales y/o usar técnicas avanzadas como privacidad diferencial, que agregan aleatoriedad a los mismos.
?Hay que formar y educar en IA para evitar casos como el de la difusi?n de im?genes de personas desnudas tratadas por la IA?
Hay que formar y educar a las personas para todo. La IA es una tecnolog?a m?s, que lamentablemente facilita este tipo de acciones. Es una l?stima que materias como la filosof?a, que incluye la ética, o la educaci?n c?vica, ya no sean importantes, pues eso ayuda a que la gente no entienda el da?o con este tipo de abusos.
?Qué impacto tiene la inteligencia artificial en nuestra cultura, nuestra identidad, nuestra comunicaci?n y nuestra forma de pensar y aprender? ?Nos hace m?s inteligentes o nos hace m?s dependientes?
Sin contar el impacto en nuestra salud mental (ya ha habido un suicidio y ya hay muchas personas conversando con “deadbots” – modelos especializados en personas que ya han fallecido), nos hace m?s dependientes. ?Cu?ntas personas pueden encontrar una direcci?n sin el GPS? ?Cu?ntas son adictas a estos dispositivos cambiando nuestra educaci?n c?vica e interacciones sociales? ?Cu?ntas podr?n escribir una carta en cinco a?os?
?Estaremos dominados alg?n d?a por la IA?
No lo creo, el peligro m?s inmediato es que un grupo de seres humanos use la IA para dominar a otro grupo de seres humanos. Esto ya ha pasado con otras tecnolog?as. Las armas de metal se usaron para conquistar otras tribus y las armas de fuego se usaron para esclavizar personas, por mencionar s?lo dos ejemplos.
أكثر... (https://www.sport.es/es/noticias/sociedad/ricardo-baeza-yates-nueva-aplicacion-92870871)
?Por qué hay a?n tanta gente a la que todo lo relacionado con la inteligencia artificial le causa a?n tanta inquietud? ?Es un efecto parecido a las reacciones negativas que provocaron las anteriores «revoluciones industriales» a las que se compara la llegada de la IA?
Es una pregunta dif?cil pues hay muchos factores involucrados. Primero, mucha gente no entiende que es la IA y la reacci?n natural que tenemos a lo desconocido es temor. Segundo, el mensaje negativo que algunas personas muy influyentes en IA est?n enviando, tampoco ayuda, pues la IA general a?n no existe e incluso si existiera (falta mucho para eso) el peligro debiera estar bajo control. Finalmente, en algunos casos incluso este mensaje puede ser s?lo una cortina de humo para los problemas que tenemos hoy mismo como falta de transparencia y discriminaci?n automatizada que afectan a muchas personas ya sea f?sica o mentalmente (y nuestra salud mental es para m? el peligro inmediato m?s importante).
?Crees que est? cambiando la percepci?n negativa o neutra que mucha gente tiene de la IA y que ésta se est? convirtiendo en positiva?
No lo sé, nuestra precepci?n de lo que cree la gente puede estar enga?ada por la amplificaci?n de las redes sociales o nuestras burbujas culturales.
?Qué principios y normas deber?an regir el desarrollo y el uso de la inteligencia artificial para garantizar su responsabilidad, transparencia, equidad y respeto a los derechos humanos?
Hay muchas propuestas de principios instrumentales, como las de la UNESCO o la OCDE, pero prefiero los de ACM publicados en octubre del 2022 donde yo fui uno de los dos autores principales. Estos nueve principios comienzan con uno que yo propuse: legitimidad y competencia. Es decir, cualquier nueva aplicaci?n debe mostrar que su uso es mucho m?s beneficioso que los posibles da?os que puede provocar y que se poseen todas las competencias administrativas y técnicas para llevarla a cabo con éxito.
?Qué l?mites éticos y legales deber?an tener las investigaciones y experimentos con la inteligencia artificial, especialmente cuando involucran a seres humanos o animales?
Aplicaciones que no tienen una base cient?fica clara o no son leg?timas, como comento en la respuesta anterior, debieran estar prohibidas. Por ejemplo, hoy se supone que datos de otras personas pueden ser usados para predecir mi comportamiento (por ejemplo, que devolveré un préstamo bancario). Esto puede que sea cierto en promedio, pero cada persona es distinta y al usar el promedio estamos discriminando a muchas personas.
?C?mo se puede evitar el sesgo de género en la IA?
Nunca se puede evitar, pero se puede mitigar analizando los datos, los algoritmos y analizando las interacciones entre los sistemas de IA y las personas. También ayuda tener mecanismos para que las personas pueden retroalimentar a los sistemas y advertir de posibles discriminaciones (el sesgo de género no siempre es negativo).
?C?mo se puede compatibilizar la protecci?n de datos con la IA?
Siempre hay que anonimizar los datos agrup?ndolos de modo que no sea posible inferir valores individuales y/o usar técnicas avanzadas como privacidad diferencial, que agregan aleatoriedad a los mismos.
?Hay que formar y educar en IA para evitar casos como el de la difusi?n de im?genes de personas desnudas tratadas por la IA?
Hay que formar y educar a las personas para todo. La IA es una tecnolog?a m?s, que lamentablemente facilita este tipo de acciones. Es una l?stima que materias como la filosof?a, que incluye la ética, o la educaci?n c?vica, ya no sean importantes, pues eso ayuda a que la gente no entienda el da?o con este tipo de abusos.
?Qué impacto tiene la inteligencia artificial en nuestra cultura, nuestra identidad, nuestra comunicaci?n y nuestra forma de pensar y aprender? ?Nos hace m?s inteligentes o nos hace m?s dependientes?
Sin contar el impacto en nuestra salud mental (ya ha habido un suicidio y ya hay muchas personas conversando con “deadbots” – modelos especializados en personas que ya han fallecido), nos hace m?s dependientes. ?Cu?ntas personas pueden encontrar una direcci?n sin el GPS? ?Cu?ntas son adictas a estos dispositivos cambiando nuestra educaci?n c?vica e interacciones sociales? ?Cu?ntas podr?n escribir una carta en cinco a?os?
?Estaremos dominados alg?n d?a por la IA?
No lo creo, el peligro m?s inmediato es que un grupo de seres humanos use la IA para dominar a otro grupo de seres humanos. Esto ya ha pasado con otras tecnolog?as. Las armas de metal se usaron para conquistar otras tribus y las armas de fuego se usaron para esclavizar personas, por mencionar s?lo dos ejemplos.
أكثر... (https://www.sport.es/es/noticias/sociedad/ricardo-baeza-yates-nueva-aplicacion-92870871)