الريــم
03-29-2023, 11:03 PM
Un grupo de empresarios del sector tecnol?gico, expertos y pol?ticos, entre ellos el controvertido empresario Elon Musk, solicitaron en una carta de tono apocal?ptico que se suspendan durante seis meses los experimentos con inteligencia artificial (IA) muy potente porque consideran que "pueden plantear profundos riesgos para la sociedad y la humanidad".
"La sociedad ha hecho una pausa en otras tecnolog?as con efectos potencialmente catastr?ficos en la sociedad. Podemos hacerlo aqu?. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados", dice la carta abierta publicada por el organismo sin ?nimo de lucro Future of Life Institute.
El director ejecutivo de Tesla, Elon Musk, el cofundador de Apple Steve Wozniak los investigadores estadounidenses Yoshua Bengio, Stuart Russel o los espa?oles Carles Sierra y Ram?n L?pez De Mantaras, son algunos de los firmantes de esta carta abierta en la que advierten de los supuestos peligros de la IA si no es acompa?ada de una gesti?n y una planificaci?n adecuadas.
"La IA avanzada podr?a representar un cambio profundo en la historia de la vida en la tierra, y deber?a planificarse y gestionarse con el cuidado y los recursos correspondientes", asegura la misiva que sostiene, adem?s, "que los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez m?s poderosas".
Incluso aseguran que "nadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable" a estas mentes digitales.
Los firmantes enarbolan todos los miedos y peligros que en los ?ltimos meses han resonado en foros, art?culos y conversaciones cotidianas y lo hacen con un tono apocal?ptico.
"?Debemos desarrollar mentes no humanas que podr?an acabar super?ndonos en n?mero, ser m?s inteligentes que nosotros, que nos dejen obsoletos y que nos reemplacen? ?Deber?amos arriesgarnos a perder el control de nuestra civilizaci?n?, se preguntan, antes de concluir: "Tales decisiones no deben delegarse en l?deres tecnol?gicos no electos".
En este sentido, piden que los desarrolladores trabajen con los legisladores para acelerar un sistema legal s?lido en torno a la IA.
Asimismo, vuelven a subrayar que los sistemas potentes de Inteligencia Artificial ?nicamente deben desarrollarse cuando haya seguridad de que sus efectos son positivos y sus riesgos son manejables.
"Hacemos un llamamiento a todos los laboratorios de IA para que pausen de inmediato durante al menos seis meses el entrenamiento de los sistemas de IA m?s potentes que GPT-4", dice el comunicado, que pide la intervenci?n de los Gobiernos para imponer esta moratoria en caso de que las partes implicadas se nieguen a la suspensi?n temporal de las investigaciones.
GPT, siglas en inglés del término transformadores preentrenados generativos, es un tipo de modelo de aprendizaje artificial que se utiliza para generar lenguaje similar al humano. El GPT-4 es mucho m?s avanzado que los modelos similares anteriores.
El laboratorio OpenAI define el GPT-4 como su "?ltimo hito en el esfuerzo para ampliar el aprendizaje profundo". Este nuevo sistema acepta la recepci?n tanto de textos e im?genes, y produce texto.
Sin embargo, OpenAI asegura que GPT-4 sigue siendo menos capaz que las personas en muchas situaciones reales aunque "muestra un desempe?o a nivel humano en varios puntos de referencia académicos y profesionales".
La carta abierta propone que durante estos seis meses de pausa, los laboratorios de IA y los expertos independientes "desarrollen e implementen un conjunto de protocolos de seguridad compartidos para el dise?o y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados por expertos externos independientes".
Finalmente, piden que la investigaci?n y el desarrollo de la IA se reenfoque en hacer que "los sistemas potentes y de ?ltima generaci?n sean m?s precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales".
أكثر... (https://www.sport.es/es/noticias/sociedad/elon-musk-grupo-empresarios-cientificos-85360558)
"La sociedad ha hecho una pausa en otras tecnolog?as con efectos potencialmente catastr?ficos en la sociedad. Podemos hacerlo aqu?. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados", dice la carta abierta publicada por el organismo sin ?nimo de lucro Future of Life Institute.
El director ejecutivo de Tesla, Elon Musk, el cofundador de Apple Steve Wozniak los investigadores estadounidenses Yoshua Bengio, Stuart Russel o los espa?oles Carles Sierra y Ram?n L?pez De Mantaras, son algunos de los firmantes de esta carta abierta en la que advierten de los supuestos peligros de la IA si no es acompa?ada de una gesti?n y una planificaci?n adecuadas.
"La IA avanzada podr?a representar un cambio profundo en la historia de la vida en la tierra, y deber?a planificarse y gestionarse con el cuidado y los recursos correspondientes", asegura la misiva que sostiene, adem?s, "que los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez m?s poderosas".
Incluso aseguran que "nadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable" a estas mentes digitales.
Los firmantes enarbolan todos los miedos y peligros que en los ?ltimos meses han resonado en foros, art?culos y conversaciones cotidianas y lo hacen con un tono apocal?ptico.
"?Debemos desarrollar mentes no humanas que podr?an acabar super?ndonos en n?mero, ser m?s inteligentes que nosotros, que nos dejen obsoletos y que nos reemplacen? ?Deber?amos arriesgarnos a perder el control de nuestra civilizaci?n?, se preguntan, antes de concluir: "Tales decisiones no deben delegarse en l?deres tecnol?gicos no electos".
En este sentido, piden que los desarrolladores trabajen con los legisladores para acelerar un sistema legal s?lido en torno a la IA.
Asimismo, vuelven a subrayar que los sistemas potentes de Inteligencia Artificial ?nicamente deben desarrollarse cuando haya seguridad de que sus efectos son positivos y sus riesgos son manejables.
"Hacemos un llamamiento a todos los laboratorios de IA para que pausen de inmediato durante al menos seis meses el entrenamiento de los sistemas de IA m?s potentes que GPT-4", dice el comunicado, que pide la intervenci?n de los Gobiernos para imponer esta moratoria en caso de que las partes implicadas se nieguen a la suspensi?n temporal de las investigaciones.
GPT, siglas en inglés del término transformadores preentrenados generativos, es un tipo de modelo de aprendizaje artificial que se utiliza para generar lenguaje similar al humano. El GPT-4 es mucho m?s avanzado que los modelos similares anteriores.
El laboratorio OpenAI define el GPT-4 como su "?ltimo hito en el esfuerzo para ampliar el aprendizaje profundo". Este nuevo sistema acepta la recepci?n tanto de textos e im?genes, y produce texto.
Sin embargo, OpenAI asegura que GPT-4 sigue siendo menos capaz que las personas en muchas situaciones reales aunque "muestra un desempe?o a nivel humano en varios puntos de referencia académicos y profesionales".
La carta abierta propone que durante estos seis meses de pausa, los laboratorios de IA y los expertos independientes "desarrollen e implementen un conjunto de protocolos de seguridad compartidos para el dise?o y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados por expertos externos independientes".
Finalmente, piden que la investigaci?n y el desarrollo de la IA se reenfoque en hacer que "los sistemas potentes y de ?ltima generaci?n sean m?s precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales".
أكثر... (https://www.sport.es/es/noticias/sociedad/elon-musk-grupo-empresarios-cientificos-85360558)