الريــم
09-20-2023, 04:20 PM
El director del Instituto Universitario Valenciano de Investigaci?n en Inteligencia Artificial (Vrain) de la Universitat Politècnica de Valencia (UPV), Vicent Botti, aboga por “perseguir y castigar el mal uso” de la Inteligencia Artificial (IA) generativa para evitar casos como los 'deepfake' o fotos falsas de menores desnudas denunciado en Almendralejo (https://www.sport.es/es/noticias/sucesos/once-ninas-han-declarado-policia-desnudos-ia-92273810) (Badajoz).
Los 'deepfake', las fotos o videos manipulados en los que se cambia el rostro de la imagen original por el de una persona famosa, seg?n Botti “no son una novedad, pues ya se vienen haciendo desde hace a?os con programas de edici?n de im?genes como photoshop, lo que pasa es con la IA generativa es relativamente f?cil crear fotos y v?deos sintéticos compuestas a partir de miles de im?genes”.
Im?genes falsas hiperrealistas
La IA, mediante redes neuronales generativas antag?nicas (GAN, por sus siglas en inglés), desarrolla patrones a partir de im?genes similares creando fotos o secuencias de video, e incluso puede copiar la voz, dando lugar a fotos o videos en los que es imposible saber si son reales o falsos. “Ahora es factible crear con IA generativa un video en el que usted y yo podemos aparecer diciendo barbaridades”, lamenta Botti.
"Ahora es factible crear con IA generativa un video en el que usted y yo podemos aparecer diciendo barbaridades”
Vicent Botti
Director del Instituto Universitario Valenciano de Investigaci?n en Inteligencia Artificial
Regular el uso malicioso de la IA
Ante este uso malicioso, Botti apuesta por “la regulaci?n de la IA generativa”. La prohibici?n, a su juicio, no tendr?a sentido. “La IA, como todas las tecnolog?as es una herramienta muy ?til a la hora de mejorar la vida de las personas, si alguien la utiliza mal o con fines delictivos lo que tenemos que hacer es castigar ese mal uso”, sostiene. El experto de la UPV pone como ejemplo el autom?vil: “a nadie se le ocurre plantear la prohibici?n*del coche porque alguien lo use para atropellar a gente”.
“La IA generativa es una herramienta muy potente para los creadores y creadoras a la hora de plasmar su creatividad, también puede ayudar a mejorar la calidad de vida de las personas como estamos viendo en la investigaci?n para que personas que a causa de un ictus u otra enfermedad han perdido la capacidad de hablar puedan comunicarse a través de un avatar”, apunta el catedr?tico.*
Ante casos como el Almendralejo, en el que se est? difundiendo pornograf?a con im?genes de menores de edad creadas con IA generativa con el fin de extorsionar a ni?as para reclamarles fotograf?as reales de ellas desnudas, lo que se conoce como 'sexting', Botti defiende que es "necesario regular el uso de la IA para que cualquier persona que planee hacer un uso malicioso de esta tecnolog?a se lo piense dos veces antes de hacerlo”.
Instituto Universitario Valenciano de Investigaci?n en Inteligencia Artificial
En este sentido, Botti avanza que desde el Instituto Universitario Valenciano de Investigaci?n en Inteligencia Artificial*(Vrain) de la Politècnica en colaboraci?n con otros centros de investigaci?n “estamos promoviendo una IA responsable, que tenga en cuenta la ética, que respete los Derechos Humanos, la privacidad de las personas y que sea segura para que as? se pueda desarrollar una tecnolog?a en la que podamos confiar”.*
As?, destaca, que ya hay avances a nivel europeo como el reglamento del uso de IA aprobado el pasado junio, “que es un primer paso para regular el mal uso de esta tecnolog?a y que en el futuro podr?a dar lugar a una ley europea en Inteligencia Artificial”.*
Otro avance, a?ade, “es que la mayor?a de empresas que han desarrollado aplicaciones para crear im?genes sintéticas con IA generativa ya han incorporado marcas de agua que permiten diferenciarlas de las im?genes reales”.**
أكثر... (https://www.sport.es/es/noticias/sociedad/necesario-perseguir-castigar-mal-inteligencia-92332417)
Los 'deepfake', las fotos o videos manipulados en los que se cambia el rostro de la imagen original por el de una persona famosa, seg?n Botti “no son una novedad, pues ya se vienen haciendo desde hace a?os con programas de edici?n de im?genes como photoshop, lo que pasa es con la IA generativa es relativamente f?cil crear fotos y v?deos sintéticos compuestas a partir de miles de im?genes”.
Im?genes falsas hiperrealistas
La IA, mediante redes neuronales generativas antag?nicas (GAN, por sus siglas en inglés), desarrolla patrones a partir de im?genes similares creando fotos o secuencias de video, e incluso puede copiar la voz, dando lugar a fotos o videos en los que es imposible saber si son reales o falsos. “Ahora es factible crear con IA generativa un video en el que usted y yo podemos aparecer diciendo barbaridades”, lamenta Botti.
"Ahora es factible crear con IA generativa un video en el que usted y yo podemos aparecer diciendo barbaridades”
Vicent Botti
Director del Instituto Universitario Valenciano de Investigaci?n en Inteligencia Artificial
Regular el uso malicioso de la IA
Ante este uso malicioso, Botti apuesta por “la regulaci?n de la IA generativa”. La prohibici?n, a su juicio, no tendr?a sentido. “La IA, como todas las tecnolog?as es una herramienta muy ?til a la hora de mejorar la vida de las personas, si alguien la utiliza mal o con fines delictivos lo que tenemos que hacer es castigar ese mal uso”, sostiene. El experto de la UPV pone como ejemplo el autom?vil: “a nadie se le ocurre plantear la prohibici?n*del coche porque alguien lo use para atropellar a gente”.
“La IA generativa es una herramienta muy potente para los creadores y creadoras a la hora de plasmar su creatividad, también puede ayudar a mejorar la calidad de vida de las personas como estamos viendo en la investigaci?n para que personas que a causa de un ictus u otra enfermedad han perdido la capacidad de hablar puedan comunicarse a través de un avatar”, apunta el catedr?tico.*
Ante casos como el Almendralejo, en el que se est? difundiendo pornograf?a con im?genes de menores de edad creadas con IA generativa con el fin de extorsionar a ni?as para reclamarles fotograf?as reales de ellas desnudas, lo que se conoce como 'sexting', Botti defiende que es "necesario regular el uso de la IA para que cualquier persona que planee hacer un uso malicioso de esta tecnolog?a se lo piense dos veces antes de hacerlo”.
Instituto Universitario Valenciano de Investigaci?n en Inteligencia Artificial
En este sentido, Botti avanza que desde el Instituto Universitario Valenciano de Investigaci?n en Inteligencia Artificial*(Vrain) de la Politècnica en colaboraci?n con otros centros de investigaci?n “estamos promoviendo una IA responsable, que tenga en cuenta la ética, que respete los Derechos Humanos, la privacidad de las personas y que sea segura para que as? se pueda desarrollar una tecnolog?a en la que podamos confiar”.*
As?, destaca, que ya hay avances a nivel europeo como el reglamento del uso de IA aprobado el pasado junio, “que es un primer paso para regular el mal uso de esta tecnolog?a y que en el futuro podr?a dar lugar a una ley europea en Inteligencia Artificial”.*
Otro avance, a?ade, “es que la mayor?a de empresas que han desarrollado aplicaciones para crear im?genes sintéticas con IA generativa ya han incorporado marcas de agua que permiten diferenciarlas de las im?genes reales”.**
أكثر... (https://www.sport.es/es/noticias/sociedad/necesario-perseguir-castigar-mal-inteligencia-92332417)