الريــم
08-18-2023, 03:50 PM
Lo ha advertido la influencer Laura Escanes esta misma semana en Twitter: "Me ha llegado un link donde hay fotos m?as desnuda editadas y creadas por IA. Aparte de sentirme totalmente utilizada y expuesta, hay algo que hace que me hierva la sangre. El cuerpo de una mujer no se utiliza. Ni para el placer, ni para abusar ni para manipular. Me repugna la persona que las haya creado, pero también los que est?n ah? y les parece divertido y callan (https://www.epe.es/es/reportajes/20230818/alerta-fotos-deepfakes-ia-redes-sociales-laura-escanes-90857967)".
Lo que condena Escanes es la proliferaci?n de unas nuevas aplicaciones que utilizan la IA (Inteligencia Artificial) para elaborar im?genes de desnudos y escenas er?ticas con la cara de cualquier persona. Y han inundado las redes sociales. La explosi?n de la IA tuvo lugar a finales de 2022, con el lanzamiento de ChatGPT. Una vez abierta la veda, son muchas las empresas que se han dedicado a explotar el nicho. Y, en internet, el nicho que m?s dinero genera es el del sexo.
Estas tecnolog?as generan im?genes er?ticas realistas (que no reales). Apps, cuyos nombres omitiremos, se han colado en las stores de todos los sistemas operativos. Y aparecen como publicidad en las principales redes sociales. Algunas ya han sido retiradas. Pero, como una hidra, renacen con nuevos nombres y apariencias. Y las m?s extremas se publicitan con unas siglas que les confieren distinci?n sobre las dem?s: NSFW.
NSFW
NSFW es el acr?nimo de "Non suitable for work" (No apropiado para el trabajo). En realidad es un eufemismo para advertir de que se trata de un programa que genera material sensible, por eso lo de que no conviene tenerlo abierto en situaciones como el puesto laboral. En este caso, crea contenidos er?ticos y sexuales. Mediante las ?rdenes pertinentes, el usuario puede inventarse a una persona y conseguir fotos sin ropa de alguien que no existe. ?O s??
Porque el problema viene cuando, como sucede con algunas de estas aplicaciones, se permiten subir im?genes reales. Estas aplicaciones admiten introducir fotos de caras ya existentes, como el caso que ha denunciado Laura Escanes. Porque no es necesario ser un personaje p?blico. Basta con que alguien consiga una foto de su cara y la introduzca. Aunque el cuerpo no sea real, estos programan puede generar 'fakes' sexuales con la cara de otra persona sin que esta se entere.
Este tipo de aplicaciones, que suelen ser de pago y cuya cuota oscila entre los 40 y los 70 euros al a?o, no piden permisos de ninguna clase. El usuario malintencionado puede robar una foto de la cara de una persona en cualquier red social y, con ella, construir una imagen pornogr?fica con ese rostro, sin solicitar ning?n tipo de consentimiento. No son, no obstante, im?genes reales. Pero, ?podr?an estar incurriendo en alg?n tipo de delito?
https://www.uc-4u.com/clip/04b9c112-668a-4870-960d-42834b88769e_16-9-aspect-ratio_default_0.jpg Las aplicaciones que generan im?genes de desnudos se publicitan como NSFW. | CEDIDA
El caso Atrioc
A este tipo de contenidos se les llama deepfakes, que procede de fake (falso) y deep [learning] ([aprendizaje] profundo), que es el conjunto de algoritmos de aprendizaje autom?tico que utilizan las inteligencias artificiales. Desde la irrupci?n de las inteligencias artificiales en internet, se han visto algunos deepfake ya ic?nicos, como la foto del Papa Francisco vestido como un rapero de Philadelphia.
Aquello sucedi? en marzo. Dos meses antes ya hab?a estallado el primer gran esc?ndalo relacionado con este tipo de material. Un conocido streamer norteamericano llamado Brandon Ewing y conocido como Atrioc fue sorprendido en uno de sus directos con una de estas p?ginas que generan deepfakes sexuales en una de sus pesta?as abiertas. All? se pod?a apreciar que estaba creando este tipo de material con fotograf?as de dos streamers conocidas como Maya y Pokimane.
El hallazgo hizo explotar el caso porque, adem?s de las dos afectadas, otras streamers decidieron ponerse a investigar y encontraron material con sus caras. No solamente en la p?gina en cuesti?n, sino en grandes portales de pornograf?a. Aunque ellas no hab?an hecho absolutamente nada, ya hab?a videos sexuales suyos en las principales webs porno. Una streamer conocida como Sweet Anita lleg? a identificar v?deos supuestamente suyos en Pornhub, el l?der mundial del sector.
Aquella p?gina, que se llamaba Bavfakes, acab? siendo cerrada. Principalmente por el empe?o de QTCinderella, otra streamer norteamericana que se vio involucrada al ver que exist?a contenido expl?cito sobre ella en la web. Pero, lejos de desaparecer de la web, cada d?a surgen nuevas aplicaciones de este tipo. Y las principales redes sociales como Instagram o Tiktok no est?n filtrando este tipo de anuncios y los muestran a poco que se azuce al algoritmo. Y Google ofrece casi 120 millones de resultados en la b?squeda con las palabras "Deepfake porn".
La ley
Es decir, ya se ha llegado al momento en el que no es necesario que alguien haya creado material er?tico en su intimidad y se haya filtrado para que vaya circulando material sexual suyo. ?Es esto sancionable? EL PERI?DICO DE ESPA?A, del grupo Prensa Ibérica, ha hablado con Borja Adsuara, abogado experto en Derecho Digital, que recuerda que "llevo tiempo advirtiendo de esta situaci?n", hasta el punto de haber escrito una mini gu?a sobre estos términos "con la idea de ser lo m?s did?ctico posible". Porque cada vez se abren m?s dudas legales con el avance de estas tecnolog?as.
"Aqu? la cuesti?n es que estamos hablando de im?genes realistas, pero no reales. La ley hace esa diferenciaci?n. Las primeras podr?an pasar por reales porque est?n creadas por las IA. Las segundas s? que son fotos o v?deos que se tomaron en alg?n momento. Y curiosamente, la ley s? sanciona las im?genes realistas de ?ndole sexual con menores. No hace falta que hayan sucedido. Con que se generen, ya ser?an delito".
Pero, en el caso de los mayores, "no est? contemplado. Y la soluci?n ser?a hacer un corta y pega de la definici?n de ‘pseudopornograf?a infantil’ y aplicarla también a los adultos. Pero no se ha hecho de momento. Y todo esto que est?n generando las IA es algo que se tendr? que legislar. Porque hasta ahora, las cosas eran distintas y han ido cambiando".
El Caso Hormigos
Antes, la difusi?n de im?genes sexuales reales no estaba sancionada si la persona hab?a dado el consentimiento para captarlas. Pero eso cambi? en 2015", cuenta Adsuara. Fue tras el caso de Olvido Hormigos, la exconcejal socialista de Los Yébenes (Toledo), que sufri? la filtraci?n de un v?deo ?ntimo.
"A partir de ah?, la ley cambi? y ya no se pod?an difundir sin el consentimiento de la persona. Fue el caso m?s conocido, pero hubo y hay muchos. Es la denominada pornovenganza: una persona consiente filmarse o fotografiarse en momentos ?ntimos con su pareja. Luego rompen y el ex, para vengarse, difunde las im?genes. Tras el cambio de la ley, no se puede difundir si la persona grabada no lo permite".
Cita Adsuara también "el caso de la trabajadora de Iveco que se acab? quitando la vida porque compartieron un v?deo sexual suyo entre los compa?eros. No se suicid? por la difusi?n del v?deo, sino por la humillaci?n a la que fue sometida después". E, incluso, hay otros casos en los que se atribuyen a una persona im?genes que no son suyas, "como un soldado que comparti? la foto de una mujer en la ducha, que se parec?a a una compa?era. Ni siquiera era ella, pero sirvi? para que esa persona, que no sab?a nada ni era la protagonista de la foto, fuese vejada".
Similar a este ?ltimo, el letrado recuerda que en la esfera pol?tica espa?ola ya se ha dado un caso muy parecido: una persona comparti? por redes una foto de una mujer en topless asegurando, falsamente, que se trataba de Teresa Rodr?guez, la dirigente de Adelante Andaluc?a.
Delito contra la integridad moral
Si una persona se encuentra con la situaci?n de que han difundido material sexual falso con su rostro (fotos o v?deos), podr?a perseguirse con el art?culo 173.1 del C?digo Penal: “El que infligiera a otra persona un trato degradante, menoscabando gravemente su integridad moral, ser? castigado con la pena de prisi?n de seis meses a dos a?os).
Insiste el abogado en que la ley debe servir "no s?lo para castigar, sino para disuadir. Las normas tienen una ‘dimensi?n axiol?gica’ (valores), que, en otras palabras, es como cuando se dice a un ni?o "eso no se hace”. Y ese mensaje no calar? hasta que vaya alguien a la c?rcel por crear con Inteligencia Artificial y difundir im?genes sexuales falsas de otra persona, sin su consentimiento. Ser? lo ?nico que consiga disuadir al resto".
أكثر... (https://www.sport.es/es/noticias/sociedad/alerta-fotos-subes-deepfakes-hechos-91084366)
Lo que condena Escanes es la proliferaci?n de unas nuevas aplicaciones que utilizan la IA (Inteligencia Artificial) para elaborar im?genes de desnudos y escenas er?ticas con la cara de cualquier persona. Y han inundado las redes sociales. La explosi?n de la IA tuvo lugar a finales de 2022, con el lanzamiento de ChatGPT. Una vez abierta la veda, son muchas las empresas que se han dedicado a explotar el nicho. Y, en internet, el nicho que m?s dinero genera es el del sexo.
Estas tecnolog?as generan im?genes er?ticas realistas (que no reales). Apps, cuyos nombres omitiremos, se han colado en las stores de todos los sistemas operativos. Y aparecen como publicidad en las principales redes sociales. Algunas ya han sido retiradas. Pero, como una hidra, renacen con nuevos nombres y apariencias. Y las m?s extremas se publicitan con unas siglas que les confieren distinci?n sobre las dem?s: NSFW.
NSFW
NSFW es el acr?nimo de "Non suitable for work" (No apropiado para el trabajo). En realidad es un eufemismo para advertir de que se trata de un programa que genera material sensible, por eso lo de que no conviene tenerlo abierto en situaciones como el puesto laboral. En este caso, crea contenidos er?ticos y sexuales. Mediante las ?rdenes pertinentes, el usuario puede inventarse a una persona y conseguir fotos sin ropa de alguien que no existe. ?O s??
Porque el problema viene cuando, como sucede con algunas de estas aplicaciones, se permiten subir im?genes reales. Estas aplicaciones admiten introducir fotos de caras ya existentes, como el caso que ha denunciado Laura Escanes. Porque no es necesario ser un personaje p?blico. Basta con que alguien consiga una foto de su cara y la introduzca. Aunque el cuerpo no sea real, estos programan puede generar 'fakes' sexuales con la cara de otra persona sin que esta se entere.
Este tipo de aplicaciones, que suelen ser de pago y cuya cuota oscila entre los 40 y los 70 euros al a?o, no piden permisos de ninguna clase. El usuario malintencionado puede robar una foto de la cara de una persona en cualquier red social y, con ella, construir una imagen pornogr?fica con ese rostro, sin solicitar ning?n tipo de consentimiento. No son, no obstante, im?genes reales. Pero, ?podr?an estar incurriendo en alg?n tipo de delito?
https://www.uc-4u.com/clip/04b9c112-668a-4870-960d-42834b88769e_16-9-aspect-ratio_default_0.jpg Las aplicaciones que generan im?genes de desnudos se publicitan como NSFW. | CEDIDA
El caso Atrioc
A este tipo de contenidos se les llama deepfakes, que procede de fake (falso) y deep [learning] ([aprendizaje] profundo), que es el conjunto de algoritmos de aprendizaje autom?tico que utilizan las inteligencias artificiales. Desde la irrupci?n de las inteligencias artificiales en internet, se han visto algunos deepfake ya ic?nicos, como la foto del Papa Francisco vestido como un rapero de Philadelphia.
Aquello sucedi? en marzo. Dos meses antes ya hab?a estallado el primer gran esc?ndalo relacionado con este tipo de material. Un conocido streamer norteamericano llamado Brandon Ewing y conocido como Atrioc fue sorprendido en uno de sus directos con una de estas p?ginas que generan deepfakes sexuales en una de sus pesta?as abiertas. All? se pod?a apreciar que estaba creando este tipo de material con fotograf?as de dos streamers conocidas como Maya y Pokimane.
El hallazgo hizo explotar el caso porque, adem?s de las dos afectadas, otras streamers decidieron ponerse a investigar y encontraron material con sus caras. No solamente en la p?gina en cuesti?n, sino en grandes portales de pornograf?a. Aunque ellas no hab?an hecho absolutamente nada, ya hab?a videos sexuales suyos en las principales webs porno. Una streamer conocida como Sweet Anita lleg? a identificar v?deos supuestamente suyos en Pornhub, el l?der mundial del sector.
Aquella p?gina, que se llamaba Bavfakes, acab? siendo cerrada. Principalmente por el empe?o de QTCinderella, otra streamer norteamericana que se vio involucrada al ver que exist?a contenido expl?cito sobre ella en la web. Pero, lejos de desaparecer de la web, cada d?a surgen nuevas aplicaciones de este tipo. Y las principales redes sociales como Instagram o Tiktok no est?n filtrando este tipo de anuncios y los muestran a poco que se azuce al algoritmo. Y Google ofrece casi 120 millones de resultados en la b?squeda con las palabras "Deepfake porn".
La ley
Es decir, ya se ha llegado al momento en el que no es necesario que alguien haya creado material er?tico en su intimidad y se haya filtrado para que vaya circulando material sexual suyo. ?Es esto sancionable? EL PERI?DICO DE ESPA?A, del grupo Prensa Ibérica, ha hablado con Borja Adsuara, abogado experto en Derecho Digital, que recuerda que "llevo tiempo advirtiendo de esta situaci?n", hasta el punto de haber escrito una mini gu?a sobre estos términos "con la idea de ser lo m?s did?ctico posible". Porque cada vez se abren m?s dudas legales con el avance de estas tecnolog?as.
"Aqu? la cuesti?n es que estamos hablando de im?genes realistas, pero no reales. La ley hace esa diferenciaci?n. Las primeras podr?an pasar por reales porque est?n creadas por las IA. Las segundas s? que son fotos o v?deos que se tomaron en alg?n momento. Y curiosamente, la ley s? sanciona las im?genes realistas de ?ndole sexual con menores. No hace falta que hayan sucedido. Con que se generen, ya ser?an delito".
Pero, en el caso de los mayores, "no est? contemplado. Y la soluci?n ser?a hacer un corta y pega de la definici?n de ‘pseudopornograf?a infantil’ y aplicarla también a los adultos. Pero no se ha hecho de momento. Y todo esto que est?n generando las IA es algo que se tendr? que legislar. Porque hasta ahora, las cosas eran distintas y han ido cambiando".
El Caso Hormigos
Antes, la difusi?n de im?genes sexuales reales no estaba sancionada si la persona hab?a dado el consentimiento para captarlas. Pero eso cambi? en 2015", cuenta Adsuara. Fue tras el caso de Olvido Hormigos, la exconcejal socialista de Los Yébenes (Toledo), que sufri? la filtraci?n de un v?deo ?ntimo.
"A partir de ah?, la ley cambi? y ya no se pod?an difundir sin el consentimiento de la persona. Fue el caso m?s conocido, pero hubo y hay muchos. Es la denominada pornovenganza: una persona consiente filmarse o fotografiarse en momentos ?ntimos con su pareja. Luego rompen y el ex, para vengarse, difunde las im?genes. Tras el cambio de la ley, no se puede difundir si la persona grabada no lo permite".
Cita Adsuara también "el caso de la trabajadora de Iveco que se acab? quitando la vida porque compartieron un v?deo sexual suyo entre los compa?eros. No se suicid? por la difusi?n del v?deo, sino por la humillaci?n a la que fue sometida después". E, incluso, hay otros casos en los que se atribuyen a una persona im?genes que no son suyas, "como un soldado que comparti? la foto de una mujer en la ducha, que se parec?a a una compa?era. Ni siquiera era ella, pero sirvi? para que esa persona, que no sab?a nada ni era la protagonista de la foto, fuese vejada".
Similar a este ?ltimo, el letrado recuerda que en la esfera pol?tica espa?ola ya se ha dado un caso muy parecido: una persona comparti? por redes una foto de una mujer en topless asegurando, falsamente, que se trataba de Teresa Rodr?guez, la dirigente de Adelante Andaluc?a.
Delito contra la integridad moral
Si una persona se encuentra con la situaci?n de que han difundido material sexual falso con su rostro (fotos o v?deos), podr?a perseguirse con el art?culo 173.1 del C?digo Penal: “El que infligiera a otra persona un trato degradante, menoscabando gravemente su integridad moral, ser? castigado con la pena de prisi?n de seis meses a dos a?os).
Insiste el abogado en que la ley debe servir "no s?lo para castigar, sino para disuadir. Las normas tienen una ‘dimensi?n axiol?gica’ (valores), que, en otras palabras, es como cuando se dice a un ni?o "eso no se hace”. Y ese mensaje no calar? hasta que vaya alguien a la c?rcel por crear con Inteligencia Artificial y difundir im?genes sexuales falsas de otra persona, sin su consentimiento. Ser? lo ?nico que consiga disuadir al resto".
أكثر... (https://www.sport.es/es/noticias/sociedad/alerta-fotos-subes-deepfakes-hechos-91084366)