الريــم
05-24-2023, 06:10 PM
La creaci?n de la Agencia Espa?ola de Supervisi?n de la Inteligencia Artificial (AESIA) no avanza a buen pie. Expertos y organizaciones en defensa de los derechos civiles han denunciado a EL PERI?DICO DE CATALU?A, del grupo Prensa Ibérica, la decisi?n del Gobierno de confiar en la consultora*Deloitte*y en la asociaci?n sin ?nimo de lucro*OdiseIA*para que supervisen la calidad de la*inteligencia artificial*(IA)*en Espa?a.
A finales de 2021, el Ejecutivo espa?ol anunci? la creaci?n de una agencia dedicada a vigilar el despliegue de esta*tecnolog?a*para minimizar sus riesgos, la primera de este tipo en la*Uni?n Europea*(UE). La semana pasada, 'El Mundo' avanz? que la administraci?n ultimaba adjudicar a ambas entidades la creaci?n del sello nacional que servir? para certificar un desarrollo seguro, ético y de calidad de la*IA*en el pa?s. Su oferta asciende a 1,64 millones de euros y es la m?s bien vista por Madrid, seg?n los*documentos de la licitaci?n (https://contrataciondelestado.es/wps/wcm/connect/810dbbbb-27ea-450f-996d-7b8f05400ae1/DOC20230512145951report_Exp2022EtL00040_informe_va loracion_sobre3_lote2_v04.pdf?MOD=AJPERES)*a los que también ha podido acceder este diario.
La*Secretar?a de Estado de Digitalizaci?n e Inteligencia Artificial*(SEDIA), dependiente del Ministerio de Asuntos Econ?micos y Transformaci?n Digital, ha confirmado a este diario que ha utilizado "un contrato de servicios" para externalizar en Deloitte y OdiseIA el encargo de fijar los criterios técnicos y desarrollar las herramientas para que las empresas espa?olas puedan obtener un sello que "avalar? la calidad de los*algoritmos, siempre de forma voluntaria". Adem?s, y no es menor, ambas organizaciones asesorar?n al Gobierno con recomendaciones sobre la configuraci?n de la AESIA –que estar?*situada en A Coru?a– y su equipo supervisor.
Zorros vigilando el gallinero
Distintas organizaciones civiles han denunciado que la administraci?n haya confiado en dos empresas externas para desarrollar este organismo p?blico pionero. "Se habla mucho de una IA ética, pero se termina recurriendo a las empresas que desarrollan esa tecnolog?a para que también implementen su regulaci?n", critica Judith Membrives i Llorens, técnica de incidencia en digitalizaci?n en*Lafede.cat (https://www.lafede.cat/ca/).
Para esos colectivos, la elecci?n de Deloitte y OdiseIA es como poner zorros a vigilar el gallinero. La empresa de*auditor?a, una de las m?s grandes del mundo, tiene alianzas con proveedoras de servicios de IA como Google, Oracle o SAP, seg?n indica su propia*p?gina web (https://www.deloitte.com/an/en/alliances.html). "En democracia todos deber?amos poder auditar la IA y no que quede en manos de alguien que cobra de la misma empresa a la que audita. Esta forma de enfocar la gobernanza es muy peligrosa para los derechos humanos", lamenta Simona Levi, fundadora de*Xnet (https://xnet-x.net/es/).
Por otro lado, OdiseIA es una*asociaci?n sin ?nimo de lucro (https://www.odiseia.org/)*que, asegura, "vela por el uso responsable" de esta tecnolog?a. Entre sus socios, entre los que también hay miembros de la sociedad civil, figuran auditoras como PwC o la misma Deloitte, pero también grupos como el consorcio de la industria espa?ola IndesIA, formado por gigantes como*Telef?nica, Repsol, Navantia, Airbus o*Microsoft*(que*ha invertido m?s de 11.000 millones*de d?lares en OpenAI para integrar el popular*ChatGPT*a sus servicios). Su presidenta,*Idoia Salazar, remarca a EL PERI?DICO que OdiseIA es "totalmente independiente" y que aunque sus socios realizan aportaciones econ?micas para garantizar el mantenimiento de la asociaci?n "no tienen ning?n tipo de repercusi?n ni en el comité estratégico ni en ning?n otro tema".
Privatizar servicios p?blicos
Las organizaciones civiles consultadas denuncian el "ninguneo" del Gobierno y lo que ello puede suponer a efectos pr?cticos para la sociedad. "Desconfiamos de que Deloitte y OdiseIA sienten las bases de la regulaci?n de la IA en Espa?a porque eso marcar? mucho lo que se entiende por impacto social,*discriminaci?n*o transparencia", apunta Javier S?nchez Monedero, investigador en IA en la Universidad de C?rdoba y miembro de*Algorace (https://algorace.org/). "Hay una falta de pluralidad clara: la mayor?a de voces vienen del sector privado y no de movimientos feministas o antirracistas que pueden aportar otras visiones para resolver*problemas de*sesgos*ya existentes", a?ade Membrives.
La adjudicaci?n también ha despertado malestar entre empleados del Estado, que denuncian que se contrate a una consultora para externalizar un proyecto que podr?a ser desarrollado por expertos internos. "Los funcionarios tecnol?gicos de la Administraci?n General del Estado estamos de funeral. Externalizan el conocimiento y nos se?alan como in?tiles",*ha lamentado (https://twitter.com/joseche_jagg/status/1659538730867126275)*José Antonio Garc?a, subsecretario del Ministerio de Consumo, en Twitter.
Para Levi, esa realidad apunta hacia un problema mayor. "Cada vez hay funcionarios con competencias digitales porque no se invierte en actualizar ese perfil interno, sino en privatizar los servicios p?blicos, un fracaso absoluto. Tiramos el dinero fuera y no permitimos instituciones que estén a la altura. Que la administraci?n no tenga competencias digitales es una l?gica suicida".
أكثر... (https://www.sport.es/es/noticias/sociedad/expertos-denuncian-apuesta-gobierno-deloitte-87825027)
A finales de 2021, el Ejecutivo espa?ol anunci? la creaci?n de una agencia dedicada a vigilar el despliegue de esta*tecnolog?a*para minimizar sus riesgos, la primera de este tipo en la*Uni?n Europea*(UE). La semana pasada, 'El Mundo' avanz? que la administraci?n ultimaba adjudicar a ambas entidades la creaci?n del sello nacional que servir? para certificar un desarrollo seguro, ético y de calidad de la*IA*en el pa?s. Su oferta asciende a 1,64 millones de euros y es la m?s bien vista por Madrid, seg?n los*documentos de la licitaci?n (https://contrataciondelestado.es/wps/wcm/connect/810dbbbb-27ea-450f-996d-7b8f05400ae1/DOC20230512145951report_Exp2022EtL00040_informe_va loracion_sobre3_lote2_v04.pdf?MOD=AJPERES)*a los que también ha podido acceder este diario.
La*Secretar?a de Estado de Digitalizaci?n e Inteligencia Artificial*(SEDIA), dependiente del Ministerio de Asuntos Econ?micos y Transformaci?n Digital, ha confirmado a este diario que ha utilizado "un contrato de servicios" para externalizar en Deloitte y OdiseIA el encargo de fijar los criterios técnicos y desarrollar las herramientas para que las empresas espa?olas puedan obtener un sello que "avalar? la calidad de los*algoritmos, siempre de forma voluntaria". Adem?s, y no es menor, ambas organizaciones asesorar?n al Gobierno con recomendaciones sobre la configuraci?n de la AESIA –que estar?*situada en A Coru?a– y su equipo supervisor.
Zorros vigilando el gallinero
Distintas organizaciones civiles han denunciado que la administraci?n haya confiado en dos empresas externas para desarrollar este organismo p?blico pionero. "Se habla mucho de una IA ética, pero se termina recurriendo a las empresas que desarrollan esa tecnolog?a para que también implementen su regulaci?n", critica Judith Membrives i Llorens, técnica de incidencia en digitalizaci?n en*Lafede.cat (https://www.lafede.cat/ca/).
Para esos colectivos, la elecci?n de Deloitte y OdiseIA es como poner zorros a vigilar el gallinero. La empresa de*auditor?a, una de las m?s grandes del mundo, tiene alianzas con proveedoras de servicios de IA como Google, Oracle o SAP, seg?n indica su propia*p?gina web (https://www.deloitte.com/an/en/alliances.html). "En democracia todos deber?amos poder auditar la IA y no que quede en manos de alguien que cobra de la misma empresa a la que audita. Esta forma de enfocar la gobernanza es muy peligrosa para los derechos humanos", lamenta Simona Levi, fundadora de*Xnet (https://xnet-x.net/es/).
Por otro lado, OdiseIA es una*asociaci?n sin ?nimo de lucro (https://www.odiseia.org/)*que, asegura, "vela por el uso responsable" de esta tecnolog?a. Entre sus socios, entre los que también hay miembros de la sociedad civil, figuran auditoras como PwC o la misma Deloitte, pero también grupos como el consorcio de la industria espa?ola IndesIA, formado por gigantes como*Telef?nica, Repsol, Navantia, Airbus o*Microsoft*(que*ha invertido m?s de 11.000 millones*de d?lares en OpenAI para integrar el popular*ChatGPT*a sus servicios). Su presidenta,*Idoia Salazar, remarca a EL PERI?DICO que OdiseIA es "totalmente independiente" y que aunque sus socios realizan aportaciones econ?micas para garantizar el mantenimiento de la asociaci?n "no tienen ning?n tipo de repercusi?n ni en el comité estratégico ni en ning?n otro tema".
Privatizar servicios p?blicos
Las organizaciones civiles consultadas denuncian el "ninguneo" del Gobierno y lo que ello puede suponer a efectos pr?cticos para la sociedad. "Desconfiamos de que Deloitte y OdiseIA sienten las bases de la regulaci?n de la IA en Espa?a porque eso marcar? mucho lo que se entiende por impacto social,*discriminaci?n*o transparencia", apunta Javier S?nchez Monedero, investigador en IA en la Universidad de C?rdoba y miembro de*Algorace (https://algorace.org/). "Hay una falta de pluralidad clara: la mayor?a de voces vienen del sector privado y no de movimientos feministas o antirracistas que pueden aportar otras visiones para resolver*problemas de*sesgos*ya existentes", a?ade Membrives.
La adjudicaci?n también ha despertado malestar entre empleados del Estado, que denuncian que se contrate a una consultora para externalizar un proyecto que podr?a ser desarrollado por expertos internos. "Los funcionarios tecnol?gicos de la Administraci?n General del Estado estamos de funeral. Externalizan el conocimiento y nos se?alan como in?tiles",*ha lamentado (https://twitter.com/joseche_jagg/status/1659538730867126275)*José Antonio Garc?a, subsecretario del Ministerio de Consumo, en Twitter.
Para Levi, esa realidad apunta hacia un problema mayor. "Cada vez hay funcionarios con competencias digitales porque no se invierte en actualizar ese perfil interno, sino en privatizar los servicios p?blicos, un fracaso absoluto. Tiramos el dinero fuera y no permitimos instituciones que estén a la altura. Que la administraci?n no tenga competencias digitales es una l?gica suicida".
أكثر... (https://www.sport.es/es/noticias/sociedad/expertos-denuncian-apuesta-gobierno-deloitte-87825027)