España elevará a la Comisión Europea evidencias técnicas y documentales contra Grok para combatir la violencia digital

La Agencia Española de Supervisión de Inteligencia Artificial (AESIA), dependiente del Ministerio para la Transformación Digital y de la Función Pública, y el Instituto de las Mujeres, adscrito al Ministerio de Igualdad, elevarán a la Comisión Europea "evidencias técnicas y documentales" para contribuir a su investigación sobre Grok en X, en concreto, sobre la difusión de imágenes sexualmente explícitas manipuladas, incluidos los contenidos que pueden constituir material de abuso sexual de menores.

Así lo ha anunciado el ministro para la Transformación Digital, Óscar López, este jueves, durante la firma de una declaración institucional y un convenio de colaboración junto a la ministra de Igualdad, Ana Redondo, en el marco del acto 'Igualdad digital', celebrado con motivo del Día de la Mujer, que se celebra este domingo 8 de marzo.

Según se desprende de la declaración institucional sobre la protección de derechos fundamentales de la mujer y menores en un mundo generado por la Inteligencia Artificial, suscrita por ambos ministros, la AESIA "elevará la información disponible a la Comisión Europea y a la Oficina de IA europea a fin de compartir evidencias técnicas y documentales para contribuir de forma eficiente a sus investigaciones en el contexto del procedimiento contra X y su asistente virtual Grok".

Al mismo tiempo, el documento recoge que el Instituto de las Mujeres elevará un informe sobre la situación en España sobre los "riesgos" de este asistente virtual. En concreto, advierte de que el Observatorio de la Imagen de las Mujeres "ha recibido quejas vinculadas a las aplicaciones que como Grok transformaban imágenes de mujeres vestidas en representaciones sexualizadas son su consentimiento".

"Colaboración con Bruselas para los procedimientos que está siguiendo contra X y contra Grok. Todos sabemos lo que hoy está pasando. Hay personas que cogen vídeos de niñas, los suben a Grok y le piden que las desnuden", ha alertado el ministro Óscar López, durante el acto. "Hay empresas maravillosas en nuestro país que están utilizando la Inteligencia Artificial para investigar el Alzheimer o para usos sanitarios que son espectaculares, maravillosos, para eso tiene que ser la IA pero no para de desnudar a una niña de 13 años", ha insistido.

REDONDO: "LA IGUALDAD ES PAZ"
Por su parte, Redondo ha subrayado que "es un asunto grave" y ha apuntado que es "imprescindible poner límites, controles" porque actualmente "las reglas del juego están difusas". "La igualdad es paz, democracia y derechos humanos; avanzar en igualdad es avanzar en el respeto. España es un referente en protección de la igualdad, mujeres y feminismo. La violencia que se genera en lo digital se reproduce en la vida real. Si hemos avanzado en democracia analógica, tenemos que avanzar en democracia digital", ha remarcado la ministra de Igualdad.

Además, en la declaración suscrita, la AESIA y el Instituto de las Mujeres reconocen los esfuerzos de la Unión Europea y solicitan que siga liderando la lucha contra la violencia digital a la que se enfrentan mujeres y niñas en la red.

"La producción de un alto contenido misógino, sexista y de discursos de odio en las redes sociales obstaculiza y desalienta la participación y el liderazgo femenino, afectando gravemente a la calidad de nuestra democracia y a la igualdad de género. Estos abusos superan la esfera digital, afectando a la salud mental, silenciando a las mujeres y niñas para poder expresarse con libertad y provocando situaciones de acecho, violencia física e incluso la muerte", reza el texto.

Por otro lado, en cuanto al convenio suscrito por ambas entidades, establece un marco de colaboración que servirá para integrar la igualdad de género en todo el ciclo de supervisión y uso de la inteligencia artificial en España. Ambas entidades se comprometen a cooperar en la detección, prevención y corrección de los sesgos de género en sistemas de IA.

Según han precisado, esta coordinación permitirá reforzar la protección de los derechos fundamentales en el despliegue de sistemas de alto riesgo, así como asegurar que las decisiones automatizadas no generen discriminación. Por su parte, la AESIA alertará sobre sistemas de alto riesgo, compartirá documentación, organizará pruebas técnicas y formará a su personal en materia de igualdad.

El acuerdo también prevé acciones coordinadas para promover una cultura de IA ética y responsable y alineada con el principio de igualdad. Para ello, ambas partes impulsarán de forma coordinada acciones de sensibilización y formación, así como su participación conjunta en el Laboratorio de Ideas de AESIA para la elaboración de estudios e informes específicos, el diseño de acciones de participación ciudadana orientadas al diálogo, así como en eventos y talleres de discusión.

La iniciativa también contempla la creación de una Comisión de Seguimiento que garantizará la planificación y continuidad de estas actuaciones durante la vigencia del acuerdo.