España, Francia y Australia investigan Grok, la IA de Musk, por crear imágenes de niñas desnudas

Elon Musk ha vuelto a enfurecer a los reguladores de medio mundo. Grok, el chatbot de inteligencia artificial de su propiedad, está siendo utilizado por algunos de sus usuarios para generar cientos de imágenes falsas pero hiperrealistas en las que se desnuda sin consentimiento a sus protagonistas, entre ellos menores de edad, para mostrarlas vestidas solo con un bikini.

Este alud de contenido altamente sexualizado, que es ilegal, está circulando con cada vez más frecuencia en X, la red social controlada por el magnate tecnológico. Ante esa problemática, el Gobierno de España ha solicitado a la Fiscalía General del Estado que abra una investigación contra la plataforma anteriormente conocida como Twitter. En el escrito remitido por la ministra de Juventud e Infancia, Sira Rego, se alude a una sentencia de 2024 que condena a varias personas por usar IA para desnudar a niñas y adolescentes, una forma de violencia digital tipificada como delito de pornografía infantil y contra la integridad moral.

El mecanismo es sencillo. Grok, como otros modelos de IA generativa, permite generar imágenes. Sin embargo, ChatGPT, de OpenAI, o Gemini, de Google, tienen limitaciones para evitar su mal uso, mientras que Musk se jacta de que su aplicación no está capada y es "políticamente incorrecta". Eso permite que los usuarios, la mayoría de ellos hombres, puedan compartir fotos con el chatbot y solicitar que se desnude a sus protagonistas, sean de la edad que sean, o hacerlo con las imágenes que comparten otros.

Rego ha calificado estos hechos de "vulneración de derechos fundamentales". Antes de pronunciarse, fuentes del Ministerio de Justicia habían indicado a EL PERIÓDICO que para poder tomar cartas en el asunto necesitarían que la ley de protección de menores en el entorno digital impulsada por el Ejecutivo estuviese ya en vigor. Esta legislación tipifica como delito los deepfakes de contenido sexual.

Mujeres y niñas, principales víctimas

Mujeres y niñas están siendo, de nuevo, las principales víctimas de este negocio. Entre ellas, Ashley St. Clair, la madre separada de uno de los hijos de Musk, o una niña de tan solo 12 años. Grok no solo genera las imágenes, sino que las comparte públicamente en su perfil en X.

"Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal", aseguró Musk el pasado sábado. Sin embargo, el hombre más rico del mundo no parece haber tomado las medidas para limitar las prestaciones de la IA que posee para evitar que genere desnudos ilegales, pues estos siguen presentes en X. Además, Musk ha celebrado que Grok esté registrando su mayor tráfico histórico en decenas de países.

Investigaciones en todo el mundo

Esta problemática inquieta a legisladores de otros países como Estados Unidos, India, Francia o Australia, que ya han abierto investigaciones contra la empresa o han amenazado con tomar acciones para frenar la difusión de estas imágenes manipuladas, conocidas como deepfakes.

El pasado 2 de enero, París añadió este caso a la actual investigación sobre X. La fiscalía señaló entonces que el delito de desnudar a otros sin consentimiento se castiga con dos años de prisión y una multa de hasta 60.000 euros. La Comisión Europea afirmó el lunes que está "estudiando muy seriamente" las denuncias por un acto que tacha de "espantoso". "Esto no tiene cabida en Europa", indicó el portavoz de asuntos digitales de la Unión Europea (UE), Thomas Regnier.

Fuera del continente, el organismo regulador de la seguridad en línea de Australia abrió ayer una investigación contra ese uso violento de Grok tras recibir "varias denuncias". En EEUU, el Departamento de Justicia ha asegurado que enjuiciará con agresividad el material de abuso sexual infantil generado por IA mientras que senadores demócratas han denunciado que tanto la compañía de Musk como los usuarios que hagan ese mal uso deben ser responsabilizados.

Suscríbete para seguir leyendo