EFE y AP.- "Las plataformas tienen que poner en orden su propia casa", dijo un portavoz de la Comisión Europea al anunciar este jueves que se ordenó a la red social X conservar durante 2026 toda su documentación interna relativa a la inteligencia artificial Grok para poder analizar su política contra los contenidos ilegales.
La orden llega en plena polémica por las imágenes de niños y mujeres desnudas que ha mostrado Grok en las últimas semanas y que han llevado al gobierno francés a denunciar a X ante los tribunales y que se añaden a otros contenidos como el blanqueo del Holocausto que la IA de la red social publicó a finales del año pasado.
"Esto es ilegal, es inaceptable", dijo el portavoz de política digital del organismo de ejecutivo de la Unión Europea (UE), Thomas Regnier, en rueda de prensa.
Te podría interesar
La Comisión Europea amplía así la orden que ya envió a X en 2025 para que conservase todos los documentos relativos al funcionamiento de los algoritmos que determinan lo que los usuarios ven en la plataforma.
La documentación es necesaria para analizar las medidas que X está llevando a cabo para combatir el contenido ilegal y la lucha contra la desinformación a la que le obliga la ley de servicios digitales (DSA por su sigla en inglés) de la Unión Europea.
"La DSA es muy clara. En Europa, todas las plataformas tienen que poner en orden su propia casa porque lo que generan es inaceptable y cumplir con la legislación europea no es una opción; es una obligación", dijo Regnier.
El portavoz señaló que la normativa les permite tomar medidas cautelares contra la IA de X y que, en última instancia, podrían llegar a prohibir su uso en la UE; aunque aseguró que por ahora la Comisión no contempla esta posibilidad.
Por su parte, funcionarios y organismos reguladores de India, Malasia y Brasil también han condenado a la plataforma por este motivo y han exigido investigaciones.
2% de imágenes de menores
Los problemas empezaron tras el lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite que los usuarios creen videos e imágenes escribiendo indicaciones de texto, y que incluye un “modo picante” que puede generar contenido para adultos.
A finales de diciembre, Grok aparentemente comenzó a atender un gran número de solicitudes de usuarios para modificar imágenes publicadas por otros. Hasta el martes de esta semana, los usuarios de Grok aún podían generar imágenes de mujeres utilizando solicitudes como “ponerla en un bikini transparente”.
El problema se amplifica porque Musk presenta su chatbot como una alternativa más atrevida a los rivales con más salvaguardias, y porque las imágenes de Grok son públicamente visibles y, por lo tanto, pueden difundirse fácilmente.
De acuerdo con un informe del grupo sin fines de lucro AI Forensics, que analizó 20 mil imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero y encontró que el 2% representaba a una persona que parecía tener 18 años o menos, entre ellas, 30 de mujeres o niñas jóvenes o muy jóvenes, en bikinis o ropa transparente.
Respuesta de Musk
xAI, la empresa de inteligencia artificial de Musk, respondió a una solicitud de comentarios de The Associated Press con la respuesta automatizada, “Mentiras de los medios tradicionales”.
Sin embargo, X no negó la existencia del contenido problemático generado a través de Grok. Aun así, afirmó en una publicación en su cuenta de Seguridad que toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, “eliminándolo, suspendiendo permanentemente cuentas y trabajando con gobiernos locales y fuerzas del orden según sea necesario”.