AP.- Este lunes, la Unión Europea abrió una investigación formal a X, la plataforma de redes sociales de Elon Musk, después de que su chatbot de inteligencia artificial (IA), Grok, generara y difundiera en la plataforma imágenes sexualizadas no consensuadas.
Los reguladores de la Comisión Europea también ampliaron una pesquisa separada y que estaba en curso sobre los sistemas de recomendación de X, después de que la plataforma anunciara que cambiará al sistema de IA de Grok para elegir qué publicaciones ven los usuarios.
El escrutinio de la UE se produce luego que Grok provocara una reacción global al permitir a los usuarios, a través de sus herramientas de IA de generación y edición de imágenes, producir imágenes con los rostros de personas reales pero con ropa transparentes o reveladora. Los investigadores dijeron que algunas imágenes parecían incluir a menores.
Te podría interesar
"Las deepfakes sexuales no consensuadas de mujeres y niños son una forma violenta e inaceptable de degradación", sostuvo Henna Virkkunen, vicepresidenta ejecutiva de la Comisión, brazo ejecutivo de la UE, compuesto por 27 naciones.
"Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales bajo la DSA (Ley de Servicios Digitales) o si ha tratado los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio", añadió Virkkunen, quien supervisa la soberanía tecnológica, la seguridad y la democracia.
"Tolerancia cero", dice X
En respuesta a una solicitud de comentarios, una portavoz de X dirigió a The Associated Press a una declaración anterior en la que la compañía afirma que sigue "comprometida a hacer de X una plataforma segura para todos" y que tiene "tolerancia cero" para la explotación sexual infantil, la desnudez no consensuada y el contenido sexual no deseado.
La declaración de X del 14 de enero también afirmaba que dejaría de permitir a los usuarios representar a personas en "bikinis, ropa interior u otra vestimenta reveladora", pero sólo en lugares donde sea ilegal.
La empresa de inteligencia artificial de Musk, xAI, lanzó la herramienta de imágenes de Grok el verano pasado. Sin embargo, el problema empezó a agravarse a finales del mes pasado, cuando Grok aparentemente accedió a un gran número de solicitudes de usuarios para modificar imágenes publicadas por otros.
El problema aumentó porque, por un lado, Musk presenta su chatbot como una alternativa más innovadora con menos protecciones que sus competidores, y por otro porque las respuestas de Grok en X son visibles públicamente y, por lo tanto, pueden difundirse con facilidad.
La investigación de la UE cubre sólo el servicio de Grok en X, y no el sitio web de Grok ni la aplicación independiente. Eso se debe a que la DSA se aplica sólo a las plataformas en línea más grandes.
No hay un plazo para que el bloque resuelva el caso, que podría terminar con X comprometiéndose a cambiar su comportamiento o con una multa considerable.