EFE.- Este sábado, Indonesia bloqueó el acceso a Grok por considerar que la creación de imágenes sexuales falsas sin consentimiento de las personas agraviadas representa "una violación grave de los derechos humanos".
La medida fue tomada después de que la herramienta de inteligencia artificial (IA) vinculada a la red social X fuera usada para generar y distribuir imágenes sexuales creadas por el chatbot Grok, manejado por la compañía xAI, de acuerdo con un comunicado del Ministerio de Comunicación y Asuntos Digitales de Indonesia.
De acuerdo con el escrito, la decisión fue tomada "para proteger a las mujeres, los niños y a toda la comunidad de los riesgos del contenido pornográfico falso generado mediante tecnología de inteligencia artificial".
Te podría interesar
En este sentido, el gobierno de Prabowo Subianto ha solicitado a X, que tiene unas 25 millones de cuentas registradas en Indonesia, "que proporcione de inmediato una aclaración con respecto a los impactos negativos del uso de Grok".
Por su parte, la agencia pública indonesia Antara agregó, citando fuentes gubernamentales, que se le ha exigido a la empresa de Elon Musk "detallar medidas de mitigación" y "técnicas concretas para prevenir futuros usos indebidos".
El ministerio de Comunicación "enfatizó que, si bien el bloqueo es temporal, el futuro de Grok en Indonesia —uno de los mercados de redes sociales más grandes del mundo— depende completamente de la disposición de la plataforma a implementar filtros de contenido estrictos y estándares éticos de inteligencia artificial", añadió Antara.
Seguimiento a las imágenes sexualizadas
La suspensión en Indonesia, el país con la mayor población musulmana del mundo, se anuncia un día después de que X limitase a usuarios de pago el uso de Grok para editar imágenes, tras días de denuncias por el hecho de que esta IA accediera a peticiones de los usuarios para alterar imágenes de otras personas y desnudarlas sin consentimiento.
Esto implicará que el nombre y la información de pago del usuario estarían asociados a la imagen alterada sea del tipo que sea.
"Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal", ha señalado Musk en X.
Grok es una herramienta gratuita que permitía a los usuarios subir y editar fotos, y que ha atendido peticiones de usuarios para editar imágenes de mujeres y de hombres y mostrarlos en bikini o sin ropa, lo que ha desatado una fuerte oleada de denuncias y quejas.