EFE y Reuters.- El fiscal general de California, Rob Bonta, abrió este miércoles una investigación contra xAI, la empresa de inteligencia artificial de Elon Musk, por la proliferación de material sexualmente explícito no consensual producido con Grok, el chatbot de la empresa.
Por su parte, el magnate comentó este mismo miércoles más temprano que no tenía conocimiento de ninguna "imagen de menores desnudos" generada por el chatbot Grok de xAI, a pesar de que Grok admitió la publicación el viernes pasado y que se debían fallas en su propio funcionamiento.
"La avalancha de informes que detallan el material sexualmente explícito y no consensual que xAI ha producido y publicado en línea en las últimas semanas es impactante", informó la fiscalía de California en un comunicado.
Te podría interesar
Bonta explicó que usuarios de Grok "toman imágenes comunes de mujeres y niños disponibles en internet y las utilizan para representarlas en situaciones sugerentes y sexualmente explícitas, desnudándolas, todo ello sin su conocimiento ni consentimiento".
Las imágenes generadas por el chatbot de X "se están utilizando para acosar tanto a figuras públicas como a usuarios comunes de redes sociales. Lo más alarmante es que los informes periodísticos han descrito el uso de Grok para alterar imágenes de niños con ropa mínima y en situaciones sexuales", agregó.
Ante esta situación, la fiscalía de California instó a Musk a tomar "medidas inmediatas para garantizar que esto no vaya más allá".
"No tengo conocimiento": Elon Musk
"No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente cero", dijo Musk en un post de X.
El comentario de Musk se produjo horas antes de que se diera a conocer la investigación de la fiscalía de California y en un momento en que xAI y X se enfrentan a una serie de reclamos, como que Apple y Google retiren Grok a de las tiendas de aplicaciones, investigaciones gubernamentales y prohibiciones o acciones legales en países como Reino Unido e Indonesia.
Musk reiteró que Grok está programado para rechazar solicitudes ilegales y debe cumplir las leyes de cualquier país o estado. "Obviamente, Grok no genera imágenes de forma espontánea, sólo lo hace según las peticiones de los usuarios", destacó.
Musk ya había dicho en X que cualquiera que utilizara Grok para crear contenido ilegal sufriría las mismas consecuencias que si subiera contenido ilegal.
En el Reino Unido, la ley va a cambiar esta semana para penalizar la creación de este tipo de imágenes, y el primer ministro Keir Starmer dijo este mismo miércoles que X está trabajando para cumplir las nuevas normas.
Países como Malasia e Indonesia ya han bloqueado el acceso a Grok y han emprendido acciones legales contra X y la unidad de IA de Musk, xAI, alegando fallos en la prevención de contenidos nocivos y la protección de los usuarios.