Entre los usuarios de prácticamente todas las plataformas de redes sociales, la queja parece ser generalizada: eventualmente, éstas dejan sus propósitos iniciales de conectar a las personas y se “echan a perder” o, en otras palabras, se llenan de desinformación, de spam de Inteligencia Artificial (IA) y se polarizan.
Un nuevo estudio demuestra que esto no se debe a defectos sutiles de un algoritmo ni a la maldad de los diseñadores de las plataformas “sino a las funciones más básicas de las redes sociales: publicar, replicar y seguir”.
Petter Törnberg es el autor principal de la investigación publicada, de manera provisional y sin haber pasado por una revisión por pares, en el servidor ArXiv, y junto con su estudiante de maestría Maik Larooij diseñaron una plataforma de redes sociales a escala cuyos 500 usuarios serían generados por IA.
Te podría interesar
Cada usuario tenía un perfil basado en un ciudadano real, con características como edad, género, religión e inclinación política. Los perfiles fueron completados por alguna de las tres principales IAs de modelo de lenguaje extenso, ChatGPT, DeepSeek o Llama, que se encargaron de añadirle aficiones y una ocupación.
La simulación constó de 10 mil turnos, en los que uno de los usuarios virtuales, seleccionado al azar, podía publicar sobre noticias que le habían sido entregadas, replicar algo o seguir a otro usuario según su perfil.
“Esperábamos que tendríamos que esforzarnos mucho para lograr este efecto”, dijo Törnberg en entrevista con la revista Science. Pero, en cambio, “obtenemos esta red tóxica que se forma como resultado de acciones tan básicas como compartir y seguir”.
Independientemente del modelo de IA que generara los usuarios, "al final de la prueba, la plataforma se había convertido en una cámara de resonancia partidista, repleta de publicaciones ruidosas y extremistas que conseguían muchos seguidores", señala la publicación.
Pero los más desalentador, es que Törnberg y Larooij diseñaron seis intervenciones para solucionar la situación (como ordenar el feed de un usuario cronológicamente o ofrecer contenido del otro bando del espectro político), y las seis fracasaron.