Reuters.- Este lunes, el estado de Florida en EU demandó a OpenAI y a su CEO Sam Altman señalándolos de falsear la seguridad de su plataforma ChatGPT, destacando que la empresa ha perjudicado a los niños al dar información a autores de tiroteos en centros educativos, ofrecer orientación sobre autolesiones y crear adicción entre los usuarios jóvenes.
Florida se convierte así, y tras una investigación previa iniciada a principios de abril, en el primer estado de la Unión Americana en emprender acciones legales contra la empresa.
El fiscal general de Florida, James Uthmeier, presentó la demanda ante un tribunal estatal de Florida. En ella se citaba un tiroteo ocurrido el año pasado en una universidad de Tallahassee y una serie de sucesos en otros estados en los que ChatGPT supuestamente proporcionó información a personas que posteriormente cometieron actos violentos.
Te podría interesar
En una rueda de prensa, Uthmeier afirmó que el estado había nombrado personalmente a Altman porque había sido "fundamental" a la hora de impulsar algunas de las funciones de ChatGPT que, según dijo, habían sido las más perjudiciales.
"Hay personas que están resultando heridas, los padres están siendo engañados, y ellos (en referencia a Altman y su equipo) deben pagar por ello", declaró Uthmeier a periodistas.
La demanda reclama una indemnización de hasta miles de millones de dólares, según Uthmeier, además de una orden judicial que obligue a la empresa a cambiar la forma en que interactúa con los usuarios jóvenes.
Un portavoz de OpenAI no respondió de inmediato a una solicitud de comentarios.
Oleada de demandas a la inteligencia artificial
OpenAI ha afirmado que entrena a sus modelos para que rechacen solicitudes que puedan "facilitar de manera significativa la violencia", y notifica a las fuerzas del orden cuando las conversaciones sugieren "un riesgo inminente y creíble de daño a terceros", con la ayuda de expertos en salud mental para evaluar los casos dudosos.
Uthmeier anunció en abril que iba a iniciar una investigación penal sobre el papel de ChatGPT en un tiroteo masivo ocurrido en 2025 en la Universidad Estatal de Florida, después de que los fiscales revisaran los registros de chat entre el presunto autor de los disparos y el programa.
Las empresas de IA se enfrentan a una creciente oleada de demandas que las acusan de no haber impedido interacciones con chatbots que, según los demandantes, contribuyen a la autolesión, las enfermedades mentales y la violencia.