¿Puede un chatbot ser responsable de una tragedia? El estado de Florida cree que sí y ha decidido llevar a los tribunales a OpenAI y a su CEO, Sam Altman, en una demanda histórica. El argumento principal es que ChatGPT ha contribuido a varios incidentes violentos, incluyendo tiroteos masivos y suicidios, mientras la empresa priorizaba beneficios sobre la seguridad.
Un caso sin precedentes en EE.UU.
Esta no es una demanda más. Es la primera demanda a nivel estatal contra OpenAI en todo el país, y su alcance es enorme. Según el Fiscal General de Florida, James Uthmeier, la empresa y Altman «ignoraron advertencias de seguridad internas y externas, pusieron a los niños en gran riesgo y permitieron que un producto peligroso llegara a millones de floridanos».
La demanda de 83 páginas es despiadada. Acusa a OpenAI de construir una «red de engaño» y de elegir «la carrera de la IA por encima de la seguridad de nuestros niños». La retórica es fuerte, pero los alegatos concretos son aún más impactantes.
«Sam Altman y ChatGPT han elegido la carrera de la IA por encima de la seguridad y la seguridad de nuestros niños. Han elegido el beneficio sobre la seguridad pública, y no vamos a tolerarlo aquí en Florida. Así que los haremos responsables», dijo Uthmeier en una conferencia de prensa.
El centro de la tormenta: tiroteos y suicidios
La investigación criminal del estado, iniciada en abril, se centra en determinar el papel de ChatGPT en el tiroteo masivo del año pasado en la Universidad Estatal de Florida. El presunto autor habría consultado al chatbot antes del ataque. Además, el expediente cita el asesinato de dos estudiantes de doctorado de la Universidad del Sur de Florida, donde el sospechoso supuestamente le preguntó a ChatGPT sobre la eliminación de cuerpos humanos.
Pero ahí no termina. La demanda vincula a la IA con más tragedias. El año pasado, OpenAI fue demandada por los padres de Adam Raine, un adolescente de California que murió por suicidio después de discutirlo con el chatbot, que supuestamente ofreció «especificaciones técnicas» para varios métodos, a pesar de también referirlo a recursos de salud mental.
La defensa de OpenAI: «Protecciones líderes en la industria»
OpenAI se ha defendido con contundencia. En un comunicado a la BBC, la empresa afirmó: «Perder a un hijo es la tragedia más devastadora que le puede pasar a una familia y sabemos que ninguna palabra puede acercarse a abordar el dolor de tal pérdida.»
La compañía insiste en que ha tomado medidas: «Creemos que los menores necesitan una protección significativa, por lo que hemos establecido protecciones y políticas líderes en la industria». Señalan herramientas como su sistema de detección de edad y otras formas para que los padres supervisen el uso de la IA por parte de sus hijos.
Sobre el tiroteo en Florida, un portavoz fue claro: «El tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este terrible crimen».
Un tsunami legal para la IA
El caso de Florida no está solo. Es parte de una tendencia creciente. OpenAI ya se enfrenta a una serie de demandas que atacan sus prácticas de seguridad, incluidos casos que alegan que ChatGPT actuó como un «entrenador de suicidio» y alimentó delirios dañinos.
Por ejemplo, familias de víctimas del tiroteo masivo de Tumbler Ridge en Canadá también demandaron a OpenAI, que prohibió la cuenta del sospechoso pero no alertó a las autoridades. La empresa se disculpó por no contactar a la policía, argumentando que la cuenta no cumplía con su umbral de un plan creíble o inminente para causar daño físico grave.
Un cambio en el panorama legal
Aquí está lo más importante: el terreno legal está cambiando. Las empresas tecnológicas han argumentado durante mucho tiempo que no son responsables del contenido generado por el usuario, pero los casos de responsabilidad por el diseño del producto parecen estar ganando terreno.
En marzo, Meta y Google fueron declaradas responsables por los daños causados a un demandante de 20 años que alegó que construyeron sus plataformas para ser adictivas a propósito. Esta victoria marcó un cambio notable.
Mientras tanto, las empresas de redes sociales, incluida Meta (propietaria de Instagram), Snap Inc, TikTok y YouTube de Google, también enfrentan una avalancha de demandas por supuestamente diseñar productos adictivos.
El contexto político: Florida vs. la Casa Blanca
La demanda tiene un trasfondo político claro. Tanto Uthmeier como el gobernador de Florida, Ron DeSantis, son republicanos que han frustrado a las empresas de IA, las cuales han disfrutado de un apoyo significativo del presidente de EE.UU., Donald Trump.
Florida ha resistido los esfuerzos de la administración Trump para obstaculizar la regulación de la IA por parte de los estados, y recientemente propuso una «Declaración de Derechos de la Inteligencia Artificial» para los ciudadanos, destinada a reforzar la privacidad de datos y proteger a los residentes de los impactos financieros negativos de los centros de datos.
¿Qué significa todo esto?
Este caso pionero de Florida es una señal de advertencia para toda la industria. Ya no se trata solo de moderar contenido; se trata de la responsabilidad por cómo se diseña y se lanza una herramienta poderosa al mundo. Mientras OpenAI defiende sus salvaguardas, los tribunales comenzarán a decidir si son suficientes. El futuro de la IA, y de quién responde cuando algo sale terriblemente mal, podría depender del resultado.









