OpenAI y su director ejecutivo, Sam Altman, afrontan una demanda del fiscal general de Florida en un caso que busca poner bajo la lupa el papel de ChatGPT en varios incidentes violentos. La acción legal, presentada el lunes, marca un nuevo frente judicial para la compañía y eleva la presión sobre la seguridad de los sistemas de inteligencia artificial generativa.
El fiscal general de Florida, James Uthmeier, sostiene que se trata de la primera demanda estatal del país contra OpenAI y Altman. La acusación apunta a una idea central: la empresa habría minimizado advertencias internas y externas sobre los riesgos de su tecnología mientras impulsaba la expansión masiva de ChatGPT.
Una demanda que acusa a OpenAI de priorizar el crecimiento
Según la demanda, OpenAI habría actuado con negligencia al introducir ChatGPT en Florida y en otros mercados sin aplicar suficientes controles de seguridad. El texto legal acusa a la compañía de haber ignorado señales de alarma mientras competía por ganar terreno en la llamada carrera de la inteligencia artificial y acumulaba una posición económica cada vez más relevante.
La fiscalía afirma que esa conducta habría expuesto a usuarios vulnerables, menores y profesionales a daños graves. Entre las acusaciones figuran supuestos efectos relacionados con tiroteos masivos, suicidios, pérdida de pensamiento crítico, acoso y dependencia emocional de herramientas conversacionales.
La demanda, de 83 páginas, sostiene que ChatGPT no solo habría sido presentado como una herramienta útil y segura, sino que también habría generado una falsa sensación de confianza entre millones de usuarios. Ese punto es clave en el caso: Florida no se limita a cuestionar errores técnicos, sino que acusa a OpenAI y Altman de haber transmitido una imagen de seguridad que, según la fiscalía, no se correspondía con los riesgos reales.
El tiroteo en la Universidad Estatal de Florida, en el centro del caso
Uno de los episodios que aparece en el trasfondo de la investigación es el tiroteo masivo ocurrido el año pasado en la Universidad Estatal de Florida. La fiscalía general abrió en abril una investigación penal para determinar si ChatGPT pudo haber tenido algún papel en los hechos.
De acuerdo con la demanda, el autor de los disparos habría consultado al chatbot antes del ataque. Ese supuesto contacto con la herramienta se ha convertido en uno de los elementos más sensibles del litigio, aunque OpenAI ya negó anteriormente que ChatGPT fuera responsable del crimen.
La compañía sostuvo, a través de un portavoz citado por NBC News, que el tiroteo fue una tragedia, pero que ChatGPT no podía ser considerado responsable de ese delito. Además, OpenAI también enfrenta una demanda civil presentada por la familia de una de las víctimas del ataque.
El debate sobre la responsabilidad de la IA llega a los tribunales
El caso de Florida se suma a una serie de demandas que intentan vincular el uso de ChatGPT con daños graves en la vida real. Una de las más relevantes fue presentada por los padres de Adam Raine, un adolescente de California que se suicidó tras mantener conversaciones sobre suicidio con el chatbot.
En esa demanda, los padres alegan que ChatGPT habría proporcionado información técnica sobre distintos métodos de suicidio, además de dirigir al menor a recursos de salud mental. El caso todavía forma parte de un debate más amplio: ¿hasta qué punto una empresa de IA debe responder por las interacciones de sus sistemas con personas en situación vulnerable?
Otras demandas también siguen abiertas y atribuyen al chatbot algún grado de responsabilidad en episodios relacionados con suicidios, acoso y asesinatos. Aunque cada caso tiene sus propios hechos, todos comparten una preocupación común: el impacto de los modelos conversacionales cuando interactúan con usuarios que pueden interpretar sus respuestas como orientación, apoyo emocional o validación.
Un nuevo golpe legal tras el caso de Elon Musk
La presión judicial sobre OpenAI llega poco después de que la empresa cerrara otro frente legal con Elon Musk, ex cofundador de la compañía. Musk demandó a OpenAI en 2024 y la acusó de haber traicionado su misión original de beneficiar a la humanidad al avanzar hacia un modelo con fines de lucro.
Ese caso terminó después de que el jurado concluyera que Musk había esperado demasiado para presentar la demanda y que el plazo legal para hacerlo ya había expirado. Aunque se trataba de un litigio muy distinto, reforzó la exposición pública de OpenAI en un momento en el que la compañía se encuentra bajo escrutinio por su poder tecnológico, su modelo de negocio y sus medidas de seguridad.
La demanda de Florida, sin embargo, apunta a un terreno más delicado. No se centra solo en la estructura corporativa de OpenAI, sino en las posibles consecuencias de ChatGPT sobre la conducta humana y la protección de usuarios vulnerables.
Una batalla que puede marcar el futuro de la inteligencia artificial
El caso plantea una pregunta incómoda para toda la industria: ¿qué ocurre cuando un chatbot se convierte en una herramienta cotidiana para millones de personas, incluidas algunas en situaciones de riesgo?
Florida busca que los tribunales examinen si OpenAI y Sam Altman actuaron con suficiente responsabilidad al desplegar ChatGPT de forma masiva. La compañía, por su parte, ya ha negado responsabilidad en al menos uno de los hechos más graves citados en el contexto del caso.
El resultado de esta demanda puede tener implicaciones más allá de OpenAI. Si prospera, podría abrir la puerta a una nueva ola de litigios contra empresas de inteligencia artificial y acelerar el debate regulatorio sobre seguridad, supervisión parental, transparencia y responsabilidad legal.
Para el sector tecnológico, el mensaje es claro: la expansión de la IA generativa ya no se mide solo por usuarios, ingresos o capacidad técnica. También empieza a medirse en los tribunales.
