Florida pide a un tribunal frenar nuevos modelos de OpenAI sin supervisión externa

FLORIDA. — El fiscal general de Florida, James Uthmeier, pidió a un tribunal estatal que impida temporalmente a OpenAI desarrollar nuevos modelos de inteligencia artificial sin mecanismos de seguridad sometidos a supervisión externa, ampliando la ofensiva judicial iniciada por el estado contra la empresa creadora de ChatGPT.

La solicitud fue presentada el lunes 28 de septiembre ante el Tribunal del Décimo Circuito Judicial de Florida, en el condado de Highlands, como parte de una demanda presentada originalmente en junio contra OpenAI y su director ejecutivo, Sam Altman.

La medida solicitada no ha sido concedida hasta ahora, por lo que OpenAI no está actualmente sometida a una prohibición judicial de desarrollar nuevos modelos como consecuencia de esta petición.

Florida busca una medida cautelar mientras continúa el litigio.

¿Qué quiere prohibir Florida?

La solicitud de Uthmeier va más allá del desarrollo de nuevos modelos.

Florida pide al tribunal que impida a OpenAI desarrollar nuevos sistemas sin medidas de seguridad aprobadas por terceros y que restrinja el acceso de menores a ChatGPT.

El fiscal general también quiere impedir que el chatbot utilice determinadas características que puedan hacerlo parecer humano y que OpenAI promocione ChatGPT como seguro, preciso o confiable bajo las circunstancias cuestionadas por el estado.

La petición también plantea restricciones relacionadas con la recopilación de información de menores de 13 años sin determinadas protecciones parentales.

Estas son solicitudes de Florida al tribunal y no órdenes judiciales actualmente vigentes.

Florida acusa a OpenAI de perjudicar a menores

La disputa se remonta al 1 de junio, cuando Florida presentó una demanda contra OpenAI.

El estado acusa a la compañía de haber tergiversado la seguridad de ChatGPT y sostiene que el producto ha causado daños, particularmente entre menores y usuarios vulnerables.

Entre las acusaciones presentadas por Florida aparecen casos en los que, según el estado, ChatGPT habría proporcionado información relacionada con violencia, autolesiones y otros comportamientos peligrosos. Florida también acusa a la compañía de diseñar características capaces de fomentar una dependencia excesiva entre usuarios jóvenes.

Esas afirmaciones constituyen alegaciones de la demanda y todavía deben ser evaluadas por el tribunal.

El tiroteo de Florida State University aparece en el caso

La demanda estatal también hace referencia al tiroteo ocurrido el 17 de abril de 2025 en Florida State University, en Tallahassee.

Las autoridades identificaron a Phoenix Ikner como el acusado del ataque que dejó dos personas muertas y varias heridas.

El estado sostiene que Ikner había utilizado ChatGPT para solicitar información relacionada con armas, municiones y otros elementos vinculados con la planificación de violencia en el campus. La familia de una de las víctimas también ha presentado por separado una demanda federal contra OpenAI.

La inclusión de esos hechos en las demandas no equivale a una determinación judicial de responsabilidad de OpenAI.

OpenAI responde

OpenAI ha señalado que está dispuesta a trabajar con Florida y otros gobiernos para desarrollar políticas de seguridad aplicables a toda la industria.

La compañía también indicó que ha pausado parte del entrenamiento de sus modelos más avanzados mientras implementa medidas adicionales de seguridad.

La decisión de Florida llega precisamente en momentos en que OpenAI enfrenta nuevas preguntas sobre el comportamiento de sistemas avanzados.

La compañía detuvo temporalmente el entrenamiento de algunos de sus modelos después de reportes sobre agentes de inteligencia artificial que actuaron de maneras no previstas durante interacciones con sitios web gubernamentales. OpenAI ha dicho que el desarrollo se reanudará cuando existan salvaguardas adicionales.

Una batalla sobre quién debe supervisar la IA

La solicitud de Florida podría convertirse en un caso relevante para determinar hasta dónde pueden llegar los estados al intentar regular el desarrollo de inteligencia artificial.

La medida solicitada tendría efecto en Florida y condicionaría el desarrollo de nuevos modelos de OpenAI a la existencia de mecanismos independientes de seguridad, según la petición descrita en documentos y reportes sobre el caso.

El litigio también plantea cuestiones sobre el acceso de menores a los chatbots, la forma en que estos sistemas se presentan ante los usuarios y las obligaciones que podrían imponerse a las compañías antes de desarrollar o distribuir modelos más avanzados.

Por ahora, esas cuestiones permanecen ante el tribunal.

Florida ha solicitado una intervención judicial amplia sobre el desarrollo y funcionamiento de ChatGPT, pero las restricciones todavía no han sido concedidas. El siguiente paso dependerá de la respuesta de OpenAI y de la decisión del tribunal sobre la petición de medida cautelar mientras continúa la demanda principal.

–

Esta noticia es posible gracias a Kanner & Pintaluga, abogados especializados en lesiones personales, daños a la propiedad y reclamos por huracanes.

Llámalos al 1-888-BUFETE (1-888-283-3831).

Visita:

hurricanedamage.com

kpattorney.com

¡Están listos para ayudarte!