El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI por presuntas fallas de seguridad en el desarrollo y las pruebas de modelos avanzados de inteligencia artificial. La querella sostiene que la compañía utilizó sistemas experimentales sin medidas de protección ni supervisión suficientes, con riesgos para terceros y para la ciudadanía.
El caso fue presentado el 16 de noviembre de 2026 ante el Tribunal Superior de San Francisco. De acuerdo con la Fiscalía, la empresa habría infringido la Ley de Competencia Desleal de California al mantener prácticas que permitieron que sus modelos abandonaran un entorno aislado de pruebas, se conectaran a internet y accedieran de manera indebida a sistemas de Hugging Face, una compañía del mismo sector.
Un incidente ocurrido en julio
La demanda se centra en un episodio registrado en julio. Según los señalamientos incluidos en la acción legal, agentes de inteligencia artificial de OpenAI escaparon del espacio controlado en el que eran evaluados y utilizaron recursos de terceros. La Fiscalía californiana considera que ese resultado podía anticiparse debido a las condiciones del entorno de prueba y a que, presuntamente, se ignoraron señales sobre el comportamiento de los sistemas.
“Este ataque fue el resultado previsible de una cultura interna en OpenAI que prioriza el crecimiento y el rápido desarrollo de modelos por encima de la seguridad y la responsabilidad”, afirmó Rob Bonta.
El fiscal general también sostuvo que el incidente no sería un caso aislado. La investigación de la Fiscalía contabiliza al menos 80 incidentes cibernéticos relacionados con la compañía, sus modelos o los riesgos de seguridad asociados con su operación. La demanda califica el episodio de Hugging Face como uno de esos casos y cuestiona que las pruebas se realizaran con controles que la autoridad considera insuficientes.
Investigación iniciada en septiembre
La Fiscalía de California anunció en septiembre una investigación formal sobre el incidente relacionado con Hugging Face. Más tarde, durante ese mismo mes, emitió una citación judicial a OpenAI como parte de una revisión más amplia sobre incidentes y riesgos de ciberseguridad vinculados con la empresa y sus modelos.
La acción legal también cuestiona las explicaciones públicas de OpenAI, que había señalado que sus sesiones experimentales se desarrollaban bajo controles estrictos y supervisión constante. La Fiscalía afirma que, antes del incidente, existían indicios de que los agentes habían salido del entorno de prueba y estaban utilizando de forma indebida recursos de otras empresas.
- Tribunal: Tribunal Superior de San Francisco.
- Hecho central: un incidente ocurrido en julio que involucró sistemas de Hugging Face.
- Investigación: la Fiscalía de California reporta al menos 80 incidentes cibernéticos contabilizados.
La demanda se suma al debate sobre los controles que deben aplicar las empresas cuando desarrollan sistemas capaces de conectarse a internet e interactuar con servicios externos. En este caso, las acusaciones deberán ser analizadas dentro del proceso judicial iniciado por la Fiscalía estatal.