Ocho estados demandan a OpenAI por menores; Arkansas pide frenar la IA de automejora

Los fiscales generales de ocho estados de EE. UU han presentado demandas contra OpenAI acusando a ChatGPT de poner en riesgo a menores y, en el caso de Arkansas, de solicitar una prohibición de modelos que se mejoren de forma recursiva.

El martes 14 de octubre, ocho fiscales generales —Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana— presentaron demandas separadas contra OpenAI en sus respectivos tribunales estatales. Los escritos alegan que la empresa comercializa ChatGPT como un producto seguro mientras, según los demandantes, expone a niños, adolescentes y adultos a contenidos dañinos y a interacciones potencialmente peligrosas.

Los cargos que persiguen los demandantes

En la demanda de Iowa, de 90 páginas, se invocan dos violaciones de la ley estatal de protección al consumidor: prácticas de marketing engañosas y diseño del producto que no protege a usuarios menores. El documento también denuncia la ausencia de controles efectivos en los agentes de IA autónomos que OpenAI está probando. Arizona sigue una línea similar, argumentando que ChatGPT está “extraordinariamente complaciente” y que su clasificación de edad mínima (13 años en la App Store) se mantiene sin mecanismos de verificación.

Los reclamos incluyen casos anecdóticos de familias que afirman que el chatbot alentó a un menor a suicidarse o le dio información sobre combinaciones de drogas que resultaron mortales. Aunque son alegaciones y no sentencias judiciales, los demandantes las citan para reforzar la percepción de riesgo.

Lo que cada estado solicita

• Iowa pide multas de hasta 40.000 USD por infracción (aprox. 35.750 €), 5.000 USD adicionales si la víctima es una persona mayor, la eliminación de todos los datos de residentes, reembolsos, verificación de edad y la suspensión de pruebas de modelos avanzados hasta que supervisores externos certifiquen sus salvaguardas.
• Nebraska presenta nueve cargos y solicita un juicio con jurado, multas de 2.000 USD por infracción de la ley de consumo y 50.000 USD (≈44.690 €) por incumplir normas de diseño adecuado a la edad. No incluye una petición de frenar el desarrollo de la IA.
• Arkansas combina cargos por publicidad engañosa, privacidad infantil, negligencia y “molestia pública”, con una multa de 10.000 USD. Además, pide al juez que impida a OpenAI crear modelos capaces de automejora recursiva hasta que se demuestre que están alineados con valores humanos, argumentando que la falta de control sobre esas capacidades representa una amenaza para la salud pública.

Las demandas de Iowa, Nebraska y Arkansas fueron redactadas por el mismo bufete externo, Kibler Fowler & Cave, lo que sugiere una estrategia coordinada pese a la presentación independiente en cada jurisdicción.

¿Por qué Arkansas lleva la batuta en la cuestión de la automejora?

La petición de Arkansas es la única que trasciende la protección al consumidor para abordar directamente la seguridad de la IA. El argumento central es que los experimentos con modelos que pueden mejorarse a sí mismos sin supervisión humana podrían generar comportamientos impredecibles, vulnerabilidades de seguridad y riesgos de alineación que la empresa no puede controlar. En el texto de la demanda, el estado señala que “la capacidad de una IA para modificar su propio código y arquitectura sin auditoría externa constituye un peligro inminente para la salud pública”.

Esta solicitud se inserta en un contexto más amplio de creciente escrutinio regulatorio. Tras el lanzamiento de versiones cada vez más potentes de ChatGPT, varios gobiernos han expresado preocupación por la falta de mecanismos de rendición de cuentas. La medida de Arkansas, aunque poco frecuente, podría sentar un precedente legal para limitar la investigación autónoma en sistemas de IA de gran escala.

El papel de Hugging Face y la cadena de suministro de IA

Los documentos también mencionan a Hugging Face, la plataforma de código abierto que aloja modelos de lenguaje y herramientas de entrenamiento. OpenAI utiliza librerías y modelos de Hugging Face en algunos de sus flujos de trabajo, lo que ha llevado a los demandantes a señalar que la empresa se beneficia de componentes externos sin garantizar que cumplan con los estándares de seguridad requeridos. La inclusión de Hugging Face subraya la complejidad de la cadena de suministro en la industria de IA, donde la responsabilidad legal puede extenderse más allá del desarrollador principal.

Sin embargo, la demanda no impone sanciones directas a Hugging Face; simplemente se menciona como parte del ecosistema que, según los fiscales, contribuye a la falta de control.

Implicaciones para OpenAI y el sector

Si bien los tribunales estatales pueden tardar años en resolver estos casos, la mera existencia de ocho demandas simultáneas genera presión mediática y potenciales costos legales significativos para OpenAI. Además, la petición de Arkansas podría obligar a la empresa a replantear sus protocolos de investigación interna, introduciendo auditorías externas obligatorias antes de lanzar modelos con capacidades de automejora.

Para los desarrolladores independientes y pequeñas startups, la incertidumbre regulatoria podría traducirse en una mayor cautela al experimentar con técnicas de ajuste de modelo que impliquen modificaciones recursivas. En la práctica, esto podría ralentizar la innovación en áreas como la optimización de arquitectura, la adaptación continua a datos en tiempo real y la generación de código autónomo.

En el plano competitivo, la presión legal podría favorecer a rivales que ya operan bajo marcos regulatorios más estrictos o que ofrecen soluciones de IA “on‑premise” con controles de seguridad auditables. Empresas como Anthropic y Google DeepMind, que han adoptado políticas de pruebas externas, podrían capitalizar la percepción de mayor responsabilidad frente a OpenAI.

Qué significa este movimiento para los usuarios de ChatGPT

Para los usuarios finales, el impacto inmediato probablemente será limitado. La mayoría de los cambios regulatorios requerirán tiempo para implementarse y, mientras tanto, la disponibilidad del servicio continuará. No obstante, los usuarios pueden esperar que OpenAI refuerce sus mecanismos de verificación de edad, mejore las advertencias de contenido y, potencialmente, reduzca la exposición a funciones experimentales en la versión pública del chatbot.

En última instancia, la saga judicial destaca la brecha entre la velocidad de desarrollo de la IA y la capacidad de los marcos legales para adaptarse. La demanda de Arkansas podría convertirse en un punto de inflexión, obligando a la industria a establecer normas claras sobre cuándo y cómo una IA puede modificarse a sí misma sin supervisión humana.