Expertos exigen que gobiernos regulen a gigantes de IA con responsabilidad estricta

Un panel liderado por Kate Brennan, del AI Now Institute, advierte que la expansión masiva de la IA exigirá ingresos de 6 billones de dólares anuales para 2031 y pide normas de responsabilidad estricta semejantes a las de fármacos y aviación.

Un grupo de especialistas en política tecnológica, encabezado por Kate Brennan, ex ingeniera de Google y responsable de la agenda de IA y poder corporativo en el AI Now Institute, ha alertado a los gobiernos de América Latina y España sobre la magnitud del riesgo que implica la carrera desenfrenada de las grandes compañías de inteligencia artificial. Según el último informe de la consultora Bain, para 2031 el sector necesitará generar alrededor de 6 billones de dólares de facturación anual con el fin de sostener un gasto de capital de 1,5 billones de dólares al año. Esa presión financiera obliga a los actores del mercado a introducir la tecnología en cualquier ámbito, incluso en sectores donde aún no existe una base de seguridad o de idoneidad.

El reto financiero de la IA y sus implicaciones para la regulación

El número citado por Bain no es sólo una cifra de mercado; es una señal de que las empresas de IA están dispuestas a financiar proyectos de gran escala sin que exista una evaluación rigurosa de su impacto. La necesidad de “llenar” los ingresos obliga a los gigantes a vender soluciones de IA a gobiernos, hospitales, escuelas y servicios públicos, a menudo bajo contratos que no contemplan garantías de seguridad. Brennan argumenta que este modelo de negocio genera una forma de «negligencia corporativa» que debe ser abordada antes de que los sistemas se conviertan en parte esencial de la infraestructura pública.

Responsabilidad estricta — un modelo de regulación probado

«Los gobiernos deben detener productos dañinos antes de que entren al mercado, al igual que lo hacen con los fármacos y los aviones», declaró Kate Brennan.

El concepto de responsabilidad estricta implica que una empresa puede ser considerada responsable de los daños causados por su producto, independientemente de que haya sabido o no del riesgo. En la industria farmacéutica y la aeronáutica, esa regla ha permitido retirar del mercado medicamentos o aviones defectuosos sin necesidad de demostrar culpa previa. Aplicar el mismo principio a la IA significaría que, si un algoritmo provoca lesiones, pérdidas financieras graves o vulneraciones de ciberseguridad, la compañía podría ser sancionada sin que el daño haya sido previsible.

Impacto en Latinoamérica y España — desafíos y oportunidades

Los países de la región comparten una combinación de alta adopción tecnológica y marcos regulatorios todavía en desarrollo. En México, Brasil y Argentina, los gobiernos están impulsando iniciativas de IA para mejorar la atención sanitaria y la gestión de recursos, pero carecen de normas claras que limiten la exposición a riesgos sistémicos. España, por su parte, ha avanzado en la Estrategia Nacional de IA, pero aún no ha definido un régimen de responsabilidad que obligue a los proveedores a garantizar la seguridad por diseño.

• Los sistemas de IA en la salud pública pueden acelerar diagnósticos, pero también amplificar errores si no se validan con estándares clínicos.
• En la administración pública, la automatización de procesos de contratación o de asistencia social puede generar sesgos discriminatorios sin una supervisión adecuada.
• Las empresas locales que desarrollan soluciones de IA corren el riesgo de quedar excluidas si los grandes proveedores internacionales no cumplen con requisitos de responsabilidad.

Implementar una normativa de responsabilidad estricta ofrecería a los gobiernos una herramienta para exigir auditorías independientes, certificaciones de seguridad y planes de mitigación antes de la puesta en producción.

Qué pasos concretos pueden tomar los gobiernos y la industria

El panel propone una hoja de ruta que combina medidas legislativas y autorreguladoras:

• Crear un registro obligatorio de todos los sistemas de IA de alto riesgo que se desplieguen en el sector público.
• Exigir certificaciones de seguridad y pruebas de robustez antes de la contratación, similares a los ensayos clínicos de fármacos.
• Establecer un régimen de responsabilidad estricta que permita a las autoridades retirar o sancionar productos que causen daño significativo, sin necesidad de demostrar culpa previa.
• Fomentar la creación de laboratorios de pruebas independientes, financiados en parte por fondos públicos y privados, para validar algoritmos antes de su adopción masiva.
• Promover la transparencia en los modelos de negocio, obligando a las empresas a revelar los costos de capital y los criterios de rentabilidad que impulsan la expansión de la IA.

En el contexto latinoamericano, la colaboración regional para compartir estándares y resultados de auditorías podría reducir costos y acelerar la adopción de buenas prácticas. En España, la integración de estos requisitos en la Estrategia Nacional de IA reforzaría la confianza de los ciudadanos y permitiría a la industria local competir bajo reglas claras.

El consenso del panel es claro: la regulación de la IA no puede limitarse a discursos abstractos sobre “riesgos futuros”. Debe centrarse en la negligencia corporativa concreta, establecer responsabilidades legales definidas y crear mecanismos de control que operen antes de que los sistemas entren en la vida cotidiana.

Perspectiva para el futuro inmediato

Si los gobiernos adoptan rápidamente un marco de responsabilidad estricta, se generará un entorno donde la innovación compita con la seguridad, obligando a los gigantes de IA a invertir en pruebas y auditorías antes de escalar sus productos. En el corto plazo, los legisladores de México, Chile, Colombia y España podrían presentar proyectos de ley inspirados en los modelos de farmacovigilancia y certificación aeronáutica, creando una base legal que sirva de referencia a nivel global. En ausencia de esas medidas, la presión financiera descrita por Bain seguirá impulsando una expansión descontrolada, con el riesgo de que fallos de IA se conviertan en incidentes de gran escala que afecten a millones de usuarios.