Exige California un freno inmediato para IA: la orden del gobernador

El gobernador Gavin Newsom firmó una orden ejecutiva que obliga a los laboratorios de IA a instalar un «kill switch» y a someter sus modelos a auditorías independientes.

Más de 200 millones de usuarios en California utilizan herramientas de inteligencia artificial a diario, y el gobernador Gavin Newsom acaba de anunciar una medida sin precedentes: un mandato estatal que exige a las empresas de IA incorporar un botón de parada de emergencia y someter sus sistemas a auditorías externas. La orden ejecutiva, firmada el pasado lunes, establece un plazo de dos meses para que un panel de expertos entregue recomendaciones concretas.

¿Qué implica la orden ejecutiva?

La normativa obliga a los laboratorios que desarrollan modelos de gran escala a:

• Instalar un «kill switch» capaz de desactivar el modelo en caso de comportamiento inesperado.
• Permitir la inspección de sus procesos por auditores independientes designados por el estado.
• Reportar cualquier incidente que pueda comprometer la seguridad pública o la privacidad de los datos.

El objetivo, según el propio Newsom, es evitar que «una IA descontrolada cause daños antes de que la legislación federal actúe». La orden también reconoce que, por el momento, no existe una ley federal que obligue a las compañías a notificar incidentes peligrosos, lo que coloca a California a la vanguardia de la autorregulación tecnológica.

Contexto global: ¿estamos viendo una ola de regulaciones?

California no actúa en el vacío. La Unión Europea está avanzando con el Reglamento de IA (AI Act), que propone requisitos de transparencia y pruebas de seguridad para sistemas de alto riesgo. En Reino Unido, la Oficina del Comisionado de Información (ICO) ha publicado directrices sobre la gestión de riesgos de IA. China, por su parte, ya exige a sus gigantes tecnológicos que implementen mecanismos de control interno y auditorías de algoritmos.

Sin embargo, la propuesta californiana es singular por su énfasis en un «kill switch» físico, una herramienta que, de implementarse, podría servir de modelo para otras jurisdicciones que buscan una respuesta rápida ante fallos críticos.

Repercusiones en Latinoamérica y España

En Latinoamérica, la mayoría de los gobiernos todavía están elaborando marcos regulatorios básicos para la IA. Países como México y Chile han lanzado consultas públicas, pero carecen de instrumentos tan concretos como el propuesto por California. La medida podría inspirar a legisladores de la región a adoptar normas más estrictas, especialmente en sectores donde la IA se está integrando rápidamente, como la banca digital y la salud pública.

En España, la reciente Ley de Servicios Digitales y la estrategia nacional de IA ya contemplan la necesidad de auditorías de algoritmos, pero no incluyen un mecanismo de parada de emergencia. La orden de Newsom podría impulsar un debate en el Congreso sobre la viabilidad de adoptar un «kill switch» a nivel europeo, alineando la normativa con los estándares más rigurosos.

Desafíos técnicos y económicos

Implementar un botón de parada no es tan sencillo como parece. Los modelos de IA actuales, como los de gran escala (LLMs), operan en infraestructuras distribuidas que abarcan cientos de servidores. Desactivar un modelo sin perder datos críticos ni afectar a usuarios legítimos requerirá soluciones de ingeniería avanzadas, como sistemas de contención a nivel de hardware y software.

Además, las auditorías independientes supondrán un costo adicional para las empresas. Según estimaciones de analistas, el gasto en cumplimiento podría elevarse entre un 10% y 15% de los presupuestos de I+D en IA, lo que podría ralentizar la velocidad de innovación, al menos a corto plazo.

Reacciones del sector

Las grandes compañías de IA han respondido con cautela. Un portavoz de una de las principales empresas con sede en Silicon Valley indicó que «estamos evaluando la viabilidad técnica del kill switch y colaboraremos con las autoridades para asegurar que cualquier medida sea segura y no comprometa la disponibilidad del servicio». Al mismo tiempo, varios startups de IA han expresado su preocupación por los posibles retrasos en los lanzamientos de productos.

Organizaciones de derechos digitales, como la Electronic Frontier Foundation (EFF), han advertido que un «kill switch» podría convertirse en una herramienta de censura si no se define con claridad quién tiene la autoridad para activarlo.

💡 El panorama general: ¿Cómo nos afecta esto?

Para la sociedad, la medida representa un paso hacia una mayor responsabilidad de los desarrolladores de IA. Un mecanismo de parada podría evitar escenarios de daño masivo, como la generación de desinformación automatizada o decisiones críticas erróneas en sistemas de salud. Sin embargo, también plantea preguntas éticas sobre quién decide cuándo activar el interruptor y bajo qué criterios.

Desde el punto de vista económico, la regulación podría generar una bifurcación: empresas con recursos para cumplir podrían consolidar su posición, mientras que startups con menos capital podrían enfrentar barreras de entrada más altas. En el largo plazo, una normativa clara podría crear un mercado de servicios de auditoría y seguridad para IA, generando nuevas oportunidades de negocio.

En los próximos meses, la atención se centrará en las recomendaciones del panel de expertos. Si California logra articular un modelo funcional, es probable que otras jurisdicciones lo adopten, marcando el inicio de una era donde la «seguridad por diseño» se convierta en un requisito estándar para la IA.

Según el anuncio oficial de The Decoder, la orden ejecutiva será revisada trimestralmente para adaptarse a la rápida evolución del sector.