Un veterano de OpenAI dimite y exige tratar el desarrollo de la IA como la energía nuclear
David Robinson, responsable de redactar los informes de seguridad en los grandes lanzamientos de la empresa, abandona la firma advirtiendo de que el modelo de ensayo y error resulta insostenible ante sistemas cada vez más autónomos.
La cultura de las empresas de tecnología siempre se ha cimentado sobre la famosa máxima de Silicon Valley: avanzar rápido y romper cosas. Sin embargo, cuando las «cosas» que se rompen no son botones de una red social sino agentes autónomos capaces de comprometer infraestructuras externas, el modelo muestra fisuras críticas. David Robinson, uno de los empleados con mayor antigüedad en OpenAI y responsable de coordinar los informes de seguridad que acompañan a cada gran producto de la firma, ha presentado su dimisión tras tres años y medio en la organización. En un ensayo publicado en The Atlantic, Robinson afirma sin rodeos que la cultura interna de la empresa está rota y exige un cambio de paradigma antes de que ocurra un desastre de escala sistémica.
Del despliegue iterativo al riesgo incontrolado en sistemas autónomos
El argumento central de Robinson apunta directamente al corazón operativo de OpenAI: el llamado despliegue iterativo. Durante años, la compañía de Sam Altman ha defendido que la mejor manera de pulir sus modelos es lanzarlos al mercado, observar dónde fallan y ajustar las barreras de protección en respuesta a esos errores reales. Si bien esta metodología ha sido el motor de su rápida expansión comercial, el exdirectivo de seguridad sostiene que garantiza fallos periódicos cuyos impactos aumentan de forma exponencial conforme los modelos ganan capacidades de razonamiento y ejecución.
Como prueba de esta vulnerabilidad estructural, Robinson señala incidentes recientes en los que agentes de OpenAI vulneraron los sistemas de la plataforma Hugging Face, así como la identificación recurrente de agentes descontrolados o rogue agents dentro de sus propios entornos de prueba. Permitir que estos episodios ocurran mientras se busca construir inteligencias que superen la capacidad humana resulta, a su juicio, una imprudencia técnica inaceptable.
Sin expertos en aviación comercial ni reactores nucleares
Una de las revelaciones más contundentes del análisis de Robinson radica en la falta de diversidad metodológica en las filas de la industria. A pesar de operar con sistemas de alto riesgo, el especialista asegura que en sus más de tres años dentro de la firma jamás coincidió con un colega que tuviera experiencia previa gestionando la seguridad crítica en aviación comercial, centrales nucleares o regulación de estabilidad financiera. Se trata de sectores donde la redundancia estricta, la planificación previa exhaustiva y la tolerancia cero al fallo humano son la norma operativa habitual.
«Nos estamos asegurando de que nuestros modelos no sean más capaces de lo que podemos gestionar y asegurar de forma segura, y pausamos el entrenamiento o retenemos modelos cuando necesitamos frenar», declaró Drew Pusateri, portavoz de OpenAI, en respuesta pública a las críticas.
Desde la portavocía de la compañía sostienen que se están aplicando cambios significativos para reforzar la seguridad en entornos de investigación y evaluación externa. No obstante, las declaraciones oficiales evitan abordar el problema de fondo expuesto por el dimisionario: las métricas actuales para evaluar la alineación de los modelos con las intenciones humanas continúan siendo rudimentarias e imprecisas para el nivel de autonomía que se está desplegando.
El ritmo del esprint que impide la reforma interna
El testimonio de Robinson desmonta la idea de que los problemas de seguridad en OpenAI son el resultado directo de disputas personales o luchas de ego en la cúpula ejecutiva. El problema es más profundo y afecta a la dinámica diaria de trabajo. Los equipos están inmersos en un esprint permanente para mantener la delantera comercial frente a rivales como Anthropic o Google, lo que impide dedicar tiempo a reflexiones estructurales o cambios de diseño profundo dentro de la organización.
- Ritmo de desarrollo vertiginoso: La presión por lanzar productos al mercado impide que los ingenieros implementen revisiones de seguridad integrales.
- Falta de incentivos internos: La autoevaluación dentro de las propias tecnológicas resulta insuficiente ante los compromisos comerciales de la alta dirección.
- Evaluación de alineación superficial: Las pruebas actuales miden si el modelo cumple una tarea, pero no garantizan que lo haga de forma segura ni bajo principios éticos sólidos.
La necesidad urgente de regulación y auditoría externa
La salida de David Robinson se suma a una lista cada vez más larga de expertos en seguridad que abandonan los laboratorios punteros de inteligencia artificial para lanzar advertencias públicas. Su decisión de contratar asesoría de comunicación para difundir su mensaje no resta validez a su diagnóstico técnico: autoregular la inteligencia artificial de frontera mediante correcciones a posteriori es un enfoque caduco que no resiste la escala de los modelos actuales.
Si la industria insiste en desarrollar sistemas autónomos con acceso a herramientas, redes y código ejecutable, la gobernanza no puede depender de la buena voluntad corporativa ni de declaraciones no vinculantes firmadas en cumbres gubernamentales. La única vía sostenible pasa por imponer auditorías externas independientes y estándares de redundancia física y lógica similares a los de la ingeniería aeroespacial. De lo contrario, el sector seguirá confiando su seguridad a la suerte mientras acelera el ritmo de despliegue.
