IA asume más tareas en creación de modelos, pero los humanos siguen marcando el rumbo

Un estudio de la Universidad Fudan revela que, aunque los agentes de IA ejecutan la mayor parte del trabajo en el desarrollo de un modelo de 744 mil millones de parámetros, los investigadores humanos siguen tomando la gran mayoría de decisiones estratégicas.

Un equipo de investigación de la Universidad Fudan, en China, ha documentado con detalle la interacción entre agentes de inteligencia artificial y científicos humanos durante la construcción de un nuevo modelo de lenguaje llamado Atria Dawn Preview. El experimento, basado en más de 700 registros de tareas de 56 participantes, desmonta la idea de que los agentes puedan operar de forma autónoma en la fase de investigación y desarrollo de modelos a gran escala.

Diseño del experimento y metodología

Los investigadores estructuraron la prueba alrededor de un pipeline de desarrollo donde cada tarea estaba vinculada a un entorno de ejecución real. Los agentes podían invocar herramientas, generar resultados intermedios y validar esos resultados contra señales externas como pruebas, métricas o evidencia de origen. Cada paso quedaba registrado, lo que permitió una auditoría exhaustiva de quién hacía qué.

Se analizaron 56 participantes que trabajaron en el proyecto durante cuatro semanas. Cada participante utilizó agentes de IA para asistir en la selección de métodos, la definición de parámetros y la generación de propuestas. Los datos recogidos incluyeron tanto los logs de los agentes como los de los humanos, lo que facilitó la clasificación de decisiones según su origen.

Resultados — la verdadera autonomía de los agentes

Los números son reveladores. La IA estuvo presente en el 96,5 % de las tareas revisadas, y la proporción media de acciones realizadas por agentes frente a entradas humanas aumentó de 11 a 28,5 durante el periodo de estudio. Sin embargo, este aumento no implica que los agentes estén tomando decisiones por sí mismos.

• En el 55,4 % de los casos la secuencia más frecuente fue «IA propone, humano selecciona».
• Los humanos tomaron el 85,5 % de las decisiones sobre métodos y parámetros, mientras que la IA sólo realizó el 9,2 % de esas elecciones.
• En cuanto a objetivos y alcance del proyecto, la decisión final correspondió a los humanos en un 93,4 % de los casos.

Incluso en las 151 tareas calificadas como inviables sin apoyo de IA (cerca de un tercio del total), los humanos definieron el objetivo en el 95,4 % de los casos. La IA, por su parte, se limitó a generar propuestas y a ejecutar iteraciones bajo la supervisión humana.

Implicaciones para la carrera de IA y los riesgos de sobre‑automatización

Los autores del estudio describen tres fases evolutivas del papel de la IA en la investigación: (1) objeto de estudio, (2) herramienta para tareas puntuales y (3) socio‑proyecto que elabora borradores y ajusta planes dentro de metas predefinidas por humanos. Un cuarto escenario hipotético contempla la «auto‑mejora recursiva», donde modelos más potentes crearían sucesores sin intervención humana.

El informe advierte que, cuando la cadena de acciones de los agentes supera la capacidad de revisión humana, el control se vuelve meramente formal: los humanos actúan como revisores que sólo pueden «rubber‑stamp» lo que ven. Esta situación ya se observa en algunos laboratorios que permiten a los agentes operar en modo autónomo para evitar interrupciones constantes, una decisión motivada por conveniencia más que por una política de delegación de autoridad.

El debate se intensifica cuando compañías como Anthropic y OpenAI ya afirman que los humanos solo participan en un dígito porcentual de las decisiones de dirección de investigación. La evidencia de Fudan sugiere que, al menos en entornos controlados, esa cifra sigue siendo alta, lo que plantea la pregunta de si la brecha se está cerrando rápidamente o si los estudios actuales subestiman la complejidad de los procesos de validación.

Qué significa para los desarrolladores y la industria

Para los equipos de desarrollo, el mensaje es claro: los agentes de IA pueden absorber gran parte del trabajo mecánico –invocación de herramientas, generación de resultados intermedios y pruebas automáticas–, pero la carga cognitiva de definir metas, interpretar resultados y decidir rutas de investigación sigue recayendo en los humanos.

• Fricción de instalación: el modelo Atria Dawn Preview, con 744 mil millones de parámetros, requiere infraestructuras de cómputo de nivel de centro de datos; no es accesible para equipos pequeños sin recursos de nube.
• Costos de cómputo: la delegación de tareas a agentes no reduce el gasto energético global, pues cada paso adicional implica más ciclos de GPU.
• Riesgo de dependencia: la práctica de permitir a los agentes operar en modo autónomo para evitar interrupciones puede crear puntos ciegos donde errores sutiles se propagan sin ser detectados.

la investigación de Fudan muestra que, aunque los agentes de IA están cada vez más presentes en el flujo de trabajo, la autoridad decisoria sigue en manos humanas. La industria debe equilibrar la ganancia de productividad con la necesidad de mantener una supervisión sustancial, especialmente antes de que los modelos alcancen la capacidad de autogenerar estrategias de investigación sin una guía clara.