AlphaGo’s playbook enfrenta a los LLMs con búsqueda de evidencia para frenar alucinaciones

El ex‑investigador de DeepMind Thore Graepel propone trasladar la estrategia de búsqueda de AlphaGo a los grandes modelos de lenguaje para que verifiquen cada afirmación y reduzcan las temidas alucinaciones.

En la reciente presentación de Nvidia GTC en Berlín, Thore Graepel, quien lideró los equipos de AlphaGo, AlphaZero y MuZero en DeepMind, anunció una hoja de ruta que pretende cambiar la forma en que los modelos de lenguaje generan respuestas. La propuesta, que ha sido formalizada en un white paper bajo la marca Metis Reasoning, se basa en un registro explícito de conocimiento que actúa como tablero de juego, obligando a la IA a validar cada paso contra evidencia externa antes de publicar una conclusión.

De la partida de Go a la verificación de texto

AlphaGo no ganó su partida contra Lee Sedol simplemente porque su red de predicción fuera más potente; la clave fue combinar esa red con una búsqueda sistemática de secuencias de jugadas, lo que le permitió descubrir el famoso «Move 37«. Graepel argumenta que los LLM actuales son equivalentes a la única red de predicción de AlphaGo: generan una lista de posibles continuaciones de texto sin una segunda capa que pruebe la validez de esas opciones.

Metis propone replicar la arquitectura de dos redes, una que sugiere «movimientos» – preguntas, experimentos o hipótesis – y otra que los evalúa mediante un ledger de conocimiento. Cada entrada del ledger contiene tres atributos: lo que se conoce, la confianza asociada y los interrogantes abiertos. Cuando el sistema recibe una nueva información, un módulo de verificación la compara con cálculos, pruebas formales o datos empíricos. Si la evidencia contradice una premisa anterior, el ledger retropropaga la inconsistencia, descartando todas las conclusiones derivadas.

Cómo funcionaría en la práctica

El proceso se desglosa en pasos claros:

• Generación de hipótesis: la red de sugerencia propone la siguiente acción que maximiza la reducción de incertidumbre.
• Evaluación de evidencia: un motor externo (puede ser un motor de búsqueda, una base de datos de experimentos o un verificador simbólico) comprueba la hipótesis.
• Actualización del ledger: el resultado se registra, y cualquier cadena de razonamiento dependiente se revisa.

Este ciclo se repite hasta que el sistema alcanza una respuesta suficientemente respaldada o decide abstenerse, lo que constituye una salida más segura que una afirmación sin fundamento.

Comparación con iniciativas similares

Metis no es la primera empresa en externalizar la base de conocimientos de un modelo. Microsoft GraphRAG ya organiza información en un grafo de conocimiento y Google AlphaGeometry2 combina un LLM con un motor simbólico para validar pruebas matemáticas. La diferencia esencial radica en la ambición de Graepel: extender la verificación a preguntas abiertas del mundo real, no solo a dominios estructurados como la matemática o el código.

En una tabla comparativa informal, los enfoques comparten tres pilares – generación, verificación y registro – pero difieren en la granularidad del registro y en la capacidad de retropropagar errores. Mientras GraphRAG mantiene fragmentos de texto vinculados a fuentes, Metis propone un registro estructurado que permite borrar o modificar conocimiento sin volver a entrenar el modelo.

Desafíos y limitaciones evidentes

El white paper reconoce que la propuesta está en fase de investigación y carece de prototipo funcional, benchmarks o comparativas cuantitativas con los modelos de razonamiento actuales. Los autores admiten varios retos críticos:

• El mundo real rara vez ofrece información completa; obtener evidencia fiable puede ser costoso o imposible.
• Los dominios desordenados (medicina, finanzas, diseño de chips) requieren una ingesta masiva de datos que aún no está automatizada.
• Los sistemas simbólicos del pasado fracasaron porque la inserción manual de conocimiento no escala.

Además, la dependencia de módulos externos plantea preguntas sobre la latencia y el consumo de recursos, especialmente en entornos de robótica donde los dispositivos operan en el borde con recursos limitados.

Qué implica para desarrolladores y la industria

Si Metis logra materializar su visión, el impacto sería doble. Por un lado, los modelos más pequeños podrían competir con los gigantes de parámetros al delegar la carga cognitiva a componentes verificadores, lo que favorece la ejecución en dispositivos edge. Por otro, la capacidad de justificar respuestas con fuentes abriría la puerta a aplicaciones críticas – diagnóstico médico, auditoría financiera o control de procesos industriales – donde la trazabilidad es obligatoria.

Sin embargo, la falta de pruebas concretas hace que la propuesta siga siendo una promesa. Los inversores, incluidos los que ya han comprometido decenas de millones en la ronda de financiación de Metis, estarán pendientes de los primeros resultados empíricos antes de apostar por una arquitectura que, en teoría, podría requerir más cómputo que los LLM tradicionales.

El futuro de la verificación en IA

Graepel sostiene que el verdadero obstáculo de la IA no es la capacidad de generar texto, sino la ausencia de mecanismos que garanticen la veracidad de ese texto. En su visión, la IA alcanzará una adopción masiva solo cuando pueda ofrecer no solo respuestas, sino también la cadena de evidencia que las respalde. La analogía con el desarrollo de software es clara: el código se prueba, se versiona y se revierte; la IA, bajo el modelo actual, carece de esas garantías.

El camino por delante implica integrar de forma robusta bases de datos, motores de simulación y verificadores simbólicos dentro de flujos de inferencia en tiempo real. Si Metis consigue demostrar que su «ledger» puede operar bajo esas condiciones, podría marcar el inicio de una nueva generación de IA «verificable por diseño».

Qué significa este cambio para los desarrolladores independientes

Para los equipos de tamaño medio o los freelancers que construyen bots o asistentes, la propuesta de Graepel sugiere una alternativa a la carrera por modelos más grandes. En lugar de invertir en GPUs de última generación, podrían combinar un modelo ligero con servicios externos de verificación – por ejemplo, bases de datos científicas o simuladores de física – y obtener resultados más confiables sin inflar el consumo energético.

En última instancia, la comunidad tendrá que decidir si la complejidad añadida de gestionar un registro de conocimiento compensa la reducción de alucinaciones. La respuesta dependerá de los casos de uso: en aplicaciones donde el error cuesta millones, la verificación será indispensable; en experiencias lúdicas o de entretenimiento, el coste extra podría no justificarse.