Por qué delegar tus compras a la IA puede salirte muy caro hoy

Un análisis de la Escuela Wharton demuestra que los agentes de compras basados en inteligencia artificial son erráticos, vulnerables a la manipulación de fuentes y altamente sensibles al orden de la información.

Un solo portal web de reseñas es capaz de alterar la decisión final de un agente de inteligencia artificial en hasta 99 puntos porcentuales. Esta impactante cifra, revelada por un equipo de investigadores de la prestigiosa Escuela Wharton de la Universidad de Pensilvania, pone en evidencia la fragilidad de los sistemas que las grandes tecnológicas promocionan como el futuro del comercio electrónico. Entregar el control de nuestra tarjeta de crédito a una IA para que busque la mejor oferta del mercado no solo es precipitado, sino que actualmente representa un riesgo económico considerable para el consumidor.

Un cambio en el orden de los factores que sí altera el producto

La promesa de delegar tareas tediosas —como comparar docenas de televisores, billetes de avión o seguros de coche— a asistentes capaces de navegar por la web en nuestro nombre ha cobrado fuerza con el despliegue de modelos de lenguaje avanzados. Sin embargo, el comportamiento interno de estos agentes dista mucho del rigor probabilístico que se les atribuye. Según la investigación dada a conocer esta semana, los modelos muestran una inconsistencia alarmante ante variaciones mínimas en la entrada de datos.

Los científicos comprobaron que alterando simplemente el orden en que se presentaba información idéntica dentro del contexto del modelo, la recomendación de compra cambiaba drásticamente. En sistemas deterministas tradicionales de software, la reordenación de datos equivalentes produce el mismo resultado. En los agentes de inteligencia artificial generativa, este fenómeno —vinculado a los sesgos de primacía y recencia en las ventanas de contexto de los grandes modelos de lenguaje (LLM)— provoca que la máquina priorice productos basándose en la estructura del texto y no en la calidad real de la oferta o su precio.

El peligro del sesgo y la vulnerabilidad ante la publicidad oculta

El estudio subraya otro punto crítico: la extrema dependencia de los agentes respecto a fuentes de información específicas. Al evaluar la influencia de portales de recomendación consolidados como Wirecutter, los expertos observaron que la presencia de una mención favorable en dicho sitio podía inclinar la balanza del agente casi de forma absoluta, desplazando alternativas objetivamente mejores o más económicas.

Este hallazgo abre la puerta a un nuevo campo de manipulación publicitaria. Si las empresas de comercio electrónico logran optimizar su contenido para posicionarse favorablemente en los repositorios que consultan estos agentes —una práctica incipiente conocida como optimización para motores generativos (GEO, por sus siglas en inglés)—, los consumidores podrían ser dirigidos sistemáticamente hacia productos con mayor margen de beneficio para el vendedor, creyendo falsamente que el algoritmo seleccionó la opción óptima. Como reporta el artículo publicado recientemente por The Decoder, la volatilidad en las decisiones de compra de estos sistemas cuestiona seriamente su despliegue comercial en entornos de pago directo.

De la consulta informativa al pago automático: el abismo técnico

Hasta la fecha, la industria ha intentado evolucionar desde los chatbots de texto predictivo hacia agentes autónomos con capacidad de ejecución mediante herramientas como el uso de navegadores web y la interacción con interfaces gráficas. Proyectos como OpenAI Operator, Anthropic Computer Use o los prototipos de automatización en Chrome impulsados por Google buscan realizar acciones complejas en nombre del usuario. No obstante, existe una diferencia abismal entre resumir las especificaciones de dos ordenadores portátiles y ejecutar la compra final de uno de ellos.

Los modelos estocásticos (basados en probabilidades y no en reglas estrictas) cometen errores de alucinación que, en el ámbito de la lectura o la redacción, resultan anécdotas tolerables. En el ámbito transaccional, una alucinación equivale a comprar el modelo equivocado, aceptar condiciones de devolución desfavorables o seleccionar una garantía extendida innecesaria. La ausencia de guardarraíles matemáticos firmes impide garantizar que un agente no termine gastando dinero basándose en datos sesgados o interpretaciones erróneas de la letra pequeña.

💡 El panorama general: ¿Cómo nos afecta esto?

El entusiasmo por automatizar el consumo personal choca frontalmente con la arquitectura actual de la inteligencia artificial. A medida que las plataformas de comercio integran agentes compradores, el modelo económico de internet se encamina hacia una transformación radical. El marketing tradicional, diseñado para captar la atención visual y emocional de los seres humanos, perderá relevancia frente a algoritmos invisibles que deciden qué se compra y qué se descarta en milisegundos. Sin embargo, si estos algoritmos son tan maleables como demuestra la Escuela Wharton, el consumidor corre el riesgo de pasar de la manipulación publicitaria convencional a una manipulación algorítmica opaca e inauditable.

En el plano ético y regulatorio, surgen preguntas inmediatas sobre la responsabilidad jurídica. Si un agente de compras adquiere un producto defectuoso o una tarifa no reembolsable por haber interpretado mal el orden de una tabla comparativa, la responsabilidad ¿recae en el usuario que dio la orden general, en la tienda online o en el desarrollador del modelo? Hasta que las leyes de protección al consumidor y los estándares de auditoría de IA no resuelvan estos vacíos, la recomendación de los expertos es clara: usar la IA como herramienta de búsqueda previa, pero mantener el dedo humano sobre el botón de pagar.