Humanos reales leen tus conversaciones con ChatGPT para entrenarlo

Cientos de contratistas externos leen y evalúan fragmentos de chats reales para reducir las respuestas aduladoras del bot, exponiendo información confidencial de usuarios que no han cambiado la configuración por defecto.

Cada día, millones de personas en España y América Latina recurren a ChatGPT para redactar correos profesionales, depurar código informático o buscar consejo en temas personales. Sin embargo, la sensación de confidencialidad al interactuar con la pantalla es, en gran medida, una ilusión. Detrás de las respuestas fluidas y personalizadas de la herramienta se encuentra un extenso equipo de trabajadores contratados cuya labor consiste en leer conversaciones reales entre usuarios y el bot, evaluando su calidad en una escala del uno al siete.

Esta práctica, que busca afinar el comportamiento de los modelos lingüísticos, fue expuesta inicialmente por el medio especializado 404 Media y reseñada por The Decoder. El proceso revela cómo los fragmentos de texto enviados por la audiencia son examinados por ojos humanos para supervisar la seguridad y el tono de las respuestas.

El ejército invisible que califica la inteligencia artificial

La intervención humana en el entrenamiento de algoritmos no es una novedad, pero el alcance de esta supervisión directa sobre chats activos plantea nuevos interrogantes. Los contratistas analizan las interacciones para erradicar dos tendencias indeseadas que los ingenieros han detectado en la plataforma: la adulación sistemática (conocida en el sector informático como sycophancy) y las conductas excesivamente humanizadas que generan una falsa sensación de empatía.

Cuando un usuario plantea una premisa equivocada o un argumento ilógico, los modelos de lenguaje tienden de forma predeterminada a darle la razón para complacerlo. Los evaluadores humanos intervienen precisamente en esos casos: penalizan las respuestas sumisas y otorgan puntuaciones altas cuando el sistema corrige al interlocutor con objetividad, neutralidad y rigor profesional.

El riesgo oculto en la anonimización de datos

Aunque los protocolos de la empresa establecen que los fragmentos de texto deben ser anonimizados antes de llegar a las pantallas de los revisores, el filtro automatizado presenta fallas evidentes. La tecnología de limpieza de datos no siempre logra identificar ni borrar la información confidencial que los propios usuarios introducen de manera voluntaria en sus peticiones.

Nombres propios, estrategias empresariales, fragmantes de código fuente propietario, direcciones de correo y datos financieros suelen quedar expuestos sin que el usuario sea consciente de ello. Para el tejido empresarial y la comunidad académica en el ámbito hispanohablante, donde el uso de asistentes virtuales se ha integrado sin previa auditoría de seguridad, este procedimiento representa una vía potencial de filtración de información sensible.

La revisión humana y el uso de los chats para el entrenamiento de los algoritmos viene activado por defecto. Salvo que el usuario modifique manualmente los parámetros de privacidad, sus interacciones entran automáticamente en el lote de datos analizables. Para bloquear este acceso, es necesario realizar una serie de pasos sencillos dentro de la plataforma:

• Entrar a la sección de Configuración en la cuenta de usuario.
• Desplazarse hasta la pestaña de Controles de datos.
• Desactivar la casilla correspondiente a Mejorar el modelo para todos.
• Optar por utilizar el modo de chats temporales cuando se trabaje con información confidencial, ya que estas sesiones no se guardan en el historial ni se usan para entrenamiento.

La trastienda global del etiquetado de datos

Este escenario expone la compleja cadena global de suministro que hace funcionar a la tecnología moderna. Países de América Latina se han consolidado como centros clave para empresas subcontratistas que emplean a miles de personas para calificar respuestas, clasificar imágenes y moderar contenidos en español e inglés.

Existe una marcada asimetría regulatoria. Mientras la Unión Europea avanza en la aplicación de la Ley de Inteligencia Artificial para exigir el consentimiento explícito y la máxima transparencia en el tratamiento de datos, en gran parte del mercado global sigue imperando el modelo de cancelación voluntaria (opt-out), obligando al ciudadano común a investigar cómo proteger su privacidad por cuenta propia.

💡 El panorama general: ¿Cómo nos afecta esto?

El hallazgo de que cientos de revisores externos leen conversaciones cotidianas pone de manifiesto la brecha entre las expectativas de privacidad de los usuarios y las necesidades de ingeniería de las grandes corporaciones. En su intento por desplegar asistentes más fiables y menos complacientes, las empresas tecnológicas convierten el historial diario de la gente en el insumo principal de su control de calidad, trasladando la responsabilidad de la protección de datos al usuario final.

Desde una perspectiva ética y laboral, el etiquetado masivo de información genera tensiones en la región hispanohablante. Los analistas encargados de esta tarea examinan durante largas jornadas fragmentos de texto que abarcan desde consultas académicas inocuas hasta intimidades personales o datos corporativos críticos, a menudo bajo esquemas de contratación temporal y con una supervisión limitada sobre el destino final de la información que procesan.

Conforme las leyes de protección de datos se endurezcan en España y América Latina, la industria se verá presionada para cambiar sus esquemas predeterminados. Exigir un consentimiento previo e informado (opt-in) antes de someter cualquier chat a revisión humana no solo mejorará la confianza del público, sino que resultará indispensable para garantizar la seguridad de la información en un entorno laboral cada vez más digitalizado.