Un abogado es multado por usar testigos falsos inventados por la IA

El Tribunal Supremo de Nuevo México sanciona a un letrado con 5.000 dólares tras descubrir que utilizó un modelo de inteligencia artificial para redactar un recurso de homicidio repleto de testimonios e identidades ficticias.

La libertad de un ser humano estaba en juego, pero su defensor prefirió confiar el destino de su cliente a un modelo de lenguaje informático y no molestarse en revisar ni una sola página del resultado. El Tribunal Supremo de Nuevo México ha sancionado severamente al letrado Stephen Aarons con una multa de 5.000 dólares y una declaración de desacato tras descubrirse que el recurso de apelación que presentó para un condenado por homicidio estaba plagado de invenciones generadas por inteligencia artificial. No hablamos de meros errores tipográficos o citas bibliográficas mal formateadas; hablamos de testimonios policiales ficticios, descripciones falsas sobre la vestimenta del sospechoso y testigos que jamás existieron en el mundo real.

El peligro de la pereza profesional en la era de los algoritmos

El caso, sacado a la luz por una investigación de la agencia Reuters y detallado por The Verge, expone con crudeza el nivel de imprudencia al que puede llegar el uso indiscriminado de herramientas automatizadas. Durante la audiencia, la magistrada C. Shannon Bacon no ocultó su perplejidad ante el comportamiento del abogado, cuestionando abiertamente cómo era posible que un profesional en activo continuara ignorando los riesgos de alucinación —el término con el que se designa la capacidad de estos sistemas para inventar datos con total convicción— que acompañan a los generadores de texto actuales.

Lo más alarmante de esta situación no es que la tecnología falle, sino la disposición de un profesional del derecho a firmar con su propio nombre un documento jurídico de alta trascendencia sin verificar sus afirmaciones fácticas ni sus autoridades legales. Aarons no solo defraudó la confianza de su representado, sino que intentó engañar al máximo tribunal de un estado introduciendo elementos fabulados en una causa penal de máxima gravedad.

De la ignorancia excusable a la negligencia intolerable

Conviene recordar que este incidente no ocurre en el vacío. Hace un par de años, el célebre caso Mata contra Avianca abrió los informativos de todo el mundo cuando dos abogados neoyorquinos presentaron un escrito judicial repleto de precedentes inventados por ChatGPT. En aquel momento, la novedad del fenómeno permitió a muchos alegar desconocimiento o ingenuidad tecnológica. Sin embargo, en el panorama actual, donde los límites y fallos del procesamiento de lenguaje natural son del dominio público, la ignorancia ya no puede utilizarse como escudo ético ni legal.

Las empresas tecnológicas han repetido hasta la saciedad que sus modelos de inteligencia artificial no son motores de búsqueda ni bases de conocimiento fidedignas, sino potentes predictores de palabras. A pesar de estas advertencias explícitas, existe una corriente preocupante de profesionales —desde abogados hasta redactores y consultores— que abusan de estas herramientas para acortar plazos de trabajo a costa de la precisión mínima indispensable. Cuando este atajo se toma en el diseño de un folleto publicitario, el resultado es embarazoso; cuando se aplica en la apelación de una condena por asesinato, las consecuencias rozan lo criminal.

Un llamado de atención para todo el estamento judicial

Los tribunales de diversas jurisdicciones están empezando a trazar líneas rojas muy claras. Ya no basta con disculparse o echarle la culpa al software; la responsabilidad legal recae íntegramente sobre el ser humano que firma y presenta el expediente. La sanción impuesta en Nuevo México sienta un precedente contundente: los jueces no van a tolerar que la inteligencia artificial se convierta en una máquina de generar ruido procesal o de contaminar el sistema de justicia con pruebas fantasma.

Este episodio pone al descubierto una paradoja incómoda: en su afán por vender la inteligencia artificial como la panacea de la productividad, las grandes corporaciones han creado la falsa ilusión de que la experiencia humana es prescindible. El caso de Stephen Aarons demuestra justamente lo contrario. Cuanto más sofisticadas son las herramientas de automatización, más urgente y crítica se vuelve la labor de supervisión, criterio analítico y verificación por parte de un experto de carne y hueso.

💡 El panorama general: ¿Cómo nos afecta esto?

La multa dictada en Nuevo México es mucho más que una anécdota judicial sobre la torpeza de un abogado; es un síntoma de una crisis ética mucho más profunda que se extiende a todos los sectores profesionales. Estamos presenciando una colisión frontal entre el marketing desmedido de las tecnológicas —que prometen eficiencia sobrehumana sin esfuerzo— y la dura realidad de unos algoritmos probabilísticos que carecen por completo de noción de la verdad, la ética o la justicia. Si permitimos que el volumen de trabajo reemplace al rigor crítico, corremos el riesgo de degradar las instituciones más fundamentales de la sociedad civil.

A medida que la inteligencia artificial se integra de forma omnipresente en el trabajo cotidiano, las fronteras entre el apoyo técnico y la negligencia profesional deben definirse con extrema firmeza. No podemos permitir un futuro en el que los diagnósticos médicos, las decisiones judiciales o las evaluaciones crediticias queden a merced de respuestas alucinadas por un programa informático, sin un ser humano responsable dispuesto a responder por el resultado. La lección de este caso es clara: la tecnología puede acelerar los procesos, pero la responsabilidad ética sigue siendo incanjeable.

En última instancia, lo sucedido en este tribunal debe servir como un toque de atención definitivo. La inteligencia artificial no es el reemplazo de la inteligencia humana, y la pereza disfrazada de innovación tecnológica no solo arruina carreras profesionales, sino que pone en peligro directo los derechos y vidas de las personas.