El Tribunal Supremo de Nuevo México ha multado con 5.000 dólares y declarado en desacato al abogado Stephen Aarons por presentar una apelación con material falso generado por ChatGPT. El escrito, relacionado con una condena por asesinato, incluía supuestos testimonios policiales y testigos que no existían. Aarons reconoció que había usado la herramienta para elaborar un resumen del juicio y dijo que esperaba obtener una versión sólida de los hechos.
El caso fue adelantado por Reuters y recogido por medios como The Verge y The Guardian. Según la información judicial, el abogado representaba a Oscar Renee Sandoval, condenado a cadena perpetua por el asesinato de la madre de sus hijos. La apelación sigue pendiente, pero el asunto ha pasado a manos de una defensora pública. El tribunal también remitirá el caso al órgano disciplinario correspondiente.
La sanción muestra que el problema de las alucinaciones de IA ya no se limita a citas legales inventadas: puede afectar a hechos, pruebas y derechos de una persona condenada. En un proceso penal, un error de ese tipo no es un fallo de estilo. Puede alterar la estrategia de defensa, retrasar la causa y dañar la confianza del tribunal.
Los jueces fueron especialmente duros con la falta de verificación. Durante una audiencia, la magistrada C. Shannon Bacon cuestionó que un abogado pudiera desconocer los riesgos de las alucinaciones en sistemas de IA, un asunto ampliamente tratado desde que comenzaron las sanciones por escritos con jurisprudencia inexistente. Aarons expresó arrepentimiento y describió el episodio como un error, pero el tribunal subrayó que la responsabilidad profesional no se delega en una herramienta.
La tentación de usar IA en despachos es comprensible. Resumir transcripciones, ordenar documentos, preparar cronologías o buscar contradicciones puede ahorrar horas. El problema aparece cuando el resultado pasa al expediente sin revisión humana rigurosa. Un modelo de lenguaje no consulta la verdad por defecto. Predice texto plausible, y esa plausibilidad puede ser peligrosa cuando encaja demasiado bien con lo que el usuario quiere leer.
Para el sector legal, la frontera razonable está en usar IA como apoyo de trabajo, no como fuente final de hechos o argumentos. Cada cita, cada testimonio y cada dato procesal debe contrastarse contra documentos originales. Esa regla parece básica, pero el volumen de sanciones demuestra que muchos profesionales aún tratan estas herramientas como si fueran asistentes jurídicos infalibles.
El episodio llega cuando legaltech y grandes proveedores de software jurídico están incorporando funciones generativas a sus plataformas. La diferencia entre una herramienta generalista y una solución profesional debería estar en controles de fuente, trazabilidad, limitación de corpus y alertas de incertidumbre. Un resumen útil debe permitir volver al fragmento exacto de la transcripción o del expediente. Sin esa trazabilidad, el ahorro de tiempo se convierte en riesgo.
España también tendrá que mirar estos casos. La digitalización judicial, el uso de gestores documentales y el interés por asistentes de IA en despachos pequeños avanzan rápido. Colegios profesionales, juzgados y empresas proveedoras necesitarán guías más concretas: qué tareas se pueden automatizar, qué datos pueden subirse a sistemas externos, cómo se audita una salida y quién responde si hay un error.
La IA puede mejorar el trabajo jurídico, pero solo si el abogado conserva el control intelectual y ético del documento que firma. La firma al pie de un escrito no certifica que una máquina produjo una respuesta convincente. Certifica que un profesional verificó lo presentado ante el tribunal.
La sanción de Nuevo México no frenará la adopción de IA en derecho. Sí deja una advertencia útil: en contextos de alta responsabilidad, productividad sin verificación es negligencia. La tecnología puede ayudar a encontrar tiempo, pero no puede reemplazar el deber de comprobar la realidad.
