Autor: Darío Echeverría Muñoz
Sitio Web: https://www.linktr.ee/darioecmunoz
1. Introducción
La promesa tecnológica asociada a la justicia fue durante años, la de su propia democratización: mayor celeridad en los trámites, resoluciones más objetivas y un sistema legal accesible para el ciudadano común. Era una promesa atractiva y, en apariencia, razonable.
Sin embargo, la irrupción de la inteligencia artificial (IA) en los procesos judiciales y administrativos ha comenzado a evidenciar el reverso de esa promesa. Cuando un algoritmo redacta un escrito, filtra evidencia o asiste a un juez en la adopción de una decisión, la eficiencia técnica no basta por sí sola para garantizar que el resultado sea justo, ni siquiera que sea cierto. Este es uno de los principales desafíos que plantea la llamada justicia digital, y conviene analizarlo con algo más que entusiasmo tecnológico.
Detrás del uso de IA en el ámbito judicial subyacen riesgos técnicos y jurídicos concretos: la generación de información falsa por parte de los modelos generativos, vulnerabilidades que permiten manipular su comportamiento y datos sensibles que circulan sin el control suficiente. Comprender estos desafíos constituye el primer paso para que la justicia digital cumpla su promesa original.
2. El espejismo de la eficiencia
En el lenguaje técnico se conoce como alucinación al fenómeno por el cual un sistema de IA genera información falsa, inexistente o distorsionada, pero la presenta con una coherencia y una seguridad que la hacen indistinguible, a primera vista, de un dato verídico. No se trata de un error aislado ni de una falla ocasional del sistema, sino de una consecuencia estructural de la manera en que estos modelos funcionan: predicen la palabra estadísticamente más probable pero no necesariamente esta sea verdadera.
El caso que mejor ilustra este riesgo dentro de la justicia digital ocurrió en Estados Unidos, en el litigio conocido como Mata v. Avianca. Un abogado presentó ante el tribunal un escrito que citaba jurisprudencia inexistente, generada íntegramente por un sistema de inteligencia artificial que el profesional utilizó sin verificar sus fuentes. Las sentencias citadas simplemente no existían: nombres de casos, números de expediente y fragmentos enteros de razonamiento judicial habían sido fabricados por el modelo con total coherencia estilística. Este hecho derivó en sanciones disciplinarias contra los abogados involucrados y hoy se cita como advertencia obligada en cualquier discusión sobre inteligencia artificial y litigio.
El sitio web de Damien Charlotin documenta, hasta la fecha de redacción del presente artículo, un total de 1.922 casos de uso de contenido ficticio generado por IA en escritos judiciales a lo largo de 41 jurisdicciones. Estados Unidos concentra la gran mayoría con 1.314 casos, seguido de Canadá (211), Australia (98) y el Reino Unido (62). En lo que va de 2026, la plataforma contabiliza 1.002 casos, de los cuales 377 corresponden a abogados y 599 a litigantes que actúan por sí mismos.
El problema de fondo no reside en la herramienta en sí, sino en la confianza ciega que esta despierta. Cuando un operador de justicia, un abogado o incluso un ciudadano común asume que la inteligencia artificial no se equivoca, desaparece la instancia de verificación humana que durante siglos ha constituido la garantía última del sistema legal.
La justicia digital, para ser confiable, exige exactamente lo contrario: supervisión constante y la disposición a dudar de lo que la máquina o sistema afirma. No basta con incorporar tecnología de punta a los despachos y tribunales; resulta indispensable instalar una cultura de verificación que hoy todavía es excepcional. Mientras dicha cultura no se consolide, cada alucinación algorítmica no detectada representará un riesgo directo para la seguridad jurídica de quien confía en el sistema.
3. El engaño codificado
Si las alucinaciones representan el riesgo de que la inteligencia artificial se equivoque por sí sola, la justicia digital enfrenta una amenaza aún más grave: que un humano la engañe deliberadamente. A esta vulnerabilidad se la conoce como prompt injection (inyección de instrucciones), consiste en una técnica en la que un atacante inserta comandos maliciosos, camuflados como texto aparentemente inofensivo, dentro de la información que procesa un sistema de IA, con el objetivo de manipular su comportamiento y hacerle ignorar las reglas para las que fue diseñado.
Esta amenaza se evidencia claramente en el funcionamiento de los sistemas de clasificación o atención automatizada. Si una consulta aparentemente normal contiene una orden oculta que instruye a la IA a ignorar sus propios filtros de privacidad o a extraer información reservada, el sistema procesará la solicitud asumiéndola como una regla de sistema válida. La incapacidad algorítmica para diferenciar entre el texto del usuario y las instrucciones de control convierte a estas plataformas en blancos directos de manipulación.
Este riesgo dejó de ser hipotético tras registrarse el primer caso documentado a nivel global en Brasil, ante el Tribunal Regional del Trabajo de la 8ª Región (TRT8). En mayo de 2026, durante el proceso Elisandro Martins de Barros v. Renato Ribeiro de Lima en la 3ª Vara del Trabajo de Parauapebas, la defensa intentó una maniobra de sabotaje inédita: insertaron texto oculto en formato blanco sobre blanco, dirigido exclusivamente al sistema de IA que asiste al juzgado. La instrucción secreta le ordenaba a la máquina que contestara la petición de forma superficial y que no cuestionara la validez de los documentos probatorios. El tribunal detectó el ataque, lo calificó como una ofensa a la dignidad de la justicia, sancionó económicamente a los abogados y remitió el expediente a la orden profesional para medidas disciplinarias.
Apenas unos meses después, en agosto de 2026, la amenaza aterrizó en Estados Unidos marcando el primer ataque de prompt injection dirigido expresamente contra un tribunal de dicha jurisdicción. En el proceso Elliott v. New York Bariatric Group, el juez Walter M. Spader Jr. de la Corte Superior de Connecticut advirtió que dos escritos del demandante contenían texto oculto, igualmente en tipografía blanca sobre fondo blanco, invisible para el ojo humano, pero perfectamente legible para el software del juzgado.
La instrucción encubierta ordenaba a cualquier modelo de IA que revisara el escrito que emitiera un resultado favorable a la posición del demandante y que tratara una resolución previa en su contra como un error a corregir.
El tribunal detectó la maniobra por la vía más tradicional posible: un espacio en blanco inusualmente extenso en la versión impresa del escrito llamó la atención del juez. Pese a recibir una advertencia formal, el litigante repitió la conducta en presentaciones posteriores, lo que llevó al tribunal a revocarle permanentemente el acceso al sistema de presentación electrónica.
Al dictar su resolución, el juez Spader reconoció que no existía jurisprudencia estadounidense alguna sobre esta conducta tecnológica. Ante este vacío normativo, el magistrado recurrió y citó de manera directa el precedente del tribunal brasileño (TRT8) para fundamentar su análisis y la imposición de las sanciones.
Un tercer escenario, tipificado en la ciberseguridad como inyección indirecta (indirect prompt injection), se produce cuando la IA procesa documentos aportados por la contraparte en un proceso judicial o arbitral. Si esos documentos contienen instrucciones ocultas, insertadas deliberadamente en el texto, en metadatos o en capas invisibles del archivo, el sistema puede alterar sus conclusiones sesgando el análisis a favor de quien manipuló el documento. A diferencia del fraude documental tradicional, que suele dejar rastros físicos identificables para un perito, organismos especializados como OWASP advierten que esta vulnerabilidad puede ejecutarse sin dejar huella visible en la superficie del documento final entregado al tribunal, lo que exige nuevos estándares de auditoría algorítmica para su detección.
En síntesis, esta técnica presenta tres características que la hacen especialmente riesgosa:
- El prompt injection no requiere acceso técnico avanzado, basta con redactar texto capaz de confundir al sistema.
- Sus efectos son difíciles de detectar porque el resultado sigue pareciendo coherente y bien fundamentado.
- Afecta por igual a chatbots de atención ciudadana, sistemas de triaje legal y herramientas de análisis documental.
Esto confirma que no se trata de un temor teórico ni de una hipótesis de laboratorio, sino de una amenaza ya catalogada, estudiada y activa dentro de cualquier plataforma que integre inteligencia artificial en procesos de justicia digital. Ignorar esta vulnerabilidad al diseñar un sistema de atención legal automatizado equivale, en la práctica, a dejar una puerta sin cerradura en la entrada de un despacho.
4. Hacia una justicia digital segura y humana
La justicia digital no solo procesa argumentos jurídicos: procesa datos personales, muchas veces sensibles, de personas involucradas en conflictos familiares, penales o comerciales.
Cuando esos datos alimentan a un sistema de IA, surge un riesgo adicional de filtración, ya sea porque el modelo memoriza fragmentos de información durante su entrenamiento, o porque una vulnerabilidad como el prompt injection permite extraerlos deliberadamente. En ambos casos, la persona titular de esos datos pierde control sobre su propia información sin siquiera saberlo, mucho antes de que el conflicto legal que la involucra llegue a resolverse.
Este riesgo exige que la ética algorítmica deje de ser una declaración de buenas intenciones y se convierta en una exigencia normativa concreta. Para materializar esta transición, el diseño de estas herramientas debe asentarse sobre tres pilares innegociables:
- Gobernanza de datos: trazabilidad de qué información procesa el sistema y con qué finalidad.
- Supervisión humana continua: ningún resultado automatizado debe usarse sin revisión de un profesional.
- Auditoría periódica: verificar que el sistema siga comportándose como fue diseñado.
El Reglamento Europeo de Inteligencia Artificial (AI Act), el Convenio Marco del Consejo de Europa y la emergente legislación de Corea del Sur son ejemplos de que la comunidad internacional ya avanza en esa dirección. Sin embargo, la norma estatal por sí sola no constituye una solución a largo plazo frente al dinamismo tecnológico. El verdadero resguardo requiere transitar hacia modelos de metarregulación, donde las organizaciones asuman un rol activo adaptando dinámicamente sus propios controles internos, y fundamentalmente, priorizar la educación para consolidar una cultura de verificación en los operadores jurídicos.
A esa exigencia normativa debe sumarse una exigencia comunicacional. El legal design, entendido como la disciplina que traduce el lenguaje jurídico y técnico a un formato comprensible para el ciudadano común, resulta indispensable para que las políticas de uso de IA en la justicia digital no queden reservadas a especialistas, sino que puedan ser entendidas y exigidas por cualquier persona afectada por una decisión algorítmica. Un ciudadano que no comprende cómo se procesó su caso difícilmente podrá impugnar una decisión injusta, por más derechos que la ley le reconozca sobre el papel.
El desafío se traslada, además, a escenarios cada vez más novedosos. La mediación en entornos inmersivos, las plataformas de resolución de disputas en línea (ODR) y los asistentes virtuales replican los mismos riesgos de privacidad y manipulación algorítmica, pero en contextos donde la regulación todavía es incipiente.
Ningún riesgo descrito hasta aquí implica que deba renunciarse a la tecnología. Implica, en cambio, que su incorporación exige controles serios y sostenidos en el tiempo. La justicia digital, en consecuencia, no puede limitarse a los tribunales tradicionales, sus garantías deben extenderse a cualquier espacio donde una máquina o sistema participe en la resolución de un conflicto, siendo esta una condición para que la innovación resulte verdaderamente segura y confiable.
5. Conclusión
La justicia digital no puede depender de herramientas impredecibles. Las alucinaciones de la IA y vulnerabilidades como el prompt injection demuestran que la automatización sin supervisión humana, no elimina los riesgos: simplemente los vuelve menos visibles. La tecnología debe entenderse como una herramienta al servicio del operador jurídico, nunca como su reemplazo.
Frente al procesamiento masivo de datos, la mera regulación estatal resulta insuficiente. Esto exige, con urgencia, profesionales del derecho capaces de auditar sistemas, identificar manipulaciones algorítmicas y comunicar estos procesos a los ciudadanos con absoluta transparencia, empleando el mismo rigor con el que dominan la técnica procesal. Solo al consolidar esta cultura de verificación la justicia digital podrá cumplir su promesa original: acercar la ley a las personas sin exponerlas a las trampas invisibles que la propia innovación introduce.
Referencias bibliográficas
Caso Mata v. Avianca. Sanción por citas jurisprudenciales inexistentes generadas por IA. Disponible en: https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.54.0_8.pdf
Corte Superior de Connecticut (2026). Elliott v. New York Bariatric Group, Memorandum of Decision (6 de agosto de 2026). Sentencia íntegra del primer caso documentado de prompt injection contra un tribunal estadounidense. Disponible en: https://cdn.arstechnica.net/wp-content/uploads/2026/08/Elliott-v-New-York-Bariatric-Group-Memorandum-of-Decision-8-6-26.pdf
Harris Beach Murtha (2026). The First Documented Prompt Injection Attack Aimed at a U.S. Court. Análisis jurídico del caso Elliott. Disponible en: https://www.harrisbeachmurtha.com/insights/the-first-documented-prompt-injection-attack-aimed-at-a-u-s-court/
Ministerio de Ciencia y TIC, Corea del Sur (2024). AI Basic Act (Ley Básica de Inteligencia Artificial). Marco regulatorio nacional. Disponible en: https://aibasicact.kr/
The Volokh Conspiracy, Reason.com (2026). Court Faults Self-Represented Plaintiff for Including Hidden Prompt Injection. Comentario y transcripción de la resolución judicial. Disponible en: https://reason.com/volokh/2026/08/13/court-faults-self-represented-plaintiff-for-including-hidden-prompt-injection-in-court-filing/
Ecosistema Startup (2026). Primer ataque de prompt injection en tribunales de EE. UU.: lecciones para startups. Disponible en: https://ecosistemastartup.com/primer-ataque-de-prompt-injection-en-tribunales-de-ee-uu-lecciones-para-startups/
OWASP. Top 10 for LLM Applications. Catálogo de vulnerabilidades como el prompt injection. Disponible en: https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/
Unión Europea (2024). Reglamento (UE) 2024/1689 (AI Act). Marco normativo europeo sobre inteligencia artificial. Disponible en: https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Consejo de Europa. Framework Convention on Artificial Intelligence and Human Rights. Convenio marco sobre IA y derechos humanos. Disponible en: https://www.coe.int/en/web/artificial-intelligence/framework-convention
Echeverría Muñoz, D. (2025). Legal impact of Artificial Intelligence (AI) hallucinations. Tesis, Universidad Andina Simón Bolívar. Disponible en: https://repositorio.uasb.edu.ec/handle/10644/10527
Tribunal Regional del Trabajo de la 8ª Región (Brasil). Jurisprudencia TRT8. Precedente citado por el tribunal de Connecticut. Disponible en: https://jurisprudencia.jt.jus.br/jurisprudencia-nacional/citacao/sentencas/TRT8/56183698
Abogado por la Universidad Central del Ecuador, cuenta con una sólida formación de posgrado que incluye maestrías en Derecho Financiero, Bursátil y de Seguros, y en Derecho de la Economía Digital, ambos por la Universidad Andina Simón Bolívar (Ecuador), donde además obtuvo su certificación como Delegado de Protección de Datos. Complementa su perfil con un Máster en Derecho Internacional de los Negocios por ESADE Law School (becado por Fundación Carolina, España) y estudios complementarios con la Diplomatura en Derecho Digital y Nuevas Tecnologías por la Universidad del Museo Social Argentino (Argentina), así como una Microcredencial en Derecho Público de la Inteligencia Artificial por la Universidad Pablo de Olavide (España). Con más de 17 años de experiencia profesional en los sectores público y privado. Actualmente se desempeña como Accionista Fundador y Gerente General de QQrucho Legal&Tech y como mediador acreditado por el Consejo de la Judicatura del Ecuador. A lo largo de su trayectoria, ha desarrollado una destacada actividad en el ámbito del derecho digital y las nuevas tecnologías, como autor, instructor y ponente en espacios nacionales e internacionales, es miembro activo de la Red Iberoamericana El Derecho Informático. En el ámbito académico, es docente de posgrado en la Universidad Hemisferios, EELA Institute y otras instituciones de Ecuador e Iberoamérica, en programas vinculados con Derecho Digital, Legaltech, Negociación, Mediación y Arbitraje. Ha impartido cátedra en Ecuador y en países como Argentina, México, Costa Rica, El Salvador, Perú, entre otros.