Así es esto
Inteligencia Artificial y Derecho Disciplinario
El pasado jueves 11 de septiembre pudimos participar en la presentación del libro La Inteligencia Artificial en el Derecho Disciplinario: Riesgos y propuestas en su implementación de la Dra. Liz Padilla, especialista en las materias de derecho penal, disciplinario y derechos humanos. El título, por sí mismo, deja ver una verdad de Perogrullo, pero que se tiene que decir: la inteligencia artificial ya está aquí, tenemos que buscar cómo usarla, justamente partiendo de principios jurídicos y éticos.
En el capítulo 1, se explican las bases teóricas de la IA (machine learning, deep learning, redes neuronales); se resaltan sus ventajas en el derecho: agilizar procesos, análisis de grandes volúmenes de datos, apoyo en decisiones judiciales. Se advierten riesgos: sesgos en datos, decisiones automáticas sin supervisión, violación a derechos humanos y se plantea la necesidad de que los juristas comprendan la IA para garantizar un uso responsable.
El capítulo II, introduce el concepto de transhumanismo y sus implicaciones éticas, para advertirnos sobre el temor a que la IA sustituya al ser humano en procesos de decisión jurídica. Relaciona IA con el derecho punitivo: si se alimenta con datos antigarantistas, puede justificar estados autoritarios. Propone que la IA se supervise constantemente bajo parámetros garantistas y democráticos.
En un tercer capítulo, se analiza cómo los sesgos en IA pueden generar violaciones de derechos fundamentales (debido proceso, presunción de inocencia), explica que sin supervisión humana, la IA puede aprender prácticas discriminatorias o autoritarias, subraya que los sistemas disciplinarios ya presentan tendencias violatorias y que la IA puede agravarlas. Se insiste en la obligación de aplicar estándares de derechos humanos en la programación de estas tecnologías.
En el capítulo cuarto, examina jurisprudencia mexicana en materia disciplinaria que ha limitado derechos humanos (ej. defensa técnica). Señala que, si las IA se alimentan con estos criterios, reproducirán violaciones sistemáticas. Se expone el concepto de LIZIA (Inteligencia Artificial Jurídica garantista) propuesta por la autora, que se basa en el bloque de constitucionalidad, el principio pro persona y el test de proporcionalidad. Se advierte que el uso acrítico de IA en resoluciones administrativas y judiciales puede crear un Estado automatizado violador de derechos.
En el capítulo quinto, define requisitos de obtención lícita de pruebas en derecho disciplinario, incluyendo aquellas obtenidas mediante IA. Establece que cualquier prueba derivada de IA que viole derechos humanos es nula (árbol del fruto envenenado). Propone lineamientos de protección multinivel de derechos humanos en el uso de IA por autoridades disciplinarias. Analiza auditorías de fiscalización y la necesidad de garantizar que los algoritmos usados respeten el debido proceso y la presunción de inocencia.
El libro sostiene que la Inteligencia Artificial es inevitable en el ámbito jurídico, pero advierte que su uso en el derecho disciplinario y administrativo puede convertirse en un riesgo serio para los derechos humanos si no se regula de manera garantista. La autora propone una IA jurídica alternativa (LIZIA) que incorpore principios constitucionales y de derechos humanos como salvaguardas. El mensaje central es que los juristas no deben ser espectadores pasivos, sino actores activos en el diseño, regulación y control de las IA, evitando así que se conviertan en instrumentos de control autoritario.
Hay que hacer algunas críticas: algunas secciones, especialmente las vinculadas al transhumanismo y escenarios apocalípticos (IA sustituyendo totalmente al derecho humano) caen en un tono alarmista ¿Será que nos alcanzaron las películas de ciencia ficción como Terminator o Matrix? La propuesta de la IA garantista es atractiva, pero queda más en un plano conceptual que práctico. No se explica cómo se programaría, qué datos usaría ni cómo se verificaría su neutralidad.
El libro es un aporte valioso y pionero en la discusión sobre IA y derecho disciplinario en México y América Latina. Su enfoque garantista es su principal virtud, pues advierte contra la adopción acrítica de tecnologías que pueden perpetuar injusticias. En resumen: es un libro provocador e innovador, útil para abrir debates y sensibilizar a los juristas sobre la IA, estamos seguros que este es el inicio de una obra que se consolidará como referencia académica de largo plazo.
rubendiazlopez@hotmail.com
