Error del caos. La excusa brota de la ternura del corazón,
y de sus manos fluyen caricias disfrazadas de misericordia.
Mientras, los que reclaman fe y no justicia
se pierden en su propio anhelo…
Ezra Pound, Canto CXIII, 1959
Vista la magnitud de lo invertido en la industria tecnológica para generalizar el uso disruptivo de la Inteligencia Artificial, era inevitable que ésta alcanzase el ámbito jurídico¹. Si bien la tipología de los riesgos del solucionismo basado en Inteligencia Artificial es común a todos los sectores, el sistema legal tiene vulnerabilidades únicas, que pueden llegar a comprometer el principio mismo de justicia.
Tal vez el caso más patente sea el del sesgo algorítmico, consecuencia de que los sistemas de inteligencia artificial son entrenados con jurisprudencia que puede adolecer de tendenciosidad, prejuicios y anacronismos².
Más allá de las cuestiones relativas a quién controla la estandarización y transparencia de los algoritmos, así como su capacidad para gestionar excepciones y complejidades para que la tecnología se adapte al derecho y no al revés³, cabe plantear un interrogante fundamental: si por mor de la eficiencia, la toma de decisiones legales deja de sustentarse en complejos procesos cognitivos humanos que incluyen la empatía y la contextualización necesarias para resolver litigios de manera imparcial y equitativa, es razonable temer que la administración de justicia acabe reducida a procesos en los que la automatización de los juicios legales convierta el gobierno de las leyes en un gobierno por las leyes, donde, como dijo Lawrence Lessig, el código es ley⁴.
Parte de la trampa que puede llevar a esta situación radica en la presunta neutralidad de la tecnología, que sirve como pretexto para promover la neutralidad moral⁵. Conseguir esto es, por supuesto, más asequible si se parte de un marco filosófico que niegue la existencia de valores absolutos, al tiempo que entienda el derecho como un sistema autosuficiente, libre de rémoras morales o sociales, y que, por ende, no ha de ser necesariamente justo, tanto como eficaz.
Lo cierto es que dicho marco no sólo hace tiempo que existe, sino que tiene buena salud en el entorno académico. Nos referimos, naturalmente, a la teoría pura del derecho de Hans Kelsen⁶, en la que lo nuclear es la norma jurídica, que sólo existe con carácter positivo al surgir de un acto legal, cuya validez proviene de una disposición de rango superior, denominada norma fundante, que alude al principio fundamental que legitima todo el edificio jurídico.
Pero esta norma no emana de un principio superior de autoridad, sino que más bien se acepta arbitrariamente como válida para asegurar la coherencia y unidad del ordenamiento normativo.
Así, el derecho queda ceñido a un sistema cerrado y autónomo donde la justicia se reduce a la legalidad, porque no es posible derivar normas morales de hechos empíricos⁷.
Siendo en el fondo un epígono de Kant, Kelsen distingue la validez de una norma, que atañe al ámbito del deber ser, y su eficacia, que se refiere a su aplicación y cumplimiento en la realidad (lo que es). Para que una norma jurídica sea considerada válida, es necesario que cuente con una eficacia mínima, es decir, que sea generalmente observada y aplicada. Una norma, en consecuencia, representa un acto de voluntad que impone, permite o legitima cierta conducta⁸.
Dicho en otros términos: una norma es la interpretación reglada de un acto volitivo que regula, autoriza o coacciona una conducta específica dentro de un marco legal dado, sin que se confunda con el acto que la origina; es una entidad diferenciada, objetiva de suyo.
Ahora bien: según Kelsen, el criterio para que una conducta sea considerada buena es que se ajuste a una norma objetivamente válida, de modo que, en verdad, es la norma la que atribuye valor al acto. No cuesta , por tanto, que, dada la clara sintonía entre los postulados inmanentes de Kelsen y el modelo conceptual que forma la idea del uso de la Inteligencia Artificial como herramienta jurídica, es posible —y necesario— resituar el debate en el campo filosófico, sacándolo de la estrechez de miras del encuadre cientifista que lo caracteriza.
Kelsen, como gran arquitecto del positivismo jurídico, se empeñó en levantar un muro infranqueable entre la ciencia y la religión, entre el ser y el deber ser, con una expresión casi obsesiva: Kelsen se propone refutar a quienes detectan en las grandes filosofías sociales modernas formas de religiosidad encubierta o religiones seculares.
Sin embargo, los esfuerzos de Kelsen en este campo revelan quizás sus propias limitaciones filosóficas, junto a una marcada miopía ante la complejidad del fenómeno religioso. Su rechazo frontal a reconocer elementos estructuralmente religiosos en ciertas filosofías modernas parte de una premisa reduccionista: la religión, para Kelsen, solo existe si media una referencia explícita a Dios. Esta visión reduccionista deja fuera cualquier análisis serio el núcleo antropológico de la religión: la necesidad humana de trascendencia, de sentido y de redención histórica o moral, que puede adoptar formas seculares.
Como había sostenido Eric Voegelin -a cuyos postulados se opone Kelsen- las doctrinas políticas modernas heredan de la religión cristiana esquemas de salvación, promesas de redención o escatologías seculares. Kelsen, por el contrario, se aferra a la pureza metodológica de la ciencia y el derecho positivo, negándose a aceptar que el fervor con que se abrazan ciertas ideologías pueda tener raíces religiosas. Llega incluso a considerar falaz equiparar la intensidad de la fe religiosa con la pasión política o moral.
La mayor debilidad de su postura es su incapacidad para reconocer la dimensión simbólica y performativa de las ideologías. Pero al negar que las ideologías políticas actúen como sistemas de creencias con ritos, dogmas y promesas de salvación terrena, Kelsen se desentiende de la función social y antropológica de la religión más allá de su envoltura teológica.
Paradójicamente, su propia defensa de la autonomía de la ciencia termina operando como una fe laica en la neutralidad y pureza de la razón. En su afán de proteger la ciencia de toda contaminación teológica, Kelsen incurre en el mismo dogmatismo que critica: el de erigir su positivismo en un absoluto incuestionable, que, en su rechazo a toda referencia iusnaturalista, es incapaz de ver en las nociones políticas de justicia una herencia laica de antiguas ideas teológicas. En último término, Kelsen aparenta temer tanto lo religioso que prefiere negar su espectro, antes que encararse a él.
No puede, por lo tanto, sorprendernos que sea Carl Schmitt⁹, católico alemán, quien rechace con mayor vehemencia y nitidez la idea de Kelsen, judío vienés, de un derecho puro y autónomo cuyo fin no es la justicia cuanto la aplicación de normas, argumentando, a la contra, que el orden jurídico está inevitablemente mediado por actos de orden político, de manera que el derecho no puede ser aislado de su contexto político, porque la justicia no se reduce a la legalidad, sino que depende de la decisión soberana que funda y mantiene el orden jurídico.
Schmitt asigna a la justicia una dimensión trascendente, directamente vinculada a decisiones soberanas que se traducen en actos políticos, de creación misma del derecho, en un sentido cuasi teológico.
Así, mientras Kelsen se afana por neutralizar lo político construyendo una estructura normativa formalista, abstracta y cerrada, Schmitt propugna la dimensión existencial de la política, como agente que genera el derecho, algo que no puede hacer la norma fundamental kelseniana, incapaz como es de explicar el origen del derecho. Para Schmitt, lo jurídico es fruto de una acción soberana, antes que de una norma universalizable.
También el segundo de los pensadores que traemos a colación, Xavier Zubiri¹⁰, reprueba el formalismo de Kelsen, observando que éste reduce el derecho a un sistema de normas vaciado de contenido moral, ignorando la dimensión ética propia de la realidad humana.
Al igual que Schmitt, Zubiri -también católico- sostiene que la justicia es un dinamismo real que surge de la acción de realidad del ser humano y se proyecta en su dimensión política. Zubiri rebasa así el relativismo moral del positivismo jurídico, aportando un firme sobre el que concebir la justicia no como mera consecuencia del derecho, sino como su fundamento y horizonte: el filósofo español propone una teleología jurídica que trascienda el derecho entendido como fin en sí mismo; defendiendo una dinámica radicalmente moral que brota en la apertura del ser humano a un mundo que reivindica una respuesta tanto ética como jurídica.
Acaso, la objeción más notable de Zubiri al formalismo abstracto de Hans Kelsen, (tan apreciado por los defensores del uso de Inteligencia Artificial en la justicia), sea su crítica a la inteligencia concipiente, por limitar el conocimiento a la conceptualización cartesiana, excluyendo la integración de la moralidad en el derecho. Para Zubiri, la inteligencia no es sólo concipiente, sino también sentiente, es decir, capaz de aprehender que la dimensión moral del derecho no es una imposición artificiosa, sino algo que, a diferencia de la Inteligencia Artificial, tenemos capacidad para reconocer en la propia estructura de lo real.
En suma, Schmitt como Zubiri coinciden en que la neutralidad política y moral que Kelsen persigue no tiene cabida en una comprensión completa y dinámica del derecho, en la que la justicia no sea solo una aplicación autorreferencial de normas, sino una proyección ética y política que surja de la realidad humana misma. Ambos filósofos sostienen, en último extremo, que lo jurídico casa mal con su cientificación, y que el derecho sólo puede ser derecho como proceso vivo, inseparable de la política, la moralidad y la inteligencia humana.
- Russell, S., & Norvig, P. (2016). Inteligencia Artificial: Un enfoque moderno (3.ª ed.). Pearson Educación.
- Eubanks, V. (2018). La automatización de la desigualdad. Capitán Swing.
- O’Neil, C. (2018). Armas de destrucción matemática. Capitán Swing.
- Lessig, L. (2006). El código y otras leyes del ciberespacio (2.ª ed.). Traficantes de Sueños.
- Harari, Y. N. (2018). 21 lecciones para el siglo XXI. Debate.
- Kelsen, H. (2007). Teoría pura del derecho (3.ª ed.). UNAM.
- Bobbio, N. (2011). Teoría general del derecho. Trotta.
- Peces-Barba, G. (1995). Curso de derechos fundamentales. Universidad Carlos III.
- Schmitt, C. (2009). Teología política. Trotta.
- Zubiri, X. (2013). Sobre el derecho y la justicia. Alianza Editorial.