Llevo muchos días pensando en el personaje de Rick Deckard, protagonista de “Blade Runner”, todo ello a raíz del derecho artificial.
Rick Deckard era un Blade Runner, un policía miembro de un cuerpo especial encargado de identificar, rastrear y matar a los replicantes fugitivos que están en la tierra.
Los replicantes servían a los humanos. Les realizaban trabajos peligrosos o trabajaban como esclavos en las colonias del mundo exterior de la tierra.
Un grupo de ellos decide volver a la tierra (donde tenían prohibida su entrada) para encontrar una solución a su muerte y ser inmortales (la vida del replicante es de cuatro años) y por eso, los Blade Runner tenían como única misión exterminarlo.
La Tyrell Corporation era la empresa que los fabricaba. Su lema era “más humanos que los humanos”.
Pero los replicantes tenían una importante limitación: carecían de la respuesta emocional y empática que tienen los humanos. Por eso, para descubrirlos se les hacía el test de Voight -Kampf que no era más que un test de empatía que buscaba la respuesta física del subconsciente, de tal manera que a través del iris del ojo, la aplicación del test determinaba si el entrevistado era un replicante o un humano.
Me vino a la cabeza Blade Runner, porque el otro día tuve mi primer contacto con el chat GPT.
Después de interactuar varias veces, son muchas las preguntas que me he planteado. Tengo la convicción de que no todas van a ser respondidas a corto plazo.
El reto que nos plantea la inteligencia artificial (IA) es inmenso.
La llegada de la IA puede cambiar la visión que en la actualidad tenemos del pacto (relación jurídica) que es el origen de cualquier contrato, porque vamos a tener que plantearnos si la IA va a poder ser considerado sujeto activo de la relación jurídica (los seres o aplicaciones de IA pueden llegar a tener inteligencia y voluntad), o si, por el contrario, esa condición de sujeto de la relación quedará restringida al creador del sistema o la aplicación.
¿La irrupción de la IA va a suponer la transformación de principios generales del derecho, como es el principio de legalidad, de irretroactividad de la norma, de la presunción de inocencia, de la interdicción de los poderes públicos?
¿Va a generar el nacimiento de nuevos principios .generales del derecho?
La IA nos va a proporcionar seguramente nuevos principios, conceptos nuevos y un nuevo vocabulario, ideas nuevas. etc… pero no creo que conlleve un cambio en alguno en cuanto a la concepción, o base de definición de los principios actuales.
Si creo que la IA puede tener un impacto muy positivo en el ejercicio de determinados derechos, pero otros corren el riesgo de verse menoscabados. Advierto cierto peligro para la salud futura de la libertad de expresión (incluyendo el derecho a comunicar o recibir libremente información de calidad), la privacidad, la prohibición de la discriminación, y el derecho a la tutela judicial efectiva.
De hecho, las organizaciones internacionales dedicadas a la protección de los derechos humanos actualmente están reflexionando sobre estos riesgos y qué solución merecen. Es más, ya existen acciones materializadas en el seno de las Naciones Unidas, el Consejo de Europa y la Unión Europea, organismos éstos que tienen claro que si se pasan por alto determinados factores sociales, laborales y éticos, la IA puede ser un arma peligrosa a favor de la desigualdad, el control y la destrucción.
Prueba de ello es el Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de de inteligencia artificial que puedes consultar aquí.
¿Podrá la IA interpretar la norma jurídica? ¿Se podrá utilizar la IA para suplir a la argumentación judicial?
Me cuesta admitir esa posibilidad, a pesar de que la IA ya en este momento maneja con mucha mayor precisión y acierto todas nuestras colecciones legislativas, jurisprudenciales, doctrinales y bases de datos en general.
Hoy en día la IA es una herramienta muy útil para la profesión jurídica, en tanto en cuanto facilita la solución de los algunos problemas legales, y nos permite hacer uso de técnicas que nos permiten resolver cuestiones específicas en la interpretación y aplicación de la Ley. Aplicaciones de IA pueden ayudar en el razonamiento legal (proporcionándonos información precisa sobre precedentes e identificación de casos). De hecho, hoy en día identificamos varios expertos legales que nacen de la IA: “de diagnóstico”, “de planificación”, “de procedimientos”, “listas de verificación inteligentes” y finalmente “sistemas de creación de documentos”.
Ahora bien, pienso que nada podrá sustituir al ser humano (ni siquiera la IA) en la función de interpretar una norma para dar solución a un concreto supuesto de hecho, y desde luego ello no será porque la cuestión de razonar y tomar decisiones a través del argumento no haya estado presente en el campo de la IA, que lo ha estado. Expreso mi convicción porque el factor emotivo de las decisiones judiciales deja fuera al cómputo matemático o cuantitativo de la IA.
La cuestión es si la IA a corto o medio plazo (o incluso ya) va a ser capaz de apoderarse de ese factor emocional.
No podemos dejar de tener en cuenta que las inferencias que obtienen las bases de datos son meramente cuantitativas, y ello supone un problema para que los sistemas de IA puedan intervenir en la solución de conflictos.
Cuando hablo de problema no quiero decir que las decisiones más numerosas para un caso concreto, o la más generales, no se puedan tener como las más racionales. De hecho, podríamos entender que la decisión más general (como suma aritmética de precedentes analizados por la jurisprudencia más o menos iguales), podría ser la más justa o la más democrática. Y esa decisión la podría ya adoptar la IA.
Sin embargo, el ejercicio profesional ha reforzado mi convicción que no existen dos casos iguales, por lo que, la doctrina mayoritaria, que vamos a detectar al caso particular (y que sería la aplicada por el sistema de IA) , no necesariamente tiene que ser de aplicación para el que nos ocupa en un momento concreto
En nuestra sociedad, en la que constantemente hablamos de “casos difíciles”, de entidad moral, la IA tendrá dificultades para intervenir. De hecho, y ante el riesgo que puede suponer la intervención de la IA en determinados procesos, el Parlamento Europeo y el Consejo de Europa nos ha advertido de los riesgos que puede suponer el uso de sistemas de IA aplicados en entornos jurídicos para abordar problemas tales como:
– La evaluación de riesgos de reincidencia.
– El juicio de culpabilidad.
– La fiabilidad de determinadas pruebas.
– La valoración de perfiles criminales y la predicción de comportamientos delictivos.
El uso de la IA puede ser causa de que, determinados principios pueden entrar en crisis. Principios y garantías procesales como la oralidad, la inmediación, la publicidad o la participación social en la administración de justicia, la equidad, la prelación de las fuentes del derecho, quizá estén en peligro.
Del mismo modo la IA no puede hoy por hoy realizar el juicio de culpabilidad o inocencia, dando sentido de manera integral a la totalidad de la prueba presentada, considerando incluso, si ésta pasa determinados filtros éticos, y si es apta para conformar convicción.
La disponibilidad de ingentes cantidades de datos, y el acceso a la computación de altas prestaciones para analizarlos, no permite a la IA aplicar analógicamente a supuestos o procesos que no ha analizado. No puede aplicar valores ni derechos fundamentales Por eso no podrá resolver por si sola problemas derivados de lagunas jurídicas que se resuelven mediante reglas de inferencia que no existen aún, o que evolucionan sobre parámetros que aún no han sido medidos.
Imaginen un primer caso, generado por una nueva realidad social: la IA no podrá medirlo, por lo que no podrá enjuiciarlo y suplir al razonamiento humano.
Y ello porque, hasta ahora, la IA actúa siempre después de la situación; su análisis es posterior, lo que constituye uno de sus grandes límites.
La IA no podrá crear una norma en sí. Sin duda estudiará el comportamiento social, y valorará cuál debe ser su tenor, pero no aprobar una ley porque en ese momento se cuestionaría el principio de soberanía del pueblo.
No niego que en determinadas ramas del derecho, por decirlo de alguna manera,” más matemáticas”, como el tributario, o parte del derecho laboral, el papel de la IA podría ser más determinante. Pero en el ámbito del derecho penal o de derechos fundamentales su papel va a ser más limitado. Y ello porque la resolución final ha de obedecer a un razonamiento humano expresado con valores e ideas.
El ser humano debe controlar los algoritmos utilizados por la IA para que el conjunto de datos analizados por esos sistemas no produzca impactos discriminatorios basados en la raza, religión, orientación, sexual, discapacidad… etc. La necesaria interpretación de normas y principios jurídicos siempre deberán ser respetados por los humanos durante el proceso de elaboración, interpretación y aplicación de las normas jurídicas.
Por ello, el Grupo Europeo de Ética en la Ciencia y en las Nuevas Tecnologías GEE ha fijado una serie de principios básicos que deberán ser tenidos en cuenta en todos los procesos jurídicos en los que la inteligencia artificial haya tenido algún tipo de protagonismo. Esos principios son:
- La dignidad humana
- La Autonomía.
- La Responsabilidad.
- La Democracia.
- La seguridad, y la integridad física y mental.
- La protección de datos y la privacidad.
- La sostenibilidad.
Puedes consultar el informe del Grupo Europeo sobre Ética de la Ciencia y las Nuevas Tecnologías aquí.
No negaré que el futuro me asusta de manera apasionante. Yo no tengo ninguna duda que llegará el momento de que determinados seres dudarán de si son humanos o son fruto de la inteligencia artificial. Si lo llego a ver, no duden de que me escaparé con quien quiera venir conmigo, del mismo modo que lo hicieron Rick Deckard y Rachel al final de Blade Runner.
Ni ellos mismos sabían quién era humano, y quien era replicante, o si lo eran los dos.
En eso no pensaban cuando circulaban en un descapotable por la autopista del trueno al tiempo que la melena de Sean Young era acariciada por el viento.
Un comentario
M’ha agradat moltíssim llegir aqueixes opinions que manifestes, Carles, sobre això que en deim Intel•ligència Artificial, i que veig com a fruit de la gran capacitat del cervell humà, amb possibilitats i la probabilitat d’iniciar una etapa nova, fins ara desconeguda damunt d’aquest planeta nostre. No sé si, per una vegada en la història, la moneda podria caure de cantell (la perfecció summa) i no de creu ni de cara…