ANÁLISIS CONSTITUCIONAL DE LA RELACIÓN ENTRE

LA INTELIGENCIA ARTIFICIAL Y EL DERECHO: HACIA EL

ARRIBO DEL DERECHO DE LOS ROBOTS
CONSTITUTIONAL ANALYSIS OF THE RELATIONSHIP BETWEEN ARTIFICIAL
INTELLIGENCE AND LAW: TO THE TOP OF THE RIGHT OF ROBOTS

Jorge Isaac Torres Manrique

Escuela Interdisciplinar de Derechos Fundamentales Praeeminentia Iustitia, Lima, Peru. E-mail:
[email protected]

DOI: https://doi.org/10.46550/ilustracao.v1i1.8
Recebido em: 02.10.2020
Aceito em: 28.11.2020

Resumo: Resulta innegable la interrelación que experimentan el Derecho y la Inteligencia Artificial.

Lo cual se puede evidenciar en las diversas manifestaciones de la vida diaria. En ese orden de ideas, en
la presente entrega el autor desarrolla la evaluación de la referida temática, a efectos de determinar en
qué medida es que acontece la misma, desentrañando las debilidades, fortalezas y además, la proyección
respectiva en predios jurídicos.
Palavras-chave: Inteligencia artificial. Derecho robótico. Robótica jurídica. Derecho y tecnología.

Abstract: The interrelation experienced by Law and Artificial Intelligence is undeniable. Which can be
evidenced in the various manifestations of daily life. In this order of ideas, in this delivery the author
develops the evaluation of the aforementioned subject, in order to determine the extent to which it
occurs, unraveling weaknesses, strengths and also the re-spective projection in legal properties.
Keywords: Artificial intelligence. Robotic law. Legal Robotics Law and technology

1 Apuntes preliminares

V ivimos en constantes cambios como consecuencia del avance de la ciencia y nuevas

tecnologías. Somos testigos del cada vez más presente protagonismo de su ingreso en
el mundo jurídico. Ello comporta, una obligada sintonización del mismo, a efectos de responder
a las nuevas necesidades, en razón a que deviene en limitado, obsoleto.
Pero, las modificaciones normativas en línea jurídica, no resultan suficientes para lo que
la nueva realidad contemporánea que atravesamos. Entonces, el remozo jurídico deviene en una
suerte de simple prólogo, para lo que la totalidad de la referida empresa comporta.

A Revista Ilustração está licenciada com uma Licença Creative Commons Atribuição-
NãoComercial-SemDerivações 4.0 Internacional.
30 Revista Ilustração | Cruz Alta | v. 1 | n. 1 | p. 29-41 | jan./abr. 2020.
DOI: https://doi.org/10.46550/ilustracao.v1i1.8

En el presente trabajo, desarrollamos los aspectos pertinentes, con objetivo de descifrar

la naturaleza y alcances, desde un enfoque y análisis multidisciplinar, arribando a conclusiones
y propuestas al respecto.
2 El derecho en las áreas de la informática

Resulta verdaderamente revelador el presente punto, en tanto que devela algo no muy
conocido respecto del comportamiento del derecho en las distintas áreas o niveles de intervención
de la informática. Al respecto, tenemos que:
Dentro de la informática jurídica, es común distinguir tres campos, en orden
creciente de complejidad y, a la vez, en orden cronológico de aparición: la
informática documental, la de gestión y la decisoria. La primera fue recibida
de buen grado por abogados y juristas. La segunda generó alguna resistencia,
que finalmente cedió ante las ventajas que ella ofrecía. La tercera sigue erizando
la piel de los juristas y provoca todavía polémicas encendidas. Pero todas ellas,
es preciso señalarlo, constituyen distintas maneras, diferentes intensidades en
el cumplimiento de una misma función, a saber, la de recibir informaciones,
elaborarlas de acuerdo con un programa y ofrecer el producto de tal elaboración
al hombre de derecho (GUIBOURG, 1998, p. 192).
En ese sentido, el uso de la tecnología en el ejercicio del derecho, no solo debe limitarse a la
información jurídica documental y a la informática jurídica de gestión, las posibilidades de aplicar
la informática metadocumentaria, podría ayudar a los jueces a estructurar los razonamientos para
resolver. Los ingenieros del conocimiento, así como los investigadores jurídicos, han demostrado
que el conocimiento jurídico puede ser modelado para crear programas informáticos que puedan
simular procesos cognitivos (Martínez Baena).
3 Inteligencia humana e inteligencia artificial

En principio, es de verse que la inteligencia es según Howard Gardner es: “la capacidad
para resolver problemas cotidianos, para generar nuevos problemas, para crear productos o para
ofrecer servicios dentro del propio ámbito cultural” (PICO, 2016).
En esa línea podemos colegir, que la inteligencia es la capacidad del ser humano, que le
permite resolver problemas nuevos. Esto es, con capacidad de dar solución a situaciones distintas
a los que ya se tenía conocimiento de cómo manejar.
Seguidamente, resulta imperioso precisar la definición de inteligencia artificial y así
tenemos que:
La Inteligencia Artificial (IA) es la rama de las Ciencias de la Computación
que estudia el software y hardware necesarios para simular el comportamiento
y comprensión humanos. El objetivo último de la IA es simular la inteligencia
humana en una máquina creando robots que sean conscientes y con sentimientos
reales, similares a los humanos. Uno de los problemas más difíciles es la simulación
de la conciencia, cualidad humana que hace que nos demos cuenta de nuestra
propia existencia” (VELASCO).
La inteligencia artificial, es también una nítida manifestación de encontrarnos atravesando
la Cuarta Ola, pues, la misma estaría caracterizada por aparición de la inteligencia artificial y la
interface entre nanotecnología y la biología sintética (Garrido Koechlin, 2015).
Es de destacar que hasta abril del 2015, la inteligencia artificial aplicada al derecho, se
 Análisis Constitucional de la Relación entre la Inteligencia Artificial y el Derecho... 31
Jorge Isaac Torres Manrique

ha orientado a varias grandes áreas, como tales tenemos: i) Modelos para la argumentación y la
toma de decisiones, ii) Clasificación y extracción de entidades de textos legales, iii) Extracción de
información de textos legales, y iv) Creación y planificación de un sistema legislativo (Fernández
Hernández y Boulat).
En los años 70 y 80 del siglo XX numerosos investigadores en inteligencia artificial habían
pensado en aplicar ideas tecnológicas de almacenamiento, estructura de la información jurídica
y de probabilidad decisional algorítmica al Derecho (sistemas expertos, razonamiento basado
en casos…). Según ellos la naturaleza muy formal y escrita de algunos sistemas legales parecía
permitir el desarrollo de unos sistemas informáticos que al igual que el abogado podían tratar de
encontrar similitudes en las situaciones legales, en las reglas o leyes, para predecir unas posibles
consecuencias o argumentos para lograr un resultado deseado. Así varios prototipos de sistemas
expertos se han desarrollado, como HYPO (1987), SHYSTER (1993) o TAXMAN (1997). Sin
embargo, estos sistemas no han cumplido sus promesas y han sido severamente criticados por ser
demasiado específicos (estos sistemas fueron desarrollados sólo para un problema, un idioma o
un campo legal preciso, no extensible a los demás) y por su incapacidad para hacer frente a los
casos legales considerados difíciles y a la posible interpretación del lenguaje jurídico. De hecho,
como ya señalaron Susskind en 1986, James Popple en 1991, Andrew Greinke en 1994 y más
recientemente Ángel Sancho Ferrer ninguno de los proyectos desarrollados hasta la fecha, ha
alcanzado resultados prácticos relevantes ¿A qué se debe esta diferencia entre el gran desarrollo
teórico y la práctica? (Fernández Hernández y Boulat).
La inteligencia artificial contribuye al avance de los modelos de gestión no solo judicial
sino gubernamental e infaltables en las agendas internacionales, donde las cuestiones referidas
al Gobierno Electrónico y Abierto, garantizan la trasparencia de los datos en línea y rendición
de cuentas públicas, además de la participación ciudadana; incorporando medidas de seguridad
informática adecuadas para la protección de los datos personales, y siempre respetando las
vigentes garantías constitucionales y los derechos humanos, pilares de un estado de derecho y
democrático (Florencia Cabrera, 2015).
4 Aparición del derecho de los robots

La humanidad siempre ha mostrado especial interés hacia el mundo de lo futurista, de

lo robótico, de lo aparentemente imposible, de lo desconocido. Prueba de ello, podemos traer a
colación las históricamente celebres como exitosas: serie “Lost in Space” y películas “Stars Wars”,
“Transformers”, principalmente.
Empero, digamos que de manera paralela, ingenios inmateriales o no corporales como
los sistemas de inteligencia artificial (IA) que llevan ya cierto tiempo entre nosotros. Luego
vendrían los cyborg, anunciando lo transhumano y lo poshumano, fruto de las investigaciones
sobre las relaciones entre cerebro y máquinas, sobre los interfaces cerebro–ordenador –los Brain–
machine interfaces (BMIs) o Brain–computer interfaces (BCIs)– y, más en general, sobre la
interacción persona–ordenador –la Human–computer interaction (HCI)–. Los robots ya han
llegado, y más están en camino. Los robots han salido de las cadenas de montaje de las fábricas
para circular por las carreteras, como sucede con los primeros prototipos de coches o camiones
autónomos, para volar en espacios aéreos más bajos para entregar mercancías por medio de
drones o realizar reconocimientos para detectar construcciones no declaradas, por ejemplo.
32 Revista Ilustração | Cruz Alta | v. 1 | n. 1 | p. 29-41 | jan./abr. 2020.
DOI: https://doi.org/10.46550/ilustracao.v1i1.8

También están reemplazando a los electrodomésticos para crear hogares conectados e inteligentes,
y asimismo están viajando a lugares más allá de la capacidad humana para abrir nuevas fronteras
al descubrimiento especial (Barrio Andrés, 2018).
En ese sentido, es también muy común la referencia a las posibilidades que los robots
presentan con la anglosajona expresión de the 3 D, esto es, permiten afrontar tareas que se
caracterizan por los tres adjetivos que empiezan por d: dull (tedioso), dirty (sucio) y dangerous
(peligroso). (Barrio Andrés, 2018).
Resulta evidente la urgente necesidad de definir las condiciones de legitimidad jurídica
de las nuevas invenciones y establecer con precisión un régimen claro de derechos y obligaciones.
La primera y esencial cuestión tiene que ver con la existencia de un marco jurídico que garantice
un progreso tecnológico que refuerce el libre desarrollo de la personalidad y los derechos
fundamentales de los ciudadanos en el plano estatal, y de los derechos humanos en el internacional.
Su análisis jurídico debe enmarcarse dentro de una nueva rama jurídica autónoma, el Derecho
de los Robots (Robot Law), para dar respuesta a estos insólitos desafíos y situaciones disruptivas,
como en su momento sucedió con el Derecho del Trabajo o el Derecho Ambiental. Además, es
preciso no olvidar la importancia de intervenir oportunamente y de manera proactiva a fin de
orientar la evolución actual y futura en esos ámbitos (Barrio Andrés, 2018).
¿Pero podrán estos sistemas constituirse en herramientas de apoyo a los profesionales
jurídicos? Muy probablemente sí. La posibilidad de contar con sistemas capaces de analizar a
gran velocidad enormes volúmenes de documentación, para extraer de ellos pautas o mejores
opciones de actuación ante supuestos concretos, parece posible y de gran utilidad para los
usuarios. Y es que en los últimos tiempos parece haberse producido un cambio de orientación
de la tecnología. En vez de insistir en el complejísimo empeño de diseñar modelizaciones de
los ordenamientos jurídicos, integrados con sistemas que imiten el funcionamiento del cerebro
humano, se está procurando la obtención de máquinas que puedan interactuar con los humanos,
destinadas a complementar las habilidades del pensamiento del cerebro (Fernández Hernández
y Boulat).
Amerita señalar que respecto del Derecho de los Robots, se ha propuesto elaborar una
regulación avanzada que pueda impulsar el desenvolvimiento de la robótica y de la Inteligencia
Artificial, y asegurar un desarrollo congruente con los valores propios de las constituciones y de
la Carta de los Derechos Fundamentales de la Unión Europea. Así, cabe destacar la importante
Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas
a la Comisión sobre normas de Derecho civil sobre robótica, que recoge las principales líneas
de trabajo para el legislador al respecto, entre las que destacan (S/a.): i) La creación de una
“Agencia Europea de Robótica e Inteligencia Artificial”; ii) La elaboración de un código de
conducta ético voluntario que sirva de base para regular quién será responsable de los impactos
sociales, ambientales y de salud humana de la robótica y asegurar que operen de acuerdo con
las normas legales, de seguridad y éticas pertinentes; iii) Promulgar reglas de responsabilidad
por los daños causados por los robots; iv) Crear un estatuto de persona electrónica; v) Crear
un Registro Europeo de los robots inteligentes, vi) La robótica y la inteligencia artificial son
descritas como “tecnologías disruptivas” que pueden “transformar vidas y prácticas de trabajo”,
afectar al mercado laboral y los niveles de empleo, y que eventualmente tendrán un gran impacto
en todas las esferas de la sociedad.
 Análisis Constitucional de la Relación entre la Inteligencia Artificial y el Derecho... 33
Jorge Isaac Torres Manrique

5 Ubicación de inteligencia artificial en la robótica

Antes de nada se debe diferenciar entre cuatro conceptos, niveles o categorías de robots
existentes a regular jurídicamente para poder alcanzar a generar una correcta definición que
abarque completamente su naturaleza jurídica (Nisa Ávila, 2016).

5.1 Nivel 1: Sistemas inteligentes programados

Son, según la “Robot Strategy” de Japón y el proyecto “Regulating Robotics: A Challenge

For Europe” de la Unión Europea, aquellas máquinas que llevan integrados sistemas robóticos
que ayudan a sus operadores o dueños a realizar tareas automatizadas, pero que no son en sí
mismo robots por resultar nada más que un pequeño sistema robótico integrado dentro de otro
no robótico donde predomina este último. (P.ej: Coches autónomos).

5.2 Nivel 2: Robots no autónomos

Según la “Korean law on the development and distribution of intelligent robots” de Corea
del Sur, son aquellos que en su totalidad a nivel de construcción industrial son robots y se
dedican a realizar tareas programadas simples sin necesidad de asistencia humana, y que con
mayor o menor medida son capaces de tomar decisiones mecánicas vinculadas exclusivamente a
su tarea ante imprevistos o situaciones de contingencia. (P.ej: robótica sanitaria, asistencia en el
hogar, limpieza automática en el hogar...)

5.3 Nivel 3: Robots autónomos

Son, según la “Korean law on the development and distribution of intelligent robots” de
Corea del Sur, la “Robot Strategy” de Japón y “Legal Regulation of Autonomous Systems” de
Corea, aquellos que tienen capacidad de desarrollar tareas encomendadas complejas, listando
las mismas, priorizando y tomando o creando sus propias decisiones con libertad dentro de su
ámbito de trabajo, en base a unos objetivos encomendados sin necesidad de asistencia humana,
con suficiente autonomía para que en base a una orden dada por un operador humano realizar
las tareas según lo considere más adecuado o efectivo para el cumplimiento de dicho objetivo,
y teniendo siempre como base última la protección de productos o maquinarias y de usuarios o
humanos como primer objetivo subyacente. (P.ej: Sistemas de diseño industrial autónomo, de
navegación aéreo automatizado, ferroviario…).

5.4 Nivel 4: Inteligencia Artificial

Es el último nivel y el mayor dentro de la evolución en robótica donde, según la “Korean

law on the development and distribution of intelligent robots” de Corea del Sur y la Robot Strategy
de Japón, ambas legislaciones vigentes, son aquellos sistemas mecánicos que perciben el ambiente
externo por sí mismo sin necesidad de órdenes preprogramadas externas, con capacidad para
discernir diferentes circunstancias que acontezcan a su alrededor y con capacidad para moverse
de forma voluntaria. Asimismo, los sistemas de inteligencia artificial deben de obedecer tanto
órdenes de otros sistemas de inteligencia artificial como las humanas que interaccionan con él.
La Robótica basada en inteligencia artificial debe obedecer a un estructurado sistema jurídico
organizado bajo un código de conducta establecido para las personas implicadas en el desarrollo,
34 Revista Ilustração | Cruz Alta | v. 1 | n. 1 | p. 29-41 | jan./abr. 2020.
DOI: https://doi.org/10.46550/ilustracao.v1i1.8

fabricación y uso de robots inteligentes con el fin de prevenir diversos tipos de efectos nocivos o
perjudiciales que pudieran surgir del desarrollo de las funciones del desempeño de la inteligencia
artificial en robots inteligentes (actualmente no existe ningún robot con estas características pero
tanto Corea como Japón ya lo tienen regulado legalmente y están iniciando estudios sociológicos
a la población).
De desarrollo de los referidos niveles, observamos claramente, que como parte integrante
de la robótica, la ubicación de la Inteligencia Artificial se encuentra en su manifestación más alta
y reciente. A la vez de apreciar, que en realidades de Corea y Japón, incluso ya se encuentran
regulada legalmente.
6 Riesgos a enfrentar

Sin embargo, resulta importante tener en cuenta que como es previsible, no todo es un
lecho de rosas en la empresa materia del presente trabajo.
En ese sentido, amerita traer a colación lo ocurrido recientemente en EE.UU.:
En el laboratorio de investigación de inteligencia artificial de la Universidad
Tecnológica de Georgia, un proyecto para crear una inteligencia artificial capaz de
aprender y desarrollar nuevas tácticas de negociación ha dado un giro inesperado,
para sorpresa de la empresa que lo ha financiado en parte: Facebook. Los
responsables del proyecto han tenido que apagar el proceso porque la inteligencia
artificial había desarrollado su propio lenguaje, casi imposible de descifrar
para los investigadores pero mucho más apto y lógico para la tarea que debía
desempeñar(…)los investigadores descubrieron que en el aparente desorden
había una estructura lógica coherente que permitía a la inteligencia artificial
negociar entre distintos agentes usando menos palabras o con menor riesgo de
equivocación(…)’ No programamos una recompensa para que la inteligencia
artificial no se desviara de las reglas del lenguaje natural’(JIMÉNEZ DE LUIS,
2017).
Al respecto, cabe acotar que el desacato de la máquina, en relación a lo que tenía
programado realizar, se llevó a cabo de manera pacífica, en tanto, que lo que lo hizo para lograr
mayor eficiencia. No obstante, no deja de ser inquietante el hecho que no solo haya presentado
esa autonomía no programada, sino, que eventualmente pueda presentarse el sentido negativo,
esto es, que tal vez lo haya utilizado en contra de su creador, para empresas muy perjudiciales.
7 Eventuales bemoles

Si con los riesgos señalados no es suficiente (y sin adoptar un posición pesimista), es de

destacar que existen diversos inconvenientes que se deberán sortear.
Ello, en razón a que no solamente por un lado, se tiene que asumir los altísimos costos
de lo que comporta las investigaciones encaminadas al estudio e investigación de la inteligencia
artificial (no pocas veces, de manera particular), sino que, también se tiene que lidiar con
situaciones nada pacíficas. Nos estamos refiriendo a la inusitada capacidad que presentan los
robots, para lograr una relativa independencia de los cauces establecidos para su operabilidad.
Acerca de las dificultades de la inteligencia aplicada al derecho, podemos mencionar
(Fernández Hernández y Boulat):
 Análisis Constitucional de la Relación entre la Inteligencia Artificial y el Derecho... 35
Jorge Isaac Torres Manrique

7.1 La interpretación del lenguaje humano

Posiblemente las técnicas de proceso del lenguaje natural (NLP, por sus siglas en inglés),
sean las que más han avanzado en los últimos años. Los ordenadores pueden reconocer, con
un alto grado de precisión, el sentido de las consultas formuladas por los seres humanos, sin
que estos deban utilizar para ello complejas construcciones sintácticas u operadores de proceso
(AND, NOT, NEAR...).
Sin embargo, el lenguaje jurídico posee algunas características propias, que aumentan la
dificultad de comprensión de las consultas formuladas: Estas dificultades se deben principalmente,
a la vaguedad, ambigüedad y textura abierta del derecho.

7.2 La codificación del Derecho

La modelización de reglas y pautas jurídicas para hacerlas comprensibles por la máquina

que debe aplicarlas es el siguiente problema a resolver a la hora de construir un sistema de
inteligencia artificial aplicado al Derecho. Y, hasta fecha, este obstáculo no se ha podido superar
satisfactoriamente.

7.3 La capacidad de proceso (el motor de inferencia)

Otra dificultad adicional, para el caso de que se pudiese llegar a disponer de una
modelización eficiente de un ordenamiento, radica en la capacidad de los actuales sistemas
de proceso para ser capaces de interpretar la consulta y explotar las reglas de razonamiento
aplicables, en unos tiempos de respuesta razonables. Esta tecnología, denominada motor de
inferencia, todavía no ha podido alcanzar un nivel de rendimiento aceptable.
8 ¿Justicia humana vs. Justicia cyborg?

Aparentemente se asumiría nuestra asistencia a una justicia robótica, que siendo más
eficiente y rápida que la humana, esta última terminaría siendo desplazada inexorablemente.
Incluso, un grupo de jóvenes científicos en la Universidad Federal de Kazan en Rusia,
se encuentran desarrollando un algoritmo autónomo capaz de emular la labor de un juez (Juez
Robot). Dos grupos participan en este proyecto, uno encabezado por expertos jurídicos y otro
por matemáticos y programadores (S/a).
En ese sentido, se apunta que: “Es cierto que se ha debatido mucho sobre el juez artificial, la
posibilidad de que sea un programa y no una persona humana, quien dicte sentencia. Pero este tipo
de programas sobre el ‘juez autómata’, que tanta literatura ha generado, estaban ya fuera de discusión
cuando nació la International Association for Artificial Inteligence an Law(…)no se trata de sustituir
el criterio del médico (o del juez) por un programa, sino de ampliar y reforzar su capacidad de
diagnóstico” (Casanovas, p. 834).
Consecuentemente, es de señalar que no solamente existe tal enfrentamiento, sino, que
también, la justicia humana seguirá existiendo y prevaleciendo sobre la justicia robot. Logrando
con ello, la complementariedad de esta última, a la justicia de los humanos.
9 ¿El dios de la prótesis reloaded?

En principio, tenemos que la Condesa de Campo Alange, en su libro La Mujer como

36 Revista Ilustração | Cruz Alta | v. 1 | n. 1 | p. 29-41 | jan./abr. 2020.
DOI: https://doi.org/10.46550/ilustracao.v1i1.8

Mito y como ser Humano, se expresa como sigue en la página 18: “La innata tendencia de
nuestra especie a la artificiosidad se manifiesta con mayor trascendencia —y en ello el hombre
revela con mayor evidencia su superioridad— en la invención y adopción de órganos sensoriales
artificiales —telescopio, microscopio, radar, televisión, teléfono, etcétera—, razón por la cual
Freud dijo que el hombre era ‘el dios de la prótesis’”. Cuando se dice prótesis, lo que normalmente
se entiende es una pieza o aparato con que se substituye, parcial o totalmente, un órgano o
parte del cuerpo dotada de una o varias funciones. Pero como el término prótesis de origen
griego, significa etimológicamente adición, entonces se dice prótesis en sentido amplio, de todo
lo que sea una adición, extensión, agregación o ampliación, a veces potenciadora, otras no, de
nuestros sentidos y de ciertas partes del soma femenino. Va de suyo que me estoy refiriendo a los
implantes labiales, letales y nalgales. Hoy la mujer, en aras del sex appeal, es más protética que el
hombre (Denegri, 2017, p. 5).
En ese sentido, consideramos que si bien es cierto, bajo dicho punto de vista, el hombre
es el dios de la prótesis, pues, lo es con mayor razón o de manera recargada, cuando utiliza la
ayuda de las nuevas tecnologías (como la inteligencia artificial y los sistemas jurídicos expertos),
a efectos de potenciar, agilizar y mejorar su desempeño en la diversidad de lides abogadiles. Las
mismas digamos que constituyen en unas prótesis muy sofisticadas como especializadas, pues, su
naturaleza se distingue al de las de uso general de la población.
No obstante, como contraparte, es de traer a colación:
Lo primero que me llamó la atención es que en el salón cada alumno tenía
una Tablet como cuaderno. La pizarra no era con tiza o plumón o digitalizada.
Cuando me presentaron, no lo hicieron por mi nombre, sino por mis direcciones
en redes sociales [...]. No estaba frente alumnos [...] sino frente a robots [...]todas
sus preguntas eran hechas desde sus computadoras dirigidas a la pantalla/pizarra.
Nunca me miraron a los ojos porque se comunicaban entre sí desde su tablets y
todo ocurría desde esa pantalla. Cuando caí en cuenta que estaba frente a unos
autómatas [...]. Apaguen sus tablets, apaguen sus celulares [...]Ahora mírenme
a los ojos [...]. Luego les pedí que se miraran entre ellos y que conversaran [...]
’el único pedido que les hago es que no enciendan sus celulares ni tablets’ [...].
Cuarenta y cinco minutos después, entré al salón y encontré a 20 humanos
riéndose, que no dejaban de conversar [...] ¡Muy bien chicos! [...] la empatía.
Busquen más en la gente y menos en las redes sociales, mírense más a los ojos,
conversen cara a cara, desarrollen su inteligencia emocional y listo. Todo lo demás
lo pueden googlear (GALDÓS, 2017, p. 58).
Como se aprecia claramente en la deliciosa reseña, las prótesis (laptos, celulares y pizarra
digitalizada), no necesariamente se constituyen en potenciadores de los sentidos de los alumnos,
sino más bien, como limitantes y cuando no, en abstrayentes del entorno social.
10 Inteligencia artificial y derechos fundamentales

A esta altura del presente desarrollo, podemos afirmar que tenemos una visión competa
y adecuada, respecto de los efectos, ya sea, positivos, negativos o limitados, en el mundo del
derecho. No obstante, no podemos dejar de lado a la contraparte concerniente a la trascendencia,
impacto o consecuencias, en lo relacionado a los derechos fundamentales de los justiciables y
administrados.
En ese sentido, el Fund. 7., del Exp. N° 03950 2012-PA/TC, del Tribunal Constitucional,
 Análisis Constitucional de la Relación entre la Inteligencia Artificial y el Derecho... 37
Jorge Isaac Torres Manrique

sostiene: “El principio de predictibilidad y certeza de las decisiones judiciales en cuanto

que manifestación del principio de seguridad jurídica implica la exigencia de coherencia de
criterio de los órganos judiciales en la interpretación y aplicación del derecho, salvo justificada
y razonable diferenciación. Así, la finalidad de esta exigencia funcional no es otra que la
contribución en la fundamentación del orden constitucional y el aseguramiento de la realización
de los derechos fundamentales. Si bien el principio constitucional de seguridad jurídica no se
encuentra reconocido expresamente en la Constitución, ello no ha impedido a este Tribunal
reconocer en él a un principio constitucional implícito que se deriva del Estado constitucional de
derecho (artículos 3.° y 4.3 de la Constitución). Ahora bien, no cabe duda de que esta exigencia
constitucional de predictibilidad y certeza de las decisiones judiciales se ve concretizada con la
denominada doctrina jurisprudencial constitucional, la que sólo se tendrá por cumplida si se
respetan tales decisiones”.
Además, en el Fund. 9., de la referida resolución preconiza: “(…) el principio de
predictibilidad y certeza de las decisiones es judiciales se ve seriamente afectado, siendo no
menos evidente la afectación del derecho a la igualdad en la aplicación del derecho allí donde en
el ordenamiento jurídico se producen dos o más interpretaciones dispares (que en son forzadas,
distorsionadas y antojadizas) en torno al sentido de la doctrina jurisprudencial del Tribunal
Constitucional, establecida en virtud del artículo VI del Título Preliminar del Código Procesal
Constitucional y la Primera Disposición Final de la Ley N.° 28301, Orgánica del Tribunal
Constitucional, o simplemente, cuando se omite o inobserva deliberadamente la aplicación de
dicha doctrina jurisprudencial”.
En consecuencia, podemos afirmar que dado que la inteligencia artificial, aplicada al
derecho, facilita la sistematización, ordenamiento, acceso y rapidez, de las diversas fuentes del
derecho, ello puede contribuir decisivamente al favorecimiento del principio de predictibilidad
(uniformidad) y certeza de las resoluciones judiciales y administrativas. Ello. también genera
el efecto irradiador en la efectiva realización del haz de no pocos derechos fundamentales
correspondientes.
Por otro lado, es indispensable asegurar los principios de igualdad y de no discriminación
cuando estamos frente a predicciones de inteligencias artificiales frente a derechos fundamentales.
Por ejemplo, ciertas inteligencias artificiales predictivas que se usan en los Estados Unidos de
Norteamérica se basan en un código fuente que toma en consideración distinciones de raza,
género, entre otras. Y esto provoca un caso inadmisible de discriminación estructural algorítmica.
Por ejemplo, en el caso State c. Loomis, el apelante sostuvo que el algoritmo inteligente usaba
incorrectamente las evaluaciones de género (Corvalán, 2017).
Además, es de verse la propuesta regulatoria de la Unión Europea, contenida en la
Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas
a la Comisión sobre normas de Derecho civil sobre robótica.
Y sobre el contenido mínimo de la Licencia de Uso de la Inteligencia Artificial, la
mencionada propuesta contempla, que dicha licencia se tendrán que contemplar, al menos, los
derechos y obligaciones para los usuarios de robots inteligentes que resumimos a continuación: i)
Derecho a no temer perjuicio físico ni psicológico; ii) Derecho a esperar que el robot ejecute sus
tareas propias, para las que fue diseñado; iii) Obligación de aceptar las limitaciones de percepción,
cognición y acción del robot inteligente; iv) La inteligencia artificial deberá respetar la fragilidad
38 Revista Ilustração | Cruz Alta | v. 1 | n. 1 | p. 29-41 | jan./abr. 2020.
DOI: https://doi.org/10.46550/ilustracao.v1i1.8

y emotividad humana, no generando confusión en cuanto a la realidad de los sentimientos

simulados por la máquina; v) Derecho a la intimidad: el robot deberá respetar la vida privada
y, por ejemplo, desactivar sus videomonitores en momentos íntimos; vi) No tratar datos de
personas sin el consentimiento explícito y previo de las mismas; vii) Obligación de no usar a los
robots contra la Ley ni contra la Ética; y viii) En ningún caso, modificar robots para ser usados
como armas (Salgado, 2017).
Finalmente, es de referir que en un logro sin precedentes, la inteligencia artificial predijo
con un 79% de exactitud las decisiones del Tribunal Europeo de Derechos Humanos (TEDH),
con un método desarrollado por investigadores de la University College de Londres (UCL),
la Universidad de Sheffield y la Universidad de Pennsylvania. Se trata del primer método que
vaticina los resultados de una corte internacional supranacional analizando automáticamente
textos de casos usando el aprendizaje automático (machine learning). (Meza, 2016).
11 Conclusiones

La relación entre la inteligencia artificial y el Derecho, resulta ser saludablemente

complementaria. Esto es, la misma hacia el mundo del Derecho.
La inteligencia artificial no pretende reemplazar al ser humano en el campo jurídico. No
lo podría hacer a cabalidad, en tanto que la naturaleza de inteligencia humana no es alcanzable
por la inteligencia artificial. Más bien, esta última facilita y agiliza la labor de los diversos actores
de la administración.
Apostrofamos que la indicada complementariedad no debe ser asumida, como una
limitación a las capacidades humanas de los operadores del Derecho. Así, no debe supeditarse
a los avances de la inteligencia artificial, sino, apuntar que las mismas se vean potenciadas,
fortalecidas. Ello en beneficio de los justiciables y la administración de justicia.
Es de resaltar que existen algunos riesgos y puntos que salvar, a efectos que dicha relación
pueda ser más fluida como fructífera.
En razón del avance y desarrollo de dicha relación, se aprecia que el Derecho se va
quedando a la saga, respecto de las nuevas situaciones que se van presentando, como producto
de la vorágine de avance en la relación del Derecho y la inteligencia artificial.
El cambio de paradigma será también un importante punto de agenda a ser atendido.
Corresponde pues determinar, en qué medida el mundo del Derecho se encuentra preparado
para darle el crédito correspondiente a los eventuales productos. Verbi gratia, las sentencias que
puedan ser hechas a cuatro manos entre el hombre y la máquina, requerirán de la aceptación
su imperio, así como, de la categoría que pueda implicar, ya sea jurisprudencia, precedente
vinculante, entre otros.
De conformidad a la nueva coyuntura, deberá prevalecer como máximo la relativa
despersonalización jurídica, pero nunca, su deshumanización. Ello, en tanto que la
consecuentemente evolución de la administración de justicia deberá enfocarse y entenderse
siempre en beneficio de los justiciables, en lugar de las máquinas.
Abrazamos el arribo de las nuevas tecnologías, la inteligencia artificial como su importante
aporte al derecho. Sin embargo, dicha fructífera relación no deberá contemplar en extremo
alguno la estricta inobservancia y salvaguarda de la seguridad jurídica y la justeza.
 Análisis Constitucional de la Relación entre la Inteligencia Artificial y el Derecho... 39
Jorge Isaac Torres Manrique

Sostenemos que la informática decisoria, como producto del avance de la inteligencia

artificial jurídica, podría contribuir de manera sostenida como saludable, a contrarrestar la
impredictibilidad e incerteza en las decisiones judiciales y administrativas, a la vez de fortalecer la
uniformidad de las mismas y finalmente, el derecho a la igualdad, la seguridad jurídica, la celeridad,
el orden constitucional y el aseguramiento de la realización de los derechos fundamentales. Todo
ello, comporta indudablemente un gran aporte en lo que a defensa y respeto irrestricto a los
derechos fundamentales de los justiciables y administrados.
Contrariamente a lo que se piensa, es decir, que la inteligencia artificial le quita espacio al
ser humano y que en cierta manera lo desnaturaliza, debemos indicar que más bien, lo fortalece.
Ciertamente la dicotomía consistente entre la legalización de la informática y la
desnaturalización (o eventualmente, reemplazo) del factor humano del derecho; en la que la
primera parece ser más viable, en tanto, que la segunda aparenta tornarse en una quimera, muy
difícil de alcanzar por las máquinas.
12 Sugerencias

Resulta necesario el abordaje de mayores estudios y análisis, con la finalidad de superar

las brechas desarrolladas.
Amerita abrazar la regulación legal de la cada vez más creciente relación entre los mismos.
Pero, se precisa contar con una rama específica, la cual se encontraría en ciernes. Nos referimos al
Derecho de los Robots o Derecho Robótico. La Academia se encuentra notificada para lo propio.
Dicho nuevo advenimiento comportará mayor capacitación y actualización, para lograr
la efectividad y eficiencia de su aplicación.
La fundamental asunción de una concientización de los actores jurídicos, para
desenvolverse y sintonizar con el nuevo escenario del Derecho de los Robots. Implica también
en este aspecto, un aggiornamiento muy necesario como urgente.
Resulta importante continuar trabajando en el perfeccionamiento y creación de sistemas
jurídicos expertos, que conjuntamente con la inteligencia artificial, puedan armonizadamente
proporcionar mayores beneficios al mundo jurídico.
El mundo del Derecho, precisa ver amigablemente y con enfoque sinérgico al ingreso
cuasi protagónico de la inteligencia artificial en el mismo. Pues, la actuación colaboracionista
de la misma resulta saludable como innegable. Ello, sin perder de vista que en su desarrolo y
aplicación tiene que prevalecer no solamente la salvaguarda de los derechos fundamentals, sino
además, su fortalecimiento.
Referencias

BARRIO ANDRÉS, Moisés. Robótica, inteligencia artificial y Derecho. En línea,

recuperado en fecha 20/11/20 de: http://www.realinstitutoelcano.org/wps/portal/rielcano_es/
contenido?WCM_GLOBAL_CONTEXT=/elcano/elcano_es/zonas_es/ari103-2018-
barrioandres-robotica-inteligencia-artificial-derecho. Madrid, 2018.

CASANOVAS, Pompeu. Derecho, tecnología, inteligencia artificial y web semántica. Un

mundo para todos y para cada uno. En: Enciclopedia de Filosofía y Teoría del Derecho. Vol.
1. En línea, recuperado en fecha 20/11/20 de: https://archivos.juridicas.unam.mx/www/bjv/
40 Revista Ilustração | Cruz Alta | v. 1 | n. 1 | p. 29-41 | jan./abr. 2020.
DOI: https://doi.org/10.46550/ilustracao.v1i1.8

libros/8/3875/26.pdf. México.

CORVALÁN, Juan Gustavo. La primera inteligencia artificial predictiva al servicio de la

Justicia: Prometea. En línea, recuperado en fecha 20/11/20 de: http://thomsonreuterslatam.
com/2017/10/la-primera-inteligencia-artificial-predictiva-al-servicio-de-la-justicia-prometea/.
Buenos Aires, 2017.

DENEGRI, Marco Antonio. “El dios de la prótesis”. En: Diario El Comercio. Cuerpo Luces,
de fecha 06/08/17. Lima, 2017.

FERNÁNDEZ HERNÁNDEZ, Carlos y BOULAT Pierre. Inteligencia Artificial y Derecho.

Problemas y perspectivas. En línea, recuperado en fecha 20/11/20 de: http://noticias.juridicas.
com/conocimiento/articulos-doctrinales/10061-inteligencia-artificial-y-derecho-problemas-y-
perspectivas/#_Toc416175199. España.

FLORENCIA CABRERA, Romina. “E-justicia, una oportunidad para la Inteligencia

Artificial y Protección de Datos”. En línea, recuperado en fecha 20/11/20 de: http://www.
diplointernetgovernance.org/profiles/blogs/e-justicia-una-oportunidad-para-la-inteligencia-
artificial-y, 2015.

GALDÓS, Carlos. Chicos robot. En Revista Somos del Diario El Comercio. N° 1600, de
fecha 05/08/17. Lima, 2017.

GARRIDO KOECHLIN, Juan José, “La cuarta ola”, en Peru21, Lima: 20/11/20. Recuperado
en fecha 29/05/20 de: http://peru21.pe/opinion/juan-jose-garrido-cuarta-ola-2217995. Lima.

GUIBOURG, Ricardo A. Bases teóricas de la Informática jurídica. En: Revista Doxa.

N° 21. 2/1998. En línea, recuperado en fecha 20/11/20 de: https://rua.ua.es/dspace/
bitstream/10045/10359/1/doxa21-2_15.pdf. España.

JIMÉNEZ DE LUIS, Ángel. Facebook apaga una inteligencia artificial que había inventado
su propio idioma. En línea, recuperado en fecha 20/11/20 de: http://www.elmundo.es/
tecnologia/2017/07/28/5979e60646163f5f688b4664.html. España, 2017.

MALPICA VELASCO, José Antonio. Inteligencia Artificial y conciencia. En línea, recuperado

en fecha 20/11/20 de: http://www3.uah.es/benito_fraile/ponencias/inteligencia-artificial.pdf.
España.

MARTÍNEZ BAENA, Goretty Carolina. La inteligencia artificial y su aplicación al campo del

derecho. En línea, recuperado en fecha 20/11/20 de: http://www.corteidh.or.cr/tablas/r30570.
pdf. España.

MEZA, Daniel. La inteligencia artificial predice juicios de derechos humanos. En línea,

recuperado en fecha 20/11/20 de: https://nmas1.org/news/2016/10/24/inteligencia-artificial-
juicios, 2016.

NISA ÁVILA, Javier Antonio. Robótica e Inteligencia Artificial ¿legislación social o nuevo
ordenamiento jurídico?. En línea, recuperado en fecha 20/11/20 de: http://tecnologia.
elderecho.com/tecnologia/internet_y_tecnologia/Robotica-Inteligencia-Artificial-legislacion-
social-nuevo-ordenamiento_11_935305005.html. Madrid, 2016.

PICO, Iván. La teoría de las inteligencias multiples de Garner. En línea, recuperado en fecha
 Análisis Constitucional de la Relación entre la Inteligencia Artificial y el Derecho... 41
Jorge Isaac Torres Manrique

20/11/20 de: https://psicopico.com/la-teoria-las-inteligencias-multiples-gardner/, 2016.

S/a. Derecho Digital. En línea, recuperado en fecha 20/11/20 de: https://letslaw.es/

inteligencia-artificial-y-derecho/. 2019. Madrid.

S/a. El equipo de investigadores creará un prototipo del juez robot. En línea, recuperado en
fecha 20/11/20 de: https://espanarusa.com/es/news/article/592063, España.

SALGADO, Victor. Derechos humanos e inteligencia artificial: Leyes de la robótica en la UE.

En línea, recuperado en fecha 20/11/20 de: https://pintos-salgado.com/2017/03/17/derechos-
humanos-e-inteligencia-artificial-leyes-de-la-robotica-en-la-ue/. La Corunha, 2017.