I. Introducción

El proceso de transformación digital que estamos viviendo, en el que cada vez adquieren una mayor relevancia las tecnologías disruptivas emergentes, por ejemplo, las tecnologías inteligentes (smart technologies) o los sistemas de inteligencia artificial (IA), afecta al derecho y, en particular, al derecho constitucional, al menos tal y como se había entendido hasta ahora, especialmente desde la perspectiva del paradigma de los derechos fundamentales, y de las categorías y conceptos utilizados en la dogmática constitucional.

En efecto, aunque estas tecnologías presentan múltiples desafíos para el derecho constitucional (Sarrión, 2020a: 321-333), uno de ellos son las aporías que se generan en la afectación de las categorías jurídicas, que llaman a repensar y replantear unas categorías y conceptos que no pueden ser concebidos como permanentes e inalterables, llegando en su caso, si fuera necesario, como dice Bobbio, a plantearse la creación de nuevas categorías (1990: 206); algo que no es nuevo, pues como se ha apuntado certeramente, la bioética había mostrado, ya desde sus orígenes, los límites de las categorías jurídicas (Salardi, 2020: 217).

Pero qué duda cabe que, si algo define a la ciencia del derecho, o al derecho como ciencia, siguiendo a Engisch es que “puede conformar el derecho mismo y la vida en y bajo el derecho” (2001: 3), pues, desde su origen, el derecho es una ciencia práctica. Pero para disponer de un derecho práctico se hace esencial utilizar unas adecuadas categorías y conceptos jurídicos, los cuales requieren siempre de interpretación y de adaptación a la cambiante realidad de una sociedad en plena transformación digital; se trata de resolver las aporías o paradojas que se presentan.

Este análisis parte, si se quiere, de una concepción del derecho que quizá puede calificarse como neoconstitucionalista, en el sentido de que da cuenta —o trata de hacerlo— de los rasgos caracterizadores del derecho contemporáneo (constitucionalizado), superando las tesis del positivismo tradicional (Atienza, 2007: 199 y 200), con una visión en cierta manera pragmática a la hora de aplicar e interpretar el ordenamiento jurídico.

Un ordenamiento jurídico constitucionalizado donde la Constitución normativa, como manifestación de la última fase del constitucionalismo, incide sobre “la formulación nuclear de la ciencia del derecho, sobre su paradigma científico, conocido usualmente como su dogmática jurídica” (Balaguer, 2016: 33), por más que dicha normatividad viva sus propias tensiones en los tiempos líquidos en los que vivimos.1

Si para la dogmática constitucional es esencial comprender bien la norma jurídica —análisis normativo constitucional—, así como determinar su correcta interpretación (el famoso problema de la interpretación, que siempre acompaña al jurista), para la sociología del derecho o sociología jurídica, que se aproxima al derecho desde el exterior, le preocupa la interacción de éste con la sociedad, incluyendo tanto las influencias que la sociedad y sus cambios pueden generar en el derecho como la incidencia que éste puede tener en la realidad que regula.

Desde el punto de vista del derecho constitucional, la interpretación que interesa no debe ni puede limitarse a la interpretación del texto constitucional, sino que debe buscar también la interpretación constitucional de la norma o, si se prefiere desde un punto de vista ordinamental, del ordenamiento jurídico (Balaguer, 1997).

La preocupación del jurista constitucionalista no se limita, por tanto, al estudio del texto constitucional, sino que, desde el texto constitucional o a la luz del mismo, fija su atención también en otras normas del orden o sistema jurídico que se debe al mismo.

A la hora de encarar el problema de la interpretación constitucional no se puede obviar los procesos supranacionales de integración o la propia internacionalización del derecho constitucional, las Constituciones, con carácter general, ya no son textos cerrados, sino que abren la puerta a la influencia de otros textos internacionales, lo que motiva que en los espacios constitucionales donde se produce hay que considerar los planteamientos pluralistas (constitucionalismo plural) o del constitucionalismo multinivel.2

Desde el punto de vista de la protección de los derechos fundamentales, el constitucionalista hace siempre una lectura pro derechos. Como apunta Frossini (2020: 273 y ss.), el constitucionalismo no se desarrolla sino en la separación de poderes, las garantías constitucionales y la tutela de los derechos como técnicas de afirmación de la libertad individual.

No se trata de entrar aquí y ahora en la disquisición doctrinal sobre el concepto de “derechos humanos” y su distinción con el de “derechos fundamentales”, pues en realidad nos interesan otras cuestiones.3 Por eso vamos a utilizar la expresión de derechos fundamentales como equivalente a la de derechos humanos, es decir, aquellos derechos inherentes que corresponden a las personas por el hecho de tener tal condición y que son objeto de reconocimiento en textos de carácter constitucional.

Pues bien, estos derechos fundamentales, sus categorías y sus conceptos, incluso su propio paradigma, se ven afectados por las tecnologías disruptivas emergentes, así como los efectos que tienen las mismas en la vida digital de las personas (Sarrión, 2020b); entendiendo por vida digital el tiempo que las personas dedican a las redes y sistemas digitalizados.4

Esto interesa, tanto desde la perspectiva de la dogmática constitucional en cuanto que afecta a cómo leemos las normas y como las interpretamos, como también desde la sociología jurídica, dado que motivan cambios en la sociedad que influyen en la norma jurídica, y a su vez, motivan cambios en la propia norma, y aún más, en el conjunto del ordenamiento jurídico, el cual evoluciona detrás de los cambios tecnológicos.

II. De cómo las tecnologías disruptivas emergentes
revolucionan los conceptos y categorías del derecho
constitucional, y las aporías que generan
desde el paradigma de los derechos fundamentales

Si bien la era digital no es el fin de la era humana,5 es cierto que plantea interrogantes y desafíos importantes desde la perspectiva de la protección de los derechos fundamentales, configurados en su paradigma tradicional como derechos de la persona (derechos humanos), pues, por un lado, la digitalización supone unos cambios en la forma de vivir, de relacionarnos como personas, hasta el punto de que nos cambia la vida y percepción de la realidad. Asimismo, se plantean nuevas realidades e identidades (realidad virtual, identidad digital) que requieren replantear las garantías y el contenido de los derechos o, como se defiende en algunos sectores, la extensión de su titularidad a otras entidades, ya sean animales o robots, incluso se llega a hablar de “derechos poshumanos”.6

Por tecnologías disruptivas emergentes entendemos aquellos instrumentos y procedimientos industriales que, suponiendo una innovación, están surgiendo y desarrollándose en la actualidad, al mismo tiempo que suponen una ruptura para el estado del conocimiento y del desarrollo tecnológico.7 Por supuesto que una de las más relevantes sería la inteligencia artificial (IA), pero no la única; otras tecnologías que constituyen innovaciones de este tipo son, por ejemplo y sin pretensión de exhaustividad, el Internet de las Cosas (IdC), la tecnología de cadenas de bloques (blockchain), los drones, la edición genética mediante CRIPSR (tijeras genéticas), pues todas ellas serían innovaciones tecnológicas susceptibles de generar riesgos y retos que son objeto de estudio aquí.

En los siguientes apartados vamos a tratar, en particular, la posición de la inteligencia artificial en estas tecnologías, la función que le corresponde al derecho y, finalmente, un análisis desde el paradigma de los derechos fundamentales.

1. Tecnologías disruptivas emergentes
e inteligencia artificial

Estas tecnologías disruptivas emergentes constituyen un especial desafío por su tendencia a converger entre diferentes áreas, experiencias y campos del saber, en particular, aquellas que podemos denominar como inteligentes, sistemas o dispositivos con IA, por su tendencia a transcender o superar al propio ser humano —sistemas autónomos— que termina saliendo de su área cultural, siendo eclipsado (Rodotá, 2018: 89 y 90), o incluso pudiendo transformarlo (piénsese en la introducción de interfaces, cíborgs, híbridos, súper personas, o seres singulares,8 etcétera).

Aunque no hay una definición precisa de lo que es inteligencia artificial y hasta dónde puede llegar,9 es claro que cuando se habla de una tecnología inteligente se está utilizando la expresión formada por “tecnología” (instrumentos y procedimientos industriales) e “inteligencia” (que implica capacidad de entender o comprender, pero también capacidad de resolver problemas).10 Estas tecnologías inteligentes o IA pueden combinarse con diferentes tecnologías y sistemas, pueden tener una dimensión física o bien virtual o digital, dar lugar a robots o robotizar sistemas —hardware y software— (Barrio, 2018), pueden utilizar blockchain, IdC, realizar tratamiento masivo de datos (big data), desarrollar sistemas de decisión automatizados, sistemas de reconocimiento (facial, de voz, etcétera), el machine learning, la realidad virtual, y más. Además, hasta ahora estos sistemas serían creados por el ser humano, pero en el futuro los propios sistemas inteligentes podrán crear otros sistemas y tecnologías disruptivas que no podemos si quiera imaginar.

Pero en realidad no hay una noción comúnmente aceptada siquiera de qué es IA,11 y se habla también de inteligencias artificiales, diferenciando el nivel o grado de inteligencia existente (Kaplan y Haenlein, 2019).

Aunque la IA o los sistemas inteligentes se puedan integrar o puedan incluso converger con otras tecnologías, hay que advertir que se pueden desarrollar tecnologías con poca o reducida inteligencia artificial, o bien sin ella, afectando también a los derechos fundamentales y su paradigma (piénsese en las redes sociales, la digitalización, etcétera). Aunque, sin duda alguna, es en la combinación y convergencia de las tecnologías emergentes, y en particular cuando se integra la IA, cuando se aprecian mejor los riesgos más elevados.

La IA, entendida como la innovación que permite dotar de autonomía y capacidad a un sistema para desarrollar tareas que exigen inteligencia, está presente en los smart robots o robots inteligentes,12 en los sistemas de reconocimiento de voz, en los instrumentos de seguridad de smart phones, en los traductores, en los gestores de contenidos audiovisuales digitales, en los sistemas de reconocimiento de imágenes, o, en general, en los instrumentos o sistemas computacionales con toma de decisiones automatizadas, utilizando big data.

2. La función del derecho ante las tecnologías
disruptivas emergentes

Cuestión discutida es qué función debe asumir el derecho, es decir, hasta dónde procede su intervención para regular el proceso científico-tecnológico, o no. Los riesgos de la regulación, sobre todo por desincentivar la investigación son claros, pero el principio de precaución, y los riesgos de no regular también lo son (tecnologías antihumanas o peligrosas).

Como sostuvo Zweig (2003), uno de los grandes misterios de la vida es que no nos damos cuenta de los valores de la vida hasta que es demasiado tarde, cuando los perdemos.13

Tal razonamiento parece razonable en aras de preservar la protección de los derechos fundamentales y hacer frente a los riesgos de las tecnologías, sostener la necesidad de una regulación.14

Esta regulación debe basarse en principios claros, y debe tener en cuenta todas las fases del desarrollo tecnológico, desde la propia investigación, el diseño, el desarrollo, la implementación, así como también su utilización, haciendo referencia a las diferentes esferas, campos o temas en los que se pueden utilizar (por ejemplo, participación política, seguridad pública y privada, sanidad, medicina, investigación, servicios, etcétera).

Al derecho constitucional le interesa todo este procedimiento desde el principio hasta el final, especialmente desde la perspectiva de la protección de los derechos fundamentales, siendo necesario garantizar, en el desarrollo tecnológico, que se hagan evaluaciones de impacto en los derechos fundamentales (Consejo de Europa, 2019).

Dentro del ámbito de la protección de derechos debemos comenzar, antes de analizar los retos que se plantean para el paradigma de su protección, la propia ibertad de investigación científica que constituye, sin duda, como indica Gómez Sánchez, un derecho fundamental (2009: 75 y 76).15 Si bien podemos diferenciar dos modelos de protección constitucional en función de si configura una protección autónoma del derecho o bien se tutela dentro de otros derechos o libertades configurados de forma amplia, con carácter general en el marco de la libertad de expresión.

Para ejemplificar lo antes dicho, la Constitución de Estados Unidos de 1787 no protege de forma expresa la libertad de investigación, se entiende amparada dentro de una amplia libertad de expresión (Primera Enmienda). Sin embargo, se suele decir que los primeros precedentes constitucionales en reconocer la libertad de investigación como derecho fundamental son la Constitución alemana de 1919 de Weimar, artículo 142; y la Constitución de la II República Española de 1931, artículo 48.3.

La actual Constitución alemana tutela la libertad de investigación en el artículo 5o. junto con el arte, la ciencia y la enseñanza; en cambio, la Constitución española de 1978 la ampara, si bien de forma implícita, en el artículo 20.1, apartado b, dentro de la cobertura de la producción científica, artística y técnica, sin perjuicio de que, como tal, la investigación tiene otras referencias en el texto constitucional (artículos 44.2, 148.117 y 149.1.15). De tal manera, ha sido criticado que no se contemple su protección de forma expresa en el complejo artículo 20 (Gómez, 2009: 491).

Algunas Constituciones del continente americano han seguido el modelo estadounidense, tutelando la libertad de investigación dentro de una amplia libertad de expresión, y otras han configurado una protección específica, ya sea de forma implícita o explícita. Por ejemplo, en la Constitución Política de los Estados Unidos Mexicanos de 1917, se tutela a través de la obligación del Estado de apoyar la investigación científica (artículo 3o., apartado V), lo cual se ve complementado por la consagración de la libertad de investigación en la Ley de la Ciencia; la Constitución de la República Federativa de Brasil de 1988, regula la libertad de la expresión de la actividad científica (artículo 5.IX); la Constitución Política de Colombia de 1991, establece la libertad de investigación científica (artículo 71), constituyendo así la tendencia actual de incorporar su protección en los textos constitucionales (Ahumada, 2012: 427).

Asimismo, podemos encontrar este derecho implícito en el artículo 19 de la Declaración de Derechos Humanos de 1948 (Cippitani, 2015: 554), y de forma explícita tanto en el Tratado de Funcionamiento de la Unión Europea (artículo 16.1), como en la Carta de Derechos Fundamentales de la Unión Europea (artículo 13).

Sin duda, la libertad de investigación científica tiene una autonomía propia, que faculta a científicos, investigadores y profesores a su desarrollo —aunque habría que precisar esta titularidad atendiendo a la legislación sobre investigación— y se proyecta en diferentes campos del saber, incluyendo la tecnología, por tanto, podríamos hablar de investigación científico-tecnológica a través de proyectos de investigación amparados en financiación pública y/o privada, y que se sujetan a diferentes regulaciones en función del sector o campo de investigación.

De hecho, la investigación científica y la tecnología están en un proceso de aceleración progresiva (Martínez, 2019: 66), es ya una realidad el uso masivo de datos (big data) y el desarrollo de sistemas de reconocimiento biométrico, de decisión automatizados y, en general, los que incorporan elementos de IA, lo que plantea a su vez sus propios retos específicos.

Que exista y se proteja la libertad de investigación no quiere decir que ésta, como cualquier otro derecho fundamental, no pueda tener límites, debiendo tener especial consideración la protección de la propia dignidad de la persona y otros derechos fundamentales (derecho a la vida, integridad física y psíquica, derecho al honor, libertad religiosa, derecho a la salud, derecho a la intimidad, derecho a la protección de datos, por poner algunos ejemplos), así como los instrumentos jurídicos aplicables, y los propios principios éticos profesionales. Ciertamente, tampoco se trata de que estas tecnologías vayan a afectar de forma negativa a los derechos, en muchas ocasiones puede que los derechos se vean beneficiados a través de nuevas formas de ejercicio (piénsese en la libertad de expresión en redes sociales, al derecho de reunión y manifestación ejercido de forma digital, por ejemplo).

Los defensores del transhumanismo defienden la mejora del ser humano a través de las innovaciones tecnológicas, aunque plantean la posibilidad de atribuir a los sistemas de inteligencia artificial valores “humanos” (Bostrom, 2014). Como acertadamente advierte Cortina, lo difícil sería obligarles a mantener este sistema de valores, y serían los propios sistemas quienes propondrían sus propios valores (Cortina, 2019: 385). No podríamos apreciar la pérdida de los valores humanos hasta que los perdiéramos, por eso es esencial perseverar su protección.

Aunque queda tiempo para el desarrollo de la súper inteligencia artificial, no es menos cierto que los avances científicos en todos los campos van en progresivo aumento, pero la preocupación por regular adecuadamente el desarrollo de estas tecnologías, desde la investigación, diseño e implementación, no es algo nuevo.16

Por un lado, Estados Unidos17 y Japón18 llevan ya bastante tiempo estudiando la necesidad de adaptar la legislación a la IA, adaptando sus marcos normativos para potenciar la investigación y desarrollo de estas tecnologías; la Unión Europea ya tomó nota del reto que suponen, así, el Parlamento Europeo aprobó la Resolución del 16 de febrero de 2017 sobre la necesidad de elaborar una normativa civil a nivel europeo sobre robótica (Resolución sobre normas de derecho civil sobre robótica) en la que se reflejen “los valores humanistas intrínsecamente europeos y universales que caracterizan la contribución de Europa a la sociedad” (Parlamento Europeo, 2017).

A nivel internacional, la Asamblea General de Naciones Unidades, en la Resolución 73/179 del 17 de diciembre de 2018, subrayó que las tecnologías de IA con elaboración de perfiles y adopción automatizada de decisiones, sin las debidas garantías, pueden dar lugar a decisiones que afecten a los derechos humanos (Naciones Unidas, 2018a); siendo destacable también el trabajo del Relator Especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión (Naciones Unidas, 2018b).

Vamos a aproximarnos a los avances realizados en el ámbito europeo que conocemos mejor. Además de la resolución antes citada, en la UE, la Comisión Europea (2018) emitió una comunicación titulada “Inteligencia artificial para Europa”, en la que muestra la necesidad de adherirse al cambio que supone el advenimiento de la IA. El informe del Joint Research Centre, Artificial Intelligence. A European Perspective (Craglia, 2018) muestra de una forma muy desarrollada la perspectiva europea —predominantemente antropocéntrica— sobre la inteligencia artificial. Y más recientemente el Parlamento Europeo (2019) adoptó la resolución del 12 de febrero de 2019 sobre “Una política industrial global europea en materia de inteligencia artificial y robótica”.

El Parlamento Europeo es consciente de que los macrodatos (big data) pueden capacitar dispositivos de IA a modo de redes neuronales y modelos estadísticos que sirvan para predecir algunos acontecimientos y comportamientos,19 y estos sistemas computacionales van a ser capaces de tratar, aprender y resolver problemas, tomando decisiones a partir del big data, con un cambio de paradigma en cómo se tomaban las decisiones hasta el momento (Cotino, 2017: 132), puesto que los datos y recomendaciones, o propuestas, propiciados por estos sistemas van a ser fundamentales, incluso determinantes, siendo difícil que un operador humano se aparte de la recomendación dada por un sistema inteligente, salvo casos excepcionales.

También es importante resaltar la constitución del Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial de la Comisión Europea en 2018, con el propósito de apoyar la implementación de la Estrategia Europea en Inteligencia Artificial, y que ha tenido ya la oportunidad de desarrollar las Directrices Éticas para una IA fiable (2019), con una aproximación antropocéntrica, así como se ha lanzado la Alianza Europea en IA (European AI Alliance) que tuvo su primera asamblea en junio de 2019, el Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza (Comisión Europea, 2020a), publicado recientemente el 19 de febrero de 2020, y que establece una serie de garantías y limitaciones al uso de algunas tecnologías de IA, así como el Informe sobre implicaciones de la inteligencia artificial, el Internet de las cosas y la robótica (Report on the safety and Liability Implications of Artificial Intelligence, the Internet of Things and robotics), presentado al Parlamento Europeo (Comisión Europea, 2020b), o la reciente propuesta de reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial).20

En el marco del Consejo de Europa, se ha señalado la complejidad y naturaleza envolvente de estas tecnologías emergentes que están planteando serios retos a la regulación y también a los derechos humanos, llamando a la necesidad de una mayor cooperación a nivel internacional para afrontar los retos de estas tecnologías,21 en cuyo marco, en la Comisión Europea para la Eficacia de la Justicia (CEPEJ), se ha elaborado la Carta Europea Ética sobre el Uso de la Inteligencia Artificial en los Sistemas Judiciales y su Ámbito (2018a), así como se ha creado un comité de expertos sobre las dimensiones de los derechos humanos del tratamiento masivo de datos y las diferentes formas de inteligencia artificial (Committee of experts on human rights dimensions of automated data processing and different forms of artificial intelligence), que ya ha tenido oportunidad de elaborar un borrador de recomendación sobre los impactos de los sistemas algorítmicos (Consejo de Europa, 2018b), entre otros trabajos de interés, pues son también destacables, por ejemplo, la recomendación del comisionado de derechos humanos Umboxing Artificial Intelligence: 10 Steps to Protect Human Rights, de 2019, que aconseja, en particular, realizar evaluaciones de impacto en materia de derechos fundamentales (Consejo de Europa, 2019), o también el trabajo desarrollado por el Comité Consultivo del Convenio para la Protección de las Personas con Respecto al Tratamiento Automatizado de Datos de Carácter Personal (Convenio 108), con la propuesta de guías generales sobre IA orientadas tanto al público en general como también de forma particular a los desarrolladores de IA, así como a los legisladores.22 Aunque sin duda, la gran novedad, es la introducción, en el artículo 9o. del Convenio 108, del derecho a no estar sujeto a una decisión basada únicamente en un procesamiento de datos automatizado sin tener en cuenta su opinión (Gascón, 2020: 344).

La reciente crisis sanitaria vinculada a la COVID-19 que seguimos padeciendo ha demostrado la importancia de la utilización de la IA en salud pública, en particular por la necesidad de tratar y analizar de forma rápida grandes cantidades de datos (Craglia, 2020).

Si atendemos a la literatura científica, podemos ver que ya comenzó hace tiempo a dispensar atención al tema de la necesidad de una regulación de la inteligencia artificial, destacando los riesgos de una súper inteligencia artificial (Bostrom, 2014), la importancia de establecer un concepto autónomo de “inteligencia artificial” desde el derecho (Lea, 2015), de distribuir derechos y obligaciones (responsabilidad) entre seres humanos y máquinas (Balkin, 2017)23 desde la perspectiva de la regulación de su diseño y modelos (Martínez, 2019: 64-81; Cotino, 2019a y 2019b), analizándola como objeto del derecho constitucional (Sánchez, 2016), estudiando las garantías necesarias para su implementación por la administración pública (Valero, 2019), planteándose la posibilidad de atribuir derechos a los robots con forma humana (Darling, 2012), poniendo énfasis en la protección de los derechos (Asís, 2014; Cotino, 2017; Est y Gerritsen, 2017), en los peligros de discriminación derivados del uso de estos sistemas (O’Neil, 2018; Zuiderveen, 2020; Soriano, 2021), o incluso en las implicaciones del género en los asistentes virtuales (Ni Loideain y Adams, 2019).

En España, caso que conocemos bien, la doctrina iuspublicista ha puesto el foco y atención en estos retos, creando la interesante Red de Derecho Administrativo e Inteligencia Artificial, que organiza anualmente seminarios dedicados al derecho administrativo e inteligencia artificial (DAIA) desde 2019.

Lo que llama la atención es que usualmente, y salvo alguna excepción,24 nos encontramos con aproximaciones muy valiosas, pero parciales, a pesar de la importancia que pueden tener las conexiones entre estas tecnologías y los problemas jurídicos que se plantean, dada su cada vez mayor convergencia, y además con aproximaciones no solo parciales por el tema, sino por el campo y el área de aproximación, lo que limita necesariamente el foco de atención, de ahí que se habla de narrativas de la inteligencia artificial (López, 2019).

Sin embargo, lo más relevante de la cuarta revolución industrial es, sin duda, el avance progresivo de la convergencia de estas tecnologías disruptivas emergentes, que incluyen la IA, pero también otras tecnologías, como los drones y otros sistemas que generan la necesidad de una aproximación común o global a las mismas, dada la transformación sustancial que producen, especialmente desde la perspectiva de los derechos fundamentales.

3. Sobre el paradigma de los derechos
fundamentales en la era digital

Como hemos anticipado, estas tecnologías producen cambios en la vida de las personas en sus diferentes esferas (educación, integridad, privacidad, imagen, igualdad, trabajo, consumo, etcétera), y pueden tanto ayudar y mejorar la calidad de vida como generar riesgos, con un serio potencial de exclusión digital y otros menoscabos en los derechos fundamentales.25

Por tal motivo, se hace necesario preguntarse por la necesidad, o no, de un replanteamiento del paradigma (de protección) de los derechos fundamentales, teniendo en consideración que partimos de la necesidad de una aproximación común a estas tecnologías, pues los problemas éticos y jurídicos que pueden plantear, tanto a la hora de enfocar su regulación (las distintas fases de investigación, diseño, implementación y utilización de estas tecnologías), como a la hora de garantizar en todo momento que el máximo respeto por los derechos fundamentales, son esencialmente equivalentes.26

Pero, ¿necesitamos un nuevo paradigma de los derechos fundamentales? Entendemos por paradigma de los derechos fundamentales la teoría o conjunto de teorías cuyo núcleo central o foco es explicar el concepto, modelo y problemas de los derechos fundamentales.

Se puede considerar, siguiendo a Torres del Moral, que los derechos humanos: “son aspiraciones del hombre (Laski), afirmación de fines humanos que han de realizarse en el futuro (Green), demandas del hombre en la Historia (Croce), exigencias éticas del hombre en su vida social, que varían con la Historia” (2015: 219).

Estos derechos, proclamados en los textos internacionales y reconocidos en los textos constitucionales como derechos fundamentales, en cuanto que son derechos vinculados y fundamentados en la dignidad de la persona, vienen determinados por la condición humana de ser sujeto de derechos, y su reconocimiento ha servido para la configuración y protección de una esfera de libertad para poder decir con autonomía plena, conformando cada persona sus opciones morales y vitales (Gómez, 2020: 33); son derechos que, el positivismo considera, incorporan previas pretensiones morales surgidas con la necesidad, como ocurre con una libertad de prensa cuando se consolida en Europa (Peces-Barba, 1994: 622 y ss.), y que pueden ser atendiendo al sujeto titular, bien sean individuales o colectivos.

Ahora mismo, las cuestiones relativas a los derechos fundamentales frente a las tecnologías disruptivas emergentes plantean más dudas que respuestas, algunas de las cuestiones que se plantean son aporías o paradojas irresolubles al día de hoy, teniendo en cuenta el actual estado de la tecnología, pero es lícito que nos preocupemos y reflexionemos desde el derecho constitucional sobre esto.

Algún autor ha llegado a preguntarse si sería necesario reescribir nuevas normas constitucionales o si son suficientes las actuales y se pueden interpretar en la era tecnológica (Frossini, 2020: 276), otros han sugerido que las nuevas tecnologías pueden requerir el reconocimiento de nuevos derechos,27 o bien “un nuevo enfoque jurídico y dogmático en el tratamiento de los derechos fundamentales”, pues es necesario abordar la protección atendiendo a la dimensión colectiva de los derechos, ya que estamos hablando de una tecnología que afecta a la humanidad, por lo que no podemos simplemente utilizar una dimensión individual o subjetiva (Cotino, 2017: 137).

Ciertamente, al igual que ocurrió con el reconocimiento de la protección de datos de carácter personal primero, que surge como derecho autónomo,28 y posteriormente con el derecho al olvido como derecho autónomo, y diferente del de protección de datos,29 también puede ocurrir que la jurisprudencia y/o futuros textos reconozcan nuevos derechos, formalizando o reconociendo nuevas pretensiones morales surgidas o derivadas del desarrollo tecnológico y la era digital, como puede ser un derecho a la identidad digital y de autodeterminación digital, incluyendo un derecho al acceso y desarrollo de la vida digital, o incluso un derecho a la objeción digital.

Existen, desde luego, riesgos inminentes como el de un “panóptico digital”. Como es sabido, el panóptico es una construcción ideada por Bentham para permitir la vigilancia, resolviendo los problemas que presentaban los recintos penitenciarios (Bentham, 2011). El desarrollo de tecnologías disruptivas emergentes y el tratamiento de datos masivos puede permitir un panóptico digital que se teme que pueda estar acechando a la humanidad (Rouco, 2020).

Esta posible monotorización del comportamiento y actividad de las personas a través de las tecnologías, aunque no se llevara a la práctica, podría tener un “chilling effect” en el comportamiento individual, motivando un cambio en el comportamiento de la persona que podría autocensurarse (Wachter y Mittelstadt, 2019: 20 y 21)30 o incluso, desde el punto de vista sociológico, en la propia sociedad que vive en la era digital.

Es cierto que, a nivel de la Unión Europea, por poner el ejemplo que conocemos mejor, el Reglamento General de Protección de Datos (RGPD), aplicable desde el 25 de mayo de 2018, ya tiene en consideración algunos de los retos que ha planteado el big data y las tecnologías inteligentes, pero a pesar de los avances que han supuesto el reconocimiento expreso a nivel legislativo del derecho al olvido, recogido como derecho de supresión en el artículo 17 del RGPD, aplicado a los buscadores de Internet para impedir la difusión de información personal, así como del derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado —incluida la elaboración de perfiles— que produzca efectos jurídicos, en el artículo 22 del propio RGPD están sujetos a límites. En particular, el interesante y novedoso derecho a no sufrir una decisión individual automatizada no se aplica cuando la decisión es necesaria para la celebración o ejecución de un contrato, o cuando está autorizada por el derecho de la Unión o de los Estados miembros, o se basa en el consentimiento del interesado;31 de forma que van a poder existir muchos supuestos en los que desarrollen decisiones automatizadas con efectos jurídicos.32

En España se ha utilizado como fuente de implementación y adaptación a las reformas introducidas la Ley Orgánica 3/2018, de Protección de Datos Personales y Garantía de los Derechos Digitales, con entrada en vigor el 7 de diciembre de 2018, cuyo objetivo es, en realidad, doble: en primer lugar pretende la adaptación del ordenamiento jurídico español al RGPD y, por tanto, desarrollar la protección de datos de carácter personal en España; pero también pretende, en segundo lugar, garantizar los derechos digitales de la ciudadanía, en cuanto que nuevos derechos que serían ejercitables frente a la transformación digital.33 En esta misma línea, si bien con un carácter programático, se acaba de presentar la Carta de Derechos Digitales, que trata de perfilar algunos derechos ante las nuevas tecnologías (Gobierno de España, 2021).

Pero es cierto, no nos equivoquemos, que el valor que tiene la privacidad en el continente europeo no es generalizable a nivel mundial, y también es posible que otros derechos a los que no se les hace demasiado caso en Europa, tengan un mayor valor en otros contextos. Por tal motivo, es importante un debate abierto entre constitucionalistas sobre el impacto y los riesgos que estas tecnologías tienen para los derechos.

Otra cuestión es abordar el problema de la titularidad. Por un lado está el debate de si los derechos solo deberían proteger a los seres humanos, o también deberían proteger o proporcionar derechos a los sistemas tecnológicos inteligentes, especialmente cuando se manifiestan en forma humana, como Darling ha propuesto para los robots sociales, de la misma manera que se ha otorgado cierta protección a los animales en la medida en que puedan generar empatía (Darling, 2012); o como se ha defendido en otros campos, sobre la base de la apariencia humana que pueden adquirir y para evitar lo que podría considerarse una forma de esclavitud (Lumpkin, 2013). Lo que pasa es que una cosa es atribuir a los sistemas de IA un estatus jurídico, incluso ciertos “derechos”, y otra cosa distinta es atribuirles derechos fundamentales (humanos). Parece razonable que se regule un estatuto jurídico para las máquinas, incluso que las proteja de ciertas conductas destructivas del ser humano, pero no que se les atribuyan derechos fundamentales que, en esencia, son derechos del ser humano.

Distinta es la cuestión de los cíborgs, de los seres humanos híbridos, etcétera, en la medida en que son seres humanos, titulares de derechos fundamentales. Ciertamente pueden ser seres humanos más avanzados en sus capacidades, y se plantearán cuestiones relativas al acceso a estas mejoras, su financiación pública, y los temas vinculados a la igualdad, y en su relación con los demás seres humanos. Desde luego aún no hemos llegado al punto en el que haya que adoptar decisiones sobre todas estas cuestiones, pero la reflexión está abierta. No cabe duda de que estas tecnologías disruptivas emergentes, en particular las tecnologías inteligentes o sistemas de IA, afectan a los derechos fundamentales, y merecen que nos replantemos su concepción y paradigma, pues es la mejor manera de preservar nuestros valores.

III. Conclusiones

El proceso de transformación digital que vivimos y el desarrollo progresivo de las tecnologías disruptivas emergentes están afectando al derecho, y en particular al constitucional, al menos tal y como se había entendido hasta ahora, especialmente desde la perspectiva del paradigma de los derechos fundamentales y de las categorías y conceptos utilizados en la dogmática constitucional.

Estas tecnologías, en particular las tecnologías inteligentes o que utilizan sistemas de IA, pueden plantear más riesgos. Desde luego, como hemos visto, estas tecnologías pueden favorecer el ejercicio de derechos fundamentales, pero también pueden dificultarlos. Por ello es necesaria su regulación.

No es suficiente una autorregulación o la generación de códigos de conducta, que pueden complementar, pero no sustituir la regulación; esta regulación debe incluir evaluaciones de riesgos e impacto en los derechos fundamentales. También es posible que sea necesario reconocer nuevos derechos fundamentales en la era digital.

Hemos tratado de realizar un análisis desde una perspectiva multidisciplinar, tanto desde la dogmática constitucional (análisis constitucional), si se quiere desde una concepción del derecho que quizá puede calificarse como neoconstitucionalista, con una visión pragmática, como desde la sociología jurídica (análisis social). Esto con el objetivo de estudiar la problemática de esta relación entre tecnologías disruptivas emergentes y derechos fundamentales, para tratar de resolver las paradojas que se plantean.

Los derechos fundamentales se sustentan en la dignidad humana y se manifiestan como concreciones de pretensiones sociales, basados en los valores humanos, y el avance científico y el desarrollo de la sociedad en la era digital conlleva nuevas pretensiones sociales que hacen necesario el reconocimiento de nuevos derechos. Incluso el reconocimiento de algún estatuto jurídico para ciertos sistemas de IA, pero no derechos fundamentales, que son per se humanos; en este sentido, el paradigma de los derechos fundamentales, si bien se puede adaptar, debería mantener sus esencias.

IV. Referencias bibliográficas

Agarwal, Girish (2021). Droneopticon: Privacy Implications of Civilian Drones in the EU. Tesis doctoral. Barcelona: Universidad Pompeu Fabra.

Agencia de los Derechos Fundamentales de la Unión Europea (2020). Getting the Future Right. Artificial Intelligence and Fundamental Rights. Luxemburgo: Publications Office of the European Union.

Ahumada Canabes, M. (2012). “La libertad de investigación científica. Panorama de su situación en el constitucionalismo comparado y el derecho internacional”. Revista Chilena de Derecho, 39(2). Chile.

Asís Roig, R. de (2014). Una mirada a la robótica desde los derechos humanos. Madrid: Dykinson.

Atienza, Manuel (2007). “Constitución y argumentación”. Anuario de Filosofía del Derecho. 24. España.

Balaguer Callejón, Francisco (2008). “Constitucionalismo multinivel y derechos fundamentales en la Unión Europea”. En Estudios en homenaje al profesor Gregorio Peces-Barba. Vol. 2. Madrid: Dykinson.

Balaguer Callejón, Francisco (2016). “El derecho constitucional de la integración supranacional”. En Introducción al derecho constitucional. 5a. ed. Madrid: Tecnos.

Balaguer Callejón, M. L. (1997). Interpretación de la constitución y ordenamiento jurídico. Madrid: Tecnos.

Balkin, Jack M. (2015). “The Path of Robotics Law”. California Law Review. 6. California.

Barrat, J. (2017). Nuestra invención final: la inteligencia artificial y el fin de la era humana. México: Paidós.

Barrio Andrés, M. (dir.) (2018). Derecho de los robots. Madrid: La Ley.

Bentham, Jeremy (2011). Panóptico. Madrid: Círculo de Bellas Artes.

Bobbio, Norberto (1990). “Ser y deber ser en la ciencia jurídica”. En Contribución a la teoría del derecho. Madrid: Debate.

Bobić, Ana (2017). “Constitutional Pluralism is not Dead: An Analysis of Interactions between Constitutional Courts of Member States and the European Court of Justice”. German Law Journal. 18(6), Alemania.

Bostrom, N. (2014). Superintelligence. Paths, Dangers, Strategies. Oxford: Oxford University Press.

Christensen, Bill (2016). “Asimov’s First Law: Japan Sets Rules for Robots”. Live Science. Disponible en: http://www.livescience.com/10478-asimov-law-japan-sets-rules-robots.html.

Christensen, C. C. (1997). The Innovator’s Dilemma: When New Technologies Cause Great Firms to Fail. Boston: Harvard Graduate School of Business Press.

Cippitani, Roberto (2015). “Academic Freedom as a Fundamental Right”. 1st International Conference on Higuer Education Advances, HEAd’15. Valencia: Universidad Politécnica de Valencia.

Consejo de Europa (2017a). “Technological Convergence, Artificial Intelligence and Human Rights”. Recommendation 2102(2017). Disponible en: http://assembly.coe.int/nw/xml/XRef/Xref-DocDetails-EN.asp?
FileID=23726&lang=EN.

Consejo de Europa (2017b). “Reply to Reccommendation R2102”. Doc. 14432. Disponible en: http://assembly.coe.int/nw/xml/XRef/Xref-DocDe
tails-EN.asp?FileID=24236&lang=EN.

Comisión Europea (2018a). “Inteligencia artificial para Europa”. SWD (2018) 137 final. Bruselas. Disponible en: https://ec.europa.eu/transpa
rency/documents-register/detail?ref=COM(2018)237&lang=es.

Comisión Europea (2018b). “Addressing the Impacts of Algorithms on Human Rights”. MSI-AUT(2018)06rev3. Bruselas. Disponible en: https:
//rm.coe.int/draft-recommendation-of-the-committee-of-ministers-to-states-on-the-hu/168095eecf.

Consejo de Europa (2019a). European Commission for the Efficiency of Justice (CEPEJ). European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their Environment. Bruselas: CEPEJ. Disponible en: https://rm.coe.int/ethical-charter-en-for-publication-4december-2018/16808f699c.

Consejo de Europa (2019b). Umboxing Artificial Intelligence: 10 Steps to Protect Human Rights. Bruselas. Consejo de Europa. Disponible en: https://rm.coe.int/unboxing-artificial-intelligence-10-steps-to-protect-human-rights-reco/1680946e64.

Comisión Europea (2020a). “Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza”. COM(2020) 65 final. Bruselas. Disponible en: https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_es.pdf.

Comisión Europea (2020b). “Report on the Safety and Liability Implications of Artificial Intelligence, the Internet of Things and Robotics”. COM(2020) 64 final. Bruselas. Disponible en: https://ec.europa.eu/info/publications/commission-report-safety-and-liability-implications-ai-internet-things-and-robotics-0_en.

Cortina, Adela (2019). “Ética de la Inteligencia Artificial”. Anales de la Real Academia de Ciencias Morales y Políticas. 96. España.

Cotino Hueso, Lorenzo (2017). “Big data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales”. ILEMATA. 24. España.

Cotino Hueso, Lorenzo (2019a). “Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. Enfoques, modelos y principios de la respuesta del derecho”. Revista General de Derecho Administrativo. 50.

Cotino Hueso, Lorenzo (2019b). “Ética en el diseño para el desarrollo de una inteligencia artificial, robótica”. Revista Catalana de Dret Públic. 58.

Cotino Hueso, Lorenzo et al. (2021). “Un análisis crítico constructivo de la Propuesta de Reglamento de la Unión Europea por el que se establecen normas armonizadas sobre la Inteligencia Artificial (Artificial Intelligence Act)”. Diario La Ley.

Craglia, Massimo (ed.) (2020). Artificial Intelligence and Digital Transformation: Early Lessons from COVID-19 Crisis. Luxemburgo: Publications Office of the European Union. Disponible en: https://publica
tions.jrc.ec.europa.eu/repository/handle/JRC121305.

Craglia, Max (ed.) (2018). Artificial Intelligence. A European Perspective. Luxemburgo: Publications Office of the European Union. Disponible en: https://publications.jrc.ec.europa.eu/repository/bitstream/JRC1
13826/ai-flagship-report-online.pdf.

Darling, Kate (2012). “Extending Legal Protection to Social Robots: The Effects of Anthropomorphism, Empathy, and Violent Behavior Towards Robotic Objects”. En Calo, Ryan et al. (eds.). Robot Law. Miami: Edward Elgar Publishing. Disponible en: https://ssrn.com/abstract=204
4797 o http://dx.doi.org/10.2139/ssrn.2044797.

Díez Picazo, L. M. (2005). Sistema de derechos fundamentales. 2a. ed. Madrid: Civitas.

Doménech Pascual, G. (2006). Derechos fundamentales y riesgos tecnológicos. Madrid: CEPC.

Engisch, K. (2001). Introducción al pensamiento jurídico. Granada: Comares.

Freixes San Juan, Teresa (2011). “Constitucionalismo multinivel e integración europea”. En Gómez Sánchez, Yolanda y Freixes San Juan, Teresa. Constitucionalismo multinivel y relaciones entre parlamentos: Parlamento Europeo, parlamentos nacionales, parlamentos regionales con competencias legislativas. Madrid: CEPC.

Frossini, T. E. (2020). “Il costituzionalismo nella società tecnológica”. En Pérez Miras, A. et al. (dirs.). Setenta años de Constitución italiana y cuarenta años de Constitución española. Vol. V. Madrid: CEPC.

García Novoa, César y Santiago Iglesias, Diana (dirs.) (2018). 4ª revolución industrial: Impacto de la automatización y la inteligencia artificial en la sociedad y la economía digital. Madrid: Thomsom Reuters Aranzadi.

Gascón Marcén, A. (2020). “Derechos humanos e inteligencia artificial”. En Pérez Miras, A. et al. (dirs.). Setenta años de Constitución italiana y cuarenta años de Constitución española. Vol. V. Madrid: CEPC.

Gómez Sánchez, Yolanda (2009). “La libertad de creación y producción científica: Especial referencia a la Ley de Investigación Biomédica”. Revista de Derecho Político. 75-76. España.

Gómez Sánchez, Yolanda (2020). Constitucionalismo multinivel. Derechos fundamentales, 5a. ed. Madrid: Sanz y Torres.

Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial de la Comisión Europea (2019). Directrices éticas para una IA fiable. Bruselas: Comisión Europea.

Kaplan, Andres y Haenlein, Michael (2019). “Siri, Siri, in My Hand: Who’s the Fairest in the Land? On the Interpretations, Illustrations, and Implications of Artificial Intelligence”. Business Horizons. 62.

Kurzweil, R. (2006). The Singuarlity is Near: When Humans Trascends Biology. Nueva York: Penguin Random House.

Le Déaut, Jean-Yves (2017). “Technological Convergence, Artificial Intelligence and Human Rights”. Consejo de Europa, Comité de Cultura, Ciencia Educación y Medios de Comunicación. Doc. 14288. Disponible en: http://assembly.coe.int/nw/xml/XRef/Xref-DocDetails-EN.asp?
FileID=23531&lang=EN.

Lea, G. (2015). “Why We Need a Legal Definition of Artificial Intelligence”. The Conversation. Disponible en: http://theconversation.com/why-we-need-a-legal-definition-of-artificial-intelligence-46796.

López Baroni, Manuel Jesús (2019). “Las narrativas de la inteligencia artificial”. Revista de Bioética y Derecho. 46. Barcelona.

López de Mántaras, Ramón y Meseguer González, Pedro (2017). Inteligencia artificial, Madrid: Los Libros de la Catarata.

Martínez Martínez, Richard (2019). “Inteligencia artificial desde el diseño. Retos y estrategias para el cumplimiento normativo”. Revista Catalana de Dret Públic. 58. España.

Naciones Unidas (2018a). “Resolución aprobada por la asamblea por la Asamblea General el 17 de diciembre de 2018”. A/RES/73/179.

Naciones Unidas (2018b). “Informe del Relator Especial sobre la promoción y protección del derecho a la libertad de opinión y Expresión”. A/73/348.

Ni Loideain, Nóra y Adams, Rachel (2019). From Alexa to Siri and the GDPR: The Gendering of Virtual Personal Assistants and the Role of Data Protection Impact Assessments. Computer Law and Security Review. 36.

O’Neil, Cathy (2018). Armas de destrucción matemática: cómo el big data aumenta la desigualdad y amenaza la democracia. Madrid: Capitán Swing.

Pagallo, Ugo (2017). “From Automation to Autonomous Systems: A Legal Phenomenology with Problems of Accountability”. Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence. (IJCAI-17). Disponible en: https://www.ijcai.org/proceedings/201
7/0003.pdf.

Peces-Barba Martínez, Gregorio (1994). “La universalidad de los derechos humanos”. Doxa: Cuadernos de Filosofía del Derecho. 15-16( 2).

Pérez Luño, A. E. (2018). “Las generaciones de derechos humanos ante el desafío posthumanista”. En Quadra-Salcedo, Tomás de la y Piñar Mañas, José Luis (dirs.). Sociedad digital y derecho. Madrid: Boletín Oficial del Estado.

Ragone, S. et al. (2019). “Appendice comparata”. En Scagliarini, S. Il “nuevo” codige in materia di protezione dei dati personali. Italia. Giappicheli.

Rodotá, S. (2018). “Del ser humano al posthumano”. En Quadra-Salcedo, Tomás de la y Piñar Mañas, José Luis (dirs.). Sociedad digital y derecho. Madrid: Boletín Oficial del Estado.

Rouco, Francisco (2020). “El panóptico digital, el gran temor distópico que acecha tras la revolución de los datos, la inteligencia artificial y la «dataveillance»”. Xataca. Disponible en: https://www.xataka.com/privacidad/panoptico-digital-gran-temor-distopico-que-acecha-revo
lucion-datos-inteligencia-artificial-dataveillance.

Salardi, S. (2020). “Robótica e inteligencia artificial: retos para el derecho”. Derechos y Libertades. 42.

Sánchez Barrilao, Juan Francisco (2016). “El derecho constitucional ante la era de Ultrón: la informática y la inteligencia artificial como objeto constitucional”. Estudios de Deusto. 64(2). España.

Sarrión Esteve, Joaquín (2020a). “El derecho constitucional en la era de la inteligencia artificial, los robots y los drones”. En Pérez Miras, A. et al. (dirs.). Setenta años de Constitución italiana y cuarenta años de Constitución española. Vol. V. Madrid: CEPC.

Sarrión Esteve, Joaquín (2020b). “Los derechos humanos ante la transformación digital y las tecnologías inteligentes: hacia un nuevo paradigma”. En Pinto Fontanillo, J. A. y Sánchez de la Torre, Á. (coords.). Los derechos humanos en el siglo XXI. T. III. Madrid: Edisofer.

Soriano Arnanz, Alba (2021). “Decisiones automatizadas y discriminación: aproximación y propuestas generales”. Revista General de Derecho Administrativo. 56. España.

Torres del Moral, A. (2015). Estado de derecho y democracia de partidos. Madrid: Universitas.

Valero Torrijos, Julián (2019). “Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración”. Revista Catalana de Dret Públic. 58. España.

Van Est, R. y Gerritsen, J. (2017). Human Rights in the Robot Age: Challenges Arising from the Use of Robotics, Artificial Intelligence, and Virtual and Augmented Reality- Expert Report Written for the Committee on Culture, Science, Education and Media of the Parliamentary Assembly of the Council of Europe (PACE). La haya: Rathenau Instituut. Disponible en: https://www.rathenau.nl/en/publication/human-rights-ro
bot-age-challenges-arising-use-robotics-artificial-intelligence-and.

Villaverde, Ignacio (2018). “El constitucionalismo líquido. La dogmática constitucional de los derechos fundamentales del siglo XXI”. Revista da Ajuris. 45(144). Brasil.

Wachter, S. y Mittelstadt, B. (2019). “A Right to Reasonable Inferences: Rethinking Data Protection Law in the Age of Big Data and AI”. Columbia Business Law Review. 2. Nueva York.

Wagner, Ben (2018). “Ethics as an Escape from Regulation. From «Ethics-Washing» to Ethics-Shoping?”. En Bayamlioğlu, Emre et al. (eds.). Being Profiled. Cogitas Ergo Sum. 10 Years of “Profiling the European Citizen”. Amsterdam: Amsterdam University Press.

Weller, Chris (2016). Law Firms of the Future Will Be Filled with Robot Lawyers. Business Insider. Disponible en: http://www.businessinsider.com/law-firms-are-starting-to-use-robot-lawyers-2016-7.

Zuiderveen, Frederik (2020). “Price Discrimination, Algorithmic Decision-Making, and European Non-Discrimination Law”. European Business Law Review, 31(3).

Zweig, S. (2003). El legado de Europa. Barcelona: Acantilado.