Algoritmo y discriminación

Francisco Javier Calvo Gallegos

Resumen

El imparable uso de la Inteligencia Artificial supone ciertamente enormes ventajas y oportunidades, pero también muy importantes riesgos. El principal de ellos, y ya constatado, es el de ocultar o incluso intensificar discriminaciones. Este trabajo pretende analizar, a la espera de una posible regulación europea —anunciada una vez cerrado este trabajo—, sus causas, así como los problemas que plantea la posible aplicación normativa antidiscriminatoria y el importante papel al que está llamada la regulación europea de protección de datos. El estudio se cierra destacando la necesidad de una intervención multidimensional, que evite no sólo las posibles desigualdades y exclusiones sociales motivadas por su aplicación, sino que también garantice una IA segura, ética y robusta, con el apoyo de la responsabilidad social de las empresas.

Palabras clave

algoritmo; discriminación; inteligencia artificial

Texto completo:

PDF

Referencias

Angwin, Julia et al., “Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks”, ProPublica, 23 de mayo de 2016.

Asaro, Peter, “What is an ‘AI Arms Race’ Anyway?”, I/S: A Journal of Law for the Information Society, vol. 15, núm. 1-2, primavera de 2019.

Barbera, Marzia, Discriminazioni ed eguaglianza nel rapporto di lavoro, Milán, Giuffrè, 1991.

Barocas, Solon, “Data mining and the discourse on discrimination”, Proceedings of the data ethics workshop, Nueva York, 2015.

BAROCAS, Solon y SELBST, Andrew D., “Big Data’s Disparate Impact”, California Law Review, vol. 104, 2016.

Buolamwini, Joy y Gebru, Timnit,“Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”, Proceedings of the 1st Conference on Fairness, Accountability and Transparency, vol. 81, 2018.

Castells, Manuel, La era de la información: economía, sociedad y cultura, 3a. ed., España, Alianza Editorial, 2005.

Calvo, Fco, Javier, “Nuevas tecnologías y nuevas formas de trabajo”, Creatividad y sociedad: revista de la Asociación para la Creatividad, España, núm. 26, noviembre de 2016.

Calvo Gallego, Fco. Javier, “Reputación digital y efectos sobre los trabajadores: redes sociales para contratación, uso y límites”, en Rodríguez-Piñero, Miguel y Todolí, Adrián (dir.), Vigilancia y control en el Derecho del Trabajo digital, Navarra, Aranzadi, 2020.

Calvo Gallego, Fco. Javier, “Derechos digitales en la negociación colectiva”, Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de protección de datos personales y garantía de los derechos digitales, Pamplona, Civitas, 2021.

Calvo, Javier y Gómez-Álvarez, M. Rosario (dir.), Trabajadores pobres y pobreza en la ocupación. Concepto y evolución de la pobreza en la ocupación: el impacto de las últimas reformas legales, Murcia, Laborum, 2017.

Cofone, Ignacio, “Algorithmic Discrimination Is an Information Problem”,

Hastings Law Journal, vol. 70, núm. 1389, 2019.

Comisión Europea, La Construcción de una economía de los datos europea, Bruselas, 10.1.2017, COM (2017) 9 final.

Comisión Europea, Inteligencia artificial para Europa”, Bruselas 25.4.2018, COM (2018) 237 final.

Comisión Europea, Fostering a European approach to Artificial Intelligence Bruselas, 21.4.2021 COM(2021) 205 final.

Cortina, Adela, Aporofobia, el rechazo del pobre, Barcelona, Paidos, 2017.

Datta, Amit et al., “Automated Experiments on ad Privacy Settings: A Tale of Opacity, Choice, and Discrimination”, Proceedings on Privacy Enhancing Technologies, vol. 2015, núm. 1,

Dieterich, William et al., “COMPAS Risk Scales: Demonstrating Accuracy Equity and Predictive Parity”, 8 de julio 2016, disponible en: http://go.volarisgroup.com/rs/430-MBX-989/images/ProPublica_Commentary_Final_070616.pdf.

Domínguez Morales, Ana, “Representación colectiva y negociación de derechos de trabajadores en plataformas”, Revista Latinoamericana de Derecho Social, núm. 29, 2019.

Eubanks, Virginia, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, Nueva York, St. Martin’s Press, 2017.

European Political Strategy Centre, The Age of Artificial Intelligence, EPSC Strategic Notes, núm. 29, 2018.

Executive Office of the President, Big data: seizing opportunities, preserving values, mayo de 2014.

Executive Office of the President, Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights, mayo de 2016.

Fernández, Ana, “Inteligencia artificial en los servicios financieros”, Boletín Económico Banco de España, núm. 2, 2019.

Ge, Yanbo et al.,”Racial and gender discrimination in transportation network companies”, NBER Working Paper Series, Working Paper 22776, National Bureau of Economic Research, octubre de 2016.

Grupo de Trabajo sobre protección de datos del art. 29, Directrices sobre decisiones individuales automatizada y elaboración de perfiles a los efectos del Reglamento 2016/679, de 3 de octubre de 2017, WP251rev.01, de 6 de febrero de 2018. Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial, Una definición de la inteligencia artificial: Principales capacidades y disciplinas científicas,

Comisión Europea, Bruselas, abril de 2019.

Hacker, Philipp, “Teaching fairness to artificial intelligence: Existing and novel strategies against algorithmic discrimination under EU law”, Common Market Law Review, vol. 55, núm. 4.

Han, Byung-Chul, Psicopolitica. Neoliberalismo y nuevas técnicas de poder, trad. de Alferdo Bergés, Barcelona, Herder, 2014.

Kleinberg, Jon et al., “Discrimination in the Age of Algorithms”, Journal of Legal Analysis, vol. 10, 2018.

Kim, Pauline T., “Data-Driven Discrimination at Work”, William & Mary Law Review, vol. 58, núm. 3, 2017.

Martínez Garay, Lucía, “Peligrosidad, algoritmos y due process: el caso State vs. Loomis”, Revista de Derecho Penal y Criminología, núm. 20, 2018.

Parker Black, Jacob, “Facebook and the Future of Fair Housing Online”,

Oklahoma Law Review, Vol. 72, núm. 3, 2020.

Paquale, Frank, The Black Box Society. The Secret Algorithms that Control Money and Information, Londres, Harvard University Press, 2015.

Perulli, Adalberto “La discriminazione algoritmica: brevi note introduttive a margine dell’Ordinanza del Tribunale di Bologna”, LavoroDirittiEuropa Rivista nuova di Diritto del lavoro, num. 1, 2021.

Rifkin, Jeremy, El fin del trabajo. Nuevas tecnologías contra puestos de trabajo: el nacimiento de una nueva era, trad. de Guillermo Sánchez Gallego, Barcelona, Paidos Ibérica, 2010.

Sancho Villa, Diana, “Las decisiones individuales automatizadas, incluida la elaboración de perfiles”, en Troncoso, Antonio (dir.), Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de protección de datos personales y garantía de los derechos digitales, t. I, Navarra, Civitas, Thomson Reuters, 2021.

Standing, Guy, The Precariat. The New Dangerous Class, Londres, Bloomsbury Academic, 2011.

Todolí, Adrián, “La gobernanza colectiva de la protección de datos en las relaciones laborales: Big data, creación de perfiles, decisiones empresariales automatizadas y los derechos colectivos”, Revista de Derecho Social, núm. 84, 2018.

Todolí, Adrián, “En cumplimiento de la primera Ley de la robótica: Análisis de los riesgos laborales asociados a un algoritmo/inteligencia artificial dirigiendo el trabajo”, Labour & Law Issues, vol. 5, núm. 2, 2019.

Tutt, Andrew, “An FDA for Algorithms”, Administrative Law Review, vol. 69, núm.1, invierno de 2017.

Ugt, Impacto de la automatización en el empleo en España, octubre de 2018, disponible en: https://www.ugt.es/sites/default/files/24-_maquetado-_impacto_de_la_automatizacion_en_el_empleo_en_espana.pdf.

Enlaces de Referencia

  • Por el momento, no existen enlaces de referencia