La inteligencia artificial y la responsabilidad internacional de los estados
Barra lateral del artículo
Contenido principal del artículo
Resumen
Este artículo busca proponer soluciones a la encrucijada que representan las tecnologías nuevas y emergentes, particularmente la brecha de responsabilidad que surge por el uso o despliegue de sistemas de armas autónomas dotados de inteligencia artificial. Dado que estos sistemas pueden conseguir sus objetivos sin intervención humana, en caso de que exista un hecho ilícito, imputarle responsabilidad a una persona física y, más aún, a un Estado puede presentar un reto importante. Se analiza el marco normativo de la responsabilidad de los Estados por hechos internacionalmente ilícitos, planteando una posible solución a esta brecha en las normas existentes. Asimismo, se explican las características básicas de la inteligencia artificial que originan el problema de la brecha de responsabilidad. Finalmente, se abordan los casos en que la responsabilidad del Estado puede ser invocada en relación con el uso de inteligencia artificial.
Detalles del artículo
Estudios en Derecho a la Información por Universidad Nacional Autónoma de México, Instituto de Investigaciones Jurídicas se distribuye bajo una Licencia Creative Commons Atribución-No Comercial-Sin Derivados 4.0 Internacional (CC BY-NC-ND 4.0).
Citas
A/RES/56/83 (2002), Asamblea General de las Naciones Unidas, Artículos de la Comisión de Derecho Internacional sobre la Responsabilidad Internacional del Estado por Hechos Internacionalmente Ilícitos.
Amnistía Internacional y Access Now, 2018, The Toronto Declaration, Protecting the right to equality and non-discrimination in machine learning systems, Canadá, disponible en: https://www.torontodeclaration.org/declaration-text/english/.
Asaro, Peter M., 2016, “The Liability Problem for Autonomous Artificial Agents, Association for the Advancement of Artificial Intelligence”, Association for the Advancement of Artificial Intelligence Spring Symposia.
Asunto J. B. Caire de 1929, en Comisión de Derecho Internacional, 1964, “Repertorio de Decisiones de Tribunales Internacionales Relacionadas con la Responsabilidad de los Estados, Preparado por la Secretaría”, Anuario de la Comisión de Derecho Internacional, vol. II.
Boutin, B., 2021, “State Responsibility in Relation to Artificial Intelligence” conferencia dictada durante el ciclo Winter Academy on Artificial Intelligence and International Law. Asser Institute, 18 de febrero de 2021.
Brownlee, Jason, 2019, “What is deep learning?”, Machine Learning Mastery, disponible en: https://machinelearningmastery.com/what-is-deep-learning/.
Bryson, Joanna J., 2010, “Robots should be slaves”, Close Engagements with Artificial Companions: Key Social, Psychological, Ethical and Design Issues.
Cassese, Antonio, 2007, “The Nicaragua and Tadić Tests Revisited in Light of the ICJ Judgment on Genocide in Bosnia”, European Journal of International Law, vol. 18, núm. 4, septiembre.
CCW/GGE.1/2018/3 (2018), Grupo de Expertos Gubernamentales de las Altas Partes Contratantes a la Convención sobre Prohibiciones o Restricciones del Empleo de Ciertas Armas Convencionales que Puedan Considerarse Excesivamente Nocivas o de Efectos Indiscriminados, Informe del período de sesiones de 2018 del Grupo de Expertos Gubernamentales sobre las tecnologías emergentes en el ámbito de los sistemas de armas autónomos letales.
Ceban, Cristina, 2019, “The Responsibility of States in Contemporary International Law”, European Integration Realities and Perspectives, vol. 14, núm. 1.
Chengeta, Thompson, 2016, “Accountability Gap: Autonomous Weapon Systems and Modes of Responsibility in International Law”, Denver Journal of International Law & Policy, vol. 45, núm. 1, otoño.
Coglianese, Cary, y Lehr, David, 2017, “Regulating by Robot: Administrative Decision Making in the Machine-Learning Era”, Georgetown Law Journal, vol. 105, núm. 5.
Comisión de Derecho Internacional, 2001, “Texto del Proyecto y Artículos con sus Comentarios”, Anuario de la Comisión de Derecho Internacional, vol. II, 2a. parte.
Convenios de Ginebra del 12 de agosto de 1949, Suiza, Comité Internacional de la Cruz Roja.
Corte Interamericana de Derechos Humanos, 2009, Caso Kawas Fernández vs. Honduras, sentencia de 3 de abril.
Corte Interamericana de Derechos Humanos, 2003, Caso Juan Humberto Sánchez vs. Honduras, sentencia de 7 de junio.
Corte Internacional de Justicia, 1949, “Caso Relativo al Canal de Corfú (Reino Unido de Gran Bretaña e Irlanda del Norte vs. Albania”, I.C.J. Reports 1949.
Corte Internacional de Justicia, 1980, “Caso Relativo al Personal Diplomático y Consular de los Estados Unidos en Teherán (Estados Unidos vs. Irán)” I.C.J. Reports 1980.
Corte Internacional de Justicia, 1986, “Caso Relativo a las Actividades Militares y Paramilitares en Nicaragua y Contra Nicaragua (Nicaragua vs. los Estados Unidos de América)” I.C.J. Reports 1986.
Corte Internacional de Justicia, 1999, “Opinión sobre la Diferencia Relativa a la Inmunidad Judicial de un Relator Especial de la Comisión de Derechos Humanos”, I.C.J., Reports 1999.
Corte Internacional de Justicia, 2007, “Caso Relativo a la Aplicación de la Convención para la Prevención y Sanción del Delito de Genocidio (Bosnia vs. Serbia)” I.C.J. Reports 2007.
Corte Internacional de Justicia, 2010, “Caso relativo a las Plantas de Celulosa Sobre el Río Uruguay, (Argentina vs. Uruguay)”, I.C.J. Reports 2010.
Corte Internacional de Justicia, 2015, “Caso Relativo a la Aplicación de la Convención para la Prevención y la Sanción del Delito de Genocidio, (Croacia vs. Serbia)” I.C.J. Reports 2015.
Crawford, James y Olleson, Simon, 2018, “The Character and Forms of International Responsibility”, en Evans, Malcolm D. (ed.), International Law, 5a. ed., Estados Unidos, Oxford University Press.
Davison, Neil, 2017, “Autonomous Weapon Systems under International Humanitarian Law”, en Oficina de Asuntos de Desarme de las Naciones Unidas (ed.), Perspectives on Lethal Autonomous Weapon Systems, Documentos Ocasionales núm. 30, noviembre.
DGI (2019)05 (2019), Consejo de Europa, Responsibility and AI: A Study of the Implications of Advanced Digital Technologies (Including AI Systems) for the Concept of Responsibility within a Human Rights Framework.
E/C.12/GC/24, 2017, Consejo Económico y Social de las Naciones Unidas, Observación general Núm. 24 sobre las obligaciones de los Estados en virtud del Pacto Internacional de Derechos Económicos, Sociales y Culturales en el contexto de las actividades empresariales.
Halevy, Amiram, 2019, “Artificial Intelligence and Export Control–What’s The Connection?”, Israel’s Homeland Security, disponible en: https://i-hls.com/archives/91615.
Johnson, Deborah G., 2006, “Computer Systems: Moral Entities but not Moral Agents”, Ethics and Information Technology, vol. 8, núm. 4.
Kononenko, Igor y Kukar, Matjaz, 2007, Machine Learning and Data Mining: Introduction to Principles and Algorithms, Reino Unido, Horwood Publishing.
Lavrysen, Laurens, 2014, “Positive Obligations in the Jurisprudence of the Inter-American Court of Human Rights”, Inter-American and European Human Rights Journal, núm. 1.
Lawand, Kathleen et al., 2006, Guía para el examen jurídico de las armas, los medios y los métodos de guerra nuevos Medidas para aplicar el artículo 36 del Protocolo adicional de 1977, Suiza, Comité Internacional de la Cruz Roja.
Malik, Swati, 2018, “Autonomous Weapon Systems: The Possibility and Probability of Accountability”, Wisconsin Journal of International Law, vol. 35, núm. 3.
Maljean-Dubois, Sandrine, 2018, “International Litigation and State Liability for Environmental Damages: Recent Evolutions and Perspectives”, en Jiunn-rong, Yeh, Climate Change Liability and Beyond, Taiwan, National Taiwan University Press.
Matthias, Andreas, 2004, “The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata”, Ethics and Information Technology, vol. 6, núm. 75.
Medina Ardila, Felipe, 2009, “La responsabilidad internacional del Estado por actos de particulares: análisis jurisprudencial interamericano”, Debate Interamericano, vol. 1.
Nakamitsu, I., 2021, “Global AI Governance-The Necessity and Challenges of Regulating Emerging Technologies”, conferencia dictada durante el ciclo Safeguarding human control over AWS, Ministerio para Europa, Integración y Relaciones Exteriores de la República de Austria, 15 y 16 de septiembre de 2021.
O’Carroll, Brodie, 2017, “What are the 3 Types of AI? A Guide to Narrow, General, and Super Artificial Intelligence”, Codebots, disponible en: https://codebots.com/artificial-intelligence/the-3-types-of-ai-is-the-third-even-possible.
Ohlin, Jens D., 2016, “The Combatant’s Stance: Autonomous Weapons on the Battlefield”, International Law Studies, vol. 92.
Privacy International, 2013, “A guide to the Wassenaar Arrangement” Privacy International, disponible en: https://privacyinternational.org/blog/1333/ guide-wasenaar-arrangement.
Protocolo Adicional I a los Convenios de Ginebra de 1949, Relativo a la Protección de las Víctimas de los Conflictos Armados Internacionales de 1977, Suiza, Comité Internacional de la Cruz Roja.
Real Academia Española, 2020, Diccionario de la Lengua Española, 23a. ed., disponible en: https://dle.rae.es/inteligencia#2DxmhCT.
Rodley, S. Nigel, 2018, “Integrity of the Person”, en Moeckli, Daniel et al. (eds.), International Human Rights Law, 3a. ed., Estados Unidos, Oxford University Press.
Russell, Stuart y Norvig, Peter, 2010, Artificial Intelligence - A Modern Approach, 3a. ed., Reino Unido, Pearson.
Scherer, Matthew, 2016, “Regulating Artificial Intelligence Systems, Risks, Challenges, Competencies and Strategies”, Harvard Journal of Law and Technology, vol. 29.
Sharkey, Noel E., 2012, “The Evitability of Autonomous Robot Warfare”, International Review of the Red Cross, vol. 94, núm. 886.
Shaw, Malcolm, 2008, International Law, 6a. ed., Reino Unido, Cambridge University Press.
Sullins, John P., 2006, “When Is a Robot a Moral Agent?”, International Review of Information Ethics, vol. 6.
Tribunal Europeo de Derechos Humanos, núm. 30765/08, Di Sarno y otros vs Italia, sentencia de 10 de enero de 2012.
Tribunal Penal Internacional para la Ex-Yugoslavia, IT-94-1-A, El Fiscal vs. Tadić, fallo de la Sala de Apelaciones deL 15 de julio de 1999.
Vihul, Liis, 2020, “International Legal Regulation of Autonomous Technologies”, Centre for International Governance Innovation, disponible en: https://www.cigionline.org/articles/international-legal-regulation-autonomous-technologies/.
