Preocupaciones éticas en el uso de inteligencia artificial, transparencia y derecho de acceso a la información. El caso de los chatbots en el gobierno de México, en el contexto de la COVID-19

Contenido principal del artículo

Eugenio Arguelles Toache
Marcela Amaro Rosales

Resumen

El uso de la inteligencia artificial en los gobiernos ha aumentado en la última década en diversos países, adquiriendo mayor importancia en el contexto de la pandemia por COVID-19. Los chatbots son una de las principales herramientas que funcionan a partir de la inteligencia artificial y que han sido utilizados por los gobiernos para brindar información y servicios a los ciudadanos, así como para el seguimiento, monitoreo y control de la COVID-19. El uso de estas herramientas ha generado debates éticos sobre el uso de datos personales, la privacidad, la transparencia, la rendición de cuentas y el derecho de acceso a la información. El objetivo de este trabajo es identificar y analizar las principales preocupaciones éticas que emergen en torno a los chatbots implementados en el gobierno de México en el contexto de la COVID-19; para ello se analizan los casos de Susana Distancia y Dr. Armando Vaccuno. La metodología consiste en un sondeo abierto de percepción ciudadana. Los resultados muestran que las principales preocupaciones éticas son la transparencia, la rendición de cuentas y la privacidad, las cuales han generado una falta de confianza por parte de la ciudadanía hacia los chatbots, que se ha traducido en un bajo nivel de uso. Para subsanar esto, es necesario eliminar los vacíos regulatorios en torno a la transparencia y la protección de datos implicados en estas nuevas tecnologías.

Detalles del artículo

Sección
Artículos

Citas

Bautista, Oscar Diego, 2007, La ética en la gestión pública: fundamentos, estado de la cuestión y proceso para la implementación de un sistema ético integral en los gobiernos (tesis), España, Universidad Complutense.

Bonales, Gema et al., 2020, “Chatbot como herramienta comunicativa durante la crisis sanitaria COVID-19 en España”, ComHumanitas. Revista Científica de Comunicación, vol. 11, núm. 3.

Cabello, María Eugenia et al., 2018, “Los chatbots: robots inteligentes conversacionales”, en Román, Armando et al. (coords.), Tecnologías disruptivas de información, México, Universidad de Colima.

Cascón-Katchadourian, Jesús-Daniel, 2020, “Tecnologías para luchar contra la pandemia COVID-19: geolocalización, rastreo, big data, SIG, inteligencia artificial y privacidad”, Profesional de la Información, vol. 29, núm. 4, disponible en: https://doi.org/10.3145/epi.2020.jul.29.

Charalabidis, Yannis et al., 2019, “The Three Generations of Electronic Government: From Service Provision to Open Data and to Policy Analytics”, en Lindgren, Ida et al., Electronic Government, Cham, Springer, disponible en: https://doi.org/10.1007/978-3-030-27325-5_1.

Cotino-Hueso, Lorenzo, 2020, “Inteligencia artificial, big data y aplicaciones contra la COVID-19: privacidad y protección de datos”, Revista de Internet, Derecho y Política, núm. 31.

El Informador, 2020, “Susana Distancia ya es una inteligencia artificial”, El Informador, 22 de abril, disponible en: https://www.informador.mx/tecnologia/Susana-Distancia-ya-es-una-Inteligencia-Artificial-20200422-0044.html (fecha de consulta: 22 de abril de 2022).

Expansión, 2020, “Ya podrás hacerle preguntas a Susana Distancia vía Whats-App”, Expansión, 21 de abril, disponible en: https://expansion.mx/tecnologia/2020/04/21/ya-podras-hacerle-preguntas-a-susana-distancia-via-whatsapp (fecha de consulta: 20 de abril de 2022).

Forbes, 2020, “Ahora podrás mandar un WhatsApp a Susana Distancia para saber del Covid-19”, Forbes, 21 de abril, disponible en: https://www.forbes.com.mx/noticias-mandar-whatsapp-susana-distancia-saber-covid-19/ (fecha de consulta: 20 de abril de 2022).

Forbes, 2021, “Dr. Armando Vaccuno, el chatbot que te dice dónde y cuándo vacunarte”, Forbes, 14 de mayo, disponible en: https://www.forbes.com.mx/dr-armando-vaccuno-el-chatbot-que-te-dice-donde-y-cuando-vacuna/ (fecha de consulta: 13 de abril de 2022).

Gobierno de México, 2021, “Nuevo asistente virtual atiende dudas sobre vacunación contra COVID-19”, Secretaría de Salud, 13 de mayo, disponible en: https://www.gob.mx/salud/prensa/193-nuevo-asistente-virtual-atiende-dudas-sobre-vacunacion-contra-covid-19 (fecha de consulta: 10 de mayo de 2022).

Guevara, Carlos, 2020, “Mándale un Whats y chatea con Susana Distancia para saber todo del Covid-19”, El Sol de México, 21 de abril, disponible en: https://www.elsoldemexico.com.mx/doble-via/salud/mandale-un-whatsapp-y-chatea-con-susana-distancia-para-saber-todo-del-covid-19-coronavirus-5132541.html (fecha de consulta: 20 de abril de 2021).

Gutiérrez, Jorge Rafael et al., 2018, “Inteligencia artificial y aprendizaje máquina: aplicaciones y tendencias”, en Román, Armando et al. (eds.), Tecnologías disruptivas de información, México, Universidad de Colima.

Herrera-Monje, Hugo, 2021, “Chatbot para el seguimiento de pacientes COVID-19 con sintomatología leve”, Actas del Congreso Internacional de Ingeniería de Sistemas, disponible en: https://doi.org/10.26439/ciis2021.5639.

IA por dentro, 2020, “Susana Distancia ahora es una inteligencia artificial”, IA por dentro, 22 de abril, disponible en: https://iapordentro.com/susana-distancia-ahora-es-una-inteligencia-artificial/ (fecha de consulta: 22 de abril de 2021).

Infobae, 2021, “Así funciona el Dr. Armando Vaccuno, asistente vía WhatsApp que resuelve tus dudas sobre la vacuna COVID-19”, Infobae, 3 de junio, disponible en: https://www.infobae.com/america/mexico/2021/06/03/asi-funciona-el-dr-armando-vaccuno-asistente-via-whatsapp-que-resuelve-tus-dudas-sobre-la-vacuna-covid-19/ (fecha de consulta: 3 de junio de 2021).

Luna-Reyes, Luis Felipe et al., 2015, Avances y retos del gobierno digital en México, México, Universidad Autónoma del Estado de México-Instituto de Administración Pública del Estado de México.

Massal, Julie y Sandoval, Carlos Germán, 2010, “Gobierno electrónico. ¿Estado, ciudadanía y democracia en Internet?”, Análisis Político, vol. 23, núm. 68.

Misuraca, Gianluca et al., 2020, Exploring Digital Government Transformation in the EU. Understanding Public Sector Innovation in a Data-Driven Society, Luxemburgo, Publications Office of the European Union.

Nam, Taewoo, 2013, “Government 3.0 in Korea: Fad or Fashion?”, Proceedings of the 7th International Conference on Theory and Practice of Electronic Governance, disponible en: https://doi.org/10.1145/2591888.2591896.

Organización Mundial de la Salud (OMS), 2020, “Ethical Considerations to Guide the Use of Digital Proximity Tracking Technologies for COVID-19 Contact Tracing”, 28 de mayo.

Oszlak, Oscar, 2020, El Estado en la era exponencial, Buenos Aires, Instituto Nacional de la Administración Pública.

Parselis, Martín, 2020, “Ética y gobernanza tecnológica en la era de la complejidad”, en Bellomo, Santiago y Oszlak, Oscar (eds.), Desafíos de la administración pública en el contexto de la Revolución 4.0, Buenos Aires, Konrad-Adenauer-Stiftung.

Peña-Torres, Jefferson et al., 2022, “Un chatbot para asistir a las necesidades de información en tiempos de COVID-19”, Ingeniería y Competitividad, vol. 24, núm. 1, disponible en: https://doi.org/10.25100/iyc.v24i1.11004.

Ramos, Mariana, 2021, “Dr. Armando Vaccuno: el chatbot de WhatsApp de la Secretaría de Salud que te dirá cuándo vacunarte”, Marketing4EcommerceMx, 18 de mayo, disponible en: https://marketing4ecommerce.mx/dr-armando-vaccuno-el-chatbot-de-whatsapp-de-la-secretaria-de-salud/ (fecha de consulta: 18 de mayo de 2021).

Rivera-Eisenmann, Mauricio, 2021, “Transparencia e inteligencia artificial: una nueva perspectiva”, Encrucijada. Revista Electrónica del Centro de Estudios en Administración Pública, núm. 37, disponible en: http://dx.doi.org/10.22201/fcpys.20071949e.2021.37.77792.

Ronzhyn, Alexander y Wimmer, María (eds.), 2018, Report for Electronic Governance Research and Practice Worldwide, European Commission.

Ronzhyn, Alexander y Wimmer, María, 2019, “Literature Review of Ethical Concerns in the Use of Disruptive Technologies in Government 3.0”, ICDS.

Sáenz, Claudia, 2021, “Obtén el certificado de vacunación a través del chatbot de la Secretaría de Salud”, Capital 21, 19 de octubre, disponible en: https://www.capital21.cdmx.gob.mx/noticias/?p=27932 (fecha de consulta: 19 de octubre de 2022).

Salud Digital, 2020, “Gobierno de México lanza chatbot vía WhatsApp para brindar información sobre COVID-19”, Salud Digital, disponible en: https://saluddigital.com/comunidades-conectadas/gobierno-de-mexico-lanza-chatbot-via-whatsapp-para-brindar-informacion-sobre-covid-19/ (fecha de consulta: 10 de abril de 2022).

Sandoval-Almazán, Rodrigo et al., 2020, Manual de supervivencia para la administración pública hacia la nueva normalidad, México, Laboratorio de Innovación Pública e Inteligencia Artificial.

Seo, Inhee et al., 2018, “Assessment of Efficiency in Public Service – Focused on Government 3.0 Case in Korea”, Total Quality Management and Business Excellence, vol. 29, núms. 9-10, disponible en: https://www.tandfonline.com/doi/full/10.1080/14783363.2018.1487596.

Uvalle, Ricardo, 2014, “La importancia de la ética en la formación de valor público”, Estudios Políticos, núm. 32.

Valle-Cruz, David y Sandoval-Almazán, Rodrigo, 2014, “E-gov 4.0: A Literature Review Towards the New Government”, Proceedings of the 15th Annual International Conference on Digital Government Research, disponible en: https://doi.org/10.1145/2612733.2612788.

Valle-Cruz, David et al., 2020, “Assessing the Public Policy-Cycle Frame-

Work in the Age of Artificial Intelligence: From Agenda-Setting to Policy Evaluation”, Government Information Quarterly, vol. 37, núm. 4, disponible en: https://doi.org/10.1016/j.giq.2020.101509.