Gobernanza algorítmica y ciudadanía digital crítica: una propuesta formativa para la autonomía moral

Guadalupe Marcial Jiménez; Diego  Sánchez Aguilar

doi:10.32870/in.vi31.7327

Autores/as

Guadalupe Marcial Jiménez Universidad Veracruzana https://orcid.org/0009-0003-9631-6711
Diego Sánchez Aguilar Universidad Veracruzana https://orcid.org/0009-0002-6563-1121

DOI:

https://doi.org/10.32870/in.vi31.7327

Palabras clave:

Inteligencia Artificial, Ciudadanía digital crítica, Gobernanza algorítmica, Educación superior, Autonomía moral

Resumen

Este ensayo examina algunos dilemas bioéticos que plantea el uso de la IA generativa (IAGEN) para la educación universitaria, desde la perspectiva de la ciudadanía digital. Pensamos que su uso instituye un régimen de gobernanza algorítmica: un conjunto de reglas y rutinas mediadas por modelos que clasifican, perfilan y jerarquizan prácticas y sujetos, produciendo un ordenamiento social específico en las universidades.Nuestro objetivo es formular criterios prácticos de actuación que fortalezcan los saberes necesarios para promover una ciudadanía digital crítica. La pregunta guía es: ¿cómo formar esta ciudadanía en la educación universitaria considerando la gobernanza algorítmica, y así fomentar una autonomía deontológica y axiológica?Proponemos un enfoque para promover habilidades cognitivas: pensamiento crítico, pensamiento creativo y metacognición. Delineamos criterios prácticos de actuación para formar ciudadanía digital crítica capaz de afrontar dilemas morales con responsabilidad social, fomentando una cultura de integridad, inclusión, cuidado del otro y apego a principios bioéticos.

Descargas

Los datos de descargas todavía no están disponibles.

Citas

Campirán, A. (2005, enero). El papel de la metacognición en el desarrollo de la metodología. Ergo. Nueva época, 1, 51-66. http://cdigital.uv.mx/handle/123456789/36574

―――― (2025). Habilidades de pensamiento crítico y creativo. Toma de decisiones y solución de problemas. Lecturas y ejercicios para el nivel universitario. Modelo COL. México: Lambda Editorial.

Comisión Europea (s/f). Ley de ia [ai Act]. Shaping Europe’s Digital Future. Recuperado el 1 de noviembre de 2025, de https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

EDUCAUSE (2024). 2024 educause Action Plan: ai Policies and Guidelines [Plan de acción 2024: Políticas y directrices sobre IA]. EDUCAUSE. https://library.educause.edu/resources/2024/5/2024-educause-action-plan-ai--policies-and-guidelines

Intersoft Consulting Services ag (s/f). Art. 20 rgpd – Derecho a la portabilidad de los datos. gdpr-info.eu. Recuperado el 1 de noviembre de 2025, recuperado de: https://gdpr-info.eu/art-20-gdpr/

ISO/IEC (2023). ISO/IEC 42001:2023—Information technology—Artificial intelligence—Management system—Requirements [Tecnología de la información—Inteligencia artificial—Sistema de gestión—Requisitos]. International Organization for Standardization. https://www.iso.org/standard/42001

Marcial, G., y Arano, E. (2025). Brechas naturales, artificiales y emergentes: taxonomía, variables, epistemología y axiología para la “brecha digital”. Metafísica y Persona, 34, 103-128. https://doi.org/10.24310/metyper.34.2025.21892

Miao, F., y Holmes, W. (2023). Guidance for generative ai in education and research [Guía para la ia generativa en la educación y la investigación]. UNESCO. https://doi.org/10.54675/EWZM9535

Michel, P. Díaz (2019). La universidad y la responsabilidad social (cap. 1). En A. Ramírez y M. Arias (coords.), La responsabilidad social. Conceptos, realidades y acciones. Universidad de Guadalajara. https://cucsur.udg.mx/sites/default/files/adjuntos/la-responsabilidad-social.pdf

Sánchez, D. (2014). Agentes epistémicos: ‘el punto de vista’ una condición clave. Ergo, 28-29, 67-84. Universidad Veracruzana. https://cdigital.uv.mx/handle/1944/53295

Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF1.0) (nist ai 100-1) [Marco de gestión de riesgos de ia]. National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1

UNESCO (2020). La ciudadanía digital como política pública en educación en América Latina. https://unesdoc.unesco.org/ark:/48223/pf000037812

―――― (2021). Recommendation on the ethics of artificial intelligence [Recomendación sobre la ética de la inteligencia artificial]. UNESCO. https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence

Yeung, K. (2017). Algorithmic regulation. En R. Brownsword, E. Scotford y K. Yeung (eds.), The Oxford Handbook of Law, Regulation and Technology [Manual Oxford de derecho, regulación y tecnología]. Oxford University Press.

―――― (2018). Algorithmic regulation: A critical interrogation [Regulación algorítmica: una interrogación crítica]. Regulation & Governance, 12(4), 505–523. https://doi.org/10.1111/rego.12158