Inteligencia artificial, sesgo algorítmico y discriminación indirecta en salud. Un análisis normativo internacional (2016–2025)
DOI:
https://doi.org/10.20318/universitas.2026.10528Palabras clave:
priorización algorítmica, discriminación indirecta, sesgo algorítmico, gobernanza de la inteligencia artificial, regulación sanitariaResumen
Este artículo analiza cómo los sistemas de inteligencia artificial utilizados en la priorización clínica reproducen desigualdades estructurales, configurando formas de discriminación indirecta. Mediante un diseño cualitativo documental-analítico se examinan marcos normativos vinculantes promulgados entre 2016 y 2025 en la Unión Europea, Estados Unidos, China, Reino Unido, Brasil y España. Los resultados evidencian un crecimiento regulatorio acelerado desde 2021, con énfasis en protección de datos y transparencia, pero con vacíos en responsabilidad jurídica y auditoría de sesgos. Se concluye que la automatización sanitaria requiere evaluaciones obligatorias de impacto algorítmico y mecanismos efectivos de rendición de cuentas.
Descargas
Referencias
Barocas, Solon, and Andrew D. Selbst. "Big Data's Disparate Impact". California Law Review 104, no. 3 (2016): 671–732. https://doi.org/10.15779/Z38BG31.
Binns, Reuben. "Fairness in Machine Learning: Lessons from Political Philosophy". Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81 (2018): 149–159. https://proceedings.mlr.press/v81/binns18a.html.
Boix Palop, Andrés. "Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la Administración para la adopción de decisiones". Revista de Derecho Público: Teoría y Método 1 (2020): 223–269. https://doi.org/10.37417/RPD/vol_1_2020_33.
Cath, Corinne. "Governing Artificial Intelligence: Ethical, Legal and Technical Opportunities and Challenges." Philosophical Transactions of the Royal Society A 376, no. 2133 (2018): 20180080. https://doi.org/10.1098/rsta.2018.0080.
Cerrillo i Martínez, Agustí. "El impacto de la inteligencia artificial en el derecho administrativo. ¿Nuevos conceptos para nuevas realidades técnicas?" Revista General de Derecho Administrativo 50 (2019): 1–38.
Char, Danton S., Nigam H. Shah, and David Magnus. "Implementing Machine Learning in Health Care — Addressing Ethical Challenges". New England Journal of Medicine 378, no. 11 (2018): 981–983. https://doi.org/10.1056/NEJMp1714229.
Chen, Irene Y., Fredrik D. Johansson, and David Sontag. “Why Is My Classifier Discriminatory?” Advances in Neural Information Processing Systems 34 (2021): 25228–25241.
Comisión Europea. Directiva del Parlamento Europeo y del Consejo relativa a la adaptación de las normas de responsabilidad civil extracontractual a la inteligencia artificial (Directiva de Responsabilidad por IA). COM/2022/496 final. Bruselas, 2022.
Cotino Hueso, Lorenzo. "Inteligencia artificial, big data y aplicaciones contra la COVID-19. Y los derechos ante la pandemia". En La inteligencia artificial y sus desafíos jurídicos, editado por Alejandro Huergo Lora, 1–32. Madrid: Iustel, 2021.
De Arcos-Jiménez, J. C., P. Martinez-Ayala, E. Quintero-Salgado, R. Lopez-Romo, and J. Briseno-Ramirez. “Trends of Respiratory Viruses and Factors Associated with Severe Acute Respiratory Infection in Patients Presenting at a University Hospital: A 6-Year Retrospective Study across the COVID-19 Pandemic”. Frontiers in Public Health 13 (2025): 1494463.
Diao, John A., Grace J. Wu, Hannah A. Taylor, and Anupam K. Venkatesh. “Clinical Implications of Removing Race from Estimates of Kidney Function”. JAMA 325, no. 2 (2021): 184–186. https://doi.org/10.1001/jama.2020.23390.
European Commission. "Proposal for a Regulation Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act)." COM(2021) 206 final, Brussels, 2021.
Floridi, Luciano, and Mariarosaria Taddeo. "What Is Data Ethics?" Philosophical Transactions of the Royal Society A 374, no. 2083 (2016): 20160360. https://doi.org/10.1098/rsta.2016.0360.
Gerke, Sara, Timo Minssen, and Glenn Cohen. "Ethical and Legal Challenges of Artificial Intelligence-Driven Healthcare". En Artificial Intelligence in Healthcare, editado por Adam Bohr y Kaveh Memarzadeh, 295–336. London: Academic Press, 2020. https://doi.org/10.1016/B978-0-12-818438-7.00012-5.
Hacker, Philipp. "Teaching Fairness to Artificial Intelligence: Existing and Novel Strategies Against Algorithmic Discrimination Under EU Law". Common Market Law Review 55, no. 4 (2018): 1143–1185. https://doi.org/10.54648/COLA2018095.
Jobin, Anna, Marcello Ienca, and Effy Vayena. "The Global Landscape of AI Ethics Guidelines." Nature Machine Intelligence 1, no. 9 (2019): 389–399. https://doi.org/10.1038/s42256-019-0088-2.
Morley, Jessica, Caio C. V. Machado, Christopher Burr, Josh Cowls, Indra Joshi, Mariarosaria Taddeo, and Luciano Floridi. "The Ethics of AI in Health Care: A Mapping Review". Social Science & Medicine 260 (2020): 113172. https://doi.org/10.1016/j.socscimed.2020.113172.
Mökander, Jakob, and Luciano Floridi. "Ethics-Based Auditing of Automated Decision-Making Systems: Nature, Scope, and Limitations". Science and Engineering Ethics 27, no. 4 (2021): 44. https://doi.org/10.1007/s11948-021-00319-4.
Norori, Nestor, Qing Hu, Florian M. Aellen, Francesco D. Faraci, and Athena Tzovara. “Addressing Bias in Big Data and AI for Health Care: A Call for Open Science”. Patterns 2, no. 10 (2021): 100347. https://doi.org/10.1016/j.patter.2021.100347.
Organización Panamericana de la Salud. "Inteligencia artificial en salud pública". Serie de documentos técnicos de la OPS, Washington D.C., 2021.
Parikh, Ravi B., Stephanie Teeple, and Amol S. Navathe. "Addressing Bias in Artificial Intelligence in Health Care: A Narrative Review". Annals of Internal Medicine 171, no. 10 (2019): 721–725. https://doi.org/10.7326/M19-0690.
Price, W. Nicholson, Sara Gerke, and I. Glenn Cohen. “Potential Liability for Physicians Using Artificial Intelligence”. JAMA 322, no. 18 (2019): 1765–1766. https://doi.org/10.1001/jama.2019.15064.
Rajkomar, Alvin, John Dean, and Isaac Kohane. “Machine Learning in Medicine”. New England Journal of Medicine 380, no. 14 (2019): 1347–1358. https://doi.org/10.1056/NEJMra1814259.
Selbst, Andrew D., Danah Boyd, Sorelle A. Friedler, Suresh Venkatasubramanian, and Janet Vertesi. "Fairness and Abstraction in Sociotechnical Systems". Proceedings of the Conference on Fairness, Accountability, and Transparency (2019): 59–68. https://doi.org/10.1145/3287560.3287598.
Topol, Eric. “High-Performance Medicine: The Convergence of Human and Artificial Intelligence”. Nature Medicine 25, no. 1 (2019): 44–56. https://doi.org/10.1038/s41591-018-0300-7.
Vokinger, Kerstin Noëlle, Stefan Feuerriegel, and Aaron S. Kesselheim. “Mitigating Bias in Machine Learning for Medicine”. Communications Medicine 1, no. 1 (2021): 25. https://doi.org/10.1038/s43856-021-00022-1
Wachter, Sandra, Brent Mittelstadt, and Chris Russell. "Why Fairness Cannot Be Automated: Bridging the Gap Between EU Non-Discrimination Law and AI". Computer Law & Security Review 41 (2021): 105567. https://doi.org/10.1016/j.clsr.2021.105567.
World Health Organization. Ethics and Governance of Artificial Intelligence for Health: WHO Guidance. Geneva: WHO, 2021.
Yeung, Karen, Andrew Howes, and Ganna Pogrebna. "AI Governance by Human Rights-Centered Design, Deliberation, and Oversight." In The Oxford Handbook of Ethics of AI, edited by Markus D. Dubber, Frank Pasquale, and Sunit Das, 639–662. Oxford: Oxford University Press, 2020.
Ziad Obermeyer, Brian Powers, Christine Vogeli, and Sendhil Mullainathan, “Dissecting Racial Bias in an Algorithm Used to Manage the Health of Populations”, Science 366, no. 6464 (2019): 447–453, https://doi.org/10.1126/science.aax2342
Descargas
Publicado
-
Resumen26
-
PDF56
Número
Sección
Licencia
Derechos de autor 2026 Los autores conservan los derechos de autor y conceden a UNIVERSITAS una licencia no exclusiva de publicación bajo los términos de la licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0)
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Los autores conservan la propiedad intelectual y los derechos de autor de los artículos publicados en UNIVERSITAS, mientras que conceden a la revista los derechos de edición y publicación de manera no exclusiva. En coherencia con su compromiso con la difusión del conocimiento, la revista ofrece acceso libre y gratuito a todo su contenido, fomentando así un mayor intercambio académico y cultural a nivel global.
Salvo indicación en contrario, los textos publicados en esta revista están protegidos bajo una licencia CC BY 4.0. Esto permite su copia, distribución y comunicación pública, siempre que se reconozca la autoría y la publicación original en UNIVERSITAS. La revista no cobra tarifas por recibir, procesar o publicar los artículos enviados por los autores.