Sesgo de género (en IA)

Palabras clave: Inteligencia artificial, discriminación, igualdad, género

Resumen

Ante la emergencia de sistemas de inteligencia artificial en múltiples esferas, resulta imprescindible la incorporación de la perspectiva de género para impedir la perpetuación y fortalecimiento de estereotipos y conductas discriminatorias mediante la presencia de sesgos en los algoritmos.
La IA demanda una intervención consciente en su desarrollo y en la formulación de algoritmos, así como el cumplimiento de principios clave, como la transparencia y la responsabilidad, vitales para eludir el sesgo de género. El sesgo se demuestra mediante varios estudios y conlleva discriminación. Tiene su origen, generalmente, en la subrepresentación de grupos y se suele manifestar de forma indirecta. Se incluye un análisis del marco ético y regulatorio aplicable a los sistemas de inteligencia artificial en lo que resulta aplicable a la cuestión de género.

Descargas

La descarga de datos todavía no está disponible.
Consultas del resumen: 51
PDF : 41

Citas

Barrio Andrés, M. (2021). Génesis y desarrollo de los derechos digitales. Revista de Las Cortes Generales, 110, 197-233. https://doi.org/10.33426/rcg/2021/110/1572

Barrio Andrés, M. (2022). Garantía de los derechos en los entornos digitales. En Cotino Hueso, L. (Coord.), La Carta de Derechos Digitales (363-395). Tirant Lo Blanch.

Boix Palop, A. (2020) Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones. Revista de Derecho Público: teoría y método, 1, 223-269.

Buolamwini, J. y Timnit, G. (2018) Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research Conference on Fairness, Accountability, and Transparency, 1-15. http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf

Coltrane, S. y Messineo, M. (2000). The Perpetuation of Subtle Prejudice: Race and Gender Imagy in 1990s Television Advertising. Sex Role, (42), 363-389.

Cotino Hueso, l y Castellanos Claramunt, J. (2022). Transparencia y Explicabilidad de la Inteligencia Artificial y “Compañía" (Comunicación, Interpretabilidad, Inteligibilidad, Auditabilidad, Testabilidad, Comprobabilidad, Simulabilidad...). Para qué, para quién y cuánta. Transparencia y explicabilidad de la Inteligencia Artificial. Tirant Lo Blanch.

Cotino Hueso, L. (2022). La Carta de Derechos Digitales, Tirant Lo Blanch.

De la Sierra Morón, S. (2022). Una introducción a la carta de derechos digitales. En Cotino Hueso, L. (Coord.), La Carta de Derechos Digitales (27-52). Tirant Lo Blanch.

Gutiérrez David, M. (2021). Administraciones inteligentes y acceso al código fuente y los algoritmos públicos. Conjurando riesgos de cajas negras decisionales. Derecom, 31, 19-105.

Hernández Peña, J. C. (2022). El marco jurídico de la inteligencia artificial. Principios, procedimientos y estructuras de gobernanzas. Aranzadi.

Hundt, A., Agnew, W., Zeng. W., Kacianka, S. y Gombolay, M. (2022). Robots Enact Malignant Stereotypes. ACM Conference on Fairness, Accountability, and Transparency FAccT ’22, June 21–24. https://doi.org/10.1145/3531146.3533138.

Kim, J. L., Sorsoli, C. L., Collins, K., Zylbergold, B. A., Schooler, D., y Tolman, D. L. (2007). From Sex to Sexuality: Exposing the Heterosexual Script on Primetime Network Television. The Journal of Sex Research, 44 (2), 145–157. http://www.jstor.org/stable/25701753.

Kullmann, M. (2018). Platform Work, Algorithmic Decision-Making, and EU Gender Equality Law. International Journal of Comparative Labour Law and Industrial Relations, 34 (1), 1-21.

Lovdal, L. (1989) Sex Role messages in television commercials: An updat.

Sex Roles, 21, 715-724. https://doi.org/10.1007/BF00289804.

Martín Delgado, I. (2009). La gestión electrónica del procedimiento administrativo. QDL, 21, 84-101.

Martín Delgado, I. (2009). Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada. Revista de Administración Pública, 180, 353-386.

Matthes, J., Prieler, M. y Adam, K. (2016). Gender-role portrayals in television advertising across the globe. Sex Roles. A Journal of Research, 75 (7-8), 314-327. https://doi.org/10.1007/s11199-016-0617-y.

Mehrabi, N., Morstatter, F., Saxena, N. Lerman, K. y Galstyan, A. (2019). A Survey on Bias and Fairness in Machine Learning. arXiv 2022. https://doi.org/10.48550/arXiv.1908.09635

Serra Cristobal, R. (2004) La discriminación indirecta por razón de sexo, en Ridaura Martínez, M.J. y Aznar Gómez, M. (Coords.), Discriminación versus Diferenciación (Especial referencia a la problemática de la mujer) (365-398). Tirant lo Blanch.

Vestri, G. (2021). La inteligencia artificial ante el desafío de la transparencia algorítmica: Una aproximación desde la perspectiva jurídico-administrativa. Revista Aragonesa de Administración Pública, 56, 368-398.

Publicado
2024-03-14
Cómo citar
Pérez-Ugena Coromina, M. (2024). Sesgo de género (en IA). EUNOMÍA. Revista En Cultura De La Legalidad, (26), 311-330. https://doi.org/10.20318/eunomia.2024.8515
Sección
Voces de Cultura de la legalidad

Datos de financiación