Injusticia epistémica y reproducción de sesgos de género en la inteligencia artificial
-
1
Universidad de La Laguna
info
ISSN: 1668-0030, 1850-0013
Año de publicación: 2024
Volumen: 19
Número: 56
Páginas: 89-100
Tipo: Artículo
Otras publicaciones en: Revista iberoamericana de ciencia tecnología y sociedad
Resumen
La inteligencia artificial (IA) generativa reifica y pone en circulación las brechas y los sesgos de género ya existentes, pero otorgándoles un barniz de objetividad y neutralidad a pesar de la opacidad de los procesos y su capacidad para reproducir e incrementar las situaciones de desigualdad y exclusión. La situación es de clara injusticia algorítmica y epistémica y nos enfrenta con retos de gran envergadura en nuestras modernas democracias. Con ejemplos de casos concretos y con la revisión crítica de importantes textos que ofrecen claves interpretativas para comprender el impacto del rápido desarrollo e implantación de estas herramientas, trazaremos algunas líneas maestras que requerirán de estudios con mayor profundidad pero que pretenden recoger, desde la perspectiva de los estudios de ciencia, tecnología y género, nuevos desafíos para el desarrollo de la disciplina y avistar las posibilidades de una IA feminista
Referencias bibliográficas
- Bockting et al. (2023). Living guidelines for generative AI -why scientists must oversee its use. Nature, 622, pp. 693-696.
- Coeckelbergh, M. (2021). Ética de la Inteligencia Artificial. Madrid: Cátedra.
- Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press.
- Criado Pérez, C. (2019). Invisible Women: Exposing Data Bias in a World Designed for Men. Londres: Chatto & Windus.
- Dastin, J. (2022). Amazon scraps secret AI recruiting tool that showed bias against women. En K. Martin (Comp.), Ethics of Data and Analytics. Concepts and cases (296-299). CRC Press Taylor & Francis Group.
- Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police and Punish the Poor. Nueva York: St. Martin’s Press
- Fricker, M. (2007). Epistemic Injustice. Power & the Ethics of Knowing. Oxford: Oxford University Press.10.52712/issn.1850-0013-555
- Gray, M. & Suri, S. (2019). Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. Boston: Harcourt.
- Han, B. C. (2022). Infocracia. Madrid: Taurus.
- Hayles, N. K. (2023). Technosymbiosis: Figuring (Out) Our Relations to AI. En Feminism and AI. En J. Browne, S. Cave, E. Drage & K. McInerney (Eds.), Feminist AI: Critical Perspectives on Algorithms, Data, and Intelligent Machines (1-18). Oxford: Oxford University Press.
- Jasanoff, S. (2004). States of Knowledge. The Co-production of Science and Social Order. Londres: Routledge.
- Jasanoff, S. (2016). The Ethic of Invention. Technology and The Human Future. Nueva York: W.W. Norton & Company Ltd.
- Larson, E. J. (2022). El mito de la Inteligencia Artificial. Por qué las máquinas no pueden pensar como nosotros lo hacemos. Barcelona: Shackleton Books.
- O’Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Londres: Allen Lane.
- Perdomo, I. (2024). Tecnociencia feminista. Una propuesta de demarcación. Revista Iberoamericana de Ciencia, Tecnología y Sociedad -CTS, 19(55), 127-143. DOI: https://doi.org/10.52712/issn.1850-0013-424.
- Scavino, D. (2022). Máquinas filosóficas. Problemas de cibernética y desempleo. Barcelona: Anagrama.
- Toupin, S. (2024). Shaping feminist artificial intelligence. New Media & Society, 26(1), 580-595. Sage Journals. DOI: https://doi.org/10.1177/14614448221150776.
- Van Noorden, R. & Perkel, J. (2023). AI and Science: what 1600 researchers think. Nature, vol. 621, 28 de septiembre de 2023, 672-675. DOI: https://doi.org/10.1038/d41586-023-02980-0.
- Wajcman, J. (2010). Feminist Theories of Technology. Cambridge Journal of Economics, 34(1), 144.
- Wajcman, J. & Young, E. (2023). Feminism Confronts AI. En Feminism and AI. En J. Browne, S. Cave, E. Drage & K. McInerney (Eds.), Feminist AI: Critical Perspectives on Algorithms, Data, and Intelligent Machines (47-64). Oxford: Oxford University Press.
- Young, E., Wajcman, J. & Sprejer, L. (2023). Mind the gender gap: inequalities in the emergent professions of artificial intelligence (AI) and data science. New Technology, Work and Employment, 1-24. DOI: https://doi.org/10.1111/ntwe.12278.