Nuevas formas de poder digital en la red: dimensiones de la política sexual de las Big Tech
Palabras clave:
Big Tech, sexismo digital, misoginia digital, proxenetismo digital, industria sexualResumen
Revista CIDOB d’Afers Internacionals, nº 138, pp. 97-120
Cuatrimestral (octubre-diciembre 2024)
ISSN:1133-6595 | E-ISSN:2013-035X
DOI: https://doi.org/10.24241/rcai.2024.138.3.97
Si bien inicialmente parecía que Internet iba a ser un espacio universal, descentralizado, horizontal e igualitario, finalmente se ha convertido en un ecosistema de amplios latifundios gobernados por las grandes empresas tecnológicas. Esta nueva forma de poder digital despliega una «política sexual» concreta que se extiende principalmente por los canales de ocio, cultura, consumo y comunicación virtual, los cuales reproducen y naturalizan las brechas de género, el sexismo y la misoginia. En este contexto, este artículo examina cómo el patriarcado opera en clave de género, a través de la difusión y proliferación de contenidos misóginos y sexistas en la red (ciberviolencia, «pornografía mainstream», industria de la explotación sexual, «proxenetismo digital»), desplegando una estrategia cuyo fin es consolidar su poder, perpetuando la jerarquía sexual y la «monetización de la misoginia» en el marco de un orden sociosexual concreto.
Citas
Aavik, Kadri; Collinson, David L.; Hall, Mattthew; Hearn, Jeff y Thym, Anika. «The Impact of Men’s Domination of AI and Deepfake Technology». Routlegde blog, (27 de febrero de 2024) (en línea) [Fecha de consulta: 09.05.2024] https://www.routledge.com/blog/article/open-ai-another-case-of-men-masculinities-gendered-organizing
Adarsh. «Bridging the Gender Gap in AI-Based Roles». Syfy.com, (4 de abril de 2024) (en línea) [Fecha de consulta: 04.04.2024] https://www.sify.com/ai-analytics/bridging-the-gender-gap-in-ai-based-roles/
AEPD-Agencia Española de Protección de Datos. «Datos correspondientes a 2022 del Canal prioritario para solicitar la retirada de contenido sexual o violento publicado en Internet sin consentimiento». AEPD, (7 de marzo de 2022) (en línea) [Fecha de consulta: 17.11.2023] https://www.aepd.es/es/prensa-y-comunicacion/notas-de-prensa/violencia-digital-contra-mujeres-y-ninas-aglutina-70-casos-canal-prioritario
Aguiar, Alberto y Pérez, Víctor. «Los datos revelan el machismo de Twitch: solo un 6% de los streamers más seguidos en España son mujeres, y generan un euro por cada 20 que ingresan los hombres». Business Insider. Epub (10 de noviembre de 2021) (en línea) [Fecha de consulta: 17.03.2023] https://Www.Businessinsider.Es/Machismo-Twitch-Datos-Ganan-Streamers-Seguidas-959977
Alario Gavilán, Mónica. Política sexual de la pornografía. Sexo, desigualdad, violencia. Valencia: Ediciones Cátedra, 2021.
Ananya. «AI image generators often give racist and sexist results: can they be fixed?». Nature, News Feature, (19 de marzo 2024) (en línea) [Fecha de consulta: 09.04.2024] https://www.nature.com/articles/d41586-024-00674-9
Ávila Pinto, Renata. «¿Soberanía digital o colonialismo digital?». SUR, vol.15, n.º 27 (2018), p. 15-28 (en línea) https://sur.conectas.org/wp-content/uploads/2018/07/sur-27-espanhol-renata-avila-pinto.pdf
Balibar, Étienne. La igualibertad. Ensayos políticos 1989-2009. Barcelona: Herder Editorial, 2017.
Ballester Brage, Lluis. y Orte Socías, Carmen. Nueva pornografía y cambios en las relaciones personales. Barcelona: Editorial Octaedro, 2019.
Bates, Laura. Men Who Hate Women. Londres: Simon & Schuster Ltd., 2020.
Bender, Emily; Gebru, Timnit; McMillan-Major, Angelina y Shmitchell, Shmargaret. «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?», en: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21). Nueva York: Association for Computing Machinery, 2021, p. 610-623. DOI: https://doi.org/10.1145/3442188.3445922
Cobo Bedía, Rosa. Pornografía: el placer del poder. Barcelona: Ediciones B, 2020.
Cobo Bedía, Rosa. La ficción del consentimiento sexual. Madrid: Catarata, 2024.
Crawford, Angus y Smith, Tony. «Investigación BBC: el comercio ilegal de imágenes de abuso sexual infantil generadas por Inteligencia Artificial». BBC, (29 de junio de 2023) (en línea) [Fecha de consulta: 01.07.2023] https://www.bbc.com/mundo/articles/c1vzyevl0nro?at_medium=RSS&at_campaign=KARANGA
De Miguel, Ana. Neoliberalismo sexual. Valencia: Cátedra, 2015.
Dencik, Lina y Sanchez-Monedero, Javier. «Data justice». Internet Policy Review, vol. 11, n.º 1 (2022) (en línea) https://doi.org/10.14763/2022.1.1615
D'Ignazio, Catherine y Klein, Lauren F. Data Feminism (Strong Ideas). Cambridge: MIT Press, 2020.
Doctorow, Cory. 2024. «'Enshittification' is coming for absolutely everything».Financial Times, (8 de febrero de 2024) (en línea) [Fecha de consulta: 17.02.2024] https://www.ft.com/content/6fb1602d-a08b-4a8c-bac0-047b7d64aba5
EIGE-European Institute For Gender Equality. «Cyber violence against women and girls: Keys terms and concepts». EIGE, (20 de octubre de 2022) (en línea) [Fecha de consulta: 10.02.2023] https://eige.europa.eu/publications-resources/publications/cyber-violence-against-women-and-girls-key-terms-and-concepts
Franco G., Marta. Las redes son nuestras. Una historia popular de Internet y un mapa para volver a habitarla. Madrid: Consonni, 2024.
Fundación Mutua Madrileña. «Violencia sexual contra la infancia y la adolescencia en el ámbito digital». Fundación Mutua Madrileña, (24 de junio de 2024) (en línea) [Fecha de consulta: 30.06.2024] https://www.fundacionmutua.es/actualidad/noticias/estudio-violencia-sexual-digital-en-la-infancia/
Gabriel, Karen. «Power of Porn Cultures». The Transnational Institute, (diciembre de 2017) (en línea) [Fecha de consulta: 09.05.2022] https://www.tni.org/files/publication-downloads/stateofpower2017-porn-cultures.pdf
García Mingo, Elisa; Fernández-Díaz, Silvia y Tomás-Forte, Sergio. «(Re)configurando el imaginario sobre la violencia sexual desde el antifeminismo: el trabajo ideológico de la manosfera española». Política y sociedad, vol. 59, n.º 1 (2022), p. e80369. DOI: https://doi.org/10.5209/POSO.80369
Ghodsee, Kristen. Utopías Cotidianas. Madrid: Traficantes de sueños, 2024.
Gillespie, Tarleton. «The politics of ‘platforms’», in New Media & Society, May 201012(3):347-364. DOI:10.1177/1461444809342738
Gómez Suárez, Águeda; Pérez Freire, Silvia y Verdugo Matés, Rosa. El putero español: quienes son y qué buscan los clientes de prostitución. Madrid: La Catarata, 2015.
Gómez-Suárez, Águeda y Verdugo Matés, Rosa. «Prostitución y confinamiento: El Putero 2.0». Ex aequo, n.º 43 (2021), p. 101-112 (en línea) https://exaequo.apem-estudos.org/artigo/prostitucion-y-confinamiento
Gómez-Suárez, Águeda. «Dimensiones del proxenetismo digital: una aproximación al fenómeno de la misoginia monetarizada», en: Aranguez Sanchez, Tasia y Olariu, Ozana (coord.). Ensayos ciberfeministas. Madrid: Dykinson Libros, 2023 (en línea) https://dialnet.unirioja.es/servlet/articulo?codigo=9338847
Guilbeault, Douglas; Delecourt, Soléne, Hull; Tasker; Desikan, Bhargav Srinivasa; Chu, Mark y Nadler, Ethan. «Online images amplify gender bias». Nature, vol. 626, (2024), p. 1.049-1.055. DOI: https://doi.org/10.1038/s41586-024-07068-x
Gutiérrez, Miren. Data Activism and Social Change. Palgrave Pivot, 2018. https://doi.org/10.1007/978-3-319-78319-2
Haan, Katherine y Watts, Rob. «How Businesses Are Using Artificial Intelligence In 2024». Forbes Advisor, (24 de abril de 2023) (en línea) https://www.forbes.com/advisor/business/software/ai-in-business/
Hakim, Catherine. Capital erótico. El poder de fascinar a los demás. Barcelona: Debate, 2012.
Hearn, Jeff; Aavik, Kadri Icon; Collinson, David L. y Thym, Anika. Routledge Handbook on Men, Masculinities and Organizations. Theories, Practices and Futures of Organizing. Londres: Routledge, 2023.
Hofstra, Bas y Maaike, Anne Mulders. «Gender bias is more exaggerated in online images than in text». Nature News and views, (14 de febrero de 2024) (en línea) [Fecha de consulta: 22.02.2024] https://www.nature.com/articles/d41586-024-00291-6
Home Security Heroes. «2023 State of deepfakes». Security Hero, (2023) (en línea) [Fecha de consulta: 04.02.2024] https://www.securityhero.io/state-of-deepfakes/
Horta Ribeiro, Manoel; Blackburn, Jeremy; Bradlyn, Barry; De Cristofaro, Emiliano; Stringhini, Gianluca; Long, Summer; Greenberg, Stephanie y Zannettou, Savvas. «The Evolution Of The Manosphere Across The Web». Proceedings of the Fifteenth International AAAI Conference on Web and Social Media, vol. 15, (2021), p. 196-207 (en línea) [Fecha de consulta: 09.05.2022] https://ojs.aaai.org/index.php/ICWSM/article/view/18053/17856
Instituto de las Mujeres. «Mujeres jóvenes y acoso en redes sociales». Instituto de las Mujeres, (diciembre de 2022) (en línea) [Fecha de consulta: 19.05.2022] https://www.inmujeres.gob.es/areasTematicas/AreaEstudiosInvestigacion/docs/Estudios/Mujeres_jovenes_y_acoso_en_redes_sociales.pdf
IWF-Internet Watch Foundation. «How AI is being abused to create child sexual abuse imagery. Prompt: from fantasy to photo-realistic reality». IWF, (octubre de 2023a) (en línea) https://www.iwf.org.uk/media/q4zll2ya/iwf-ai-csam-report_public-oct23v1.pdf
IWF-Internet Watch Foundation. «Informe de la fundación Internet Watch de 2023». IWF, (2023b) (en línea) [Fecha de consulta: 02.01.2024] https://www.iwf.org.uk/annual-report-2023/
ICCL-Irish Council For Civil Liberties. «ICCL demanda a DPC por no actuar en violación masiva de datos de Google». iccl.ie, (15 de marzo de 2022) (en línea) [Fecha de consulta: 22.02.2024] https://www.iccl.ie/news/iccl-sues-dpc-over-failure-to-act-on-massive-google-data-breach/
Jennings, Rebecca. «The Girl Internet and the Boy Internet how my bf got Instagram Reels-pilled». Beccacore, (9 de febrero de 2023) (en línea) https://beccacore.substack.com/p/the-girl-internet-and-the-boy-internet
Kaiser, Susane. Odio a las mujeres. Inceles, malfollaos y machistas modernos. Pamplona: Katakrak, 2022.
Kassam, Ashyfa. «We’re writing history’: Spanish women tackle Wikipedia’s gender gap Wikiesfera is one of a handful of groups around world trying to ‘make women visible’ on user-edited site». The Guardian. (12 de junio de 2024) (en línea) https://www.theguardian.com/technology/article/2024/jun/12/spain-women-tackle-wikipedia-gender-gap-wikiesfera?
Klein, Naomi. Dopelganger. Un viaje al mundo del espejo. Madrid: Paidós, 2024.
Lanier, Jaron. Diez razones para borrar tus redes de inmediato. Madrid: Debate, 2018.
Lerner, Gerda. La creación del patriarcado. Pamplona: Katrakak, 2022.
Kipnis, Laura. Bound and Gagged: Pornography and the Politics of Fantasy in America. Durham: Duke University Press, 1996.
Lorente, Patricio. El conocimiento hereje. Una historia de Wikipedia. Buenos Aires: Paidós, 2020.
Lovink, Geert; Scolari, Carlos A. y Pérez-Altable, Laura. «La extinción de internet: política, redes y Plataformas». Communication Reports, (septiembre de 2024) (en línea) [Fecha de consulta: 18.02.2024] https://doi.org/10.31009/cr.2024.09
Lorca, G. Jacinto y García-Mingo, Elisa. «Busca, busca, perrita: comunidades digitales misóginas de difusión de imágenes sexuales sin consentimiento». Ex æquo, n.º 48 (2023), p. 15-32 (em línea) https://exaequo.apem-estudos.org/revista/revista-ex-aequo-numero-48-2023
Lozano, Mabel y Conelli, Pablo J. PornoXplotación. Madrid: Alrevés, 2020.
Luminita, Patras y Todolí; Alejandro. «Ser influencer hoy: Posibilidades y obstáculos de una nueva fuente de empleo». Càtedra d’Economia Colaborativa i Transformació Digital, paper n.º 4 (2022) (en línea) [Fecha de consulta: 18.05.2022] https://www.uv.es/ceconomiacol/descarregues/Serinfluencerhoy-informe.pdf
Marín, Kalinda. «Inteligencias Artificiales y Feminismo». Medium, (12 de febrero de 2023) (en línea) [Fecha de consulta: 18.05.2023] https://kalindalamar.medium.com/inteligencia-artificial-y-feminismo-f1d5c25abcbb
Mazzucato, Mariana. El estado emprendedor. La oposición público-privado y sus mitos. Madrid: Taurus, 2022.
Mazzucato, Mariana. «The ugly truth behind ChatGPT: AI is guzzling resources at planet-eating rates». The Guardian, (30 de mayo de 2024) (en línea) [Fecha de consulta: 11.06.2024] https://www.theguardian.com/commentisfree/article/2024/may/30/ugly-truth-ai-chatgpt-guzzling-resources-environment
Menéndez Menéndez, Isabel. «Biopoder y postfeminismo: la cirugía estética en la prensa de masas». Revista Teknokultura, vol. 10, n.º 3 (2013), p. 615-642.
Millett, Kate. Política sexual. Valencia: Cátedra feminismos, 1997.
Mulvey, Laura. «Visual Pleasure and Narrative Cinema», en: Merck, Mandy (ed.) The Sexual Subject. A Screen Reader in Sexuality. Londres y Nueva York: Routledge, 1975.
ONU Mujeres. «Odio a las mujeres. Inceles, malfollaos y machistas modernos Online and ICT facilitated violence against women and girls during COVID-19». ONU-Mujeres, (diciembre de 2020) (en línea) [Fecha de consulta: 19.12.2021] https://www.unwomen.org/en/digital-library/publications/2020/04/brief-online-and-ict-facilitated-violence-against-women-and-girls-during-covid-19
Penny, Laurie. Cibersexismo. Sexo, poder y género en internet. Valencia: ContintaMeTienes, 2017.
Plan Internacional. «(In)Seguras Online. Experiencias de niñas, adolescentes y jóvenes en torno al acoso online». Plan Internacional, (diciembre de 2020) (en línea) [Fecha de consulta: 17.04.2022] https://plan-international.es/inseguras-online
Proyecto Una. Leia, Rihanna & Trump: De cómo el feminismo ha transformado la cultura pop y de cómo el machismo reacciona con terror. Barcelona: Descontrol, 2019.
Ruiz Repullo, Carmen. Nuestros cuerpos, nuestras vidas. Un acercamiento a la violencia sexual en la juventud. Baleares: Ediciones UIB, 2022.
Ryan-Mosley, Tate. «Inteligencia Artificial. Vuelta al mundo por las regulaciones de la IA en 2024». MIT Technology Review, (23 de enero de 2024) (en línea) [Fecha de consulta: 12.02.2024] https://www.technologyreview.es//s/16069/vuelta-al-mundo-por-las-regulaciones-de-la-ia-en-2024
Sassen, Saskia. Contrageografías de la globalización. Género y ciudadanía en los circuitos fronterizos. Madrid: Traficantes de Sueños, 2003.
Segato, Rita. La guerra contra las mujeres. Madrid: Traficantes de Sueños, 2016.
Sensity. «The State Of Deepfakes 2024». Sensity, (2024) (en línea) https://5865987.fs1.hubspotusercontent-na1.net/hubfs/5865987/SODF%202024.pdf
Smith, Genevieve y Rustagi Mar, Ishita. «When Good Algorithms Go Sexist: Why and How to Advance AI Gender Equity». Stanford Social Innovation Review Logo, (31 de marzo de 2021) (en línea) https://ssir.org/articles/entry/when_good_algorithms_go_sexist_why_and_how_to_advance_ai_gender_equity#
Tarnoft, Ben, Internet for the people. The fight for our digital future. EEUU: Verso Books, 2022.
Thill, Magaly y Giménez Armentia, Pilar. «El enfoque de género: un requisito necesario para el abordaje de la trata de seres humanos con fines de explotación sexual». Revista europea de derechos fundamentales, n.º 27 (2016), p. 439-459.
Tripodi, Francesca. «Categorized: Gender, notability, and inequality on Wikipedia». New Media & Society, vol. 25, n.º 7 (2021), p. 1.687-1.707. DOI: https://doi.org/10.1177/14614448211023772
UNESCO. «Reporting on violence against women and girls», (19 de junio de 2019) (en línea) https://www.unesco.org/en/articles/reporting-violence-against-women-and-girls
UNESCO-Centro Internacional de Investigación sobre Inteligencia Artificial. «Challenging systematic prejudices: an investigation into bias against women and girls in large language models», CI/DIT/2024/GP/01, (marzo de 2024) (en línea) [Fecha de consulta: 17.03.2024] https://unesdoc.unesco.org/ark:/48223/pf0000388971
Unión Europea. «Ley de servicios digitales. Bruselas: Comisión Europea», (diciembre de 2022) (en línea) [Fecha de consulta: 06.08.2023] https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_es
Van Dijck, Jose; Poell; Thomas y De Waal, Martijn. The Platform Society. Public Values in a Connective World. Oxford: Oxford University Press, 2018.
Vuorre, Matti y Przybylski Andrew K. «A Multiverse Analysis of the Associations Between Internet Use and Well-Being». Technology, Mind, and Behavior, vol. 5, n.º 2 (2024) (en línea) [Fecha de consulta: 17.05.2024] https://tmb.apaopen.org/pub/a2exdqgg/release/1
Wajcman, Judy. El tecnofeminismo. Madrid: Cátedra, 2006.
Webb, Amy. Los nuevos gigantes. Madrid: Península, 2021.
Web Foundation. «Closing the Digital Gender Gap: Reflections and Actions on International Women’s Day». World Wide Web Foundation, (8 de marzo de 2017) (en línea) [Fecha de consulta: 05.12.2021] https://webfoundation.org/2017/03/the-digital-gender-gap-access-is-empowerment/
Zafra, Remedios. Frágiles: Cartas sobre la ansiedad y la esperanza en la nueva cultura. Madrid: Anagrama, 2021.
Zuboff, Shoshana. La era del capitalismo de la vigilancia: La lucha por un futuro humano frente a las nuevas fronteras del poder (Estado y Sociedad). Madrid: Paidós Ibérica, 2020.
