Abstract

Resumen Las tecnologías actuales no son neutrales. Reflejan las necesidades, perspectivas y experiencias de quienes las desarrollan. Estos sesgos han dado lugar a la creación de armas digitales como los deepfakes, una tecnología que, de manera desproporcionada, se utiliza en mujeres para crear contenido sexual. El presente estudio analiza el auge de aplicaciones deepfake en América Latina y el Caribe (ALAC), enfocándose en su disponibilidad, facilidad de uso y los riesgos que representan en contextos de desigualdad estructural y violencia digital de género. Para ello, se realizó una recolección automatizada de datos mediante una API, identificando 105 aplicaciones deepfake disponibles a diciembre de 2024 en Google Play Store. Posteriormente, se llevó a cabo una evaluación fundamentada en dimensiones como año, alcance, diseño, accesibilidad, modelos de negocio y funcionalidades. Finalmente, se realizó un análisis crítico para comprender cómo estas herramientas configuran dinámicas de poder, perpetúan narrativas de cosificación y amplifican la violencia digital contra las mujeres. Los hallazgos evidencian un diseño intencionado que facilita la adopción de estas aplicaciones, eliminando barreras técnicas y normalizando la cosificación de los cuerpos de las mujeres, siendo el 89.5% de estas herramientas un potencial peligro para ellas. La investigación enfatiza la urgencia de cuestionar la supuesta neutralidad de estas tecnologías y la necesidad de repensar su desarrollo desde una perspectiva que contribuya a construir entornos digitales más seguros y respetuosos para todas las personas. Abstract Current technologies are not neutral; they reflect the needs, perspectives, and experiences of their developers. These biases have led to the creation of digital weapons like deepfakes, a technology that is disproportionately used against women to create sexual content. This study examines the rise of deepfake applications in Latin America and the Caribbean (LAC), focusing on their availability, ease of use, and the risks they pose in contexts of structural inequality and digital gender-based violence. To that end, an automated data collection was carried out using an API, identifying 105 deepfake applications available on the Google Play Store as of December 2024. Subsequently, an evaluation was conducted based on criteria such as year, scope, design, accessibility, business models, and functionalities. Finally, a critical analysis was performed to understand how these tools shape power dynamics, perpetuate objectification narratives, and amplify digital violence against women. The findings reveal an intentional design that facilitates the adoption of these applications, removing technical barriers and normalizing the objectification of women's bodies, with 89.5% of these tools posing a potential danger to them. The research emphasizes the urgency of questioning the supposed neutrality of these technologies and the need to rethink their development from a perspective that contributes to building safer and more respectful digital environments for everyone.