Deepfake, cinismo y diversión en la crueldad: Un caso de colegiales y pornografía en Ecuador

Abstract

Los debates sobre la inteligencia artificial (IA) generativa han cobrado fuerza. Sus usos expandidos provocaron asombro y también conmoción al ver cómo derivaron en acciones que afectan la concepción de la realidad. El deepfake es una tecnología que crea videos, imágenes o audios falsos mediante algoritmos de aprendizaje profundo que —al conjugarse con lógicas del cinismo y la crueldad hacia otros— amenazan la integridad y la verdad. El objetivo del artículo es debatir críticamente los usos instrumentales de la IA para crear contenidos visuales manipulados y pornográficos. La metodología tiene carácter cualitativo, mediante revisión bibliográfica y documental, entrevistas y un análisis de caso: unos jóvenes crearon más de 700 fotos y videos falsos, con rostros de mujeres de distintas edades, estudiantes de un colegio de Quito. El artículo debate cómo se rela- cionan la tecnología, las juventudes, la pornografía, la lógica del cinismo y la formación de redes y enjambres digitales, así como la necesidad de políticas públicas en el campo educativo ante los “ultrafalsos”.

Debates about generative artificial intelligence have gained strength, its expanded uses caused astonishment and also shock to see how they led to actions that affect the conception of reality. Deepfake is a technology that creates false videos, images or audio using deep learning algorithms and that - when combined with the logic of cynicism and cruelty towards others - affects integrity and truth. The objective of the article is to critically debate the instrumental uses of artificial intelligence to create manipulated and pornographic visual content. The methodology is qualitative in nature, with bibliographic and documentary review, interviews and a case analysis: young people created more than 700 fake photos and videos, with faces of female students of different ages, from a school in Quito. The article debates how technology, youth, pornography, the logic of cynicism, the formation of networks and digital swarms are related, as well as the need for public policies in the educational field to confront ultrafakes.