Evolución del Deepfake: campos semánticos y géneros discursivos 2017-2021
Contenido del artículo principal
Resumen
El presente estudio tiene como finalidad realizar un análisis de la evolución de los campos semánticos y géneros discursivos del deepfake desde su aparición en 2017 y hasta 2021. El estudio se centra en la descripción de la “capa exterior” (Simondon, 2013) del deepfake como objeto técnico-estético y cultural, en un escenario dinámico, progresivo y cambiante, en donde se expanden sus usos y prácticas culturales. Igualmente se revisan los usos benéficos y delictivos del deepfake, así como los principales problemas éticos y legales que plantea en el complejo escenario de la posverdad. La investigación tiene como base una metodología longitudinal analítica-sintética en tres fases entre 2017-2021. El estudio revela una progresiva evolución discursiva en donde emergen nuevos campos semánticos y géneros discursivos del deepfake, con una tendencia hacia usos benéficos y no sólo delictivos en la esfera de la industria audiovisual, el activismo, el arte experimental, los usos comerciales, médicos, la publicidad, la propaganda, la educación, entre otros; asimismo, el estudio revisa el estado sobre el uso del término deepfake para singificar usos benéficos y delictivos.
Descargas
Detalles del artículo

Esta obra está bajo licencia internacional Creative Commons Reconocimiento 4.0.
Esta obra está bajo una licencia de Creative Commons Reconocimiento 4.0 Internacional.
Citas
Ajder, H., Patrini, G., y Cavalli, F. (2020). Automating image abuse: Deepfake bots on Telegram. Sensity.Automating Image Abuse: Deepfake bots on Telegram. Sensityai. https://bit.ly/3poYgTG
Ajder, H., Patrini, G., Cavalli, F. (2019). The State of Deepfakes: Landscape, Threats, and Impact. Deeptrace. https://bit.ly/3suHfJB
Aldrin, P. (2005). Sociologie politique des rumeurs. Presses Universitaires de France (PUF)
Amazon (2020). Stylesnap. https://amzn.to/3tlsUhD
Amorós, M. (2019). Fake News, la verdad de las noticias falsas. Plataforma Editorial.
Ayyub, R. (21 de noviembre de 2018a). I Was The Victim Of A Deepfake Porn Plot Intended To Silence Me. HuffPost UK. https://bit.ly/3C1nmwO
Ayyub, R. (22 de mayo de 2018b). Opinion | In India, Journalists Face Slut-Shaming and Rape Threats. The New York Times. https://nyti.ms/3stcjtc
Baethge, C., Goldbeck-Wood, S., y Mertens, S. (2019). SANRA—a scale for the quality assessment of narrative review articles. Research integrity and peer review, 4(1), 1-7. https://doi.org/10.1186/s41073-019-0064-8
Ball, J. (2017). Post-Truth: How Bullshit Conquered the World. Bite Back Publishing.
Balmain [@balmain] (15 de junio de 2020). Balmain [Video]. Instagram. https://bit.ly/3K5T8f4
Bañuelos, J. (2022). Fig. 3. Inventario de artículos analizados utilizando la metodología de la Escala SANRA - Scale for the Assessment of Narrative Review Articles (Baethge, C., Goldbeck-Wood, S., y Mertens, S., 2019). https://figshare.com/s/07888bce696bfe90939c
Barnes, C. y Barraclough, T. (2019). Perception inception: Preparing for deepfakes and the synthetic media of tomorrow. The Law Foundation.
Barnes, C., y Barraclough, T. (2020). Deepfakes and synthetic media. In Emerging technologies and international security (pp. 206-220). Routledge.
Bermuda [@bermudaisbae]. (28 de junio de 2021). Bermuda [Instagram profile]. Instagram. https://bit.ly/3MbRpGM
bill_posters_uk (7 de junio de 2019). Spectre. [Video]. Instagram. https://bit.ly/3C59QZ9
Blawko [@blawko22]. (28 de junio de 2021). Blawko [Instagram profile]. Instagram. https://bit.ly/3IyF9y1
Bogicevic, V., Seo, S., Kandampully, J. A., Liu, S. Q., y Rudd, N. A. (2019). Virtual reality presence as a preamble of tourism experience: The role of mental imagery. Tourism Management, 74, 55-64. https://doi.org/10.1016/j.tourman.2019.02.009
Bown, A. y Briston, D. (2019). Post Memes: Seizing the Memes of Production. Punctum books. https://doi.org/10.2307/j.ctv11hptdx
Campbell, C., Plangger, K., Sands S y Kietzmann, J. (2021). Preparing for an era of deepfakes and AI-generated ads: A framework for understanding responses to manipulated advertising. Journal of Advertising. https://doi.org/10.1080/00913367.2021.1909515
CBS (24 de enero de 2020). President’s words used to create “deepfakes” at Davos. [Video]. YouTube. https://bit.ly/3poo9Tq
Cerdán, V., García Guardia, M. L., Padilla, G. (2020). Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales. CIC: Cuadernos de información y comunicación, 25, 165-181. http://dx.doi.org/10.5209/ciyc.68762
Codina, Ll. (2018). Revisiones bibliográficas sistematizadas: Procedimientos generales y framework para Ciencias Humanas y Sociales. En C. Lopezosa; J. Díaz-Noci, J.; Ll. Codina, Methodos. Anuario de métodos de investigación en comunicación social. Universitat Pompeu Fabra, (50-60). https://doi.org/10.31009/methodos.2020.i01.05
Cole, S. (27 junio 2019). Esta terrorífica app crea un nude de cualquier mujer con un simple clic. Vice. https://bit.ly/3M9LvpE
Conte, P.J. (2019). Mockumentality: from hyperfaces to deepfakes. World Literature Studies. Insitute of World Literature SAS. https://bit.ly/3K1aTfe
Cosentino, G. (2020). Social Media and the Post-Truth World Order. The Global Dynamics of Disinformation. Springer Nature.
Cooke, N. A. (2018). Fake News and Alternative Facts. Information Literacy in a Post-Truth Era. American Library Association.
Cortazar Rodríguez, F. J. (2014). Imágenes rumorales, memes y selfies: elementos comunes y significados. Iztapalapa. Revista de ciencias sociales y humanidades, 35(77), 191-214.
https://doi.org/10.28928/ri/772014/aot3/cortazarrodriguezfj
Channel 4 Comedy (15 de marzo de 2021). The Queen’s Christmas message gets a deepfake makeover. [Video]. YouTube. https://bit.ly/35H7UtO
Chawla, R. (2019). Deepfakes: How a pervert shook the world. International Journal for Advance Research and Development, 4, 4-8. https://bit.ly/3psxedZ
Chen, M., Radford, A., Child, R., Wu, J., Jun, H., Luan, D., Sutskever, I. (2020). Generative pretraining from pixels. En: Proceedings of the 37th International conference on machine learning, n. 119, 1691-1703. https://bit.ly/3hLcTwp
Ctrl Shift Face (6 de agosto, 2019). Bill Hader channels Tom Cruise [DeepFake]. [Video]. YouTube. https://www.youtube.com/watch?v=VWrhRBb-1Ig
D´Ancona, M. (2018). Post-Truth, the New War on Truth and How to Fight Back. Edbury Press.
Digital, K. (28 de diciembre de 2020). Balmain Virtual Showroom [Video]. Vimeo. https://vimeo.com/498685433
Google Lens (2021)- Search What You See. (2021, November 19). Google Lens. https://lens.google/
Granda-Orive, J. I., Alonso-Arroyo, A., García-Río, F., Solano-Reina, S., Jiménez-Ruiz, C. A., y Aleixandre-Benavent, R. (2013). Ciertas ventajas de Scopus sobre Web of Science en un análisis bibliométrico sobre tabaquismo. Revista española de documentación científica, 36(2), e011-e011. https://doi.org/10.3989/redc.2013.2.941
Derpfakes (7 de septimebre de 2018). Princess Leia Remastered...Again [Video]. YouTube. https://bit.ly/3tmQaMe
Dietmar, J. (2019, May 21). GANs And Deepfakes Could Revolutionize The Fashion Industry. Forbes. https://bit.ly/3pop32g
Digital Agency Network (19 de noviembre de 2020). Meet KFC’s New Computer-Generated Virtual-Influencer, Colonel. Digital Agency Network. https://bit.ly/3IyHE3n
Ferrer (7 de mayo de 2021) Making of Cantinflas. Facebook. https://bit.ly/35j9amY
Forsdick, S. (2019, February 27). Meet the team working to prevent the spread of next-gen fake news through ‘deepfake’ videos. NSBusiness. https://bit.ly/3vuivmO
Fraga-Lamas, P., y Fernández-Caramés, T. M. (2020). Fake news, disinformation, and deepfakes: Leveraging distributed ledger technologies and blockchain to combat digital deception and counterfeit reality. IT Professional, 22(2), 53-59. https://doi.org/10.1109/MITP.2020.2977589
Future Advocacy (26 de noviembre de 2019a). Boris Johnson has a message for you. (deepfake). [Video]. YouTube. https://bit.ly/3swIbNt
Future Advocacy (26 de noviembre de 2019b). Jeremy Corbyn has a message for you. (deepfake). [Video]. YouTube. https://bit.ly/3MdPNMH
Gabon 24 (31 de diciembre de 2018). Discours à la nation du président ali bongo ondimba. [Video]. Facebook. https://bit.ly/3K7LZL0
Garimella, K. y Eckles, D. (2020). Images and misinformation in political groups: Evidence from WhatsApp in India. https://doi.org/10.37016/mr-2020-030
Generated Photos (28 de junio de 2021). Gallery of AI Generated Faces | Generated.photos. (n.d.). https://generated.photos/faces
Gómez-de-Ágreda, Á., Feijóo, C., y Salazar-García, I. A. (2021). Una nueva taxonomía del uso de la imagen en la conformación interesada del relato digital. Deep fakes e inteligencia artificial. Profesional de la Información, 30(2). https://doi.org/10.3145/epi.2021.mar.16
Gosse, Ch. y Burkell, J. (2020). Politics and porn: how news media characterizes problems presented by deepfakes. Critical Studies in Media Communication. FIMS Publications. 345. https://ir.lib.uwo.ca/fimspub/345
Greene, T. (2021, September 30). Who thought political ads featuring Deepfake Putin and Kim trashing the US was a good idea? Tnw. https://bit.ly/3Mbdrtb
Guthrie, S. (2020). Virtual influencers: More human than humans. In Influencer Marketing (pp. 271-285). Routledge. https://bit.ly/3HzglVg
Güera, D. y Delp, E. J. (2018). Deepfake video detection using recurrent neural networks. In 2018 15th IEEE international conference on advanced video and signal based surveillance (AVSS) (pp. 1-6). IEEE. https://doi.org/10.1109/AVSS.2018.8639163
Hao, K. (3 de septiembre de 2020). 'Deepfakes' virales: la fina línea que separa el humor del abuso. MIT Technology Review. https://bit.ly/3pt6oCu
Hao, K. (20 de octubre de 2020). A deepfake bot is being used to “undress” underage girls. MIT Technology Review. https://bit.ly/3ps0ql8
Huffman, S. (8 de mayo de 2018). The future of the Google Assistant: Helping you get things done to give you time back. The Keyword. https://bit.ly/3pszySf
Ibañez, J. (2017). En la era de la posverdad. Calambur.
Imma [@imma.gram]. (28 de junio de 2021). Imma.gram [Instagram profile]. Instagram. https://bit.ly/344cWzX
Initiative (2020). Culture Shock. True, Lies and Technology. https://bit.ly/35HaeRy
Ipsen, G. (1924). Der alte Orient und die Indogermanen. Festschrif - W. Streitberg. Heidelberg, 200-237.
Jee, Ch. (2019). An Indian politician is using deepfake technology to win new voters. MIT Technology Review. https://bit.ly/3IBsdat
Kalpokas, I. (2019). A Political Theory of Post-Truth. Palgrave Macmillan.
KFC (23 de julio de 2021). KFC/WTF! Deep Fake Colonel Sanders. [Video]. YouTube. https://bit.ly/35gc7ou
Kietzmann, J., Lee, L. W., McCarthy, I. P., Kietzmann, T. C. (2020). Deepfakes: Trick or treat? Business Horizons, 63(2), 135–146. https://doi.org/10.1016/j.bushor.2019.11.006
Kwok, A. O., y Koh, S. G. (2020). Deepfake: a social construction of technology perspective. Current Issues in Tourism, 24(13), 1798-1802. https://doi.org/10.1080/13683500.2020.1738357
Hyeongwoo, K. et. al. (2019). Neural style-Preserving visual dubbing. SIGGRAPH Asia 2019. https://bit.ly/3tjRdwH
Leviathan, Y. (2018, May 08). Google Duplex: An AI System for Accomplishing Real-World Tasks Over the Phone. Google AI Blog. https://bit.ly/3vBLZyO
Lil Miquela (2021). [@lilmiquela]. LilMiquela [Instagram profile]. Instagram. Recuperado junio 28, 2021. https://bit.ly/3vuQ4Vt
Lyons, K. (2020, Feb 18). An Indian politician used AI to translate his speech into other languages to reach more voters. The Verge. https://bit.ly/35lz1L1
Malaria Most Die (2019). David Beckham speaks nine languages to launch Malaria Must Die Voice Petition. [Video]. YouTube. https://bit.ly/343XqUT
Malaria Most Die (2021). A World Without Malaria. https://bit.ly/3sthARw
Maras, M. H. y Alexandrou, A. (2018). Determining authenticity of video evidence in the age of artificial intelligence and in the wake of Deepfake videos. The International Journal of Evidence y Proof, 23(3), 255–262. https://doi.org/10.1177/1365712718807226
Martínez, M. (2003). Definiciones del concepto campo en Semántica: antes y después de la lexemática de E. Coseriu. Odisea No. 3. Universidad Complutense de Madrid. http://repositorio.ual.es/handle/10835/1380
Martínez, V. C. y Castillo, G. P. (2019). Historia del" fake" audiovisual:" deepfake" y la mujer en un imaginario falsificado y perverso. Historia y Comunicación Social, 24(2), 55. https://doi.org/10.5209/hics.66293
Mechanical (Julio 26, 2020). obama sings baka mitai. [Video]. YouTube. https://bit.ly/3suHg08
Meersohn, C. (2021). Introducción a Teun Van Dijk: Análisis de Discurso. Cinta de Moebius. Facultad de Ciencas Sociales, Universidad de Chile.
Moe Ment (6 de agosto de 2020). Avengers: Dame Da Ne (Baka Mitai) [Video]. YouTube. https://bit.ly/3IAzuaH
Mona Haddid [@monna_haddid]. (28 de junio de 2021) Mona Haddid [Instagram profile]. Instagram. https://bit.ly/35ZDxM4
Mosley, M. (2021). Virtual Influencers: What Are They & How Do They Work? Influencer Matchmaker. https://bit.ly/3hsMiDV
Naruniec, J., Helminger, L., Schroers, C., y Weber, R. M. (2020). High‐resolution neural face swapping for visual effects. In Computer Graphics Forum (Vol. 39, No. 4, pp. 173-184). https://onlinelibrary.wiley.com/doi/abs/10.1111/cgf.14062
Nield, D. (2020). Samsung's Creepy New AI Can Generate Talking Deepfakes From a Single Image. Science Alert. https://bit.ly/3hvhyCg
Nguyen, T. T., Nguyen, C. M., Nguyen, D. T., Nguyen, D. T., y Nahavandi, S. (2019). Deep learning for deepfakes creation and detection: A survey. Cronell University. http://arxiv.org/abs/1909.11573
Oliveira-Teixeira, F., Donadon-Homem, T. P., y Pereira-Junior, A. (2021). Aplicación de inteligencia artificial para monitorear el uso de mascarillas de protección. Revista Científica General José María Córdova, 19(33), 205-222. https://doi.org/10.21830/19006586.725
Paris, B. y Donovan, J. (2019). Deepfakes and Cheap Fakes. United States of America: Data y Society. https://bit.ly/3pP6VPx
Parkinson, H. (8 de octubre de 2016). Presidential Avengers: Uncivil War. [Video]. YouTube. https://bit.ly/3ps0Msg
Piasecki, J., Waligora, M., y Dranseika, V. (2018). Google search as an additional source in systematic reviews. Science and engineering ethics, 24(2), 809-810. https://doi.org/10.1007/s11948-017-0010-4
Pixellot.tv. T. (22 de diciembre de 2021). AI-Automated Sports Camera, Streaming & Analytics. https://bit.ly/3IpL9IZ
Propuesta cívica. (29 de octubre de 2020). Iniciativa #SeguimosHablando exige justicia para periodistas asesinados y desaparecidos en México. [Video]. YouTube. https://bit.ly/3K4y74n
RepresentUs (29 de septiembre de 2020a). Dictators - Vladimir Putin. [Video]. YouTube. https://bit.ly/3HA2Vs1
RepresentUs (29 de septiembre de 2020b). Dictators - Kim Jong-Un. [Video]. YouTube. https://bit.ly/3trzZ0u
Roble, D., Hendler, D., Buttell, J., Cell, M., Briggs, J., Reddick, C. y Chien, C. (2019). Real-time, single camera, digital human development. ACM SIGGRAPH 2019 Real-Time Live! (pp. 1-1). https://doi.org/10.1145/3306305.3332366
Rodríguez Jiménez, A., & Pérez Jacinto, A. O. (2017). Métodos científicos de indagación y de construcción del conocimiento. Revista Escuela De Administración De Negocios, (82), 175–195.
https://doi.org/10.21158/01208160.n82.2017.1647
Scolari, C. (2020). Cultura snack. La Marca.
Schick, N. (2020). Deepfakes: The Coming Infocalypse. Hachette.
Simondon, G. (2013). Imaginación e invención. Editorial Cactus.
Socha, M. (2020). Exclusive: Olivier Rousteing’s Avatar Greets Buyers at Balmain’s Virtual Showroom. WWD. https://bit.ly/3svTwxi
Sohrawardi, S. J., Chintha, A., Thai, B., Seng, S., Hickerson, A., Ptucha, R., y Wright, M. (Noviembre, 2019). Poster: Towards robust open-world detection of deepfakes. In Proceedings of the 2019 ACM SIGSAC Conference on Computer and Communications Security (pp. 2613-2615). https://doi.org/10.1145/3319535.3363269
Shamook (19 de agosto de 2020). De-aging Robert Deniro in The Irishman [DeepFake]. (2020, August 19). [Video]. YouTube. https://www.youtube.com/watch?v=dHSTWepkp_M
Shudu [@shadu.gram]. (28 de junio de 2021).Shadu [Instagram profile]. Instagram. https://bit.ly/35e1vqc
Silverman, C. (Abril 17, 2018). How To Spot A Deepfake Like The Barack Obama–Jordan Peele Video. BuzzFeed. https://bzfd.it/3tkHzd1
Soriana (2021). Cantinflas. (Mayo 1, 2021). [Video]. YouTube. https://bit.ly/342gP8u
Sotheby´s (2019). Artificial Intelligence and the Art of Mario Klingemann. Sotheby´s. https://bit.ly/3HCg6sq
Superpersonal - Personalised styling and virtual fitting room. (Septiembre 9, 2021). Product Hunt. https://bit.ly/3stuXkG
Suwajanakorn, S., Seitz, S. M. y Kemelmacher-Shlizerman, I. (2017a). Synthesizing obama: learning lip sync from audio. ACM Transactions on Graphics (ToG), 36(4), 1-13. https://bit.ly/3huNLd0
Suwajanakorn, S., Seitz, S. M., y Kemelmacher-Shlizerman, I. (Julio 12, 2017b). Synthesizing Obama: Learning Lip Sync from Audio. [Video]. YouTube. https://bit.ly/3C1QBzL
Ted (Mayo 28, 2019). Digital humans that look just like us | Doug Roble. [Video]. YouTube. https://bit.ly/3HvQehJ
Temir, E . (2020). Deepfake: New Era in The Age of Disinformation y End of Reliable Journalism. Selçuk İletişim, 13 (2), 1009-1024. http://dx.doi.org/10.18094/JOSC.685338
The Dalí Museum. Behind the Scenes: Dalí Lives. (8 de mayo de 2019). [Video]. YouTube. https://bit.ly/35oHvAZ
The Zizi Show (2020) - A Deepfake Drag Cabaret. (n.d.). The Zizi Show. https://zizi.ai/
University of Southern California's Shoah Foundation (2021). Dimension of Testimony. https://sfi.usc.edu/dit
Unreal Engine (2021). Unreal Engine The most powerful real-time 3D creation tool. (2021, November 25). https://www.unrealengine.com/en-US/
Vaccari, C. y Chadwick, A. Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society. January-March 2020: 1–13.
https://doi.org/10.1177/2056305120903408
Vincent, J. (2021, May 18). Deepfake dubs could help translate film and TV without losing an actor’s original performance. The Verge. https://bit.ly/3IxFkcP
Westerlund, M. (2019). The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review. https://timreview.ca/article/1282
Whittaker, L., Letheren, K. y Mulcahy, R. (2021). The Rise of Deepfakes: A Conceptual Framework and Research Agenda for Marketing. Australasian Marketing Journal, 29(3), 204-214. https://doi.org/10.1177/1839334921999479
Zakharov, E., Shysheya, A., Burkov, E., y Lempitsky, V. (2019). Few-shot adversarial learning of realistic neural talking head models. In Proceedings of the IEEE/CVF International Conference on Computer Vision (pp. 9459-9468), https://arxiv.org/abs/1905.08233
Xu, B., Liu, J., Liang, J., Lu, W. y Zhang, Y. (2021). DeepFake Videos Detection Based on Texture Features. Computers, Materials y Continua, 68(1), 1375–1388. https://doi.org/10.32604/cmc.2021.016760
Zeynal, O., Malekzadeh, S. (2021). Virtual Dress Swap Using Landmark Detection. arXiv.org. https://arxiv.org/abs/2103.09475