Evolución del Deepfake: campos semánticos y géneros discursivos 2017-2021

Contenido del artículo principal

Jacob Bañuelos Capistrán
http://orcid.org/0000-0003-1919-7088

Resumen

El presente estudio tiene como finalidad realizar un análisis de la evolución de los campos semánticos y géneros discursivos del deepfake desde su aparición en 2017 y hasta 2021. El estudio se centra en la descripción de la “capa exterior” (Simondon, 2013) del deepfake como objeto técnico-estético y cultural, en un escenario dinámico, progresivo y cambiante, en donde se expanden sus usos y prácticas culturales. Igualmente se revisan los usos benéficos y delictivos del deepfake, así como los principales problemas éticos y legales que plantea en el complejo escenario de la posverdad. La investigación tiene como base una metodología longitudinal analítica-sintética en tres fases entre 2017-2021. El estudio revela una progresiva evolución discursiva en donde emergen nuevos campos semánticos y géneros discursivos del deepfake, con una tendencia hacia usos benéficos y no sólo delictivos en la esfera de la industria audiovisual, el activismo, el arte experimental, los usos comerciales, médicos, la publicidad, la propaganda, la educación, entre otros; asimismo, el estudio revisa el estado sobre el uso del término deepfake para singificar usos benéficos y delictivos.

Descargas

Descargar datos aún no está disponible.
 
 

Detalles del artículo

Cómo citar
Bañuelos Capistrán, J. (2022). Evolución del Deepfake: campos semánticos y géneros discursivos 2017-2021. Revista ICONO 14. Revista Científica De Comunicación Y Tecnologías Emergentes, 20(1). https://doi.org/10.7195/ri14.v20i1.1773
Sección
ARTÍCULOS DE INVESTIGACIÓN
Biografía del autor

Jacob Bañuelos Capistrán, Tecnológico de Monterrey

Profesor Investigador del Tecnológico de Monterrey, Departamento de Medios y Cultura Digital. / Escuela de Humanidades y Educación. Doctor en Ciencias de la Información (Apto Cum Laude 1991-1995), en el Departamento de Comunicación Audiovisual y Publicidad II, Facultad de Ciencias de la Información, Universidad Complutense de Madrid. con la Tesis Doctoral: Fotomontaje Síntesis Visual: historia, teoría y práctica. Miembro del Sistema Nacional de Investigadores (SNI) desde 2005, actualmente es SNI-1. Ha publicado diversos estudios, entre ellos libro Fotomontaje. editorial Cátedra en 2008. En 2014 publica el libro Fotografía y dispositivos móviles, jutno con el Mtro. Francisco Mata Rosas, editorial Tecnológico de Monterrey-Porrúa Print; coordinador del número Fotografía: entre analógico y digital (2019) de la revista DeSignis, junto con el Dr. Vicente Castellanos, edición realizada en colaboración con la Universidad de Rosario (Argentina), el Tecnológico de Monterrey y la Universidad Autónoma Metropolitana. En colaboración con el Dr. Armín Gómez, publicará el libro Visualidad Totalizante (Abismos Casa Editorial), 2020, un conjutno de ensayos sobre fenómenos emergentes de la imagen (fotografía, memes, cine, teatro, gráficos computacionales), en el marco de una incesante evolución tecnológica, experimentados en comunidades participativas de usuarios en redes digitales.

Citas

Adriani, R. (2019). The Evolution of Fake News and the Abuse of Emerging Technologies. European Journal of Social Sciences, 2(1), 32-38. https://bit.ly/3svE2JE

Ajder, H., Patrini, G., y Cavalli, F. (2020). Automating image abuse: Deepfake bots on Telegram. Sensity.Automating Image Abuse: Deepfake bots on Telegram. Sensityai. https://bit.ly/3poYgTG

Ajder, H., Patrini, G., Cavalli, F. (2019). The State of Deepfakes: Landscape, Threats, and Impact. Deeptrace. https://bit.ly/3suHfJB

Aldrin, P. (2005). Sociologie politique des rumeurs. Presses Universitaires de France (PUF)

Amazon (2020). Stylesnap. https://amzn.to/3tlsUhD

Amorós, M. (2019). Fake News, la verdad de las noticias falsas. Plataforma Editorial.

Ayyub, R. (21 de noviembre de 2018a). I Was The Victim Of A Deepfake Porn Plot Intended To Silence Me. HuffPost UK. https://bit.ly/3C1nmwO

Ayyub, R. (22 de mayo de 2018b). Opinion | In India, Journalists Face Slut-Shaming and Rape Threats. The New York Times. https://nyti.ms/3stcjtc

Baethge, C., Goldbeck-Wood, S., y Mertens, S. (2019). SANRA—a scale for the quality assessment of narrative review articles. Research integrity and peer review, 4(1), 1-7. https://doi.org/10.1186/s41073-019-0064-8

Ball, J. (2017). Post-Truth: How Bullshit Conquered the World. Bite Back Publishing.

Balmain [@balmain] (15 de junio de 2020). Balmain [Video]. Instagram. https://bit.ly/3K5T8f4

Bañuelos, J. (2022). Fig. 3. Inventario de artículos analizados utilizando la metodología de la Escala SANRA - Scale for the Assessment of Narrative Review Articles (Baethge, C., Goldbeck-Wood, S., y Mertens, S., 2019). https://figshare.com/s/07888bce696bfe90939c

Barnes, C. y Barraclough, T. (2019). Perception inception: Preparing for deepfakes and the synthetic media of tomorrow. The Law Foundation.

Barnes, C., y Barraclough, T. (2020). Deepfakes and synthetic media. In Emerging technologies and international security (pp. 206-220). Routledge.

Bermuda [@bermudaisbae]. (28 de junio de 2021). Bermuda [Instagram profile]. Instagram. https://bit.ly/3MbRpGM

bill_posters_uk (7 de junio de 2019). Spectre. [Video]. Instagram. https://bit.ly/3C59QZ9

Blawko [@blawko22]. (28 de junio de 2021). Blawko [Instagram profile]. Instagram. https://bit.ly/3IyF9y1

Bogicevic, V., Seo, S., Kandampully, J. A., Liu, S. Q., y Rudd, N. A. (2019). Virtual reality presence as a preamble of tourism experience: The role of mental imagery. Tourism Management, 74, 55-64. https://doi.org/10.1016/j.tourman.2019.02.009

Bown, A. y Briston, D. (2019). Post Memes: Seizing the Memes of Production. Punctum books. https://doi.org/10.2307/j.ctv11hptdx

Campbell, C., Plangger, K., Sands S y Kietzmann, J. (2021). Preparing for an era of deepfakes and AI-generated ads: A framework for understanding responses to manipulated advertising. Journal of Advertising. https://doi.org/10.1080/00913367.2021.1909515

CBS (24 de enero de 2020). President’s words used to create “deepfakes” at Davos. [Video]. YouTube. https://bit.ly/3poo9Tq

Cerdán, V., García Guardia, M. L., Padilla, G. (2020). Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales. CIC: Cuadernos de información y comunicación, 25, 165-181. http://dx.doi.org/10.5209/ciyc.68762

Codina, Ll. (2018). Revisiones bibliográficas sistematizadas: Procedimientos generales y framework para Ciencias Humanas y Sociales. En C. Lopezosa; J. Díaz-Noci, J.; Ll. Codina, Methodos. Anuario de métodos de investigación en comunicación social. Universitat Pompeu Fabra, (50-60). https://doi.org/10.31009/methodos.2020.i01.05

Cole, S. (27 junio 2019). Esta terrorífica app crea un nude de cualquier mujer con un simple clic. Vice. https://bit.ly/3M9LvpE

Conte, P.J. (2019). Mockumentality: from hyperfaces to deepfakes. World Literature Studies. Insitute of World Literature SAS. https://bit.ly/3K1aTfe

Cosentino, G. (2020). Social Media and the Post-Truth World Order. The Global Dynamics of Disinformation. Springer Nature.

Cooke, N. A. (2018). Fake News and Alternative Facts. Information Literacy in a Post-Truth Era. American Library Association.

Cortazar Rodríguez, F. J. (2014). Imágenes rumorales, memes y selfies: elementos comunes y significados. Iztapalapa. Revista de ciencias sociales y humanidades, 35(77), 191-214.
https://doi.org/10.28928/ri/772014/aot3/cortazarrodriguezfj

Channel 4 Comedy (15 de marzo de 2021). The Queen’s Christmas message gets a deepfake makeover. [Video]. YouTube. https://bit.ly/35H7UtO

Chawla, R. (2019). Deepfakes: How a pervert shook the world. International Journal for Advance Research and Development, 4, 4-8. https://bit.ly/3psxedZ

Chen, M., Radford, A., Child, R., Wu, J., Jun, H., Luan, D., Sutskever, I. (2020). Generative pretraining from pixels. En: Proceedings of the 37th International conference on machine learning, n. 119, 1691-1703. https://bit.ly/3hLcTwp

Ctrl Shift Face (6 de agosto, 2019). Bill Hader channels Tom Cruise [DeepFake]. [Video]. YouTube. https://www.youtube.com/watch?v=VWrhRBb-1Ig

D´Ancona, M. (2018). Post-Truth, the New War on Truth and How to Fight Back. Edbury Press.

Digital, K. (28 de diciembre de 2020). Balmain Virtual Showroom [Video]. Vimeo. https://vimeo.com/498685433

Google Lens (2021)- Search What You See. (2021, November 19). Google Lens. https://lens.google/

Granda-Orive, J. I., Alonso-Arroyo, A., García-Río, F., Solano-Reina, S., Jiménez-Ruiz, C. A., y Aleixandre-Benavent, R. (2013). Ciertas ventajas de Scopus sobre Web of Science en un análisis bibliométrico sobre tabaquismo. Revista española de documentación científica, 36(2), e011-e011. https://doi.org/10.3989/redc.2013.2.941

Derpfakes (7 de septimebre de 2018). Princess Leia Remastered...Again [Video]. YouTube. https://bit.ly/3tmQaMe

Dietmar, J. (2019, May 21). GANs And Deepfakes Could Revolutionize The Fashion Industry. Forbes. https://bit.ly/3pop32g

Digital Agency Network (19 de noviembre de 2020). Meet KFC’s New Computer-Generated Virtual-Influencer, Colonel. Digital Agency Network. https://bit.ly/3IyHE3n

Ferrer (7 de mayo de 2021) Making of Cantinflas. Facebook. https://bit.ly/35j9amY

Forsdick, S. (2019, February 27). Meet the team working to prevent the spread of next-gen fake news through ‘deepfake’ videos. NSBusiness. https://bit.ly/3vuivmO

Fraga-Lamas, P., y Fernández-Caramés, T. M. (2020). Fake news, disinformation, and deepfakes: Leveraging distributed ledger technologies and blockchain to combat digital deception and counterfeit reality. IT Professional, 22(2), 53-59. https://doi.org/10.1109/MITP.2020.2977589

Future Advocacy (26 de noviembre de 2019a). Boris Johnson has a message for you. (deepfake). [Video]. YouTube. https://bit.ly/3swIbNt

Future Advocacy (26 de noviembre de 2019b). Jeremy Corbyn has a message for you. (deepfake). [Video]. YouTube. https://bit.ly/3MdPNMH

Gabon 24 (31 de diciembre de 2018). Discours à la nation du président ali bongo ondimba. [Video]. Facebook. https://bit.ly/3K7LZL0

Garimella, K. y Eckles, D. (2020). Images and misinformation in political groups: Evidence from WhatsApp in India. https://doi.org/10.37016/mr-2020-030

Generated Photos (28 de junio de 2021). Gallery of AI Generated Faces | Generated.photos. (n.d.). https://generated.photos/faces

Gómez-de-Ágreda, Á., Feijóo, C., y Salazar-García, I. A. (2021). Una nueva taxonomía del uso de la imagen en la conformación interesada del relato digital. Deep fakes e inteligencia artificial. Profesional de la Información, 30(2). https://doi.org/10.3145/epi.2021.mar.16

Gosse, Ch. y Burkell, J. (2020). Politics and porn: how news media characterizes problems presented by deepfakes. Critical Studies in Media Communication. FIMS Publications. 345. https://ir.lib.uwo.ca/fimspub/345

Greene, T. (2021, September 30). Who thought political ads featuring Deepfake Putin and Kim trashing the US was a good idea? Tnw. https://bit.ly/3Mbdrtb

Guthrie, S. (2020). Virtual influencers: More human than humans. In Influencer Marketing (pp. 271-285). Routledge. https://bit.ly/3HzglVg

Güera, D. y Delp, E. J. (2018). Deepfake video detection using recurrent neural networks. In 2018 15th IEEE international conference on advanced video and signal based surveillance (AVSS) (pp. 1-6). IEEE. https://doi.org/10.1109/AVSS.2018.8639163

Hao, K. (3 de septiembre de 2020). 'Deepfakes' virales: la fina línea que separa el humor del abuso. MIT Technology Review. https://bit.ly/3pt6oCu

Hao, K. (20 de octubre de 2020). A deepfake bot is being used to “undress” underage girls. MIT Technology Review. https://bit.ly/3ps0ql8

Huffman, S. (8 de mayo de 2018). The future of the Google Assistant: Helping you get things done to give you time back. The Keyword. https://bit.ly/3pszySf

Ibañez, J. (2017). En la era de la posverdad. Calambur.

Imma [@imma.gram]. (28 de junio de 2021). Imma.gram [Instagram profile]. Instagram. https://bit.ly/344cWzX

Initiative (2020). Culture Shock. True, Lies and Technology. https://bit.ly/35HaeRy

Ipsen, G. (1924). Der alte Orient und die Indogermanen. Festschrif - W. Streitberg. Heidelberg, 200-237.

Jee, Ch. (2019). An Indian politician is using deepfake technology to win new voters. MIT Technology Review. https://bit.ly/3IBsdat

Kalpokas, I. (2019). A Political Theory of Post-Truth. Palgrave Macmillan.

KFC (23 de julio de 2021). KFC/WTF! Deep Fake Colonel Sanders. [Video]. YouTube. https://bit.ly/35gc7ou

Kietzmann, J., Lee, L. W., McCarthy, I. P., Kietzmann, T. C. (2020). Deepfakes: Trick or treat? Business Horizons, 63(2), 135–146. https://doi.org/10.1016/j.bushor.2019.11.006


Kwok, A. O., y Koh, S. G. (2020). Deepfake: a social construction of technology perspective. Current Issues in Tourism, 24(13), 1798-1802. https://doi.org/10.1080/13683500.2020.1738357

Hyeongwoo, K. et. al. (2019). Neural style-Preserving visual dubbing. SIGGRAPH Asia 2019. https://bit.ly/3tjRdwH

Leviathan, Y. (2018, May 08). Google Duplex: An AI System for Accomplishing Real-World Tasks Over the Phone. Google AI Blog. https://bit.ly/3vBLZyO

Lil Miquela (2021). [@lilmiquela]. LilMiquela [Instagram profile]. Instagram. Recuperado junio 28, 2021. https://bit.ly/3vuQ4Vt

Lyons, K. (2020, Feb 18). An Indian politician used AI to translate his speech into other languages to reach more voters. The Verge. https://bit.ly/35lz1L1

Malaria Most Die (2019). David Beckham speaks nine languages to launch Malaria Must Die Voice Petition. [Video]. YouTube. https://bit.ly/343XqUT

Malaria Most Die (2021). A World Without Malaria. https://bit.ly/3sthARw

Maras, M. H. y Alexandrou, A. (2018). Determining authenticity of video evidence in the age of artificial intelligence and in the wake of Deepfake videos. The International Journal of Evidence y Proof, 23(3), 255–262. https://doi.org/10.1177/1365712718807226

Martínez, M. (2003). Definiciones del concepto campo en Semántica: antes y después de la lexemática de E. Coseriu. Odisea No. 3. Universidad Complutense de Madrid. http://repositorio.ual.es/handle/10835/1380

Martínez, V. C. y Castillo, G. P. (2019). Historia del" fake" audiovisual:" deepfake" y la mujer en un imaginario falsificado y perverso. Historia y Comunicación Social, 24(2), 55. https://doi.org/10.5209/hics.66293

Mechanical (Julio 26, 2020). obama sings baka mitai. [Video]. YouTube. https://bit.ly/3suHg08

Meersohn, C. (2021). Introducción a Teun Van Dijk: Análisis de Discurso. Cinta de Moebius. Facultad de Ciencas Sociales, Universidad de Chile.

Moe Ment (6 de agosto de 2020). Avengers: Dame Da Ne (Baka Mitai) [Video]. YouTube. https://bit.ly/3IAzuaH

Mona Haddid [@monna_haddid]. (28 de junio de 2021) Mona Haddid [Instagram profile]. Instagram. https://bit.ly/35ZDxM4

Mosley, M. (2021). Virtual Influencers: What Are They & How Do They Work? Influencer Matchmaker. https://bit.ly/3hsMiDV

Naruniec, J., Helminger, L., Schroers, C., y Weber, R. M. (2020). High‐resolution neural face swapping for visual effects. In Computer Graphics Forum (Vol. 39, No. 4, pp. 173-184). https://onlinelibrary.wiley.com/doi/abs/10.1111/cgf.14062


Nield, D. (2020). Samsung's Creepy New AI Can Generate Talking Deepfakes From a Single Image. Science Alert. https://bit.ly/3hvhyCg

Nguyen, T. T., Nguyen, C. M., Nguyen, D. T., Nguyen, D. T., y Nahavandi, S. (2019). Deep learning for deepfakes creation and detection: A survey. Cronell University. http://arxiv.org/abs/1909.11573

Oliveira-Teixeira, F., Donadon-Homem, T. P., y Pereira-Junior, A. (2021). Aplicación de inteligencia artificial para monitorear el uso de mascarillas de protección. Revista Científica General José María Córdova, 19(33), 205-222. https://doi.org/10.21830/19006586.725

Paris, B. y Donovan, J. (2019). Deepfakes and Cheap Fakes. United States of America: Data y Society. https://bit.ly/3pP6VPx

Parkinson, H. (8 de octubre de 2016). Presidential Avengers: Uncivil War. [Video]. YouTube. https://bit.ly/3ps0Msg

Piasecki, J., Waligora, M., y Dranseika, V. (2018). Google search as an additional source in systematic reviews. Science and engineering ethics, 24(2), 809-810. https://doi.org/10.1007/s11948-017-0010-4

Pixellot.tv. T. (22 de diciembre de 2021). AI-Automated Sports Camera, Streaming & Analytics. https://bit.ly/3IpL9IZ

Propuesta cívica. (29 de octubre de 2020). Iniciativa #SeguimosHablando exige justicia para periodistas asesinados y desaparecidos en México. [Video]. YouTube. https://bit.ly/3K4y74n

RepresentUs (29 de septiembre de 2020a). Dictators - Vladimir Putin. [Video]. YouTube. https://bit.ly/3HA2Vs1

RepresentUs (29 de septiembre de 2020b). Dictators - Kim Jong-Un. [Video]. YouTube. https://bit.ly/3trzZ0u

Roble, D., Hendler, D., Buttell, J., Cell, M., Briggs, J., Reddick, C. y Chien, C. (2019). Real-time, single camera, digital human development. ACM SIGGRAPH 2019 Real-Time Live! (pp. 1-1). https://doi.org/10.1145/3306305.3332366

Rodríguez Jiménez, A., & Pérez Jacinto, A. O. (2017). Métodos científicos de indagación y de construcción del conocimiento. Revista Escuela De Administración De Negocios, (82), 175–195.
https://doi.org/10.21158/01208160.n82.2017.1647

Scolari, C. (2020). Cultura snack. La Marca.

Schick, N. (2020). Deepfakes: The Coming Infocalypse. Hachette.

Simondon, G. (2013). Imaginación e invención. Editorial Cactus.

Socha, M. (2020). Exclusive: Olivier Rousteing’s Avatar Greets Buyers at Balmain’s Virtual Showroom. WWD. https://bit.ly/3svTwxi

Sohrawardi, S. J., Chintha, A., Thai, B., Seng, S., Hickerson, A., Ptucha, R., y Wright, M. (Noviembre, 2019). Poster: Towards robust open-world detection of deepfakes. In Proceedings of the 2019 ACM SIGSAC Conference on Computer and Communications Security (pp. 2613-2615). https://doi.org/10.1145/3319535.3363269

Shamook (19 de agosto de 2020). De-aging Robert Deniro in The Irishman [DeepFake]. (2020, August 19). [Video]. YouTube. https://www.youtube.com/watch?v=dHSTWepkp_M

Shudu [@shadu.gram]. (28 de junio de 2021).Shadu [Instagram profile]. Instagram. https://bit.ly/35e1vqc

Silverman, C. (Abril 17, 2018). How To Spot A Deepfake Like The Barack Obama–Jordan Peele Video. BuzzFeed. https://bzfd.it/3tkHzd1

Soriana (2021). Cantinflas. (Mayo 1, 2021). [Video]. YouTube. https://bit.ly/342gP8u

Sotheby´s (2019). Artificial Intelligence and the Art of Mario Klingemann. Sotheby´s. https://bit.ly/3HCg6sq

Superpersonal - Personalised styling and virtual fitting room. (Septiembre 9, 2021). Product Hunt. https://bit.ly/3stuXkG

Suwajanakorn, S., Seitz, S. M. y Kemelmacher-Shlizerman, I. (2017a). Synthesizing obama: learning lip sync from audio. ACM Transactions on Graphics (ToG), 36(4), 1-13. https://bit.ly/3huNLd0

Suwajanakorn, S., Seitz, S. M., y Kemelmacher-Shlizerman, I. (Julio 12, 2017b). Synthesizing Obama: Learning Lip Sync from Audio. [Video]. YouTube. https://bit.ly/3C1QBzL

Ted (Mayo 28, 2019). Digital humans that look just like us | Doug Roble. [Video]. YouTube. https://bit.ly/3HvQehJ

Temir, E . (2020). Deepfake: New Era in The Age of Disinformation y End of Reliable Journalism. Selçuk İletişim, 13 (2), 1009-1024. http://dx.doi.org/10.18094/JOSC.685338

The Dalí Museum. Behind the Scenes: Dalí Lives. (8 de mayo de 2019). [Video]. YouTube. https://bit.ly/35oHvAZ

The Zizi Show (2020) - A Deepfake Drag Cabaret. (n.d.). The Zizi Show. https://zizi.ai/

University of Southern California's Shoah Foundation (2021). Dimension of Testimony. https://sfi.usc.edu/dit

Unreal Engine (2021). Unreal Engine The most powerful real-time 3D creation tool. (2021, November 25). https://www.unrealengine.com/en-US/

Vaccari, C. y Chadwick, A. Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society. January-March 2020: 1–13.
https://doi.org/10.1177/2056305120903408

Vincent, J. (2021, May 18). Deepfake dubs could help translate film and TV without losing an actor’s original performance. The Verge. https://bit.ly/3IxFkcP

Westerlund, M. (2019). The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review. https://timreview.ca/article/1282

Whittaker, L., Letheren, K. y Mulcahy, R. (2021). The Rise of Deepfakes: A Conceptual Framework and Research Agenda for Marketing. Australasian Marketing Journal, 29(3), 204-214. https://doi.org/10.1177/1839334921999479

Zakharov, E., Shysheya, A., Burkov, E., y Lempitsky, V. (2019). Few-shot adversarial learning of realistic neural talking head models. In Proceedings of the IEEE/CVF International Conference on Computer Vision (pp. 9459-9468), https://arxiv.org/abs/1905.08233

Xu, B., Liu, J., Liang, J., Lu, W. y Zhang, Y. (2021). DeepFake Videos Detection Based on Texture Features. Computers, Materials y Continua, 68(1), 1375–1388. https://doi.org/10.32604/cmc.2021.016760

Zeynal, O., Malekzadeh, S. (2021). Virtual Dress Swap Using Landmark Detection. arXiv.org. https://arxiv.org/abs/2103.09475