Evolución del Deepfake: campos semánticos y géneros discursivos (2017-2021)

Introducción

El presente estudio tiene como finalidad realizar un análisis de la evolución de los campos semánticos y los géneros discursivos del deepfake desde su aparición en 2017 y hasta 2021. El escenario de los campos semánticos y géneros discursivos del deepfake ha ido evolucionando de manera rápida y dinámica desde su primera aparición en 2017 en Reddit (Ajder et al., 2019). Se trata de una especie mediática emergente, que impacta en un escenario más grande, conformado por la industria y el consumo de la cultura audiovisual.

El deepfake se nutre de la evolución tecnológica de producción de imágenes y sonidos mediante inteligencia artificial (IA), de los contenidos publicados en redes sociales y plataformas digitales, de grandes bases de datos (big data), de la memoria audiovisual colectiva y de la arquitectura sociomediática de la posverdad.

La evolución del deepfake presenta una expansión y dispersión discursiva en donde encontramos campos semánticos, géneros discursivos, y tecnologías emergentes en los que se producen contenidos tanto benéficos como delictivos. Las formas de expresión benéficas del deepfake aportan nuevas formas de expresión audiovisual que contribuyen al desarrollo educativo, la medicina y la salud, la ciencia, el comercio, la moda, el comercio electrónico, la publicidad, la seguridad, el entretenimiento, la reflexión social, política, artística y cultural.

El estudio tiene como base la teoría tecno-éstética (Simondon, 2013), los campos semánticos (Lewandowski, 1982), la teoría del discurso (Van Dijk, 1989) y la teoría de la posverdad (Ball, 2017; Ibañez, 2017; Amorós, 2018; McIntyre, 2018; Kalpokas, 2019; Cosentino, 2020), desde la que se analizan los campos semánticos del deepfake y géneros discursivos emergentes que componen, en su conjunto, un escenario industrial y cultural expandido del deepfake.

Técnicamente, los deepfakes son producto de la IA y la técnica de "aprendizaje profundo" (deep learning) aplicados para entrenar redes neuronales. Estas redes neuronales profundas pueden generar y manipular videos, imágenes y audio de manera artificial. Mediante este sistema es posible crear de manera automática contenidos hiperrealistas falsos, que pueden parecer realistas e interpretarse como ciertos o verdaderos (Kietzmann et al., 2020, p. 136).

Mediante un deepfake resulta prácticamente imposible saber si la imagen o la voz de una persona es falsa o verdadera, o si la autenticidad de una fotografía, un sonido o un documento audiovisual se encuentra bajo sospecha de haber sido manipulada o creada artificialmente (Kietzmann et al., 2020). Un deepfake es un producto que combina, superpone, fusiona o reemplaza varios tipos de contenido para producir medios sintéticos con IA y aprendizaje profundo, lo cual ensombrece la noción de autenticidad (Maras y Alexandrou, 2018; Nguyen, 2019).

El deepfake, entendido como objeto técnico-cultural, se analiza desde la teoría tecno-estética de Simondon (2013). Un objeto técnico es conformado por una “capa interna” (técnica, estética y cultural), una “capa intermediaria” (mediación tecnológica) y una “capa exterior” (manifestaciones, usos y prácticas culturales) (Simondon, 2013). En este estudio nos centramos en la exploración y análisis de la “capa exterior” del deepfake como objeto técnico y cultural, en la descripción de los campos semánticos, los géneros discursivos y las aplicaciones tecnológicas emergentes, así como de los usos benéficos como delictivos más comunes.

El conocimiento, conceptualización y práctica tecnológica, social, política, comunicacional, estética, industrial y legal de los deepfakes ha dado lugar al desarrollo de diversos campos semánticos (Lewandowski, 1982, p. 46), que articulan terminología especializada, pactos de lectura, codificación y sentido interpretativo a partir de territorios conceptuales, motivaciones y formas de operación diversas.

Los campos semánticos son entendidos como grupos que forman unidades de significación y que están constituidos por conjuntos de palabras con contenidos objetivos interrelacionados (Ipsen, 1924; Lewandowski, 1982, p. 47). Como un conjunto de relaciones formales y de sentido que conlleva un grupo de palabras, y como conjunto de hechos coexistentes que se interpretan como dependientes entre sí (Lewandowski, 1982, p. 44-46). Un campo semántico es el conjunto de términos cuyo significado se refiere a un concepto común (Martínez, 2003).

Discursivamente, un deepfake es un producto sonoro, visual o audiovisual que simula las características formales de algún género de expresión previo, que retoma las claves de su tratamiento de contenido para hacerlo parecer auténtico, con una atribución de sentido, siendo artificialmente construido o falso.

Un género discursivo es entendido como una forma específica del uso del lenguaje, texto, sonido, imagen, un evento comunicativo completo en una situación social determinada. El significado del discurso, de un deepfake en este caso, es una estructura cognitiva. Es necesario incluir elementos observables verbales y no verbales, interacciones sociales y actos de habla, y además las representaciones cognitivas y estrategias involucradas durante la producción o comprensión del discurso (Van Dijk, 1989).

Los géneros discursivos del deepfake existen en la sociedad como una forma de práctica social y producen interacciones entre individuos y grupos sociales. De acuerdo con Van Dijk (1993), los estudios sobre el discurso, en este caso del deepfake, deben profundizarse explicando qué atributos del texto sonoro, visual y audiovisual determinan qué atributos de las estructuras sociales, políticas y culturales, y viceversa, de acuerdo con Van Dijk (citado en Meersohn, 2021).

La vida digital del deepfake transcurre en un escenario sociomediático marcado por el fenómeno de la posverdad (Ball, 2017; Ibañez, 2017; D´Ancona, 2018), campo fértil para la proliferación de los discursos de la simulación y la falsificación, así como por un cuestionamiento crítico de los discursos del hacer creer, como el periodismo, la ciencia, la religión, la política y los sistemas de información.

Método

El estudio se conforma de tres fases de investigación, diacrónicas y consecutivas, realizadas (entre el 1 y el 15 de junio de 2021) para el período 2017–2021.

1. Una exploración bibliográfica bajo una metodología longitudinal analítica-sintética (Rodríguez Jímenez y Pérez-Jacinto, 2017) a través del buscador Google Search, que permitió explorar los orígenes, casos y definiciones del deepfake, mediante artículos periodísticos, informes y textos especializados.

2. Una exploración siguiendo la metodología de investigación bibliográfica, que describen Codina (2018), Piasecki et al. (2018) y De-Granda-Orive et al. (2013), mediante motores de búsqueda para textos académicos y científicos.

3. Una exploración sobre el desarrollo de aplicaciones y los procesos tecnológicos de manipulación de imágenes y sonidos, especialmente centrado en apps para dispositivos móviles, como parte de la evolución de las shallowfakes (o cheapfakes). En total se revisaron 65 publicaciones, que fueron analizadas y valoradas mediante la Escala SANRA - Scale for the Assessment of Narrative Review Articles (Baethge et al., 2019).

El promedio de la valoración de calidad argumentativa y narrativa de los artículos analizados mediante la escala SANRA fue de 10.3. La evaluación máxima en esta escala es de 12, así que la calidad argumentativa y narrativa de los artículos es alta de acuerdo con esta escala. También, la catalogación realizada sobre los campos semánticos y géneros discursivos del deepfake, recupera la valoración mediante la escala SANRA, que contribuyó a dar mayor claridad y fundamento, además de las búsquedas hechas en las bases de datos científicas citadas. Las 65 publicaciones revisadas y analizadas se citan en este texto (Bañuelos, 2022).

La búsqueda del término “deepfake” en todas las bases de datos se realizó sobre todos los campos de búsqueda (título, tópico, palabras clave, resumen, etc.). La búsqueda realizada en la base de datos de Web of Science Core Collection no incluyó las bases de datos de Medline, KCI-Korean Journal Database, Russian Science Citation Index, SciELO Citation Index. Las palabras “deepfake” and “discourse” se buscaron en todos los campos (título, tópico, resumen, etc.).

La exploración se ha orientado a la información relacionada con Ciencias Sociales, Comunicación, Legislación, Ética, Entretenimiento y Comunicación. Además, se emplearon las palabras clave “deepfake”, “deepfake” and “discourse”, “deepfake” and “augmented reality”, “deepfake” and “ethics”, “deepfake” and “apps”, “deepfake” and “porn”. Igualmente, se incluyeron búsquedas y artículos tanto en español como en inglés. Así, una vez encontrado un artículo se realizó una búsqueda similar para encontrar más artículos sobre una fuente particular, en la búsqueda relacionados con noticias, negocios, medios, desinformación, entretenimiento o tecnología.

En la búsqueda analítica-sintética longitudinal se consultaron artículos de divulgación, informes y revistas como MIT Technology Review, Deeptrace (Ajder et al., 2019, Ajder et al., 2020), Motherboard (Vice), The New York Times, Washington Post, The Guardian, The Economist, The Times . The BBC. Para la exploración de artículos académicos y científicos se emplaron las bases de datos de Scopus, Web of Science, Taylor and Francis Journals, Google Scholar, Academy y Research Gate; y para la búsqueda transversal de aplicaciones y desarrollos tecnológicos del deepfake se consultaron fuentes especializadas como Nguyen et al. (2019); Chen et al. (2020); Paris y Donovan, (2019), Westerlund, (2019) y Gómez-de-Ágreda et al., (2021).

Resultados

Campos semánticos del deepfake

Los campos semánticos del deepfake se han fortalecido y expandido. El análisis bibliográfico realizado en la búsqueda de la palabra deepfake en bases de datos científicas demuestra que los campos semánticos relevantes y más fortalecidos pertenecen a las Ciencias Computacionales, la Ingeniería y las Matemáticas. Sin embargo, los campos semánticos relacionados con las Ciencias Sociales y las Humanidades, aunque están en segundo plano, han aumentado progresivamente en áreas como el derecho, ética, comunicación, desinformación, pornografía, publicidad y seguridad (Ver figura 1).

Es significativo el caso de Scopus, en donde aparecen 603 artículos sobre deepfake entre 2018 y 2021, de los cuales 447 están relacionados con el campo de las Ciencias Computacionales, 224 con Ingeniería, 166 con Ciencias Sociales, 74 con Matemáticas, 68 con Ciencias para la Toma de Decisiones, 39 con Arte y Humanidades, 36 con Material Científico, 31 con Física y Astronomía, 29 con Psicología y 24 con Negocios, Gestión y Contabilidad. Como se puede observar, el campo de investigación sobre deepfake está mucho más desarrollado en el área de Ciencias Computacionales e Ingeniería, respecto a Ciencias Sociales y Humanidades..

Del mismo modo, destaca que para la búsqueda “deepfake” and “discourse” en la base de datos de Scopus aparecen únicamente 48 documentos publicados entre 2018 y 2021, de los cuales 37 están relacionados con Ciencias Sociales, 13 con Ciencias Computacionales, 12 con Artes y Humanidades, 5 con Psicología y 4 con Negocios. Los artículos relacionados con Ciencias Sociales tratan diversos temas, regulación, delitos sexuales, discriminación a la mujer, pornografía, política, desinformación, regulación social, construcción social de la tecnología, seguridad, ciber-ética, racismo, publicidad y ciencia ficción.

En las áreas de Ciencias Sociales y Humanidades destacan los campos de comunicación, desinformación, periodismo, medios electrónicos, medios digitales, plataformas y redes sociodigitales, industria fílmica, ciencia ficción, educación, arte, juegos y entretenimiento, legislación y regulación social, ética, ciber-ética, pornografía, ciber-acoso, política, publicidad, marketing, negocios, comercio electrónico y moda. Y en el campo de la salud, destacan psicología y material científico.

En los campos semánticos pioneros del deepfake se ha desarrollado una industria delictiva dedicada a la producción de prácticas de desinformación, pornografía, fake news y su detección (Fraga-Lamas et al., 2020; Güera y Delp, 2018; Sohrawardi et al., 2019; Maras y Alexandrou, 2018; Cerdán et al., 2020; Xu et al., 2021; Adriani, 2019; Cooke, 2018), bots, falsificación, extorsión, suplantación de identidades, difamación, acoso y ciberterrorismo (Gosse y Burkell, 2020; Westerlund, 2019; Vaccari y Chadwick, 2020; Gómez-de-Ágreda et al., 2021; Temir, 2020, Ajder et al., 2020; Barnes y Barraclough, 2019).

Simultáneamente, emergen campos semánticos del deepfake que configuran una poderosa industria audiovisual que abarca un desarrollo tecnológico orientado a la producción, la detección, la ciberseguridad, la comercialización de software especializado y aplicaciones móviles. Aunado a una vigorosa industria del entretenimiento, a través de la producción fílmica, video juegos, aplicaciones en redes sociales, desarrollo de negocios, marketing, turismo, asistentes inteligentes, aplicaciones para el cuidado de la salud y la ciencia (Westerlund, 2019).

Géneros discursivos del deepfake

Como hemos apuntado, los géneros discursivos adquieren características propias sobre algún campo temático o formal, y son formas de expresión compartidas que producen interacciones entre individuos y grupos sociales, de acuerdo con Van Dijk (citado en Meersohn, 2021). Los géneros discursivos revisados en este estudio son considerados como la “capa exterior” (Simondon, 2013) del deepfake, como manifestaciones, en usos y prácticas culturales de un objeto técnico-estético y cultural, que se experimentan en escenarios digitales dinámicos, progresivos, expansivos y cambiantes.

La catalogación de los géneros discursivos y el mapa de géneros discursivos del deepfake 2017-2021 (Figura 2) que aquí realizamos, tiene como base la investigación documental previamente descrita en la metodología y da cuenta de los casos más significativos. Los criterios de relevancia que se han aplicado para la selección de los casos de géneros discursivos del deepfake incluidos en esta catalogación son: importancia histórica, aparición en diversas publicaciones, originalidad y diversificación hacia nuevas aplicaciones no delictivas.

Se observa que los géneros discursivos más relevantes, que aparecen desde el origen del deepfake entre 2017 y hasta 2019, son: pornografía no consensuada, porno-extorsión, denuncia, virtual perfomances (performances virtuales), retratos vivientes, campañas sociales, parodias de entretenimiento, anti-propaganda, declaraciones políticas, sátira política y arte (Westerlund, 2019; Campbell et al., 2021; Kwok y Koh, 2020; Whittaker et al., 2021; Gómez-de-Ágreda et al., 2021; Initiative, 2020).

Entre 2019-2021 se advierte una emergencia significativa en géneros discursivos benéficos del deepfake como: transmisiones deportivas (AI-automated video), espectáculos, educación, modelos de cabezas parlantes, retratos (deepnostalgia), campañas sociales, activismo social y político, salud y usos médicos, turismo, publicidad, propaganda, moda (virtual showroom, Amazon Syle Snap, Google lens), comercio electrónico (e-commerce, retail apps), asistentes inteligentes, cine y video streaming, video juegos, telepresencia, modelos IA (Generated Photos), humanos digitales (digital humans), video conferencias (videoconferencing), telepresencia, multi-player games, memes, experimentación artística, denuncia, chat virtual, chat bots, avatares personales, terapia psicológica y material científico; y sobre usos delictivos como: fake news, desinformación, pornografía, ciber-acoso, deepfake bots .deepbots) (Westerlund, 2019; Campbell et al., 2021; Kwok y Koh, 2020; Whittaker et al., 2021; Garimella y Eckles, 2020; Oliveira-Teixeira et al., 2021; Gómez-de-Ágreda et al., 2021).

Como muestra la figura 2 los géneros discursivos han experimentado una expansión y una diversificación relevante entre 2012-2021, y se observa una mayor proliferación de géneros discursivos con usos benéficos a partir de 2019.

Algunos géneros son transversales en el tiempo y evolucionan junto con las técnicas del deepfake como la pornografía que, además de ser un género discursivo inicial, también se ha convertido en un amplio campo semántico en el que se debaten problemáticas de tipo legal, ético, regulatorio y sobre todo, en cómo el deepfake pornográfico ha afectado principalmente a las mujeres en el mundo (Martínez et al., 2019; Cole, 2019). Un ejemplo de esta evolución discursiva, tecnológica y estratégica del deepfake pornográfico es el caso de los chatbots de Telegram (Ajder et al., 2020).

Entre 2012-2016 se encuentran las técnicas incipientes y fundacionales del deepfake como Deep neural network (2012), Deep Learning GAN´s (2014), Deep Learning (2014) y Face2Face (2016). Hacia 2016 encontramos un primer incipiente género de sátira política en Presidencial Avengers: Uncivil War (Parkinson, 2016), producido mediante Face Swapping (Paris y Donovan, 2019, p. 11).

En 2017 comienza la expansión del deepfake, gracias al usuario “deepfakes” desde el r/deepfakes en Reddit en el que compartía videos pornográficos donde insertaba rostros de actrices célebres en cuerpos de actrices porno. Del mismo modo, compartió un código abierto para deep learning en bibliotecas populares y así comenzaron a proliferar deepnudes de manera ilegal en diversos sitios. Esto originó un estallido de sitios porno especializados en deepnudes .nudefakes, y la emergencia de un género denominado celeb-porn en sitios como PornHub (sitio donde se prohibieron los deepfakes pornográficos en 2018) y Mr. Deepfakes (espacio en donde se siguen publicando).

La evolución del deepfake porno llega hasta 2021 con canales de chatbots .deepbots de Telegram que “desnudan” a una mujer a partir de una foto, siguiendo los pasos de la aplicación DeepNude, cerrada en 2019. Una práctica que algunos autores han denominado Automate abuse image (Abuso automatizado de imagen) y que afectó a más de 100 mil mujeres en 2020 (Ajder et al., 2020; Hao, 2020).

En 2018 se observa un caso de porno-extorsión hacia la periodista Rana Ayyub (Ayyub, R., 2018a; Ayyub, R., 2018b), acosada mediante un video porno deepfake, con el fin de hacerla callar por una denuncia política realizada, víctima de una campaña de desinformación y desprestigio en redes digitales. El mismo año, Jordan Peel publica You Won’t Believe What Obama Says In This Video! (Silverman, 2018) en BuzzFeed, inicia el género discursivo de denuncia en donde advierte los riesgos de desinformación que pueden generar los deepfakes (Silverman, 2018). La pieza de Peel retoma la idea original de un pionero del learning lip sync from audio en Synthezising Obama (2017) mediante Face2Face (Suwajanakorn et al., 2017a y 2017b) (Ajder et al., 2019).

En 2018 destaca el caso del mensaje de fin de año del presidente de Gabón Ali Bongo Ondimba (Gabon 24, 2018). Un discurso que pertenece al género de propaganda política y que fungió también como contrapropaganda. El video fue interpretado como deepfake por las fuerzas de oposición detonando un golpe de estado ante la creencia del fallecimiento del presidente. La oposición no pudo demostrar si se trataba de un deepfake, y el presidente apareció días más tarde en un acto público negando la falsedad del video.

En 2019 se advierte ya una ligera expansión de géneros discursivos del deepfake en expresiones relacionadas con arte (video performances IA Art), en las obras de Klingemann (Sotheby´s, 2019) quien construye una galería en Twitter con el hashtag #BigGAN. Inicia la producción de retratos vivientes o modelos de cabezas parlantes (talking heads) mediante tecnología de red neuronal convolucional impulsada por Samsung (Zakharov et al., 2019; Nield, 2020), un género que se expande en los retratos vivientes de Deepnostalgia de la app MyHeritage (2021).

Se fortalece el entretenimiento a través de la parodia como género discursivo, es el caso del trabajo realizado por Ctrl Shift Face, The Fakening, FaceToFake en YouTube, que producen deepfakes fusionando rostros de actores en escenas retomadas de obras cinematográficas y programas de televisión, como en Bill Hader channels Tom Cruise (Ctrl Shift Face, 2019), en donde se intercambia el rostro de Hader por el de Tom Cruise de manera intermitente durante una entrevista; o de Al Pacino y Schwarzenegger (2019). Ctrl Shift Face hace un trabajo experimental muy similar al realizado por Derpfakes, Shamook o Jarkan en YouTube, quienes desafían las técnicas usadas por la laboriosa producción de efectos visuales (CGI) de Light and Magic (Disney-StarWars), en la recreación de la Princiesa Leia (Carrie Fisher) (Derpfakes, 2018) y Grand Moff Tarkin (Peter Cushing) en Rouge One: A Star Wars Story (2016), entre otros ejemplos, como De-agingRobert Deniro in The Irishman (Shamook, 2020).

Los géneros discursivos de entretenimiento atraviesan y fusionan prácticas de la sátira y la parodia en memes deepfake virales como los de Obama sings Baka Mitai (Mechanical, 2020), Avengers (Moe Ment, 2020) y la extensa serie asociada a esta canción (Hao, 2020); o bien, en usos en videojuegos donde el usuario puede insertarse como avatar en tiempo real, como propone la plataforma Unreal Engine (2021) (Initiative, 2020); o con técnicas de facial re-enactment, speech synthesis, multi-player games, y performance capture (Gardiner, 2019; Zakharov et al., 2019; Jesso et al., 2020; Nield, 2020). También, emergen otros géneros de entretenimiento en deepfake, como el espectáculo de cabaret creado por The Zizi Show (2020); y las transmisiones deportivas realizadas con sistemas de inteligencia artificial como Pixellot.tv (2021).

En el género de ficción cinematográfica, Disney y otros estudios cinematográficos investigan técnicas de deep learning AI .High-resolution reural face swapping for visual effects) (Naruniec et al., 2020) para la creación de personajes, al estilo The Irishman (Scorsese, 2019) producidos todavía con efectos visuales (VFX) y gráficos generados por computadora (CGI) que obtuvo resultados cuestionables.

La emergencia de géneros de denuncia y arte desde 2019 aparece en proyectos como el de Bill Posters en Instagram denominado Spectre (Bill_posters_uk, 2019), en donde construye videos de denuncia política con celebridades y políticos como Mark Zuckerberg o Donald Trump para alertar sobre los riesgos de la desinformación.

Para 2021 las técnicas de doblaje y traducción han evolucionado en el campo cinematográfico con el deepfake. Un ejemplo es Flawless, un programa realizado con la técnica de neural style-Preserving visual dubbing, que permite hacer un doblaje en diversos idiomas sin perder los rasgos originales de los actores (Hyeongwoo et al., 2019; Vincent, 2021).

Entre 2020-2021 se encuentra como tendencia la mayor expansión de géneros discursivos con usos benéficos. Los usos del deepfake en géneros como el activismo político, campañas sociales y denuncia se han amplificado en este período. Como ejemplo, las campañas protagonizadas por David Beckham para combatir la malaria en donde habla nueve idiomas o declara el fin de la enfermedad con 70 años de edad (Malaria Most Die, 2019 y 2021). El género de activismo político se puede encontrar en el deepfake en el que el periodista mexicano Javier Valdez, asesinado en 2017, denuncia en 2020 la violencia y desaparición de informadores y exige justicia (Propuesta Cívica, 2020).

Un extenso campo semántico es el de la desinformación, a la que se suman géneros discursivos del deepfake mediante fake news. Casos como los videos fakes realizados con los presidentes Trump y Obama emitiendo declaraciones falsas relacionadas con la cumbre de Davos 2020 (CBS, 2020); y las declaraciones de los presidentes Kim y Putin (Greene, 2021) en la serie Dictators (RepresentUs, 2020a y 2020b) sobre la democracia norteamericana previo al proceso electoral de 2020. También destacan los casos de Boris Johnson y Jeremy Corbyn (Future Advocacy, 2019a y 2019b) donde emiten opiniones contrarias a sus idearios, o la Reina Isabel II grabando un video para TikTok en un mensaje de fin de año (Channel 4 Comedy, 2021).

Un caso de desinformación relevante en India es el del presidente Manoj Tiwari del Bharatiya Janata Party (BJP) quien envió un mensaje político electoral en diversos dialectos indios dirigido a 15 millones de ciudadanos, sin advertir que el video fue generado con IA y que él no habla esos dialectos (Jee, 2019; Lyons, 2020). Estos casos ponen de manifiesto la delgada línea entre información y desinformación, a pesar de contar, algunos de ellos, con la advertencia de ser deepfakes (Chawla, 2019; Forsdick, 2019).

En 2021, proliferan los géneros discursivos en el campo del marketing, comercio electrónico, moda y venta minorista (retail). Como las aplicaciones Superpersonal App (2021), Amazon Style Snap (2020), Google Lens (2021), que permiten a los clientes probarse vestuarios virtuales, cambiar su rostro por modelos digitales y realizar compras en línea. Para tiendas minoristas de ropa y moda es una oportunidad de crear o convertir a sus clientes en modelos virtuales personalizados con poco presupuesto de marketing (Campbell et al., 2021, Zeynal et al., 2021).

La Covid-19 aceleró la adopción de avatares y ambientes digitales en el comercio minorista y la moda, es el caso de Balmain (Balmain, 2020; Digital, 2020) al presentar la “colección Zoom”, con un avatar de su diseñador Olver Rousteing (Socha, 2020). Usos, aplicaciones y géneros discursivos asociados a la publicidad, el marketing, la moda como Echo Look, incluida en Shopping App de Amazon o como Generated Photos (2021) transforman la industria de la moda y el turismo utilizando avatares, mapeo facial, plataformas foto-reales inmersivas y modelos de generación IA (Bogicevic et al., 2019; Whittaker et al., 2021; Dietmar, 2019).

Los géneros discursivos relacionados con humanos digitales y asistentes inteligentes también están en expansión. Los asistentes inteligentes se asocian a usos en telepresencia, videoconferencias, chatbots y creación de personajes para ficción cinematográfica. Es el caso de los humanos digitales producidos por Doug Roble (Roble et al., 2019) mediante captura de movimiento inercial (inertial motion capture) y redes neuronales (deep neural networks) (Ted, 2019); y el asistente virtual Google Duplex (Huffman, 2018; Leviathan, 2018).

Aparecen igualmente los primeros usos de deepfakes para anuncios publicitarios como el de Soriana (2021) Cantinflas, un famoso actor de cine fallecido en 1993 protagoniza el primer anuncio deepfake en México para un supermercado (Ferrer, 2021). A esto se unen una avalancha de avatares e influencers producidos por IA que irrumpen en el campo de la publicidad y las redes sociales como Lil Miquela (2021), Colonel Sanders (KFC, 2021; Digital Agency Network, 2020), Mona Haddid (2021), Shudu (2021), Bermunda (2021), Blawko (2021) e Imma (2021) (Guthrie, 2020; Mosley, 2021; Adriani, 2019).

En el campo de la educación se encuentran aplicaciones como las recreaciones de Dalí Lives en The Dalí Museum (2019), Digital Einstein (2021) o Dimension in Testimony (University of Southern California's Shoah Foundation, 2021), recursos educativos con los que se puede entablar una conversación interactiva y conocer más sobre la vida y obra de estos autores, o de los sobrevivientes del Holocausto.

Los discursos del deepfake comparten las características de la cultura sociomediática digital, la cultura post-meme y la cultura mediática snack, compuestas por narrativas breves, transmedia, hipermedia, intertextuales, compartidas en redes sociales y plataformas digitales como Facebook, Twitter, WhatsApp, TikTok e Instagram, entre otras (Scolari, 2020; Bown y Briston, 2019).

Un deepfake es susceptible de participar de las formas y comportamientos de otras especies mediáticas como el meme, gif, selfies, avatares, imágenes rumorales, fotomontajes animados, mockumentality, videomontajes, videos cortos, micropiezas narrativas (sátiras, parodias, finales alternativos, falsos tráileres, etc.), micro-formatos informativos, propagandísticos, pots, tráileres, teasers, videoclips, lipdubs, webisodios, sneak-peeks, mobisodios, credits, nanorrelatos, nanocontenidos, entre otros formatos de microficción o microficción documental propios (Scolari, 2020; Aldrin, 2005; Cortazar, 2014; Conte, 2019).

Discusión

Progresivamente asistimos a una expansión de campos semánticos y géneros discursivos del deepfake, que reconfiguran el escenario que apareció inicialmente en 2017, y que hacia 2021 presenta nuevos horizontes con una marcada tendencia al desarrollo de aplicaciones benéficas en diversas esferas económicas, culturales y mediáticas.

A pesar de que los usos delictivos persisten, como la pornografía, el acoso, la extorsión, la suplantación de identidad, las fake news y la desinformación, la producción deepfake comienza a experimentar una tendencia hacia usos benéficos que se observa en géneros como el activismo político, campañas sociales, educación, salud, comercio electrónico, marketing, publicidad, moda, turismo, espectáculos, asistentes virtuales, video juegos y ficción cinematográfica.

Esta tendencia exige una resignificación del término deepfake, que hasta ahora había sido empleado para catalogar todo documento audiovisual producido mediante técnicas de deep learning, GAN´s, redes neuronales convolucionales y otras técnicas de IA. Actualmente, se debate si el término deepfake debería ser usado exclusivamente para denominar prácticas delictivas, y synthetic media para los usos benéficos (Schick, 2020, Barnes y Barraclough, 2020).

La catalogación realizada en las figuras 1 y 2 retoma los datos más relevantes del conjunto de la investigación bibliográfica y documental, aunque no es producto de un método cuantitativo, sino cualitativo e interpretativo, lo que puede ser entendido como una limitación del estudio.

El deepfake, como objeto tecno-estético, se encuentra en una etapa de resignificación en cuanto a sus campos semánticos y géneros discursivos. Este proceso se realiza en un escenario tecnológico y mediático altamente dinámico y cambiante en el que se expanden progresivamente sus usos y prácticas culturales.

Referencias

Notas

² Las publicaciones sobre deepfake aumentan progresivamente, tanto las informales, las periodísticas y las científicas. El buscador Google Search arroja 19,200,000 resultados (1 de mayo 2021); en 2020 aparecían 1301 publicaciones académicas sobre GAN´s en arXiv (Cornel University), y para mayo de 2021 ya existen 4092 artículos con especialidad en matemáticas sobre el tema. En Web of Science, la búsqueda para deepfake arrojó 81 publicaciones (1 mayo 2021) de los cuales 65 corresponden a áreas de Ciencias de la Computación e Ingeniería, 11 para Comunicación, 5 para Derecho, 2 para film, radio, televisión, 2 para Ciencia Política, 2 para Ética. En Socpus aparecen 603 artículos sobre deepfake entre 2018 y 2021, de los cuales 447 están relacionados con el campo de las Ciencias Computacionales, 224 con Ingeniería, 166 con Ciencias Sociales, 74 cn Matemáticas, 68 con Ciencias para la Toma de Decisiones, 39 con Arte y Humanidades, 36 con Material Científico, 31 con Física y Astronomía, 29 con Psicología, 24 con Negocios, Gestión y Contabilidad. Como se puede observar, el campo de investigación sobre deepfake está mucho más desarrollado en el área de Ciencias Computacionales e Ingeniería, respecto a Ciencias Sociales. Google Scholar arrojó 4,270 resultados para la búsqueda de “deepfake”, 639 para “deepfake” and “discourse” y 141 para “deepfake” y “discurso”. En Taylor and Francis Journals aparecen 80 artículos científicos con la búsqueda “deepfake”, entre los más numerosos encontramos 30 de Humanidades, 26 de derecho, 23 de Ciencias Sociales, 9 de Comunicación, en donde los temas centrales son Desinformación, Pornografía, Política, Publicidad, Seguridad. Para la búsqueda “deepfake” and “dicourse” encontramos 35 artículos que versan principalmente sobre estos mismos campos semánticos. El perfil de cada revista condiciona sin duda el tipo de especialidad con el que se relacionan los artículos publicados.

Notas de autor

¹ Director de la Maestría en Comunicación (Departamento de Estudios Culturales del Tecnológico de Monterrey), México.

Información adicional

Para citar este artículo : Bañuelos, J. (2022). Evolución del Deepfake: campos semánticos y géneros discursivos (2017-2021). Revista ICONO 14. Revista Científica De Comunicación Y Tecnologías Emergentes, 20(1). https://doi.org/10.7195/ri14.v20i1.1773

ICONO 14, Revista de comunicación y tecnologías emergentes

ISSN: 1697-8293

Vol. 20

Num. 1

Año. 2022

Evolución del Deepfake: campos semánticos y géneros discursivos (2017-2021)

Jabob Bañuelos