Trust No One: Inside the World of Deepfakes por Michael Grothaus review – la súper arma de desinformación | Libros de la empresa
En la noche del jueves 3 de septiembre de 1998, un profesor universitario de mediana edad con antecedentes de ataques cardíacos se desmayó mientras conducía su automóvil en una concurrida carretera de Estados Unidos. El automóvil patinó a través de los carriles y en medio del tráfico que venía en sentido contrario. La colisión fue tan poderosa que empujó el motor del auto del profesor hacia los asientos delanteros. Milagrosamente, sobrevivió y nadie más resultó gravemente herido. Se recuperó de una fractura de tobillo y muñeca y fue dado de alta del hospital. Un mes después, estaba allí de regreso con dolor en la pierna, un coágulo que pudo o no haber sido provocado por el accidente. Luego, su cuerpo se infló al doble de su tamaño con líquido, por lo que parecía un globo que se podía pinchar con una aguja y hacer estallar. Su esposa e hijos pequeños vieron su milagrosa supervivencia convertirse en un empeoramiento repentino de su enfermedad cardíaca subyacente. En abril de 1999, murió.
Poco más de dos décadas después, su hijo, Michael Grothaus, estaba sentado frente a su computadora viendo un video de su padre, sano y con una camiseta amarilla, jugando con un teléfono inteligente inventado muchos años después de su muerte. Se estaba divirtiendo grabando el parque soleado a su alrededor. Luego se volvió hacia la pantalla y sonrió amablemente a su hijo detrás de sus pobladas cejas.
Grothaus había redimido a su padre a la vida como un «deepfake». Solo cuesta unos cientos de dólares. Hay comunidades enteras de deepfakers anónimos a los que puede acceder fácilmente en las mejores capas de Internet. Por lo general, se especializan en crear pornografía personalizada: digamos que quieres un video tuyo teniendo sexo con Scarlett Johansson o la chica de al lado. Todo lo que tienes que hacer es proporcionar un videoclip y ellos hacen el resto. Para crear el video de su padre en el parque, Grothaus subió más de 60 segundos de metraje en VHS de mediados de la década de 1990. Luego, «Brad» lo dividió en 1.800 imágenes del rostro de su padre y las pasó a través de un programa llamado DeepFaceLab. , que los injertó en un video de otro hombre.
La resurrección digital de su padre provocó sentimientos encontrados en Grothaus. Vio el video varias veces, disfrutando del reencuentro. Luego lo borró, horrorizado por la ruptura que había hecho en la realidad y las consecuencias que eso conllevaba para nuestro sentido de la verdad y la confianza.
Esta reacción compartida se encuentra en el libro de Grothaus sobre deepfakes. Por un lado, ofrecen la perspectiva de superar la muerte, de vislumbrar la utopía, de satisfacer el deseo sexual. Por otro lado, traen miedo al caos total. Incluso un video corto y ficticio de, digamos, la renuncia del director ejecutivo de una gran corporación, podría causar pánico en los mercados el tiempo suficiente para que las personas que lo crearon lo mataran. Las falsificaciones de candidatos que dicen algo inapropiado en los últimos momentos de una elección cerrada podrían cambiar el destino de la geopolítica.
Pero si bien tales escenarios son vertiginosos en su potencial destructivo, en su mayor parte, todavía son discutibles. La verdadera estafa financiera descrita por Grothaus involucra a estafadores que usaron la grabación de voz de un CEO para llamar a su contador y hacer que lo despidieran $ 243.00. Vergonzoso, pero también posible solo gracias a un interlocutor bastante crédulo. El estudio de caso político que describe es un montaje amateur de un video que da la impresión de que la estrella de Hollywood Dwayne Johnson está humillando a Hillary Clinton en el período previo a las elecciones de 2016. El video se ha vuelto viral en Magaland, pero no porque su autenticidad fuera particularmente convincente. Simplemente correspondía a los prejuicios existentes de la gente.
La «desinformación» no tiene la intención de cambiar la forma de pensar. Se trata de darles lo que quieren
Esto es característico de la «desinformación»: en realidad no se pretende cambiar de opinión. Se trata de darles lo que quieren consumir de todos modos. La calidad del engaño no es necesariamente el factor crucial. ¿Los deepfakes cambiarán eso? ¿Su mera existencia destruirá cualquier vestigio de confianza en una realidad compartida? Potencialmente. Pero una cosa que sí sabemos es que el discurso que se ha desarrollado en torno a este tema, más que ser algo radicalmente nuevo, es parte de una dinámica mucho más antigua.
En una vida anterior, estaba haciendo documentales para televisión. Siempre me pregunté por qué alguien accedió a participar. La mayoría eran personas corrientes que no tenían ningún interés en la fama. Poco a poco, me di cuenta de que había algo en el proceso de filmación que les atraía. La cámara parecía prometer que sus experiencias tenían sentido y, en última instancia, ofrecían algún tipo de inmortalidad. Dicho esto, cada vez que nuestros colaboradores vieron las películas en las que estaban, las odiaron. La forma en que los editamos en nuestros escenarios los hizo menos poderosos, más vulnerables. En lugar de la inmortalidad, trajimos lo contrario: una pérdida total del autocontrol.
Nuestra relación con las representaciones visuales de nosotros mismos es siempre parte de este eje de narcisismo y pavor: ambos prometen la derrota de la muerte, pero despiertan este deseo solo para decepcionarla, fortaleciendo abrumadoramente su inevitabilidad. Nuestra fascinación por los deepfakes se siente como la última versión de esta montaña rusa emocional, y Grothaus capta muy bien.
Trust No One: Inside the World of Deepfakes es una publicación de Hodder & Stoughton (£ 18.99). Para apoyar a Guardian y Observer, compre una copia en guardianbookshop.com. Pueden aplicarse cargos por envío.
