Los deepfakes que triunfan en China: reproducciones de familiares fallecidos

Los deepfakes son recreaciones multimedia falsas de humanos, tanto de personas que no existen como de otras reales. En muchos casos se usan con fines maliciosos o, directamente, dañinos para las personas, e incluso existen servicios y sistemas para detectarlos y evitar problemas. Tanto para la que reproducen si se trata de falsificaciones reales como para las que los reciben. Pero en China están triunfando, y no precisamente para hacer daño sino todo lo contrario. Varias empresas, según el MIT Technology Review, han abierto una línea de negocio, que está resultando ser muy próspera, para crear deepfakes de personas fallecidas por encargo de sus familiares y personas cercanas.

En ocasiones, después del fallecimiento de una persona, sus familiares y personas cercanas quieren seguir teniendo algo que les permita mantener su vínculo con ella. En China han dado con la clave: crear reproducciones digitales a partir de su foto y grabaciones con su voz. Allí hay al menos media docena de empresas que ofrecen tecnologías que lo hacen posible, y miles de personas que han pagado para crear un deepfake a partir de imágenes y sonido de sus seres queridos.

De esta manera, las personas pueden utilizar la IA para mantener vivos sus recuerdos, animarse cuando están decaídos, interactuar con sus seres queridos aunque sea de manera artificial y utilizar los deepfakes para ir pasando el duelo. Además, en China, estos avatares digitales son una manifestación actualizada de una tradición cultural muy arraigada en la región, relacionada con la confianza en las personas fallecidas y lo habitual que es comunicarse con los muertos en el país a través de distintos rituales. En abril, por ejemplo, los chinos barren las tumbas de sus antepasados, queman incienso y les entregan dinero de papel falso, además de contarles qué tal les ha ido durante el año.

Es habitual que en los hogares se cuelgue un retrato de los familiares fallecidos durante varios días. Ahora hay empresas que crean un marco de fotos con IA, con avatares y deepfakes de los fallecidos precargados en una especie de tablet con Android, que simula un marco de fotos cuando se coloca en vertical. El avatar se puede mover y hablar.

La tecnología utilizada en la creación de los dobles digitales no es perfecta, y los deepfakes tienen todavía un aspecto rígido y algo robótico en muchos casos, pero está en pleno proceso de maduración. Además, hay cada vez más herramientas disponibles para su creación a través de un número creciente de empresas.

Deepfakes cada vez más accesibles

Al mismo tiempo, el precio que estas empresas cobran por la generación de deepfakes de este tipo ha bajado significativamente en los últimos meses, y está convirtiéndose en algo accesible para el público en general. Incluso hay apps en desarrollo para smartphones, que permitirán acceder a los deepfakes encargados desde los móviles, que podrían rebajar su precio todavía más, y dejarlas rondando el centenar de dólares.

Este tipo de recreaciones de fallecidos, eso sí, genera todo tipo de dudas, y hay quienes se preguntan si interactuar con ellas es realmente un modo de procesar la pérdida. Además, no está del todo claro qué implicaciones éticas y legales puede tener su creación. Por ahora, hay mucha gente a la que les incomoda la creación de estos deepfakes. Pero en China, incluso si hay un porcentaje muy pequeño de personas que demandan esos servicios, la demanda para su generación es muy elevada.

Las tecnologías utilizadas para crear réplicas digitales de fallecidos son muy similares a las de creación de deepfakes. Los modelos se encargan de generar un avatar realista que puede moverse y hablar, y se le pueden acoplar modelos grandes de lenguaje para generar conversaciones. Lógicamente, cuantos más datos tengan los modelos de la vida de alguien (fotos, vídeos, grabaciones de audio, o textos), más real será el resultado de clonado digital de la persona. Tanto si está viva como si ya ha fallecido.

China, por otro lado, cuenta con mucho mercado para los dobles digitales. Tanto para anuncios en el sector del comercio electrónico como para anunciar productos en redes sociales simulando streamings en directo.  Solo en tres años, el sector encargado de desarrollar avatares mediante IA se ha convertido en accesible económicamente para la mayoría, y crear un avatar realista ya solo cuesta unos pocos cientos de dólares. Además, hay una guerra de precios entre las empresas dedicadas a ello, lo que hace que haya ofertas casi de continuo.

Limitaciones y aspectos negativos

Pero no todas las creaciones de avatares digitales de fallecidos se hacen con buena intención. Hay empresas que se dedican a ofrecer videollamadas con ellos, en las que, por ejemplo, un familiar se puede hacer pasar por una persona viva que asegura a quien llama, generalmente un familiar, que se encuentra en apuros económicos, dando lugar a estafas. No obstante, incluso estos servicios se usan con fines compasivos. Hay compañías que se encargan de ofrecer servicios de videollamadas entre familiares y recreaciones de personas fallecidas.

Esto ya está sucediendo para evitar a personas muy mayores malas noticias que podrían afectar negativamente a su salud, como el fallecimiento de hijos y otros parientes cercanos. Pero como sucede con todas las tecnologías nuevas, estas recreaciones tienen no pocas barreras. Para empezar, con el idioma.

Los modelos de IA tienen no pocas limitaciones sobre lo que pueden generar. La mayoría de modelos pueden arreglarse con los idiomas principales del país, el chino mandarín y el cantonés, pero no pueden hacer lo mismo con la mayoría de dialectos que hay en el país. Recrear los movimientos corporales y las expresiones faciales complejas en 3D es también muy complicado, por lo que su precio se encarece.

El entrenamiento de datos no está tampoco exento de complejidad, ya que solo puede apoyarse en los vídeos, imágenes y textos disponibles. No es posible hacer preguntas a la persona. Además, quienes lo encargan no tienen muchas veces fuentes de calidad, o no tienen las suficientes, para que los resultados sean satisfactorios. Además de las implicaciones éticas y en la salud mental de los clientes de las compañías.

Por un lado, las conversaciones con estos avatares pueden ser terapéuticas para cerrar el ciclo de duelo o poder despedirse. Incluso para acudir a ellas en momentos de mucha tensión, pero hay quien señala que utilizar estos deepfakes podría afectar a la salud mental de quienes los usan, y que pueden hacer que la gente no pase página y no procese adecuadamente un fallecimiento. Por ahora se trata de algo nuevo, y habrá que ver cómo evoluciona la tecnología y su uso en el futuro para estar seguros de los problemas, y beneficios, que puede ocasionar.