Aunque el uso de tecnologías para reemplazar rostros no es nuevo, sus peligros son relevantes para la democracia hoy más que nunca.
Supongamos que en las próximas elecciones usted tiene claro el candidato por el que planea votar. Eso es hasta que se encuentra un video en redes sociales en el que ve a la persona aceptar un soborno, rodeado de malas compañías o incluso dando un discurso que contradice lo que está prometiendo en campaña. Es probable que en ese momento su decisión cambie porque ¿qué prueba hay que sea más definitiva que un video?
Pero la primera regla de Internet es que no hay que confiar tan fácil, ni siquiera en los videos. Hace un par de años surgió un fenómeno denominado ‘Deepfakes’. De manera sencilla, se trata de una tecnología que permite superponer el rostro de alguien en el de otra persona en un video. Lo más interesante, y preocupante, es que no se trata de un proceso de edición o un trabajo que requiera de unas habilidades avanzadas, sino que puede ser realizado utilizando software sencillo e incluso programas predeterminados. Tampoco es necesario que se haga con material viejo, sino que se puede grabar en vivo un deepfake y, por ejemplo, falsificar la transmisión de algún influenciador en cuestión de segundos.
En 2017 la tecnología llamó la atención de los titulares de noticias cuando videos de deepfake remplazaron el rostro de estrellas de cine en videos pornográficos falsos, desatando así una tormenta de demandas que ni siquiera este tipo de sitios pudieron soportar. Pero la razón por la que hoy resuena este tema, es debido a la perfección con la que consiguen crear videos falsos de celebridades en redes sociales. No descarte que quizás usted haya visto alguno, y por eso se haya sorprendido al ver a su estrella de Hollywood favorita cantar un vallenato con español perfecto.
Aunque su uso no se ha masificado, y por ahora tiene más fines de entretenimiento, hay alarmas prendidas. Es que vivimos en la era de las noticias falsas y las cadenas de WhatsApp mentirosas. Y el impacto de estos fenómenos ha sorprendido al mundo, que descubrió el trago amargo de que quizás la elección de los líderes más importantes fue producto de información falsa distribuida en redes sociales. Así que… ¿cuándo llegará el primer deepfake en el que se acuse a un candidato de corrupción? ¿Podremos distinguir un discurso falso de uno verdadero?
Quizás por esta preocupación, a inicios de septiembre Facebook, en asociación con entidades privadas y públicas, lanzó una iniciativa para crear una base de datos enorme que permita recopilar, estudiar y crear un sistema utilizando inteligencia artificial para poder identificar estos videos falsos y así detener su uso inadecuado. El problema está en que quizás esta tarea sea difícil, incluso para Mark Zuckerberg. Expertos en recolección de datos e inteligencia artificial tienen sus dudas sobre los resultados que este tipo de herramientas tengan a medida que su uso se popularice y se haga natural (después de todo, si hoy podemos envejecer nuestro rostro ¿cuánta falta para que lo remplacemos por el de otro?).
Como siempre, la conclusión de estas voces es que es ingenuo creer que estos problemas van a desaparecer con el uso de tecnología, y que se necesita hablar sobre su uso e incluso crear leyes que impidan su uso inadecuado. A estas alturas “ver para creer” no es suficiente, por lo que no hay que dar crédito a todo lo que sea vea en Internet.
Comentarios