Deepfakes: alcance y riesgos de esta tecnología en Twitch

Deepfakes y sus copias baratas: los ‘cheapfakes’: ¿Son fáciles de detectar? ¿Y de crear? En una nueva retransmisión de Maldita Tecnología hemos hablado con expertos para que nos expliquen cómo se generan estas imágenes y

Deepfakes y sus copias baratas: los ‘cheapfakes’: ¿Son fáciles de detectar? ¿Y de crear? En una nueva retransmisión de Maldita Tecnología hemos hablado con expertos para que nos expliquen cómo se generan estas imágenes y sonidos, basados en inteligencia artificial. Además, analizamos qué suponen los deepfakes, y sobre todo los cheapfakes, para la desinformación.

Dimosthenis Karatzas: «No hay inteligencia detrás de los deepfakes»

Dimosthenis Karatzas, subdirector del Computer Vision Center de Barcelona y profesor de la Universidad Autónoma de Barcelona, explica que detrás de los deepfakes «no hay inteligencia», asegura que es una tecnología que ya se aplica en con otros fines, como por ejemplo la que se utiliza en los correos electrónicos para discernir correo ordinario con spam.

Respecto a la manipulación de imágenes o vídeos, Karatzas aclara que no hay diferencia: «El ordenador sabe más o menos lo que significa una cara, y a partir de ahí puede generar nuevas caras», puntualiza, «la diferencia entre una imagen y un vídeo es la dimensión temporal, pero la base, la generación de esa cara, es la misma«. Para cambiar una voz solo se necesitan muestras muy pequeñas de cómo habla alguien, «algo que podemos hacer en 2021 y no en 2015 pero no es mucho más diferente a lo que puede hacer un GPS.

Graciela Padilla ofrece consejos para detectar y diferenciar deepfakes y cheapfakes

Graciela Padilla, docente y autora de estudios sobre la detección de deepfakes, explica en Twitch que el término ‘cheapfake’ es «reciente» pero que tampoco dista mucho de los deepfakes en cuanto a su proceso creativo. Para diferenciarlo, Padilla apela al «espíritu crítico», «técnicamente, puede haber vibraciones entre frames, como en un croma, o que el cuello no cuadre con la cabeza en diferencias de tonalidad o incluso de rasgos de edad».

En cuanto a los cheapfakes, dice que hay otros elementos como la coordinación de los párpados o la velocidad del movimiento de la boca que «nos puede hacer chirriar, que parezca antinatural». Además, Graciela Padilla añade que el deepfake «es especialmente peligroso» en la voz porque «hay algunas voces a las que no estamos acostumbrados a oír» pero en otras más conocidas, aunque sean voces parecidas, Padilla aconseja fijarse en los ritmos, vicios o muletillas naturales.

El alcance social del deepfake

Para analizar el alcance social que pueden tener los deepfakes en otros temas como la publicidad o la pornografía, contamos con Liliana Arroyo, doctora en Sociología e investigadora del Instituto de Innovación Social de ESADE. Arroyo explica que los deepfakes no son un fenómeno nuevo, nacieron «con una finalidad pornográfica» pero se pregunta donde empieza el límite: «El doblaje en el cine no es más que poner una voz encima de otra con la diferencia de que en el cine sé que la película está doblada y el movimiento de sus labios y la voz no corresponden. Tienen la finalidad es que la audiencia de su país lo entienda», no tanto generar una imagen de cero.

La doctora recuerda también que además de la publicidad, se está utilizando en el cine, «Disney al final de 2020 ya expuso sus novedades donde incluía la tecnología deepfake con la posibilidad de recrear escenarios, personajes o remixes de películas». Además en la pornografía ahora mismo, explica Arroyo, «hay portales enteros dedicados al deepfake«. O incluso en el arte para recrear y remezclar obras de arte con diferentes estilos.

‘The Deepfake Lab’ un proyecto para acercar esta tecnología y aprender a detectar deepfakes

Pilar Suárez Anzonera, miembro de ‘The Deepfake Lab‘, explica que su proyecto pretende acercar esta tecnología al público «que no suene tan lejano ni tan mágico». En su web crean paso a paso un deepfake, cambiando diferentes parámetros y configuraciones, para explicar cómo generarlos y en qué fijarse para detectarlos. «Hacer un deepfake a partir de fotos de tus redes sociales a lo mejor no es tan simple», apunta, «tiene que ver con cómo agarra tus rasgos y cómo se necesita mucho material y ángulos. No es tan fácil robarte la identidad para crear deepfakes«. Pero insiste en la importancia de tener una visión crítica.


Source link

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *