El poder en Internet y la ‘deepfake’

Al revisar la recién publicada Encuesta del poder 2023, uno se pregunta cómo se define a alguien como poderoso, más allá de una encuesta tipo Delphi. Y tal vez la mejor forma de arribar a una respuesta sea que se trata de alguien que influye –por su posición social, económica o su pertenencia a tal o cual grupo de referencia– o que se trata de alguien que logra movilizar escenarios y decisiones.

Esta es una definición que vale para casi todos los casos. Pero cuando hablamos de Internet y las redes sociales, cabe preguntarse si sigue siendo válida esta misma noción de poder.

En Internet la noción de poder está muy relacionada con la reputación, la buena fama, el conocimiento o la solvencia que alguien expone sobre tal o cual asunto. También es cierto que esa reputación se construye en base al número de interacciones que se logra –más allá de cuánta gente lo siga a uno– y esto es relativamente fácil de conseguir si es que uno tiene una buena estrategia de posicionamiento digital o viralización.

Traigo el tema de la reputación online a propósito del mensaje de alerta que el Foro Económico Mundial (FEM) ha compartido recientemente respecto de la nueva práctica digital que es la amenaza más perniciosa de Internet en estos tiempos: la ‘deepfake’.

El FEM indica que la ‘deepfake’ crece a un ritmo anual del 900% y que, hoy por hoy, es el ciberdelito que mayor difusión está teniendo en todos lados. En ese sentido, si bien empezó siendo una aplicación de inteligencia artificial que apuntaba a los políticos para golpearlos vía la mofa y las parodias, hoy es claro que su uso se identifica más con el cibercrimen. Por esa razón, aquel que se dedica a crearlos en el Perú es pasible de sanciones que oscilan entre los dos y los cinco años de pena privativa de libertad, dependiendo del concurso de delitos.

Adicionalmente, la proliferación de ‘deepfakes’ –ya hemos explicado en una columna previa cómo se crean– atenta claramente contra la reputación de individuos con exposición y/o popularidad, fomentando la desinformación a través de ‘fake news’. Según el mismo FEM, las ‘deepfake’ tienen un efecto residual más dañino vinculado con la creación de verdades falsas que se difunden capitalizando la exposición de los personajes cuya reputación se menoscaba.

En base a mi propia experiencia y a la ‘deepfake’ que me alude y que está circulando por Facebook –esta red social no tiene una política en contra de las ‘deepfake’, por lo que, increíblemente, no las bloquea–, comparto con los lectores algunas claves para evitar difundirlas:

En primer lugar, observe la sincronización de los labios. Aún los algoritmos de la ‘deepfake’ fallan en la sincronización del audio y el video. La inteligencia artificial todavía tiene dificultades para representar adecuadamente los dientes, la lengua y la cavidad bucal al hablar.

En segundo lugar, fíjese bien en el enlace que le lleva a la ‘deepfake’. A veces se trata de cuentas de fraude o clonaciones, sin más información que tan solo el propio video ‘fake’ insertado.

Finalmente, aunque ya es posible emular el tono de voz de las personas cuya reputación se quiere capitalizar, aún se puede identificar errores, escuchando con cuidado el audio, pues suelen aparecer fallos gramaticales, aunque sutiles.

La influencia en Internet ya no es lo que fue. Hoy gozar de cierta notoriedad en los espacios digitales puede llevar a ser el objetivo de fraudes y amenazas. Si antes los marketeros digitales celebraban que a usted le hagan un meme como señal de una popularidad evidente, hoy tener una ‘deepfake’ puede ser una confirmación de que se goza de –buena– atención, aunque ese reconocimiento sea también una señal de vulnerabilidad. El precio de la fama en Internet empieza a ser oneroso.