En esta modalidad, la inteligencia artificial suele emplearse para generar contenido audiovisual, ya sea en forma de video, imagen o audio. A continuación, se presentan recomendaciones para identificar y combatir este fenómeno.
El auge en la creación de deepfakes, contenido audiovisual manipulado mediante inteligencia artificial, ha experimentado un aumento alarmante del 464% en la cantidad de videos pornográficos manipulados entre los años 2022 y 2023, según el informe "State of Deepfakes 2023" de la organización Home Security.
Desde que surgieron aproximadamente hace cinco años, este tipo de contenidos maliciosos se ha utilizado de manera constante para acosar a las mujeres. Con los recientes avances en tecnologías de IA, como el aprendizaje automático, la cantidad de estas piezas que suplantan a una persona pululan en la web.
Este fenómeno se ha convertido en un problema para los motores de búsqueda, que luchan constantemente para erradicar estas representaciones falsas y explícitas que siguen circulando a pesar de las medidas actuales.
Las mujeres son las principales víctimas de este fenómeno. Actrices y artistas como Emma Watson, Natalie Portman, Scarlett Johansson y Rosalía han denunciado ser víctimas de imágenes falsas generadas mediante deepfakes.
Recordemos que en esta modalidad, que utiliza la inteligencia artificial para generar montajes en video, imágenes o audio, las principales víctimas son mujeres y menores de edad, a quienes se les vulnera su imagen y dignidad personal. Esto genera un efecto psicológico significativo, ya que representa prácticas sexuales que, a pesar de nunca haber ocurrido, son muy realistas.
Lo más grave es que el 98% de las imágenes falsas que circulan en internet son de carácter sexual, según el informe de Home Security, que señala que el 99% del contenido falso pornográfico compromete al género femenino.
Cómo identificar un deepfake
Los deepfakes pueden parecer tan auténticos que puede resultar difícil identificarlos como tales. Expertos, como Eduardo Cruz, CEO de Qustodio, plataforma especializada en seguridad y bienestar digital, advierten que "existen aplicaciones capaces de modificar su contenido de manera que parece tan real que da lugar al engaño".
La amenaza principal radica en la facilidad con la que cualquier individuo, especialmente los jóvenes, puede acceder y utilizar estas herramientas sin necesidad de conocimientos informáticos avanzados.
Afortunadamente, hay ciertas características y errores sutiles que suelen repetirse en este tipo de contenidos, facilitando su identificación como un deepfake.
Estos detalles suelen estar relacionados con la forma y los rasgos de la cara, incluyendo el número de parpadeos en los videos, que suelen ser pocos y presentarse de forma antinatural.
Para detectar un deepfake, es importante fijarse en los aspectos físicos del cuerpo, especialmente en las manos, una de las partes más difíciles de replicar.
También es útil observar la duración del video, la sincronización del sonido y el interior de la boca, así como las incoherencias en el discurso y la fuente de donde provienen las imágenes.
Además, las grandes tecnológicas ya están desarrollando mecanismos basados en la IA que pueden detectar estas manipulaciones.
Qué hacer si soy víctima
Ante un hipotético caso de ser víctima de un deepfake, es fundamental no compartir este tipo de contenidos. Existen canales prioritarios, como la Agencia Española de Protección de Datos, para interrumpir rápidamente su difusión.
Adicionalmente, existen vías legales, tanto penales como civiles, para denunciar este tipo de actuaciones y buscar reparaciones.
Los expertos también enfatizan la importancia de la educación en la digitalización y la conciencia sobre los riesgos asociados al uso de la IA en la generación de contenido falso.
La repercusión psicológica y social de una exposición a deepfakes, especialmente cuando involucra a menores, puede ser devastadora. Por ello, la pedagogía y el apoyo especializado son cruciales para hacer frente a las consecuencias negativas derivadas de esta forma de ciberacoso.
Fuentes: // Infobae Noticias // Imagen de Google // Jimmy Pepinosa //
