Al usar rostros falsos, generados por inteligencia artificial de personas que no existen, los trolls y acosadores en la web pueden evitar ser denunciados. La tecnología que permite esto se ha desarrollado rápidamente en los últimos años y permite a las personas crear videos e imágenes falsas realistas, a menudo denominadas "deepfakes". Si bien los videos profundos han captado más atención en los últimos meses, el uso de caras falsas también ayuda a dar credibilidad a las campañas de acoso en línea, así como a las campañas de información coordinadas.
Los trolls en la web a veces ejecutan docenas o cientos de cuentas al mismo tiempo y las usan para inundar las redes sociales de sus objetivos con mensajes de odio y acoso. Esto generalmente se hace bajo una capa de anonimato. Envían tweets o mensajes amenazantes de cualquier red social desde cuentas con fotos de perfil de personas que no existen.
Aunque puedan parecer muy sofisticadas, las imágenes falsas generadas con inteligencia artificial no son tan difíciles de acceder en línea. El año pasado, Phil Wang, un ex ingeniero de software en Uber, creó un sitio web llamado "Esta persona no existe". Cada vez que se visita el sitio, se ve una nueva cara, que en la mayoría de los casos parece una persona real. Sin embargo, las caras se crean con inteligencia artificial.
Las compañías en línea están tratando de combatir los "deepfakes". En diciembre, Facebook dijo que había retirado cuentas usando caras generadas por inteligencia artificial en un intento de jugar con los sistemas de la compañía.
0 Comentarios