Videojuegos

Los investigadores revelan un método simplista pero eficaz para capturar deepfakes

Con el potencial destructivo de los deepfakes aumentando con cada año que pasa, especialmente a medida que el Ciencias Detrás de las técnicas madura, un equipo de científicos ha ideado un método confiable para identificar caras generadas artificialmente mediante el análisis de la forma de la pupila. Los deepfakes se crean utilizando una red generativa de adversarios (GAN) y, a lo largo de los años, la tecnología se ha vuelto tan sofisticada que se ha vuelto cada vez más difícil distinguir el rostro de un ser humano real de uno que se ha creado utilizando un modelo de aprendizaje automático. Aunque existen algunas aplicaciones comerciales de esta tecnología, hay un lado siniestro que es mucho más escalofriante y tiene serias repercusiones.

El potencial de fraude y robo de identidad es extremadamente alto, pero la elaboración de las herramientas reguladoras necesarias y el marco de derechos de autor ya se ha convertido en una pesadilla en torno a una tecnología que emplea una IA para crear contenido. El año pasado, Microsoft lanzó una herramienta llamada Microsoft Video Authenticator diseñada para detectar contenido deepfake en videos. Hace unos meses, Facebook también detalló un sistema avanzado basado en inteligencia artificial que no solo puede detectar deepfakes, sino que también es capaz de rastrear el software generador de deepfake que se utilizó para crear medios manipulados. Sin embargo, la tecnología para detectar deepfakes no siempre está disponible para las masas y no se puede implementar universalmente en todas las plataformas donde los usuarios consumen contenido multimedia.

Relacionado: Cómo funciona realmente la tecnología Deepfake

Aquí es donde la última investigación colaborativa de científicos de la Universidad de Albany, la Universidad de Buffalo y Keya Medical ofrece un rayo de esperanza. Un artículo de investigación titulado “Los ojos lo dicen todo: las formas irregulares de las pupilas revelan caras generadas por GAN” describe un método para detectar caras profundamente falsas mediante el estudio de la forma de la pupila, el centro negro del ojo humano. La premisa clave es que la pupila humana tiene forma redonda, pero en las caras creadas artificialmente, la geometría de la pupila no es uniforme y suele estar distorsionada. Los científicos señalan que la forma irregular de la pupila es común incluso en deepfakes de alta calidad y es fácilmente perceptible incluso a simple vista. Estas irregularidades en la forma de la pupila se denominan artefactos y son causadas por la falta de “restricciones fisiológicas” en los modelos utilizados para crear deepfakes.

Los científicos también crearon un sistema automatizado que alimentó imágenes de mil caras reales y caras artificiales creadas por GAN, cada una para estudiar cómo el marcador descrito anteriormente puede usarse como un método confiable de identificación de falsificaciones profundas. El equipo ideó una métrica llamada puntuación de intersección de límites sobre unión (BIoU) basada en una fórmula para asignar puntuaciones de acuerdo con la forma de la pupila en una imagen. Los rostros humanos reales con una forma de pupila uniformemente elíptica lograron altos puntajes de BIoU cuando pasaron por el modelo de análisis, mientras que los artefactos en las pupilas en una imagen generada artificialmente dieron como resultado un bajo puntaje de BIoU. La investigación menciona que el método es extremadamente efectivo y simplista al mismo tiempo.

Pero aquí hay dos cuestiones. Un obstáculo menor es que algunas enfermedades e infecciones pueden alterar la forma de la pupila, lo que puede provocar que el método falle. Sin embargo, esos son casos raros y no invalidan la Ciencias detrás de ellos. El problema más apremiante es que las partes malintencionadas ahora pueden aprender de los resultados de esta investigación, que ahora es de dominio público, y, en consecuencia, perfeccionar sus sistemas GAN. El resultado es que sus deepfakes ahora serán aún más convincentes con pupilas de forma uniforme para engañar a los espectadores. En un mundo en el que una empresa ya puede crear versiones sintéticas del rostro de una persona real y utilizarlas en anuncios sin consentimiento, las perspectivas de uso indebido por parte de malos actores están limitadas únicamente por la imaginación humana.

Siguiente: Los científicos dan un gran paso hacia la energía ilimitada a través de la fusión nuclear

Fuente: arXiv