En un mundo donde la inteligencia artificial avanza a pasos agigantados, la proliferación de contenido falso se ha convertido en un desafío significativo. Según la plataforma de verificación de identidad Sumsub, se ha registrado un aumento de cuatro veces en la cantidad de deepfakes a nivel mundial. En 2024, estos videos falsos representaron el 7% de todos los fraudes, abarcando desde suplantaciones de identidad hasta sofisticadas campañas de ingeniería social.
La respuesta de Meta a la crisis de deepfakes
Con la intención de contribuir de manera efectiva a la lucha contra este fenómeno, Meta ha anunciado el lanzamiento de una nueva herramienta llamada Meta Video Seal. Esta herramienta permite aplicar marcas de agua imperceptibles a los clips de video generados por inteligencia artificial. Disponible como código abierto, se puede integrar fácilmente en software existente, lo que la convierte en una opción accesible para desarrolladores y empresas.
Características y ventajas de Meta Video Seal
Pierre Fernandez, científico investigador de IA en Meta, explicó que esta herramienta fue diseñada para ofrecer una solución más efectiva en la detección de videos generados por IA y para proteger la originalidad de los contenidos. A diferencia de otras tecnologías de marcas de agua, como SynthID de DeepMind, Video Seal promete una mayor resistencia a la compresión de video, un problema común al compartir contenido en plataformas sociales.
Además de las marcas de agua, Video Seal puede incluir un mensaje oculto en los videos, que puede ser recuperado posteriormente para determinar su origen. Meta asegura que esta herramienta es resistente a ediciones comunes, como el desenfoque y el recorte, así como a algoritmos de compresión populares.
Desafíos y futuro de la herramienta
A pesar de sus innovaciones, Video Seal enfrenta desafíos significativos. Uno de los principales obstáculos es la adopción por parte de desarrolladores e industrias que ya utilizan soluciones propietarias. Para fomentar su uso, Meta ha lanzado un ranking público, Meta Omni Seal Bench, que compara el rendimiento de diferentes métodos de marcas de agua y organiza talleres sobre este tema en conferencias importantes de IA.
Fernandez expresó su esperanza de que más investigadores y desarrolladores de IA integren algún tipo de marcas de agua en su trabajo, buscando colaborar con la comunidad académica e industrial para avanzar más rápidamente en este campo.
