Meta acabará con las estafas en Instagram y Facebook con esta tecnología única de reconocimiento facial

Este tipo de ciberataques donde se manipula una foto representa un reto para varias organizaciones. (Imagen Ilustrativa Infobae)

Para identificar los deepfakes o videos falsos de famosos, Meta utilizará su sistema de revisión de anuncios, que analiza millones de publicaciones diarias en las plataformas de la empresa. El proceso se hace de manera automática y analiza factores como el texto, la imagen o el video teniendo en cuenta el aprendizaje automático de la IA con cantantes, deportistas u otros famosos.

“Este esquema es comúnmente llamado “celeb-bait” e infringe nuestras políticas y es perjudicial para las personas que usan nuestros productos”, agregó Bickert.

El celeb-bait inicia cuando los estafadores de diferentes partes del mundo manipulan imágenes y videos de celebridades para incentivar a sus “seguidores” a ir a sitios web fraudulentos, donde son engañados para compartir información confidencial, como contraseñas o datos bancarios que resultan en robos de grandes sumas de dinero.

Los ciberdelincuentes adaptan imágenes reales o hechas perfectamente con inteligencia artificial, crean un perfil falso y logran engañar a los fans. (Foto: Freepik)

Si los sistemas de Meta sospechan que una publicación puede ser una estafa, internamente comparan el material sospechoso con la foto del perfil verficado del famoso, usando una tecnología única con ayuda de reconocimiento facial en Instagram y Facebook.

Según Bickert “si confirmamos que el anuncio es una estafa lo bloquearemos y eliminaremos inmediatamente cualquier dato facial generado por esta comparación, independientemente de si nuestro sistema encuentra o no una coincidencia. Nunca utilizaremos para ningún otro propósito este material”.

Por el momento, este mecanismo está siendo probado en un grupo pequeño de celebridades a nivel mundial excepto en la Unión Europea, por temas de regulación. También, se espera que en las próximas semanas se notifique a más famosos que han sido víctimas de deepfakes para que den su autorización y sean parte de este proyecto.

Si se detecta una irregularidad en el contenido se procederá a bloquearlo. (Foto: REUTERS/Francis Mascarenhas/)

Otra problemática que se presenta en el mundo digital es la suplantación de cuentas de famosos por estafadores, para convencer a sus seguidores de realizar alguna transferencia de dinero.

“Los estafadores pueden decir que una celebridad respaldó una inversión específica o que está pidiendo información personal a cambio de un regalo”, declaró la Vicepresidenta de Políticas de Contenido de Meta.

Los delincuentes imitan cuentas reales para robar información sensible. (Foto: Freepik)

Para evitar esto, la compañía está explorando nuevas formas de identifcar más rápido este tipo de cuentas, pero no se ha pasado a la fase de pruebas.

Con el propósito de solucionar problemas al intentar recuperar una cuenta de Instagram y Facebook, por diferentes razones como el olvido de contraseñas, pérdida del dispositivo o un intento de ciberataque, se está probando el reconocimiento facial por medio de una selfie para reestablecer la cuenta.

“Si creemos que una cuenta ha sido comprometida, pedimos al propietario que verifique su identidad compartiendo un documento de identificación oficial que incluya su nombre” explicó Bickert, al preguntarle qué pasaría si alguien intenta suplantar la selfie del propietario.

Además, Meta confirmó que la selfie de recuperación nunca se verá en el perfil del usuario, sino que se borrará esta y cualquier otro dato generado en este proceso.