Meta, la empresa matriz de Facebook e Instagram, ha eliminado más de 9,000 páginas de estafa en respuesta a numerosos informes sobre pérdidas millonarias sufridas por australianos debido al uso de deepfakes de celebridades. Entre enero y agosto de 2024, los australianos reportaron pérdidas de $43.4 millones a Scamwatch, de los cuales aproximadamente $30 millones estaban relacionados con estafas de inversión falsas.
‍

Meta ha estado bajo presión por parte de políticos y reguladores para abordar el creciente problema de las estafas que utilizan imágenes deepfake de figuras públicas como David Koch, Gina Rinehart, Anthony Albanese y Guy Sebastian. En respuesta, la compañía lanzó en abril el programa Fraud Intelligence Reciprocal Exchange (Fire), en colaboración con el Australian Financial Crimes Exchange (AFCX). Este programa permite a siete bancos (ANZ, Bendigo Bank, CBA, HSBC, Macquarie, NAB y Westpac) reportar estafas directamente a Meta.
‍

Desde el inicio del programa, se han realizado 102 reportes, lo que ha llevado a la eliminación de más de 9,000 páginas de estafa y 8,000 estafas de inversión generadas por inteligencia artificial en Facebook e Instagram. Sin embargo, el número de reportes sigue siendo bajo en comparación con las 1,600 pérdidas reportadas solo en agosto de 2024.
‍

A nivel global, Meta eliminó 1.2 mil millones de cuentas falsas en el último trimestre, con un 99.7% de estas eliminaciones efectuadas antes de ser reportadas por usuarios. David Agranovich, director de global threat disruption en Meta, destacó la importancia de estos avances afirmando: "Esto nos permitirá identificar mejor la actividad de estafa que ocurre fuera de nuestras plataformas".
‍

Paralelamente, el gobierno australiano está estudiando la implementación de una nueva legislación para establecer un marco de prevención de estafas. Este marco incluiría códigos para bancos, empresas de telecomunicaciones y redes sociales para abordar las estafas y establecer procesos de resolución de disputas para las víctimas. La consulta sobre esta legislación finalizará el 4 de octubre de 2024.
‍

La acción de Meta y las medidas propuestas por el gobierno australiano reflejan un esfuerzo creciente por parte de diversas instituciones para combatir las estafas en línea, que afectan gravemente la economía y la confianza de los usuarios en las plataformas digitales. La detección de deepfakes se ha vuelto un desafío tan significativo que empresas tecnológicas y académicas alrededor del mundo están desarrollando herramientas avanzadas de inteligencia artificial exclusivamente para este propósito.