¿Qué sucede cuando la tecnología deepfake cae en manos equivocadas?
Por Daniel Mazzucchelli, director de Expansión de Sumsub en Latinoamérica.
Una mujer recibió un enlace por correo electrónico y al abrirlo, vio un video pornográfico que parecía real y llevaba su nombre, aunque no era ella, sino un deepfake. El video incluía descripciones detalladas sobre su vida personal, como su nombre, su mejor amigo de la infancia y, para su horror, incluso su dirección de casa. En otro caso, dos abuelos recibieron una llamada de quien creyeron era su nieto, pidiendo dinero para una fianza, diciendo que estaba en la cárcel sin billetera ni teléfono. La abuela, de 73 años, retiró todo el dinero que pudo, pero luego descubrió que se trataba de un fraude deepfake.
Estos casos no son raros; son una muestra de cómo el fraude digital está afectando nuestras vidas de formas cada vez más personales y sofisticadas, convirtiéndose en una verdadera pesadilla de Halloween. El fraude deepfake puede causar depresión, ansiedad, pérdidas financieras y ciberacoso, y han aumentado en los últimos años debido a herramientas como Midjourney y filtros de IA en TikTok. Aunque existen métodos para detectarlos, como la Detección de Usuarios Reales, su efectividad es limitada.
Deepfake AI, cada vez más utilizado en diversos sectores
Los deepfakes, videos y audios creados con inteligencia artificial que imitan de manera sorprendentemente realista a personas, han capturado la atención mundial por sus implicaciones éticas y de seguridad. Lo que comenzó como una innovación tecnológica fascinante ha evolucionado a una herramienta capaz de engañar y manipular. En Sumsub, hemos explorado los casos más comunes de uso de los deepfakes y cómo han impactado diferentes aspectos de nuestra vida cotidiana.
1. Pornografía deepfake
Durante años, la IA ha sido utilizada sistemáticamente para abusar y acosar a mujeres. Los algoritmos de machine learning ahora pueden insertar imágenes de mujeres en videos pornográficos sin su permiso, y hoy en día, la pornografía deepfake es endémica.
De acuerdo con un investigador anónimo de pornografía deepfake no consensuada, quien compartió su análisis con una revista estadounidense, detallando la expansión de estos videos; en 2023, se subieron 113,000 videos de pornografía deepfake a las fuentes en internet mostradas en los motores de búsqueda, lo que representa un aumento del 54%, en comparación con los 73,000 videos subidos en todo 2022. Se pronostica que, para finales de 2023, el número total de videos deepfake fue mayor que el de todos los años anteriores combinados.
La propagación de la pornografía deepfake fue agravada por la distribución a través de plataformas ampliamente disponibles como Google, Cloudflare y Twitch, y sus consecuencias para las víctimas son graves, incluyendo depresión, autoagresiones y suicidio.
2. Guerra informativa y propaganda
Los deepfakes se utilizan para manipular la opinión pública y difundir desinformación, creando contenido falso que parece real. Esto se hace a menudo en momentos críticos, como elecciones o conflictos armados, con el objetivo de polarizar comunidades y dañar la reputación de figuras públicas, medios o naciones enteras. Aunque más tarde se demuestre que el contenido es un fraude de deepfake, el daño a menudo es irreversible y las reputaciones afectadas son difíciles de restaurar.
3. Estafas románticas
Los deepfakes también se están utilizando en estafas románticas para crear identidades falsas y engañar a las víctimas, ganando su confianza para obtener dinero o información personal. Los estafadores, expertos en manipulación, emplean esta tecnología para aparentar ser personas atractivas en busca de romance. Un caso reciente involucró a una mujer de Utah, en Estados Unidos, que fue condenada por una estafa que costó a sus víctimas más de 6 millones de dólares. Sin duda, esto nos advierte de la importancia de ser escéptico cuando personas desconocidas se acercan en línea.
4. Deepfakes de voz
Las aplicaciones de IA pueden recrear voces únicas analizando características como edad, género y acento, lo que permite a los estafadores usar un deepfake de voz para suplantar a familiares, colegas o figuras públicas.
De acuerdo con la firma de seguridad Pindrop, la mayor parte del fraude digital de deepfake de voz se dirige a centros de llamadas de tarjetas de crédito y a CEOs, quienes pueden ser engañados para realizar transacciones financieras importantes.
5. Publicidad y cine
Los deepfakes se usan cada vez más en publicidad y cine para recrear versiones jóvenes de actores o revivir a actores fallecidos en pantalla, y en publicidad para insertar caras de celebridades en modelos y promover productos. No obstante, el uso sin consentimiento puede perjudicar las carreras de los actores suplantados y dañar la credibilidad de las industrias del entretenimiento y la publicidad.
Cómo detectar el fraude deepfake: claves para protegerse de la manipulación digital
¿Cómo podemos detectar deepfakes y asegurarnos de que nuestras fotos no sean utilizadas por estafadores? Aunque no se puede eliminar por completo el riesgo de abuso de deepfakes, en Sumsub recomendamos tomar medidas preventivas, tales como:
- Ser escéptico ante acercamientos inesperados de personas “atractivas” o “famosas” en línea.
- Verificar llamadas o mensajes de video de familiares pidiendo dinero o información sensible usando otros medios.
- Examinar las imágenes detalladamente para detectar inconsistencias, como iluminación incorrecta, distorsiones o fondos antinaturales, y observar la falta de parpadeos o movimientos de respiración en videos.
- Limitar el compartir fotos personales en línea y ajusta la configuración de privacidad.
- Evitar compartir fotos de alta resolución y sin editar.
- Leer los términos de las aplicaciones de IA para asegurarte de que no usarán tus fotos después de usarlas.
- Contactar a las autoridades locales si tus fotos o videos son robados o usados inapropiadamente.
En un mundo donde la tecnología avanza rápidamente, los fraudes deepfake se han convertido en una amenaza real que puede transformar la vida de cualquiera en una auténtica pesadilla, digna de una noche de Halloween. Sin embargo, estar informados y tomar medidas de protección, como verificar fuentes, no compartir información personal y utilizar herramientas que detecten falsificaciones, puede ayudarnos a evitar caer en estas trampas digitales. Al fin y al cabo, con la preparación adecuada, podemos asegurarnos de que la próxima historia de terror no sea la nuestra.
###
Acerca de Sumsub
Sumsub es una plataforma de verificación de ciclo completo que asegura todo el viaje del usuario. Con las soluciones personalizables de KYC, KYB, Monitoreo de Transacciones y Prevención del Fraude de Sumsub, puede orquestar su proceso de verificación, dar la bienvenida a más clientes en todo el mundo, cumplir con los requisitos de conformidad, reducir costos y proteger su negocio.
Sumsub cuenta con más de 2,000 clientes en los sectores de fintech, criptomonedas, transporte, comercio, comercio electrónico y juegos, incluyendo Binance, Wirex, Avis, Bybit, Huobi, Unlimit, Kaizen Gaming y TransferGo.
