Más que alucinaciones de IA, los Deepfakes son una de las amenazas más temidas por todos aquellos que alertan hoy sobre los abusos de los usos de la IA. Y los últimos estudios publicados muestran un gran y rápido aumento de este contenido falso que parece tan real como la vida.
El Foro Económico Mundial, el WEF, estimó el año pasado que el número de DeepFakes y otros contenidos falsificados gracias a la inteligencia artificial había aumentado un 900% en un año. La mayoría de las veces, estos contenidos se generan con fines artísticos o lúdicos en las redes sociales, pero también cada vez más con el fin de manipular opiniones, fines políticos o desinformar.
Deepfakes, de la desinformación al fraude…
Esta semana, otro estudio de Sumsub sobre el fraude en América del Norte revela que el contenido generado por IA ahora también se usa cada vez más para el fraude, ya sea para presentar una identidad falsa o eludir los procesos de verificación de identidad. ‘identificar. ¡Así, la proporción de «DeepFakes» en técnicas de fraude se ha disparado del 0,2% en 2022 al 2,6% en el primer trimestre de 2023 en los EE. UU. (del 0,1% al 4,6% al mismo tiempo en Canadá)! Al mismo tiempo, los impresos falsos, que representaron el 4% del fraude en 2022, desaparecieron del radar a principios de 2023.
« Los deepfakes se han vuelto más fáciles de fabricar y, como resultado, su cantidad se ha multiplicado, como muestran las estadísticas. Para crear un deepfake, un estafador toma un documento de una persona real, le toma una foto y lo convierte en un personaje 3D. Los proveedores de servicios de verificación y fraude que no trabajan continuamente para actualizar las tecnologías de detección de falsificaciones profundas se están quedando atrás y ponen en riesgo tanto a las empresas como a los usuarios. Las tecnologías actualizadas de detección de falsificaciones son una parte esencial de los sistemas modernos y efectivos de verificación y lucha contra el fraude. » alerte Pavel Goldman-Kalaydin, Jefe de AI & ML chez Sumsub.
Diferentes ataques de Deepfakes…
Por su parte, los investigadores de Kaspersky también han investigado este fenómeno y los usos maliciosos de Deepfakes. En un informe, destacan tres patrones principales de uso de deepfakes: fraude financiero, invasión de la privacidad y orientación corporativa.
1- Ingeniería social por Deepfake ha generado fraude financiero, con ciberdelincuentes haciéndose pasar por celebridades para engañar a sus víctimas. Una de esas estafas resultó en un video falsificado de Elon Musk promocionando un plan de inversión en criptomonedas dudoso que se volvió viral, lo que provocó pérdidas financieras para los usuarios engañados.
2- Otra tendencia fuerte primeras falsificaciones profundas porno han surgido recientemente. Como sabemos, TI tiende a dar saltos tecnológicos impulsados por los videojuegos o… el sexo. Como recordatorio, el 50% de las convocatorias de proyectos recibidas por Microsoft tras el anuncio de las Hololens procedían de la industria pornográfica. No es de extrañar, por lo tanto, ver cómo Deepfakes y la pornografía se entrelazan. Kaspersky revela múltiples usos de la IA para «distorsionar» los videos y colocar los rostros de las víctimas que no quieren en situaciones más que explícitas, causando daño y angustia emocional a menudo asociada con la extorsión. Los investigadores revelan que en otros casos, los rostros de celebridades han sido insertados en escenas pornográficas, empañando su reputación y violando sus derechos.
3- Finalmente las empresas también son objeto de deepfakes en intentos de extorsión, chantaje y espionaje industrial. Un caso notorio involucró el robo de $35 millones de un banco en los Emiratos Árabes Unidos a través de un deepfake de voz. Del mismo modo, una reunión de Zoom falsa orquestada por estafadores condujo a un intento de estafa contra la plataforma de criptomonedas Binance.
A pesar del alarmante aumento de las falsificaciones profundas, su creación sigue siendo una operación costosa y compleja, que requiere recursos sustanciales y un gran volumen de datos sobre el objetivo. Esta barrera tecnológica y financiera actualmente limita el acceso a esta forma de ciberdelito a una minoría de delincuentes. Pero con más y más modelos inteligentes disponibles en modo SaaS y especialmente con la proliferación de modelos de IA de código abierto -ejecutables en una simple computadora portátil-, estas tecnologías comienzan a popularizarse, y el fenómeno Deepfakes no está por terminar. detener. Y no son las regulaciones internacionales que piden los políticos, las organizaciones cívicas y los jefes de las empresas tecnológicas las que cambiarán mucho: por definición, los ciberdelincuentes no tienen nada que ver con Leyes y Reglamentos…
Las posibles consecuencias de los ataques deepfake para empresas y particulares son aún más graves y preocupantes. Hoy van desde el robo de datos hasta la difamación, la extorsión y la manipulación de la opinión pública.
« De todos los riesgos que Deepfakes puede representar para las empresas, el robo de datos no es necesariamente el más grave. A veces, el daño a la reputación puede tener consecuencias mucho más graves. Imagine que se publica un video en el que su jefe (aparentemente) hace declaraciones polarizadoras sobre temas delicados. Para las empresas, esto puede hacer que los precios de las acciones caigan rápidamente. Sin embargo, aunque los riesgos asociados con este tipo de amenazas son extremadamente altos, la probabilidad de que te ataquen de esta manera sigue siendo extremadamente baja debido al costo de crear deepfakes y al hecho de que pocos atacantes son capaces de crear un deepfake. Alta calidad comentó Dmitry Anikin, experto sénior en seguridad de Kaspersky. » Lo que puedes hacer hoy es aprender las características principales de los deepfakes y mantener una actitud escéptica sobre los mensajes de voz y los videos que recibes. También asegúrese de que sus empleados comprendan qué es un deepfake y cómo pueden reconocerlo: observando, por ejemplo, movimientos bruscos, cambios en el tono de la piel, parpadeos extraños o ningún parpadeo, etc. »
Kaspersky Labs recuerda haber creado el servicio Inteligencia de huella digital para monitorear estas amenazas y su propagación en la web.
Lea también:
La Unión Europea (UE) quiere luchar ferozmente contra los deepfakes
Un Quiz para descubrir tu habilidad para detectar DeepFakes
Fraude de identidad: cuando lo digital facilita la verificación y aumenta los riesgos
Lucha contra el fraude: ¡la IA aún no es una realidad!
[
