¿Qué es un deepfake? ¿Se puede usar en estafas?
Los avances en tecnología, así como la capacidad de cálculo de nuestros ordenadores, nos permiten avanzar en las empresas y en nuestro día a día. Pero la innovación también tiene un lado más oscuro cuando se utiliza de forma fraudulenta para engañar al usuario. Hoy vamos a explicar qué es el deepfakey descubrir cómo se utiliza para realizar estafas o para obtener datos de empresas para futuras acciones delictivas, como ocurre en el caso de phishing.
Índice:
- Qué es el deepfake
- Peligros del deepfake
- Usos frecuentes del deepfake en estafas
- ¿Cómo identificar un deepfake?
- Qué hacer si sospechamos que nos están atacando con un deepfake
Qué es el deepfake
El deepfake es una técnica de inteligencia artificial que permite editar vídeos y audios falsos de personas para aparentar que son reales. A través de la manipulación del material audiovisual se hace creer al usuario que lo que está viendo o escuchando es cierto, cuando realmente es una imitación creada digitalmente.
El término deepfake hace alusión a los términos ingleses deep learning -aprendizaje profundo- y fake -falso-. Para desarrollar esta ficción, y lograr que parezca auténtica, los estafadores utilizan lo que se conoce como redes generativas antagónicas (RGAs), que son una clase de algoritmo que pueden crear nuevos tipos de datos a partir de otros conjuntos que ya existen.
Para la creación de estos vídeos o audios manipulados se necesita disponer de grabaciones de voz o vídeos en los que aparezca la persona a la que se quiere suplantar. Con ese material, la inteligencia artificial es capaz de construir una conversación nueva para que diga lo que los ciberdelincuentes quieren. Con el vídeo la estructura es similar aunque el proceso es tecnológicamente más complejo.
Peligros del deepfake
Por la complejidad del diseño de la estafa no se considera una amenaza que permita lanzar ataques generalizados contra el tejido empresarial. El esfuerzo tecnológico que requiere, el tiempo que hay que dedicar y la necesidad de dirigir el objetivo a una persona concreta, aquella a la que suplantamos la identidad, hacen que sean las grandes compañías las que, sobre todo, puedan sufrirlo.
Se trata de una tecnología que en las estafas empresariales principalmente intenta suplantar a altos directivos, aquellos que con una orden pueden mover grandes cantidades de dinero, lo que hace rentable el ataque realizado. No son muy abundantes, pero ya existe constancia de este tipo de ataques a compañías.
El objetivo es que, con una llamada telefónica, el deepfake de audio es más probable, la suplantación de la identidad de este directivo haga que la persona que está al otro lado del teléfono acabe por realizar lo que se le pide sin mayores comprobaciones. Por lo general el modus operandi siempre es similar. Ha surgido un problema y es necesario realizar una transferencia de dinero importante a la mayor brevedad. Pero también para conseguir datos bancarios de la compañía. Es una técnica un poco más compleja que el vishing, ya bastante utilizada para obtener datos e información de las empresas.
La estafa también se puede ejecutar a través de un vídeo, una videoconferencia o similar. El objetivo es el mismo, aunque con mayor complejidad tecnológica. Además, requiere tener una elevada cantidad de imágenes de la persona a la que se va a suplantar, algo que no siempre está al alcance de la mano.
Por otra parte, esta tecnología también se puede utilizar para generar fake news -noticias falsas-, lo cual puede suponer un importante riesgo reputacional para las compañías. En este sentido, será de gran ayuda diseñar previamente una estrategia de comunicación que permita reaccionar de forma eficaz ante potenciales campañas de desprestigio que pueda sufrir la empresa. De este modo, podremos ofrecer una respuesta adecuada en el menor tiempo posible para así reducir (o evitar) los daños que la publicación pueda ocasionar.
Usos frecuentes del deepfake en estafas
El uso fraudulento de inteligencia artificial avanzada permite la comisión de todo tipo de estafas cibernéticas. Las cada vez mayores posibilidades del software hacen posible simular la voz y el aspecto de una persona de forma tan exacta que el engaño se hace casi imperceptible.
Deepfake de audio
También llamados deepvoices, consiste en el empleo de una inteligencia artificial para imitar la voz de una persona concreta. Este truco abre la puerta a todo tipo de timos: desde suplantar a un directivo para dar falsas órdenes de pago hasta fingir que un familiar está en apuros para que la víctima ingrese dinero a los ciberdelincuentes.
Deepfake de video
No hace mucho que los montajes videográficos deepfake causaban asombro en Internet: se mostraban secuencias de películas en las que la cara del actor protagonista había sido sustituida por la de otro intérprete, de forma tan realista que conseguía embaucar al ojo humano. Si bien estos metrajes alterados se hacían con un propósito meramente lúdico, el uso fraudulento de esta tecnología supone un enorme riesgo social y financiero.
Creación de fake news a través de deepfake
Las fake news, o noticias falsas en castellano, son una de las maneras más dañinas de instrumentalizar el uso delictivo de esta tecnología. Discursos de líderes mundiales, paneles de expertos, entrevistas… Prácticamente cualquier material audiovisual es susceptible de ser manipulado para generar información falsa, al servicio de intereses ilegítimos. Esta práctica no sólo acarrea un perjuicio enorme, en ocasiones irreparable, a la reputación de los implicados, sino que también produce indefensión en la audiencia, que ve amenazado su derecho a una información veraz y confiable.
¿Cómo identificar un deepfake?
Detectar si un audio o un vídeo son un deepfake es posible si conocemos su funcionamiento y estamos atentos a determinadas señales. Hay ciertas cuestiones que nos pueden llevar a sospechar, como que se siga un determinado patrón en la expresión facial, que se repitan determinados tics o que el cuerpo y la cara no sigan exactamente los mismos movimientos. Si estamos en una conversación telefónica, que se haya caído en alguna incoherencia o no se responda exactamente a lo que preguntamos.
En un vídeo es algo más sencillo porque podemos ver movimientos poco naturales, pequeños fallos de sincronización entre audio e imagen, fotogramas o sombras algo distorsionadas, etc. De hecho, la mala conexión es muchas veces la coartada de los ciberdelicuentes para tratar de hacer parecer real aquello que no lo es.
Si se analizan a nivel tecnológico el vídeo o el audio, rápidamente se puede comprobar que no se trata de una grabación continua, sino que la conversación, por ejemplo, está formada por palabras unidas para crear un discurso ficticio. El problema es que para todo esto se necesita tiempo y, precisamente, eso es lo que tratan de evitar los ciberdelincuentes.
Detectar una estafa de deepfake de audio
Los deepfakes son un producto de la revolución tecnológica, y es precisamente la tecnología la mejor arma para combatirlos.
Las estafas deepfake de audio se basan en un modelo de deep learning que utiliza como molde la voz de la persona suplantada. La inteligencia artificial toma una muestra real y aprende a imitar sus características -dicción, tono, timbre, etc-. A continuación genera una nueva grabación sobre los patrones analizados: una imitación casi exacta de la voz del original.
Los modelos digitales de aprendizaje actualmente ya dan resultados muy buenos, capaces de engañar al cerebro. El mejor método para combatir esta utilización inescrupulosa de la inteligencia artificial es usar un dispositivo de biometría de voz, capaz de analizar en profundidad dos audios y detectar los matices únicos de la huella vocal que se escapan al oído humano, a fin de desenmascarar el engaño.
Detectar deepfake de video
Pese a que los deepfakes realizados sobre vídeo también han llegado a alcanzar niveles sorprendentes de verosimilitud, las inconsistencias son más perceptibles a simple vista. Este tipo de montajes se basan frecuentemente en digitalizaciones de rostros humanos, por lo que los fallos gráficos y las incoherencias fisiológicas son clave para detectar un fraude.
Estamos hablando de cosas como el movimiento de los párpados (las personas reales tienden a parpadear mucho más que una imagen generada artificialmente), desincronización entre el movimiento de los labios y el habla, inexactitud en las proporciones del cuerpo y el rostro, texturas desenfocadas en áreas como la boca, los dientes o la lengua, etcétera.
Qué hacer si sospechamos que nos están atacando con un deepfake
Hoy por hoy tendríamos que sospechar de por sí de cualquier petición inusual que requiera un envío o una transferencia de dinero importante. Sobre todo si es urgente. En estos casos la mejor medida es devolver la llamada a la persona, utilizando el contacto habitual que tengamos guardado, para comprobar la veracidad de la petición. Podemos utilizar cualquier excusa cortar la llamada y realizar la comprobación, o incluso colgar directamente.
Es aquí donde, en el caso de una suplantación de identidad, se va a acabar por descubrir que estamos sufriendo un ataque de deepfake. También es interesante introducir en la conversación algún dato que nosotros sepamos que solo conoce el directivo o la persona que nos está pidiendo realizar la transferencia.
Por último, una medida muy eficaz contra este tipo de estafas, que es ya utilizada por muchas empresas, es implantar como política empresarial una doble verificación para realizar este tipo de transacciones, de manera que se necesite la aprobación de dos personas para hacer una transferencia a partir de una determinada cantidad.
Al margen de estos consejos que se aplican al deepfake, si hablamos de ciberseguridad se recomienda intentar mantenerse actualizado de las noticias que afectan al sector cibernético, así como realizar periódicamente pequeños test que permitan comprobar que no existen brechas que faciliten la entrada de los ciberdelincuentes en nuestra infraestructura digital.
