IA falsa y profunda: todo lo que necesitas saber

Si no conoces la IA, debes estar viviendo bajo una roca porque ¡la inteligencia artificial ha conquistado el mundo! La IA se está desarrollando a la velocidad de la luz, y la última tecnología innovadora de aprendizaje profundo que está llamando la atención (literalmente) es IA falsa y profunda.

La IA se puede utilizar tanto para bien como para mal, pero ¿cómo ha impactado el deep fake al mundo virtual? ¿Cuál es el núcleo de esta tecnología y cómo esta forma avanzada de IA altera la realidad?

Continúe leyendo para aprender todo sobre esta tecnología de punta y sus implicaciones.

¿Qué es AI Deep Fake?

¿Has visto alguna vez una película en la que se intercambia la cara de un actor por la de otra persona? Esto es precisamente lo que hace la IA falsa y profunda. Es una forma de inteligencia artificial que utiliza algoritmos de aprendizaje profundo para resolver problemas utilizando grandes conjuntos de datos. ¡Incluso el nombre "deep fake" se deriva de la combinación del aprendizaje profundo y los resultados falsos que crea!

El deep fake se utiliza para intercambiar caras, cuerpos y voces, creando vídeos y audios convincentes pero falsos. De hecho, Gartner, una firma líder en investigación tecnológica, predice que para 2026, el 30% de todas las empresas considerarán inútiles la identificación y verificación debido al aumento de los deepfakes de IA.

La IA profundamente falsa se utiliza a menudo para cambiar vídeos y audio para decir o hacer cosas que la gente no ha hecho o dicho. Sin embargo, también se puede utilizar para crear contenido original.

¿Cómo funciona la IA profunda?

Entonces, ¿cómo funciona esta fascinante tecnología? A menudo llamado la 'IA que engaña', el contenido profundamente falso se crea cuando se utilizan juntos dos algoritmos complejos que compiten. Esto crea la **Red Generativa Adversaria (GAN).

Los dos algoritmos en competencia son:

• Generador: El generador actúa primero creando un conjunto de datos de entrenamiento, que crea el primer conjunto de contenido falso. Luego se lo pasa al discriminador.
• Discriminador: El discriminador identifica qué tan realistas o falsos se ven los datos creados. Luego pasa esta información al generador, que puede refinar la salida para que parezca más realista.

Estos dos algoritmos se combinan para formar GAN, que utiliza el aprendizaje profundo para estudiar e identificar diferentes patrones en imágenes para crear falsificaciones refinadas.

Al crear imágenes falsas, el sistema GAN ve la imagen desde diferentes ángulos para ensamblar falsificaciones perfectas.

Al crear videos profundamente falsos, GAN estudia el video, los movimientos y los patrones de comportamiento desde diferentes ángulos para crear un video falso.

Vídeo profundamente falso

Los vídeos deep fake pueden ser de dos tipos:

Fuente del vídeo Falsificaciones profundas

En este método, un autocodificador analiza las expresiones faciales, los gestos, los movimientos y los patrones del objetivo a partir de un vídeo original. Luego, el codificador automático impone las expresiones y movimientos específicos del objetivo en el video que se va a modificar.

Cambio de cara

Otra forma en que se crean videos deep fake es utilizando la técnica de intercambio de caras, donde la cara del objetivo se intercambia con el cuerpo de otra persona, obligándolo a hacer o decir cosas que en realidad no dijeron.

Voz de IA profundamente falsa

Las falsificaciones de audio se están volviendo muy comunes y se utiliza Procesamiento del lenguaje natural para crearlas. Los algoritmos de PNL clonan la voz objetivo identificando patrones y características sobresalientes.

Luego, estos patrones se utilizan para clonar la voz y los programadores pueden hacer que diga lo que quieran. Los patrones se identifican utilizando muestras de la voz objetivo. Cuantas más muestras se utilicen para crear el clon, más preciso será el audio falso. Todo el proceso se llama clonación de voz.

Las falsificaciones de audio se utilizan en el nicho de los juegos, la industria de la radio y para fines de streaming.

Sincronización de labios

La sincronización de labios es una de las formas más comunes de utilizar falsos profundos. Utiliza grabaciones de voz junto con imágenes para dar la impresión de hablar. Puede ser muy engañoso, especialmente si el audio también es muy falso.

Tecnología utilizada para desarrollar IA profunda

Cada vez es más fácil para el hombre común utilizar la última tecnología para desarrollar deepfakes de vídeo, audio y fotografías. Echemos un vistazo a las diversas plataformas en línea y la tecnología necesarias para realizar falsificaciones profundas:

GAN

Como se mencionó anteriormente, GAN combina dos algoritmos únicos para crear falsificaciones profundas. La GAN es crucial para las IA deepfake y se utiliza en cada deepfake creado.

Redes neuronales convolucionales o CNN

Las CNN se utilizan para el reconocimiento facial y para analizar diversos patrones de movimiento.

Codificadores automáticos

Los codificadores automáticos identifican las características específicas del objetivo, como un patrón de comportamiento, un movimiento específico o expresiones faciales. Luego los fusionan en el video profundamente falso.

Procesamiento del lenguaje natural

Como se mencionó anteriormente, los PNL identifican los atributos del discurso del objetivo y los utilizan para crear texto original.

Computación de alto rendimiento

La informática de alto rendimiento, o HCP, se refiere a las supercomputadoras que ejecutan algoritmos de inteligencia artificial necesarios para crear falsificaciones profundas.

Usos de la IA profundamente falsa

La IA profundamente falsa se ha hecho un hueco en el mundo digital que avanza rápidamente. A continuación se detallan algunos campos en los que se utilizan deepfakes:

Industria del entretenimiento

La IA ha dejado una huella imborrable en la industria del entretenimiento. Se utiliza ampliamente para clonar actores y sus voces, para producir escenas que son difíciles de filmar durante la posproducción si un actor no está disponible o simplemente para ahorrar tiempo de producción.

También se utiliza en la industria musical para crear música nueva con las voces de cantantes existentes. Ha habido varios deepfakes de actores famosos como Morgan Freeman, Tom Cruise e incluso la cantante Taylor Swift.

Uno de esos vídeos del actor Morgan Freeman en YouTube parece casi real. Ha obtenido millones de visitas.

Servicios de respuesta al cliente

Varias empresas utilizan IA de audio para crear voces para tareas sencillas relacionadas con el servicio al cliente, la gestión de cuentas, la resolución de problemas y la presentación de quejas para bancos y otras empresas.

Las falsificaciones de audio se utilizan ampliamente en la industria de atención al cliente para ayudar a responder preguntas, solucionar problemas y aumentar la satisfacción y retención del cliente.

También puede ayudar a aumentar los clientes comunicándose en diferentes idiomas. Por ejemplo, Synthesia, la aplicación de entrenamiento de teclado de piano en Play Store está disponible en más de 40 idiomas diferentes.

Fraude y chantaje

Un uso desafortunado de la IA profundamente falsa es el chantaje. A menudo se utiliza para difamar y acusar falsamente al objetivo de extorsión. El ejemplo más común es cuando se pone al objetivo en situaciones explícitas e inapropiadas.

Algunos ejemplos destacados de chantaje mediante deepfake:

• El presidente ucraniano Volodymyr Zelensky fue víctima de deep fakes cuando circuló un vídeo en el que pedía a sus tropas que se rindieran a Rusia.
• Para influir en las elecciones estadounidenses, el presidente Joe Biden fue víctima de deepfakes en los que mostraba pérdida cognitiva.
• El fundador y propietario de Facebook, Mark Zuckerberg, fue víctima de los deepfakes cuando un vídeo lo mostró burlándose de los usuarios de Facebook y proclamando que él era su "dueño".

También se han utilizado deepfakes para cometer robo de identidad y fraude bancario.

Suplantación

Desafortunadamente, la IA profundamente falsa también se ha utilizado para la suplantación. Se han cometido varias estafas y delitos utilizando esta tecnología cuando personas se han hecho pasar por otra persona y les han robado grandes sumas de dinero.

Un ejemplo reciente de este tipo de fraude es el de una empresa multinacional de Hong Kong que reclamó una pérdida de 25 millones de dólares. Sucedió debido a un video muy falso que se hacía pasar por el director financiero de la compañía a través de una videoconferencia. El vídeo engañó a los empleados para que transfirieran dinero a la cuenta bancaria del estafador.

Evidencia falsa en el tribunal de justicia

También se sabe que muchas personas con mentalidad criminal utilizan deepfakes para crear pruebas falsas y presentarlas en los tribunales.

Por ejemplo, la IA profunda se puede utilizar para estudiar y clonar las expresiones faciales y las acciones de un delincuente. Luego, puede fabricar una coartada y crear vídeos falsos, mostrándolos presentes en otro lugar, lejos de la escena del crimen.

Difusión de información falsa o desinformación

Muchas veces, se pueden crear falsificaciones de políticos u otro personal confiable, que se utilizan para difundir desinformación entre el público. Esto conduce a la difusión de noticias falsas que son una forma de engañar al público.

Por ejemplo, una imagen del Pentágono apareció en las redes sociales a principios de 2023 y mostraba que se había producido una explosión cerca de el edificio. Esta era una imagen hecha con IA y era falsa. Provoca una caída del mercado de valores debido a la difusión de noticias falsas.

Difamación

La difamación es otra forma de difundir información falsa sobre alguien, ya sea escrita o verbal. La IA profundamente falsa se ha utilizado descuidadamente a este respecto.

Un ejemplo reciente de este fraude involucró a la destacada periodista inglesa Martine Lewis, quien presentó una demanda contra Facebook por promover anuncios en línea con su nombre para inversiones relacionadas con bitcoins que nunca respaldó. Aunque un tercero publicó estos anuncios, Facebook tuvo que pagar para resolver la disputa.

¿Puede la IA profundamente falsa resultar peligrosa?

Aunque la IA ultrafalsa es legal, aún puede representar una grave amenaza para la sociedad. Los deepfakes sólo son ilegales si infringen leyes como la difamación, la pornografía infantil o el discurso de odio. Entonces, mientras se pisa la delgada línea entre lo legal y lo ilegal, ¿cómo causan daño los deepfakes?

• Difamación y chantaje.
• Difusión de desinformación y noticias falsas.
• Incitar al público y causar daño.
• Manipulación del mercado de valores para disminuir los precios de las acciones.
• Crear pruebas de audio y vídeo falsas para engañar a la ley.
• Fraude que implica robo de identidad y apropiación de cuentas bancarias.

En general, los deepfakes no son del todo malos, pero sus malos usos son preocupantes. Y en esta etapa, los malos usos superan a los buenos, por lo que debemos tener cuidado al evaluar información tan falsa.

Casos de uso positivos de Deep Fake

Echemos un vistazo a cómo se utiliza el deep fake para mejorar varios sectores de la vida:

• Devolver la vida a los personajes en las películas para aumentar el interés de la audiencia.
• Uso de sincronización de labios para traducir automáticamente documentales educativos o ingeniosos a varios idiomas.
• Ayudar a los profesores a impartir lecciones más atractivas, ya que puede dar vida a personajes históricos en el aula.
• Crear presentadores o reporteros de noticias falsos para una mejor participación de la audiencia.
• Creación de deep fakes de celebridades (con su permiso) para crear conciencia sobre enfermedades o pandemias en diferentes idiomas.

Detección de deepfake mediante IA

Entonces, dado que las falsificaciones profundas son tan frecuentes en línea, ¿cómo puede protegerse para no convertirse en una víctima? Hay varias prácticas que puedes adoptar para detectar la IA; aquí están algunos de ellos:

• Cuando acercas o amplías un vídeo muy falso, es posible que puedas descifrar la mala sincronización de labios o los gestos inconsistentes de las personas involucradas.
• Los movimientos en los videos parecerán incómodos y desalineados.
• Las imágenes profundamente falsas contendrán colores desiguales, posiciones corporales y posturas incómodas.
• El audio será inconsistente, con pausas en lugares aleatorios y ruido de fondo.
• En videos deep fake, las personas involucradas no parpadearán.

Entonces, ¿puede la IA detectar deepfakes? La popularidad y el aumento de las falsificaciones profundas han empujado a varias empresas tecnológicas multinacionales a invertir en tecnología y herramientas que puedan detectar la IA.

Isgen está a la vanguardia en la promoción del uso seguro de la IA. Actualmente estamos trabajando en el desarrollo de tecnología para identificar audio y deep fake. Será un gran hito para garantizar el uso ético de la tecnología deep fake.

Resumiendo

¿Nos dirigimos hacia una pandemia en línea? El uso de IA profundamente falsa de manera fraudulenta con fines de chantaje o robo de identidad está aumentando. En las manos equivocadas, cualquier tecnología puede utilizarse para dañar a las personas y a la sociedad en general. Deep Fake es un excelente ejemplo de dicha tecnología.

Debemos asegurarnos de que el público sea consciente del daño que la IA puede causar y de que se desarrollen herramientas baratas de detección de IA para combatir a las personas que la usan de manera negativa. Muchas empresas tecnológicas líderes están trabajando en el desarrollo de herramientas avanzadas para combatir la IA. Pero por ahora, parece que los humanos pueden estar perdiendo la batalla ante la IA.