Noticias
Kaspersky reveló que ha crecido la demanda de contenido multimedia falso, convincente y de alta calidad en el mercado negro de la web, lo que resulta en el lado oscuro de la IA.
En el último año, la generación de contenido falso odeepfakesha experimentado un gran desarrollo. Ya no solo se trata de fotos y videos alterados con inteligencia artificial (IA), sino de una tecnología mucho más madura que ahora está apuntando a la falsificación de voz, también conocida comodeepvoice. Según expertos de Kaspersky, estas innovaciones ya son utilizadas para evadir controles de seguridad, aprovechando datos biométricos vulnerados, por ejemplo, así como para manipular información en línea y cometer otros ataques cibernéticos. Esto ha provocado el crecimiento del mercado negro de losdeepfakes, donde el costo del contenido puede oscilar entre $300 a $20 mil dólares por minuto, dependiendo su calidad y complejidad.
De acuerdo conIsabel Manjarrez, investigadora de seguridad del Equipo Global de Investigación y Análisis de Kaspersky, los avances en la inteligencia artificial generativa y el aprendizaje automático han propiciado la creación de contenido multimedia falso cada vez más realista, ya que son tecnologías con la capacidad de aprender a partir de datos no estructurados, como el rostro o los movimientos humanos.
Para creardeepfakes, la red generativa puede entrenarse con fotos reales de una persona, y así generar un número infinito de imágenes convincentes de ella para integrarlas en un video. Estas mismas técnicas de aprendizaje automático pueden emplearse para desarrollar contenidos de voz artificial y, mientras la tecnología siga expandiéndose, podría ser explotada por los estafadores para crear contenidos engañosos de audio aún más accesibles.
Lamentablemente, las personas cuyas muestras de voz o video están disponibles en internet, como celebridades y figuras públicas, pueden ser más propensas a ser víctimas de suplantación. Ya que se prevé que su evolución continúe, losdeepfakesyase han catalogadocomo uno de los usos más preocupantes de la inteligencia artificial.
Es que, si bien se han encontrado beneficios para ciertos campos, como el marketing, con nuevas herramientas de IAcomo la de TikTok, que permitirá a marcas y creadores generaravatares de personas reales para producir anuncios en múltiples idiomas, el uso dedeepfakescon propósitos maliciosos ha perjudicado a otros sectores, incluido el bancario, comenta Manjarrez. La suplantación de identidad condeepfakesha jugado un papel importante en fraudes financieros, con tácticas y aplicaciones capaces de eludir los mecanismos de verificación biométrica, empleados ya por distintas entidades financieras, permitiendo a los atacantes obtener acceso no autorizado a cuentas bancarias e información confidencial, comenta.
Sin embargo, a pesar de disponer abiertamente de herramientas de creación dedeepfakes, la experta explica que los delincuentes buscan creadores que puedan producir contenido realista, de alta calidad e incluso en tiempo real, dado que simular movimientos, expresiones faciales o voces de manera fluida y natural es un reto para los algoritmos que deben capturar y reproducir detalles muy específicos. “Por eso, existe un mercado específico dedeepfakesen ladarknet, donde criminales ofrecen servicios para crear contenido falso y hasta tutoriales con consejos sobre cómo seleccionar el material de origen o cómo intercambiar rostros y voces para generar una falsificación convincente”, cuenta.
Isabel Manjarrez explica que la demanda dedeepfakesen este mercado es tan alta que supera la oferta existente, por lo que en el futuro cercano es probable que se registre un aumento aún más significativo en los incidentes relacionados con contenido falsode alta calidad. Esto representa un verdadero riesgo para el panorama de ciberseguridad pues,de acuerdo con cifras de Kaspersky, más de la mitad de los usuarios en México (72 %) no sabe qué es undeepfake.
“La exposición de datos personales sensibles en línea, como imágenes del rostro o audios, implica un reto significativo para proteger esta información contra accesos no autorizados y un uso malintencionado para crear contenido falso o suplantar la identidad de otras personas. Esto puede causar daño material o monetario, así como un impacto psicológico y de reputación para las víctimas. Por eso, es esencial establecer pautas y estándares claros para la creación y el uso de deepfakes, garantizando la transparencia y responsabilidad en su implementación. No hay que temer a la IA, es una herramienta con un gran potencial, pero depende del ser humano hacer un uso ético de ella”,subrayó Manjarrez.
Consejos para identificar un deepfake
Kaspersky comparte algunas características que pueden ayudar a identificar este contenido engañoso:
- La fuente del contenido y la información que comparte son sospechosas.Actúa con cautela ante correos electrónicos, mensajes de texto o voz, llamadas, videos u otro contenido multimedia que veas o recibas, especialmente si comunican información extraña o ilógica. Confírmala en fuentes de información oficiales.
- Las condiciones e iluminación en un video son inconsistentes.Desconfía si detectas anomalías en el fondo del video. Evalúa si la iluminación del rostro corresponde con el entorno, las incoherencias en la iluminación pueden indicar manipulación.
- Los movimientos faciales y corporales son inusuales.Sospecha si las expresiones del rostro o cuerpo son poco naturales, como un parpadeo extraño o la ausencia total de este. Comprueba que las palabras correspondan con los movimientos de los labios y que las expresiones faciales sean apropiadas para el contexto del video.
- Los audios falsos pueden tener distorsiones de voz.Presta atención a la calidad del sonido. Sospecha si identificas un tono monótono antinatural en la voz, si ésta es ininteligible o si hay ruidos extraños de fondo.
- Para mantenerse protegido, es importante informarnos.Sé consciente de la existencia de losdeepfakesy edúcate sobre las tecnologías de manipulación digital. Cuanto más consciente seas, mejor podrás detectar posibles fraudes.
- Utiliza soluciones de protección –Kaspersky Premium–, que protejan contra todo tipo de amenazas, conocidas y desconocidas en la navegación en internet, tanto en computadoras como en dispositivos móviles.
Investigue más sobre Gestión de la seguridad
- Brasil y México entre los primeros lugares de los Fraudolímpicos 2024Por: MelisaOsores
- Seguridad en las redes: Acciones vitales para las organizacionesPor: AlejandroRamírez Peña
- Por qué es un riesgo tomarse una selfie con la INE o el dedo entintadoPor: Colaborador de TechTarget
- Aumentan deepfakes, audio manipulado por IA y medios sociales secuestradosPor: Colaborador de TechTarget
