Los estafadores utilizan la Inteligencia Artificial para clonar voces y pedir dinero. Vea cómo protegerse

El periódico O Globo mostró que los estafadores han estado utilizando herramientas de inteligencia artificial para clonar voces y pedir dinero. El informe proporciona consejos y orientación sobre cómo protegerse para evitar este tipo de estafa. El Dr. Matheus Puppe, socio del área de TMT, Privacidad y Protección de Datos de Maneira Advogados, fue uno de los expertos entrevistados por el diario para comentar sobre el tema.

Los estafadores utilizan la Inteligencia Artificial para clonar voces y pedir dinero. Mira cómo protegerte

22 de mayo de 2023

El software ya permite grabar audio de segundos de discurso y ha sido utilizado por delincuentes para llevar a cabo estafas. Experto recomienda volver a llamar para consultar información

Por Ana Flávia Pilar— Rio
(Foto: Influencer Darío Centurione: su padre recibió una llamada con una voz parecida a la suya y cayó en la estafa | Crédito: Reproducción de redes sociales)

El mes pasado, la periodista Joanna Stern, del Wall Street Journal, decidió probar hasta qué punto podía engañar a la gente con un clon virtual de su voz e imagen, creado mediante sistemas de Inteligencia Artificial (IA). No tuvo mucho éxito con el vídeo, por lo que utilizó la voz clonada en una llamada a su padre, en la que le pidió un documento confidencial y fue respondido de inmediato.

El padre del influencer digital Dario Centurione, de la página Almanaque SOS, también creyó en la voz clonada de su hijo. La diferencia es que la llamada no fue sólo una broma, sino una estafa.

— Mi padre recibió una llamada donde una persona, que él creía que era yo, pedía R$ 600. Como la voz era muy similar, mi padre ni siquiera se molestó en preguntar lo básico. La persona pidió una transferencia a una cuenta que no estaba a mi nombre, pero ni siquiera le importó porque la voz era mía — dijo Centurione.

La compatibilidad de la voz clonada era tan similar a la voz natural del influencer que su padre no notó ninguna diferencia, a pesar de que era músico y especialista en sonido. Al iniciar sesión en una aplicación, Centurione pudo crear fácilmente una copia de su propia voz y decidió repetir el experimento del periodista del Wall Street Journal.

— Fui a comprobar si estaba engañando a alguien y no solo logré engañar nuevamente a mi padre, sino también a mi madre, que es súper desconfiada. Mi hermano menor se dio cuenta de que la voz no era la mía. Es una estafa que irá volviéndose más sofisticada, pronto las herramientas deberían ser más rápidas y eficientes, lo que podría convertir a las personas mayores en víctimas con mayor frecuencia. Los más jóvenes, incluso por su conocimiento del potencial de la tecnología, están más atentos.

PARA EVITAR CAER EN LA ESTAFA, CONSULTE LOS CONSEJOS DE LOS EXPERTOS

1. Sé consciente de la veracidad de la información: antes de actuar en base a una llamada telefónica, mensaje o video, verifica la información en otras fuentes. Por ejemplo, devolver la llamada, confirmar por correo electrónico o consultar con otras personas que puedan garantizar la autenticidad.
2. Proteja sus datos: minimice la cantidad de información personal que comparte en línea. Al proporcionar menos datos, reduce el material disponible para los ciberdelincuentes que quieren crear deepfakes o imitar su voz.
3. Infórmese sobre la tecnología: saber cómo funcionan estas tecnologías y estar al tanto de las últimas tendencias y tácticas de fraude puede ayudarle a protegerse mejor.
4. Consulta tu cuenta bancaria: comprueba siempre los destinatarios cuando envíes dinero a una familia

CLONES DE VOZ GENERADOS EN POCOS DÍAS

Herramientas como VALL-E, de Microsoft, pueden crear audios largos con tan solo tres segundos de discurso como referencia. La tecnología es capaz de sintetizar una grabación de la voz de alguien y transformar este archivo en otro, manteniendo las características originales, como el tono del habla.

El nuevo software estuvo disponible el 20 de mayo para cualquier persona interesada y se cobrará una tarifa por su uso. La empresa Synthesia ofrece el mismo servicio. Es posible grabar un vídeo de 15 minutos y enviarlo a la herramienta. A partir de este vídeo, se creará un clon virtual en tan solo unos días. El coste anual de uso es de 1.000 dólares estadounidenses, más una suscripción mensual de 30 dólares estadounidenses.

Según Lucas Cabral, analista de IA de Play9, las herramientas que crean audio falso siempre necesitan un “input” por parte del usuario, es decir, el envío de un audio o vídeo que servirá de base para crear la copia.

Entonces, si quieres que Darth Vader lea texto personalizado, es más fácil que si quieres copiar la voz de alguien que no es una figura pública. Los influencers, artistas y presentadores, como Centurione, dependen de horas y horas de discursos publicados en Internet, por lo que son más vulnerables a la creación de clones de voz.

PERSONAS PÚBLICAS MÁS VULNERABLES

La tecnología es la misma que se utiliza en aplicaciones de localización, por ejemplo, donde se escucha a personalidades como Silvio Santos indicar el camino. Cuesta imaginar que el presentador se haya grabado diciendo “gira a la derecha”, explica Cabral, pero existen grandes bancos de vídeos en los que aparece hablando.

— En resumen, capturas una voz, la colocas en la herramienta e identifica patrones para crear una modificación. Realmente se parece mucho al original. Puedes escribir algo y la herramienta reproduce el texto de audio basándose en una referencia ya enviada, o la herramienta puede generar un audio simultáneamente, en el que hablas y cambia según una referencia, explicó el experto.

Estas numerosas posibilidades maximizan las posibilidades de estafas que involucran información personal. Pedro Diógenes, director técnico LATAM de la empresa de seguridad de la información CLM, dice que antiguamente era necesario tener una gran cantidad de datos para entrenar los algoritmos, con horas y horas de audio de personas llorando, gritando y diciendo diferentes palabras.

Ahora, con muy pocos datos, es posible reproducir fielmente la voz de alguien, imitando el acento, el llanto y la entonación.

— El estafador te estudia antes de cometer la estafa, así que imagínalo con la voz de tu hija. Las personas tendrán que educarse (para evitar caer en la estafa), combinando contraseñas que sólo ellos conocen para estos casos. La estrategia es hacer preguntas.

El abogado Matheus Puppe, socio del área de TMT, Privacidad y Protección de Datos de Maneira Advogados, explica que este tipo de herramientas abre la puerta a estafas aún mayores.

La suplantación de voz se ha utilizado para cometer fraude financiero, engañando a personas y empresas para que realicen transacciones basándose en instrucciones dadas en una llamada telefónica falsa pero convincente.

— De ahí la necesidad de una legislación y una regulación sólidas y sensibles al tema que puedan equilibrar los avances tecnológicos con la seguridad y privacidad necesarias. Necesitamos mecanismos de rendición de cuentas más eficaces para combatir el uso indebido de estas tecnologías y, al mismo tiempo, promover la concienciación y la educación digital, afirmó el experto.

https://oglobo.globo.com/economia/tecnologia/noticia/2023/05/alo-pai-golpistas-usam-inteligencia-artificial-para-clonar-vozes-e-pedir-dinheiro-veja-como-se-proteger.ghtml