DeepVoice: la IA que puede clonar cualquier tipo de voz.

Probablemente hayas escuchado acerca de los DeepFakes, los cuales son vídeos manipulados utilizando una Inteligencia Artificial (IA), de este modo es posible reemplazar la cara de una persona por otro rostro diferente. Actualmente, incluso se pueden combinar con DeepVoice el cual puede clonar cualquier tipo de voz.

Estas tecnologías representan un gran riesgo, especialmente porque cada vez son más accesibles al público. Su mayor impacto negativo hasta el momento era crear una sociedad de confianza cero, ya que se prestan para las fake news y la desinformación así como poner en riesgo la reputación de celebridades, políticos y otras figuras públicas. Pero recientemente ha salido una noticia que ha activado más alarmas respecto a estas inteligencias artificiales.

A principios del año pasado el gerente de un banco en los Emiratos Árabes Unidos recibió una llamada de quién parecía ser el director de una empresa con la cual mantenían lazos comerciales. Este supuesto director solicitó varias transferencias de dinero por un valor de 35 millones de dólares, con la excusa de que su empresa estaba por realizar una importante compra, por lo cual, necesitaba la autorización del banco para realizar los movimientos en su cuenta.

Para coordinar la operación se contrataron los servicios de un abogado llamado Martín Zelner, y al mismo tiempo que se realizaba la llamada, el gerente podía ver en su bandeja de entrada los mensajes del supuesto director y abogado confirmando las cantidades de dinero, por lo cual, el gerente decidió confiar y a realizar las transferencias electónicas.

Lamentablemente todo se trataba de una estafa increíblemente bien elaborada, utilizando un software de DeepVoice para clonar la voz de este director con el cual el gerente del banco ya había entablado conversaciones telefónicas anteriormente.

Con ayuda de investigadores se pudo saber que el dinero fue transferido a cuentas en Estados Unidos y se cree que hay al menos 17 personas involucradas enviando el dinero a diferentes cuentas alrededor del mundo.

Los DeepVoice son relativamente fáciles de hacer, se requiere capturar un archivo de voz de 30 minutos de la persona a imitar, después este audio se envía a procesar y al terminar esta copia se podrá generar un audio bastante realista.

Una elemento más a agregar a la larga lista de riesgos y amenazas que acechan en internet.