¿Te imaginas que alguien clone tu voz y la use para decir cosas que nunca dijiste? Pues no es ciencia ficción, es la realidad. Los programas de clonación de voz, muchos de ellos gratuitos, están avanzando a pasos agigantados, y las barreras para evitar suplantaciones de identidad son tan endebles como un castillo de naipes en un huracán.
Según un reciente informe de Consumer Reports, la mayoría de los principales programas de clonación de voz mediante inteligencia artificial no tienen protecciones sólidas para evitar que alguien se haga pasar por ti sin tu consentimiento. ¿El resultado? Cualquiera con unos segundos de tu voz (sí, incluso ese TikTok que subiste el año pasado) podría clonarla y usarla para lo que quiera.
¿Cómo funciona esta tecnología?
La clonación de voz con IA es más sencilla de lo que piensas. Solo necesita una pequeña muestra de audio de ti hablando (un video de YouTube, un podcast, o incluso un mensaje de voz) y, ¡voilà! La IA extrapola tu voz y crea un archivo de audio sintético que suena exactamente como tú. ¿Lo peor? Muchos de estos servicios ni siquiera te piden que demuestres que tienes permiso para clonar la voz. Basta con marcar una casilla que dice: “Sí, tengo autorización”. ¿Fácil, no?
El caso de los “deepfakes” de voz: ¿Qué tan grave es esto?
Durante las primarias demócratas del año pasado, los votantes recibieron llamadas automáticas de un falso Joe Biden que les decía que no votaran. ¿El responsable? Un consultor político que usó tecnología de clonación de voz. Aunque fue multado con 6 millones de dólares, el incidente dejó en evidencia lo peligroso que puede ser este tipo de tecnología en manos equivocadas. Y, aunque la Comisión Federal de Comunicaciones ha prohibido las llamadas automáticas generadas por IA, el problema sigue latente.
¿Qué tan seguros son estos programas?
Consumer Reports analizó seis de las principales herramientas de clonación de voz disponibles públicamente. Aquí el resumen:
- ElevenLabs, Speechify, PlayHT y Lovo: Solo requieren marcar una casilla de “autorización”. Nada más.
- Resemble AI: Exige una grabación en tiempo real, pero los investigadores lograron eludir esta restricción simplemente reproduciendo una grabación desde una computadora.
- Descript: Es el único que tiene una protección relativamente eficaz, ya que requiere una declaración de consentimiento específica. Aunque, claro, si alguien ya tiene un clon de tu voz, podría falsificarla.
¿Para qué se usa esta tecnología?
No todo es malo. La clonación de voz tiene usos legítimos, como ayudar a personas con discapacidades o crear traducciones de audio en diferentes idiomas. Pero también tiene un lado oscuro: fraudes, estafas y desinformación. Imagina recibir una llamada de un familiar pidiendo dinero porque está en una emergencia, y resulta que es una voz clonada.
Además, los artistas también están en riesgo. En 2023, una canción viral que parecía ser de Drake y The Weeknd resultó ser un deepfake. Y, aunque fue eliminada, el daño ya estaba hecho.
¿Qué se está haciendo al respecto?
La industria de la IA está en pañales en cuanto a regulaciones. Aunque el presidente Biden incluyó algunas demandas de seguridad en su orden ejecutiva sobre IA en 2023, la realidad es que la mayoría de los controles éticos y de seguridad son autoimpuestos por las empresas. Algunas, como Resemble AI, afirman tener “medidas de seguridad sólidas”, pero los expertos advierten que esto no es suficiente.
Sarah Myers West, codirectora ejecutiva del AI Now Institute, lo resume así: “Esto podría usarse para fraudes, estafas y desinformación, por ejemplo, haciéndose pasar por figuras institucionales”. Y, aunque aún no hay mucha investigación sobre el alcance de este problema, las señales de alarma ya están encendidas.
Conclusión: ¿Qué podemos hacer?
Por ahora, la respuesta es: no mucho. La tecnología avanza más rápido que las regulaciones, y mientras tanto, nuestra voz está más expuesta que nunca. Lo único que podemos hacer es ser conscientes de los riesgos y pensar dos veces antes de compartir audios o videos en redes sociales. Porque, como dice el refrán: “Más vale prevenir que lamentar”.