La clonación de voz mediante inteligencia artificial ha alcanzado un nivel de realismo que plantea profundos dilemas éticos y sociales. Lo que hace unos años parecía ciencia ficción, hoy permite que una persona que ha perdido el habla pueda comunicarse con una réplica digital de su propia voz. Sin embargo, esta misma tecnología también está siendo utilizada para cometer fraudes, suplantar identidades y generar desinformación a gran escala.
Voces que devuelven la identidad
Para millones de personas que han perdido la capacidad de hablar debido a enfermedades como la esclerosis lateral amiotrófica (ELA), los clones de voz representan una herramienta transformadora. Jules Rodriguez, un paciente con ELA, describió su experiencia al escuchar su voz clonada por primera vez: “Sentí que reaparecía. Cuando mi esposa lo escuchó, lloró porque sonaba muy parecido a mí antes de perder la voz”.
Casos como el de Rodriguez muestran el potencial positivo de esta tecnología para restaurar la conexión humana y mejorar la calidad de vida. La posibilidad de que una persona pueda seguir comunicándose con sus seres queridos, e incluso conservar su identidad vocal, es un avance significativo en el campo de la salud y la accesibilidad.
El lado oscuro: fraudes y deepfakes
Pero no todo es positivo. Hany Farid, científico computacional de la Universidad de Dartmouth y cofundador de Get Real Security, advierte que la misma tecnología que devuelve la voz a los pacientes también puede ser utilizada para fines maliciosos. “Hoy, con solo un teclado y una conexión a internet, puedes escribir y obtener una imagen, una voz, un video de cualquier persona diciendo o haciendo cualquier cosa”, señala Farid.
Los estafadores han encontrado en los clones de voz una herramienta poderosa. Se han reportado casos de fraudes románticos, llamadas falsas a padres afirmando que sus hijos han sido secuestrados, e incluso intentos de suplantación de líderes políticos y empresariales. Farid relata un incidente personal: “Mi voz fue clonada por un atacante. Estaba trabajando en un caso sensible con un abogado y recibió una llamada de mi número, con mi voz, hablando sobre el caso. Después de tres minutos, sospechó y colgó”.
La facilidad con la que se pueden generar estas voces falsas ha llevado a un aumento de lo que Farid llama “deepfakes de audio”, que se utilizan en anuncios políticos, campañas de desinformación y ataques corporativos. La capacidad de suplantar la voz de cualquier persona, sin necesidad de conocimientos técnicos avanzados, representa una amenaza para la confianza en las comunicaciones digitales.
La zona gris: griefbots y voces después de la muerte
Entre los extremos del uso benéfico y el abuso malintencionado, existe una zona gris cada vez más difusa: la creación de “griefbots” o réplicas digitales de personas fallecidas. Estas herramientas permiten a los dolientes seguir escuchando la voz de sus seres queridos e incluso mantener conversaciones con ellos.
Dylan Thomas Doyle, ex capellán hospitalario e investigador de la Universidad Northwestern, estudia el impacto de estas tecnologías en el duelo. “Hay una tensión entre los vínculos continuos saludables, como escribir cartas a un ser querido fallecido, y aferrarse a la relación de una manera que impide seguir adelante”, explica Doyle. Aunque no hay datos claros sobre cuántas personas utilizan estos servicios, las preguntas éticas son inevitables: ¿quién controla la voz de un fallecido? ¿Debería ser eliminada o preservada para futuras generaciones?
Algunas personas, como Jules Rodriguez, han dejado instrucciones claras de que su voz clonada no sea utilizada después de su muerte. Otras, en cambio, ven en estos avatares digitales una forma de consuelo y memoria.
Regulación y conciencia pública
Actualmente, no existen leyes uniformes que regulen el uso de clones de voz. Las normas varían según el estado o país, y muchas empresas establecen sus propias políticas. Esta falta de regulación, combinada con la rápida evolución de la tecnología, deja a los usuarios en una posición vulnerable.
Farid y otros expertos coinciden en la necesidad de desarrollar marcos legales y éticos que protejan los derechos de las personas sobre su propia voz e imagen. Mientras tanto, la conciencia pública es clave para prevenir fraudes y promover un uso responsable.
La clonación de voz con IA es un arma de doble filo. Su potencial para mejorar vidas es inmenso, pero también lo es su capacidad para causar daño. Encontrar el equilibrio entre innovación y protección será uno de los grandes desafíos de la próxima década.