En el marco del Día del Niño, la firma de verificación de identidad Sumsub lanzó una advertencia que prende las alertas en el ecosistema digital: el avance acelerado de la inteligencia artificial y los deepfakes está superando con creces los mecanismos tradicionales de protección infantil en línea. El crecimiento explosivo de estas tecnologías, sumado a la alta conectividad de los menores en México, plantea un desafío urgente para plataformas, reguladores y padres de familia.
De acuerdo con datos de Sumsub, los deepfakes —contenidos generados por IA que imitan con realismo la voz, el rostro o los gestos de una persona— registraron un incremento del 201% en Latinoamérica durante el último año. México, en particular, encabeza la región con un aumento cercano al 500%, una cifra que refleja tanto la adopción tecnológica como la vulnerabilidad de los usuarios más jóvenes. “La tecnología avanza más rápido que los controles actuales. Los deepfakes permiten manipular identidades y contenido con un nivel de realismo que facilita el abuso, la suplantación y la evasión de los sistemas de verificación”, señala el informe.
El estudio también destaca que el 77% de los menores en México tiene acceso a internet, lo que los convierte en un blanco potencial para estafas, grooming y otras formas de abuso digital. Sin embargo, los sistemas de verificación de edad que utilizan la mayoría de las plataformas —basados en declaraciones voluntarias o documentos estáticos— son fácilmente evadibles. Ante este panorama, Sumsub insta a la industria a migrar hacia modelos de verificación dinámicos, que incluyan monitoreo continuo y el uso de inteligencia artificial para la prevención en tiempo real, en lugar de depender únicamente de filtros iniciales.
El llamado de la compañía no es menor: mientras los niños y adolescentes navegan, juegan y estudian en línea, los riesgos se multiplican sin que exista una regulación lo suficientemente ágil para contenerlos. La adopción de tecnologías como el reconocimiento biométrico, el análisis de comportamiento y los sistemas de detección de deepfakes podría marcar la diferencia entre un entorno digital seguro y uno donde la suplantación y el abuso sean la norma. “No se trata solo de cumplir con la ley, sino de proteger a los más vulnerables en un mundo que ya es mayoritariamente digital”, concluye el reporte.
