En los últimos años, hemos sido testigos del surgimiento de aplicaciones y sitios web que utilizan inteligencia artificial para crear imágenes íntimas no consentidas de personas, especialmente de mujeres y niñas. Este fenómeno, lejos de disminuir, ha crecido exponencialmente, generando millones de dólares anuales para sus creadores. Una investigación reciente ha revelado que estos servicios no solo son accesibles para millones de usuarios cada mes, sino que también dependen de infraestructuras tecnológicas de grandes empresas como Google, Amazon y Cloudflare para operar.
Esto plantea serias cuestiones sobre la responsabilidad de las empresas tecnológicas en la proliferación de contenidos abusivos. La investigación, llevada a cabo por Indicator, una publicación especializada en engaño digital, analizó 85 sitios web dedicados a esta práctica. Los hallazgos son alarmantes: estos sitios recibieron un promedio de 18.5 millones de visitantes mensuales en los últimos seis meses, con ingresos estimados en hasta 36 millones de dólares al año.
La facilidad con la que estos servicios pueden ser accedidos y utilizados, combinada con la falta de medidas efectivas para detenerlos, ha permitido que este ‘negocio’ florezca. Expertos en seguridad en línea, como Alexios Mantzarlis, cofundador de Indicator, critican el enfoque ‘laissez-faire’ de Silicon Valley hacia la IA generativa, que ha permitido que esta industria nociva persista.
A pesar de que algunas empresas tecnológicas han comenzado a tomar medidas contra estos sitios, como deshabilitar cuentas de desarrolladores o eliminar contenido prohibido, los creadores de estas plataformas continúan encontrando formas de eludir las prohibiciones. La situación es especialmente preocupante considerando el impacto devastador que estas imágenes pueden tener en las víctimas, cuyas fotos son robadas de redes sociales y utilizadas sin su consentimiento. Además, se ha reportado un aumento en casos de ciberacoso entre adolescentes, quienes utilizan estas herramientas para crear imágenes abusivas de sus compañeros.
Aunque recientemente se han implementado algunas medidas legales y políticas para combatir este problema, como la Ley ‘Take It Down’ en Estados Unidos y la ilegalización de deepfakes explícitos en el Reino Unido, los expertos coinciden en que se necesitan acciones más contundentes y coordinadas para erradicar esta industria.
La responsabilidad no recae únicamente en los reguladores, sino también en las empresas tecnológicas, que deben ser más proactivas en la aplicación de sus políticas y en la eliminación de contenidos abusivos. Como sociedad, enfrentamos el desafío de proteger la privacidad y la dignidad de las personas en la era digital, lo que requiere no solo de avances tecnológicos, sino también de un compromiso firme con los derechos humanos y la ética.
