Criminales usan inteligencia artificial para crear imágenes de mujeres reales sin ropa

Se presentan manifestaciones en Corea del Sur por la proliferación de imágenes pornográficas producidas con inteligencia artificial. Los criminales están tomando cualquier foto que estudiantes de colegios y universidades publican en sus redes sociales, y las someten a programas de inteligencia artificial para crear escenas eróticas y luego distribuirlas a través de plataformas como Telegram.

Eran más de 2 mil personas distribuyendo el contenido

Estamos hablando de grupos conformados por 2 mil y hasta 3 mil personas, donde se distribuye todo este material que, aunque sea una creación ficticia de la inteligencia artificial, termina evidentemente afectando la dignidad de las niñas y jóvenes que son víctimas de esta práctica. Esta es la razón por la cual hay protestas en Corea del Sur, lugar en el que se han empezado a realizar estas práctica.

Víctimas, madres y mujeres en general protestaron con máscaras en contra de una práctica que parece generalizada en Corea del Sur

A través de inteligencia artificial generativa, delincuentes toman fotografías de niñas y jóvenes de las redes sociales, y las convierten en imágenes eróticas que se comparten en grupos de Telegram.

Lee Kyung-Hee, participante de la protesta afirmó: "Cuando vi los crímenes sexuales 'deepface' a nivel de desastre nacional, me sentí muy triste y enojada al pensar en los sentimientos de las víctimas, cuyos nombres y rostros ni siquiera conozco. Estaba tan enojada con las personas que crearon esta situación que no podía soportarlo".

Se calcula que la problemática involucra unos 500 colegios de ese país

Kang Na-yeon, integrante de la asociación de estudiantes universitarios de Seúl: "Creo que la cultura que encuentra placer en humillar sexualmente a las mujeres y la conciencia sexual distorsionada son realmente problemáticas, y también creo que es un gran problema que las agencias de investigación y gubernamentales no están castigando o investigando adecuadamente incluso cuando esto sucede repetidamente".

Esta situación no sólo ha puesto nuevamente en la lupa de las autoridades la inteligencia artificial. También la utilización de aplicaciones como Telegram, cuyo cofundador Pavel Durov fue detenido en París hace dos semanas, al considerar que la plataforma es demasiado permisiva con prácticas ilegales.

Kang Na-yeon, añadió: "Debemos fortalecer y aclarar las investigaciones sobre cooperación en el extranjero, en lugar de dar excusas de que no es posible porque Telegram está en servidores en el extranjero".

Y es que para las manifestantes, las autoridades se han quedado atrás a la hora de enfrentar este tipo de fenómenos.

Jo Hye-won, integrante de la asociación de mujeres de Seúl: "Creo que insistir a los individuos en que tengan más cuidado, antes de tomar alguna acción activa a nivel administrativo o nacional sobre algo que es socialmente inaceptable no ayuda a resolver el problema".

El mundo vive en un limbo regulatorio frente al tema. De hecho, la pornografía construida bajo deepfakes no cuenta todavía con normas que castiguen su fabricación y distribución.