El joven había difundido las imágenes a través de Facebook. La página afirmaba que “el procesamiento de menores es imposible”.
La Justicia de San Luis presentó una medida cautelar para bloquear en todo el país un sitio web que, mediante la IA crea fotos de niños desnudos. La página quedó expuesta luego de que un menor utilizara el sitio para crear imágenes de chicas adolescentes y las difundiera en Facebook.
En el escrito presentado por la Fiscal de Instrucción Penal N°2 de San Luis con intervención en contextos de género, diversidad sexual, infancias y adultos mayores, Antonella Córdoba, las fotografías simulaban la desnudez de las jóvenes con cuerpos que no les pertenecían.
Sobre el menor que creó y difundió las imágenes de las adolescentes, fue identificado y lograron detectar la aplicación que facilitó la creación del contenido sexual simulado y permitió el uso de imágenes de terceros sin consentimiento.
El Departamento de Delitos Complejos explicó en el escrito que se trata de IA avanzada diseñada con esta función de implantar rostros en otros físicos. Para ello, utiliza algoritmos de “aprendizaje profundo” que permiten analizar, procesar y quitar la ropa en imágenes, de forma rápida y sencilla.
La plataforma estaba disponible para dispositivos Android, iOS y Windows. Sobre los desarrolladores explicaron que es prácticamente inexistente ya que no divulgan públicamente información sobre sus creadores.
Incluso, en su descripción el sitio advierte: «No guardamos ningún dato. No asumimos ninguna responsabilidad por las imágenes creadas utilizando el sitio web. El procesamiento de menores es imposible. Incluso los intentos de este tipo de procesamientos dará lugar a la prohibición de la cuenta”.
En el escrito Córdoba consideró que el sitio violaba la privacidad con creación y distribución de imágenes íntimas sin consentimiento explícito y representa riesgo de abuso, acoso, extorsión, difusión indebida de imágenes no consentidas ya que la aplicación permite la manipulación de imágenes sin autorización explícita. Y que el sitio presenta serios cuestionamientos éticos y legales.
La solicitud judicial se enmarca en un proceso de prevención y protección frente a la violencia de género y digital, que incluye la Convención sobre los Derechos del Niño, la Ley 26.061 de Protección Integral de Niñas, Niños y Adolescentes y la conocida como Ley Olimpia, que incorpora las agresiones digitales entre sus modalidades.
