Un grupo de adolescentes de General Roca, Argentina, enfrenta cargos judiciales por el uso de Inteligencia Artificial para crear y distribuir imágenes sexuales no consensuadas de sus compañeras. La utilización de la IA, en este caso, representa un escalofriante ejemplo de la forma en que la tecnología puede ser utilizada para perpetuar la violencia de género.
El Caso: Creación y Venta de Imágenes Falsas
La denuncia se basa en la manipulación de fotografías de menores utilizando software de procesamiento de imágenes con algoritmos de IA. Estos algoritmos modificaron las imágenes originales, creando representaciones falsas de carácter sexual que luego fueron ofrecidas a cambio de dinero en redes sociales. Este modus operandi utiliza la tecnología para infringir la privacidad y la intimidad de las víctimas de una manera particularmente dañina y sofisticada.
La jueza subrogante de Familia, Ángela Sosa, determinó medidas cautelares por la existencia de “violencia de género digital”, un concepto que se refiere al uso de las tecnologías digitales para ejercer violencia contra las mujeres. Este caso subraya la necesidad de expandir la legislación y los marcos de comprensión para abarcar estas nuevas formas de agresión.
La Decisión Judicial y la Apelación
La Cámara de Apelaciones rechazó el recurso presentado por la familia de uno de los adolescentes implicados. La defensa argumentó que la resolución vulneraba el debido proceso y el derecho de defensa, además de estigmatizar al menor con acusaciones falsas. Sostuvieron que la decisión judicial discriminaba al menor por su edad, afectando sus derechos a la educación y a participar en actividades deportivas.
Sin embargo, la Cámara confirmó la decisión de la jueza Sosa, enfatizando que la denunciante es menor de edad y se encuentra en una situación de violencia de género digital. Se señaló la importancia de un enfoque interseccional, que considera el impacto diferencial de la violencia de género en mujeres jóvenes y adolescentes.
Medidas Cautelares y Terapia
Las medidas cautelares impuestas incluyen una prohibición de acercamiento de 200 metros a la víctima por un plazo de 90 días, incluyendo el establecimiento educativo que comparten. Además, se ordenó la asistencia a un espacio terapéutico enfocado en masculinidades y violencia de género, con el objetivo de abordar las raíces del comportamiento de los adolescentes y prevenir futuras conductas similares.
La inclusión de la terapia se destaca como un elemento clave para abordar este caso de manera integral. Reconocer la necesidad de intervención terapéutica para los perpetradores refleja un cambio de paradigma en la justicia juvenil, que va más allá de la simple aplicación de sanciones punitivas.
El Impacto de la IA en la Violencia de Género
Este caso expone una preocupante realidad: el potencial de la IA para ser utilizada como herramienta para perpetrar violencia de género. La facilidad con la que se pueden crear imágenes falsas y difundirlas rápidamente en línea amplifica el daño causado a las víctimas. La creación de “deepfakes”, imágenes o videos falsos extremadamente realistas, representa un desafío legal y ético sin precedentes.
Es necesario desarrollar estrategias para prevenir este tipo de abuso, incluyendo la educación sobre los peligros de las tecnologías digitales y el fortalecimiento de las leyes para proteger a las víctimas de la violencia de género en línea. La formación de profesionales de la justicia y la implementación de tecnologías de detección de deepfakes son pasos cruciales en la lucha contra esta nueva forma de violencia.
Reflexiones y Acciones Futuras
El caso de los adolescentes de General Roca subraya la necesidad de una respuesta integral a la violencia de género digital, combinando sanciones judiciales con medidas de prevención y apoyo a las víctimas. Además, se requiere la colaboración interinstitucional, involucrando a las fuerzas de seguridad, los sistemas judiciales, las escuelas y organizaciones sociales, para abordar la problemática de manera eficiente y efectiva.
Este caso sienta un precedente legal importante en Argentina, reconociendo la gravedad de la violencia de género digital y la necesidad de adaptar las herramientas legales para enfrentarla. Es un llamado a la reflexión sobre la responsabilidad individual y colectiva en el uso de la tecnología y el compromiso continuo en la lucha contra todas las formas de violencia contra las mujeres.
Es fundamental que tanto educadores como padres de familia comprendan la magnitud del problema y empiecen a educar a los jóvenes sobre las consecuencias del uso incorrecto de las nuevas tecnologías. La prevención debe ser la base de la lucha contra la violencia de género en sus múltiples formas, tanto offline como online.
