Ante el creciente uso de herramientas de inteligencia artificial, especialistas advirtieron que estas tecnologías se están convirtiendo en una nueva vía para ejercer violencia digital contra las mujeres. La doctora Alejandra León, especialista en estudios culturales y cultura juvenil digital, explicó que la violencia digital no surge en internet, sino que traslada a los espacios digitales las violencias que ya existen en la vida cotidiana. Esta violencia incluye la difusión de contenido íntimo sin consentimiento, acoso, ciberbullying y doxeo, prácticas que pueden escalar hasta poner en riesgo la integridad física y emocional de las víctimas.
Ley Olimpia
Uno de los avances legislativos más importantes en México es la Ley Olimpia, que sanciona la violencia digital de carácter sexual, pero al enfocarse en las llamadas “pornovenganza”, es limitado para enfrentar las nuevas agresiones realizadas con inteligencia artificial, tales como la creación de imágenes y videos falsos mediante deepfakes, que son contenidos audiovisuales hiperrealistas generados o manipulados mediante este tipo de plataformas de tipo pornográfico.
Además, advirtió que estas prácticas pueden afectar la identidad y la reputación de mujeres y adolescentes en cuestión de segundos, ya que las plataformas permiten una rápida circulación del contenido. Subrayó que en esta creación de normatividad se debe considerar tanto a la plataforma, a quienes lo crean y quienes lo difunden, así como la no revictimización.
Bases legales
Es por esto que destacó la necesidad de que las aplicaciones y plataformas establezcan candados y controles más estrictos para impedir la creación y difusión de material generado con IA que vulnere a las mujeres; asimismo, hizo énfasis en que es fundamental impulsar reformas que tipifiquen estas nuevas modalidades de violencia, así como protocolos que eviten la revictimización cuando los casos se denuncien.
«En la Ley Olimpia hay algo bien claro, hay tres factores como en el proceso: quién crea el contenido, quién lo distribuye y la plataforma que lo sostiene. En ese sentido, también es decir tu inteligencia artificial si estás decidiendo que estén dentro de tu contenido para que se quede esto o en realidad es tan fácil hacer el deepfake y debería de haber un control mayor para poder acceder a esto», afirmó Alejandra León.
Desde su perspectiva, la prevención no puede basarse únicamente en sanciones o en un enfoque punitivo, sino que es necesario fortalecer la alfabetización digital crítica, enseñar a niñas, adolescentes y usuarias a entender cómo funcionan las tecnologías y cuestionar los estereotipos de género que alimentan estas agresiones. Recordó que la perspectiva de género busca ofrecer herramientas para que las personas se relacionen de manera igualitaria y respetuosa en los entornos digitales.
Prevención
Por su parte, la psicóloga Selene Hernández, que trabaja en la prevención de violencia digital, señaló que generar ambientes seguros, ya sea en espacios públicos o en plataformas digitales, requiere un cambio de conciencia colectiva. Explicó que la violencia digital tiene efectos emocionales reales: puede provocar miedo, vergüenza, ansiedad o aislamiento. Por ello, la atención a las víctimas debe considerar también el acompañamiento psicológico y la construcción de comunidades que brinden apoyo y contención.
Enfatizó que lo que sucede en lo digital puede tener un impacto muy profundo en las víctimas y su entorno y señaló que incluso puede provocar ansiedad, depresión, daño en la identidad o ideaciones suicidas, por lo que es importante que se trate de manera integral.
Insistió en que para poder prevenirlo y sancionarlo es necesario hacer énfasis en crear condiciones accesibles y seguras para usar este tipo de plataformas y espacios digitales donde las mujeres no se sientan en riesgo y que esto implica plataformas responsables sobre lo que permite o no hacer, protocolos claros y apoyo emocional para las víctimas y su entorno.
