El problema principal radica en el uso inmoral de la inteligencia artificial en específico la Inteligencia Artificial Generativa (“IAG”). La IAG tiene como objetivo la creación de contenidos totalmente nuevos a partir de material existente. La IAG a consecuencia de su mal manejo ha participado en la elaboración de imágenes explícitas editando una imágen tomada a partir de las redes sociales sin el consentimiento de la víctima. La existencia de estas imágenes editadas mediante inteligencia artificial terminan circulando en grupos de WhatsApp, Facebook, Instagram, Telegram e inclusive en páginas de contenidos sexuales. El término correcto que hace referencia a estas imágenes explícitas es conocido como “deepfakes”. Las deepfakes pueden ser utilizadas con el fin de amenazar, intimidar, atacar, avergonzar, estigmatizar, generar daños a la reputación de personas o bien para la simple creación de contenidos sexualmente explícitos.

Actualmente, no existe un delito que comprenda el uso de inteligencia artificial en el cual se pueda encuadrar la creación de imágenes editadas sin el consentimiento de terceros. Esta afectación solo se puede acotar como la violación a la intimidad sexual o como violencia digital. De acuerdo a los datos del Instituto Nacional de Estadística y Geografía, en el año 2022, 9.7 millones de mujeres de 12 años en adelante han sido víctimas de ciberacoso. La creación de deepfakes se convierte directamente en un medio que se vincula a la violencia digital. Es importante mencionar que La Ley General de Acceso de las Mujeres a Una Vida Libre de Violencia no considera la creación de contenidos a partir de los ya existentes.

Las niñas entre los 14 y los 16 años de edad indican que su primera experiencia de acoso fue en los medios sociales y el 47% de las niñas acosadas en línea fueron objeto de amenazas físicas o sexuales. (INEGI). Si no se llega a regular el uso de las inteligencias artificiales dentro del ciberespacio o a la creación de una nueva legislación, los acusados se podrían amparar si sus delitos no son considerados como violencia digital. En 2022, 20.8% de la población usuaria de internet vivió situaciones de acoso cibernético. (INEGI). Esta problemática social no está limitada a México. El riesgo de sufrir la creación de estas deepfakes recae en que cualquier persona, tanto hombres como mujeres, corren el mismo riesgo. De no actuar a tiempo este tipo de delitos se magnificará de manera exponencial en todo el mundo.

El desconocimiento de la sociedad y la morosidad de los legisladores ante esta problemática obstaculiza directamente su debida resolución. De manera que, como línea de acción, es necesario trabajar en dos fases: la concientización y entendimiento sobre la gravedad de esta problemática. Implementando programas de concientización y educación sobre el uso ético de las inteligencias artificiales, la distribución no consensuada de imágenes íntimas, la violencia digital, la creación de deepfakes entre otras.

Buscando la colaboración en la distribución de estos programas en escuelas, universidades, empresas y organizaciones. De tal manera; se estaría evidenciando la vulnerabilidad de las mujeres, las adolescentes y las niñas. Al igual que también podría significar una vulnerabilidad hacia el género masculino. Finalmente, esto llevaría a la ejecución de medidas firmes de sanción dentro de las instituciones, beneficiando así los derechos de ambos géneros.

La segunda fase consta de una campaña de firmas en apoyo a la necesidad de una nueva legislación. La acumulación de las firmas serviría para demostrar el respaldo y el interés público hacia la creación de una iniciativa de ley que proteja a todos los ciudadanos ante esta nueva modalidad de violencia. En el 2022 la población en México de 12 años y más se estimaba en 105.8 millones de personas; de ese total, el 79.5% utilizó internet en cualquier dispositivo en los últimos tres meses. (INEGI). Por otro lado, las redes sociales, constituyen la principal fuente de distribución de deepfakes. Por lo que también deberán de involucrarse en el apoyo de estos cambios legislativos y sociales. El proceso de recaudación de firmas se realizaría mediante el uso de páginas web de reconocimiento mundial como Change.org que facilitan la creación de peticiones mediante firmas digitales.