México enfrenta desafíos críticos en la protección de menores frente a la sexualización por IA

México cada vez más digitalizado, la inteligencia artificial (IA) ha abierto puertas a innovaciones sin precedentes. Sin embargo, esta misma tecnología también ha dado lugar a prácticas alarmantes, particularmente la sexualización de menores a través de deepfakes, un fenómeno que ha colocado a México entre los países con serios desafíos en este ámbito.

Un estudio reciente, resultado de la colaboración entre organismos internacionales, ha revelado que más de 1.2 millones de niños y niñas en 11 países han sido víctimas de esta forma de explotación. Esta cifra representa aproximadamente 1 de cada 25 menores, evidenciando la magnitud del problema. En México, la situación es especialmente preocupante, ya que una gran mayoría de niños y adolescentes son usuarios activos de internet, lo que los expone a riesgos significativos.

A pesar de que México cuenta con un marco legal diseñado para proteger la voz e imagen de los menores, este aún no se extiende a las complejidades introducidas por la IA. Esta laguna legal resalta la necesidad urgente de adaptar y fortalecer las regulaciones existentes para abordar las nuevas formas de abuso.

Expertos en la materia, como Juan Martín Pérez García, han señalado la importancia de no restringir el acceso de los jóvenes a las redes sociales, argumentando que tal medida violaría sus derechos fundamentales y sería contraproducente. En cambio, el foco debe estar en quién diseña y controla los algoritmos que permiten la circulación de este contenido dañino.

La urgencia de actuar contra el abuso de los deepfakes ha sido subrayada por UNICEF, que ha hecho un llamado a los gobiernos para que amplíen las definiciones legales relativas a imágenes de abuso sexual de menores, incluyendo aquellas generadas por IA. Además, ha instado a los desarrolladores de IA y a las empresas digitales a implementar medidas preventivas efectivas y a reforzar la moderación de contenidos para eliminar rápidamente el material abusivo.

La creciente preocupación por el uso indebido de chatbots y otras herramientas de IA para crear contenido sexualizado de menores sin su consentimiento resalta la necesidad de una regulación más estricta y específica. La respuesta de la industria tecnológica, aunque necesaria, debe ser acompañada por un marco legal robusto y actualizado que proteja efectivamente a los menores en el entorno digital.

Este desafío no solo es un llamado a la acción para los legisladores y la industria tecnológica, sino también para la sociedad en su conjunto. La protección de los menores en el espacio digital es una responsabilidad compartida, y México debe liderar con el ejemplo, adaptando sus leyes y políticas para garantizar un entorno seguro para todos los niños y niñas en la era de la inteligencia artificial. La relevancia estratégica de este tema para los tomadores de decisiones radica en su impacto directo en la seguridad y bienestar de la juventud mexicana, así como en el posicionamiento del país en la vanguardia de la protección de derechos digitales a nivel global.