Red PaPaz alertó sobre el crecimiento de aplicaciones de inteligencia artificial usadas para manipular imágenes de menores de edad. Ya hay decenas de casos reportados.
El uso de inteligencia artificial para crear contenido de explotación sexual infantil encendió las alarmas de organizaciones de protección de la niñez en Colombia.
En el marco del Día del Internet Seguro, Red PaPaz advirtió sobre el incremento de aplicaciones que manipulan fotos y videos de niñas, niños y adolescentes con ropa para generar imágenes sexualizadas sin consentimiento, práctica ilegal conocida como deepfakes.
Según cifras de la línea de reporte Te Protejo, durante 2025 se procesaron más de 15 casos en los que se utilizaron herramientas de inteligencia artificial para crear cientos de imágenes ilegales que afectaron a menores de edad.
El fenómeno, de acuerdo con la organización, va en aumento y se ve reflejado también en las consultas recibidas por la línea de ayuda Te Guio, donde niñas, niños, adolescentes y familias expresan preocupaciones por la creación de imágenes falsas con contenido sexual y por el uso de agentes digitales para establecer vínculos emocionales y sexuales.
Red PaPaz señaló que este tipo de contenidos no solo vulnera derechos fundamentales, también genera impactos emocionales y psicológicos profundos en las víctimas. La circulación de estas imágenes en plataformas digitales dificulta su eliminación total y facilita delitos como la extorsión y el chantaje. A esto se suma la capacidad de la inteligencia artificial para producir material de forma artificial y masiva, lo que ha dado lugar a una economía del abuso en la que agresores monetizan la intimidad vulnerada de niñas, niños y adolescentes, incluso cuando los responsables son pares de la misma edad.
La organización hizo un llamado al Estado colombiano para exigir a las plataformas digitales y a las empresas tecnológicas el cumplimiento de su corresponsabilidad en la protección de la niñez. El énfasis está puesto en la necesidad de reglas claras y obligaciones concretas para quienes diseñan y operan estos entornos digitales.
“En Colombia seguimos tratando el impacto de las plataformas digitales en la niñez como si fuera una decisión de crianza, y no lo es. Es un problema estructural, de diseño y de falta de reglas para las plataformas”, nos contó Carolina Piñeros, directora ejecutiva de Red PaPaz.
“No se trata solo de restringir en casa o en el colegio, estas empresas deben tener una verificación de edad efectiva, un diseño de productos que hagan posible unos entornos digitales seguros para la niñez. Colombia necesita una regulación que ponga en el centro los derechos de niñas, niños y adolescentes, no los intereses económicos de las plataformas, como ocurre ahora”.
Lea también: Turista estadounidense abusó de niñas en Medellín y fue condenado a cadena perpetua
El llamado incluye la implementación de seguridad por diseño, detección proactiva de contenidos ilegales, bloqueos de acceso, cooperación con autoridades y mayor transparencia en los procesos de moderación. En coherencia con esta postura, Red PaPaz se sumó como organización firmante de la declaración internacional “No a las herramientas de IA de desnudez”, que reúne a más de 100 organizaciones e instituciones de distintos países.
La declaración respalda una prohibición expresa, inmediata y global de las herramientas de inteligencia artificial utilizadas para “desnudar” personas y promueve marcos regulatorios que definan responsabilidades claras para empresas y desarrolladores, con el fin de proteger la dignidad, la privacidad y la integridad de niñas, niños y adolescentes frente a nuevas formas de violencia sexual digital.
Finalmente, Red PaPaz reiteró el llamado a la ciudadanía a no compartir este tipo de imágenes y a reportarlas a las autoridades competentes a través del CAI Virtual o mediante la página web y la aplicación de Te Protejo en este enlace.
Regístrate al newsletter 
