Cómo la inteligencia artificial incide en casos de grooming - RED/ACCIÓN

Cómo la inteligencia artificial incide en casos de grooming

 Una iniciativa de Dircoms + RED/ACCION

En el Día Nacional de la Lucha conta el Grooming, Hernán Navarro, de la ONG Grooming Argentina, considera que aún es necesario avanzar en concientizar sobre este delito y alerta sobre los riesgos que conlleva en la materia el avance de la IA.

Cómo la inteligencia artificial incide en casos de grooming

Foto: gentileza Grooming Argentina.

Cada 13 de noviembre se conmemora el Día Nacional de la Lucha Contra el Grooming, porque hace exactamente una década se sancionó la Ley 26.904 que describe al grooming como un delito penal.

La legislación argentina define al grooming como “la acción deliberada de un adulto de acosar sexualmente a un niño, niña o adolescente mediante el uso de Internet, a través de comunicaciones electrónicas, telecomunicaciones o cualquier otra tecnología de transmisión de datos como las redes sociales, las páginas de internet o las apps de mensajería como Whatsapp”.

Hernán Navarro, fundador y director ejecutivo de la ONG Grooming Argentina, considera que aún es necesario avanzar en concientizar sobre este delito, a la vez que destaca que desde su organización advierten desde hace tiempo sobre los riesgos que conlleva en la materia el avance de la inteligencia artificial.

—A partir del desarrollo de la IA, este año se habló mucho del uso de la tecnología en las aulas. ¿Esto desplazó a la alerta por grooming?
—Desde nuestra organización venimos observando con marcada preocupación por cómo el advenimiento de la inteligencia artificial impacta en casos de grooming. Hace nueve años venimos advirtiendo respecto del cambio de paradigma mediado por las plataformas digitales la activación de procesos de violencia sexual a niñas, niños y adolescentes mediante inteligencia artificial, en la cual el delincuente sexual no solamente podría producir el material, sino que ahora también lo podría fabricar o programar. Un ejemplo es el fenómeno mundial denominado deepfake, que consta en su metodología de la creación de archivos de video, imagen o voz manipulados mediante un software de modo que parezcan hiperrealistas.

—¿La IA representa riesgos para las infancias y adolescencias que pasan cada vez más tiempo en internet?
—Como regla general la sociedad debe comprender que internet es una herramienta fabulosa bien utilizada, mal utilizada representa riesgos de todo tipo. En este caso, para las infancias y adolescencias podría ocasionar la activación de procesos de grooming a partir de la creación de imágenes de pedofilia, y de material de abuso sexual infantil (conocido como CSAM), lo que hace que las imágenes de violencia se perpetúen.

—En mayo lanzaron Grooming LATAM, la primera red global de lucha contra el grooming en América Latina. ¿En qué han logrado avanzar? ¿Qué desafíos compartimos con otros países de la región?
—La red se viene construyendo de manera muy dinámica con una fuerte capacidad de gestión, incorporando de manera recurrente a organizaciones de la sociedad civil de alto nivel en diferentes países con un objetivo común: velar por la protección de los derechos de niñas, niños y adolescentes en el ecosistema de internet. A su vez, se gestó un importantísimo valor agregado en materia de recepción de reportes a raíz de la experiencia que Grooming Argentina viene llevando adelante junto a la Policía Federal Argentina (PFA). En ese sentido, la red latinoamericana tiene un rol determinante al ser foco nodal de recepción y articulación de denuncias.

Por otra parte, en las últimas semanas se alcanzó un hito histórico: logramos convocar a más de la mitad fuerzas nacionales de seguridad con el objetivo de cocrear un ambiente de protección, garantizando el acceso a la justicia de niñas, niños y adolescentes latinoamericanos de manera eficaz, segura y superlativa en perspectiva de cooperación internacional.

—¿Qué análisis hacen del grado de conciencia que hay hoy en la sociedad sobre el grooming?
—Si bien damos cuenta que en la actualidad se habla un tanto más del tema, este no se correlaciona con un aumento en las barreras de protección a la hora de acompañar y proteger a las infancias y adolescencias en la vida digital.

—¿Y qué perciben del trabajo en las escuelas?
—A través de las acciones que llevamos adelante en toda la comunidad educativa del país nos damos cuenta de que existe un mayor grado de conocimiento por parte de las y los alumnos en materia de competencias digitales que sus docentes y familias, respectivamente. Como organización venimos desplegando acciones en relación a la educación digital como principal motor de transformación educativa.

—¿Qué experiencias destacables tuvieron con la app GAPP?
—Hoy en día, el 90 % de los reportes que recibimos por parte de la sociedad llegan a la organización a través de GAPP, desarrollada y operada por Grooming Argentina desde el 2018. Esta es la primera y única aplicación global que permite denunciar el acoso y abuso sexual a niños, niñas y adolescentes a través de internet y las diversas plataformas tecnológicas.

La aplicación está compuesta por dos botones: el principal, que al presionarlo por parte de una víctima directa (niñas, niños y adolescentes) o indirecta (persona adulta responsable) redirige a nuestra línea de WhatsApp donde las operadoras especializadas intervendrán bajo el rol de primera escucha y contención efectiva, dando lugar inmediatamente al equipo de legales. Este equipo, a su vez, trabaja en articulación con el equipo psicológico (que acompaña a las víctimas y sus familias) y articula las denuncias con la Policía Federal Argentina (área de cibercrimen en todo el territorio nacional) iniciando así la judicialización de cada caso en particular con mayor celeridad. El segundo botón permite realizar la denuncia, pero en forma anónima. La aplicación, a su vez, permite monitorear, en tiempo real, la incidencia de las denuncias geográficamente, para evaluar y mejorar la trazabilidad de las tareas de prevención en función de ese mapa del delito.

Gracias a todo este trabajo, nuestra organización ingresó a la Red Global INHOPE (International Association of Internet Hotlines) y es la encargada de administrar el reporte oficial de casos de CSAM (material de abuso sexual de niñas, niños y adolescentes) en la Argentina.

Si te interesa leer más sobre grooming, te sugiero estas notas:

Los chicos en riesgo: ¿qué es el grooming y cómo evitarlo?

Cómo funciona GAPP, la aplicación para denunciar grooming en tiempo real