Google desarrolló un software libre y gratuito para que sirva como herramienta adicional a aquellos que dedican horas neutralizando y eliminando contenido referido a pornografía infantil y abuso.

La solución basada en inteligencia artificial, asiste a los moderadores clasificando imágenes y vídeos marcados y “priorizando el contenido más probable de CSAM (Child Sexual Abuse Material) para su revisión“; es decir, que clasifica por sí mismo el contenido. Durante el mismo periodo de tiempo, un moderador puede revisar contenido un 700% más rápido.

Dentro de las diferentes redes sociales y sitios webs, hay un equipo de moderadores (seres de carne y hueso) que clasifican y neutralizan este tipo de contenidos ilegales. Este tipo de tareas puede llevar horas diarias o semanales y demorar incluso, en obtener resultados relevantes. La solución de Google agiliza este tipo de tareas y organiza la gestión.

El sistema se basa en la experiencia aprendida por el software gracias al entrenamiento clasificando contenido. Pero, por el momento, no evita que el moderador tenga que dejar de ver estas imágenes. Y es que, por ahora, su función principal es revisar las imágenes y decidir cuáles deben ser vistas (urgentemente) por el moderador humano, que será quien lo marque como ilegal o no en última instancia.

Uno de los primeros sitios donde se probará este software será en la IWF (Internet Watch Foundation), una de las organizaciones más grandes a nivel mundial que se dedica precisamente a revisar y eliminar contenido inapropiado de internet bajo el lema “Better Internet for Kids”, para ver cómo se ajusta al flujo de trabajo de los moderadores. “Ese tipo de clasificador es un poco como el Santo Grial en nuestra área”, agrega la organización.

En la actualidad hay aplicaciones de Microsoft que impiden la difusión de este contenido, y son usadas por Facebook y Twitter, pero solo funcionan si los contenidos son marcados como ilegales.