Facebook intenta limpiar su imagen tras un 2018 complicado luego del escándalo con Cambridge Analytica y myPersonality. A partir de mayo, comenzó a realizar informes mostrando diferentes herramientas que van a permitir una mejor vigilancia de lo que suceda en la red social.

La empresa de Mark Zuckerberg presentó un software basado en machine learning que revisará los diferentes memes que se suban a su home. Su nombre es Rosetta y la herramienta reconocerá y clasificará los memes y su contenido.

Según sus desarrolladores, la herramienta está en pleno funcionamiento y extrae a diario texto del mil millones de imágenes y frames de vídeos tanto en Facebook como en Instagram. Este sistema facilita las tareas del equipo “humano” de la red social a la hora de moderar, de lo contrario, sería imposible visualizar con claridad cada contenido subido.

Rosetta trabaja bajo el sistema de machine learning para identificar texto, imágenes y videos aunque cuenta con limitaciones. Cada evaluación del soft es enviado al equipo humano de moderadores para un test final.

El sistema tiene marcadas algunas palabras clave que sirven para emitir una alerta ante un posible mensaje ofensivo, propaganda o discursos de odio. Ante esto, la imagen es eliminada directamente y un humano es quien decide si se mantiene así o se vuelve a publicar.

Rosetta, la herramienta de Facebook para identificar memes.

Según explica Facebook, la extracción de texto e imágenes se utiliza para "identificar automáticamente el contenido que infrinja nuestra política de odio y lenguaje", aunque no queda claro qué está haciendo con todos estos datos o si están asociando este tipo de contenido a los usuarios que lo publican en primer lugar.

Por otro lado, Rosetta trabaja en varios idiomas y posee un sistema de apoyo visual o reconocimiento óptico de caracteres (OCR), el cual, fue usado por la compañía desde 2015, sólo que ahora se analiza mediante “redes neuronales convolucionales” que intentan reconocer los caracteres y determinar lo que se está comunicando.

Facebook, con el lanzamiento de esta herramienta, da un paso adelante en la transparencia de los contenidos, el control de mensajes de odio y violencia pero con la incertidumbre de romper el código de la censura. Zuckerberg se comprometió en realizar acciones previas a los posteos pero Rosetta aún no dió el salto de calidad para lograrlo.