Instagram pedirá a los usuarios que piensen dos veces antes de publicar un contenido que pueda considerarse ofensivo. La red social está implementando una nueva función que gracias a la inteligencia artificial permite alertar a los usuarios sobre comentarios ofensivos.

Así, por ejemplo, si alguien escribe "eres feo y estúpido", el sistema será capaz de alertarle con un mensaje de aviso que dice: "¿Estás seguro de que quieres publicar esto?" y un enlace a un mensaje en el que Instagram explica "Estamos pidiendo a las personas que reconsideren los comentarios que se parecen a otros que han sido reportados".

"Esta acción da a las personas la oportunidad de reflexionar y deshacer sus comentarios y evita que el destinatario reciba la notificación de comentarios dañinos", explica Adam Mosseri, CEO de Instagram, en declaraciones recogidas en el diario digital New Scientist.

Mosseri reconoce que el bullying es "un problema complejo" y que Instagram lleva usando desde hace años la inteligencia artificial para detectar este y otros tipos de contenidos dañino.

La red empezó a realizar un seguimiento de casos de acoso escolar después que se dieran casos como el de la muerte de la adolescente británica Molly Russell. Tras su suicidio, en noviembre de 2017, su padre Ian aseguró que creía que Instagram era en parte responsable de su muerte.

En una conferencia, Ian Russell afirmó que "es importante reconocer que las empresas de tecnología hacen algunas cosas bien, pero lamentablemente sus plataformas están siendo utilizadas por la gente para hacer daño y no han hecho lo suficiente para evitarlo. A menos que ocurra un cambio, sus plataformas se volverán tóxicas", advirtió.

Otra de las herramientas que podría lanzar Instagram, Restrict, está pensada para ayudar a filtrar comentarios abusivos sin necesidad de bloquear a otros usuarios. Con esta herramienta, las personas restringidas no podrán ver cuándo un usuario está activo en Instagram o cuando se han leído mensajes directos.

"Hemos escuchado de los jóvenes de nuestra comunidad que se muestran reacios a bloquear, dejar de seguir o denunciar a su agresor porque podría agravar la situación, especialmente si interactúan con su agresor en la vida real", dice Mosseri, por lo que Restrict podría ser de gran ayuda.