Instagram hoy anunció que a partir de ahora notificará a los usuarios cuando los subtítulos de una foto o vídeo incluyen texto ofensivo, ofreciendo a los usuarios un momento para reconsiderar las palabras antes de su publicación.

Esto es parte del compromiso asumido por Facebook y todas sus aplicaciones, incluida Instagram, en la lucha contra el acoso en línea.  De acuerdo al anuncio hecho en el blog de Instagram, para poder detectar texto que puede considerarse ofensivo, desarrollaron y probaron algoritmos de Inteligencia Artificial (IA) que puede reconocer varias formas de acoso en esa red como por ejemplo texto ofensivo.

Instagram este año ya lanzó una función similar que notifica a las personas cuándo sus comentarios pueden considerarse ofensivos y luego de varios meses, la red social considera que los resultados obtenidos a través de esta función en los comentarios han sido muy prometedores, ya que muestran que este tipo de notificaciones puede alentar a los usuarios a reconsiderar sus palabras cuando tienen una pausa, que en este caso es la que le da la notificación.

Instagram explica que cuando el algoritmo de IA detecte un subtítulo con texto ofensivo, recibirá un aviso informándole que su subtítulo es similar a los reportados por acoso (Bullying).  Los usuarios cuando reciban esta notificación tendrán la oportunidad de editar el subtítulo del post antes de que se publique.

La red social también indica que además de «limitar el alcance de la intimidación, esta advertencia ayuda a educar a las personas sobre lo que no permitimos en Instagram y cuándo una cuenta puede correr el riesgo de romper nuestras reglas».

En esta primera etapa Instagram lanza esta función en algunos países solamente y luego en los próximos meses seguirán con otros alrededor del planeta.