Policiar os discursos de ódio e conteúdos ofensivos numa plataforma tão grande como o Facebook é um grande desafio. Apesar de não ser muito complicado filtrar palavras e frases desagradáveis, a situação é diferente quase se trata de memes. Neste caso é muito mais difícil para o site detectar mensagens sensíveis sem intervenção humana. Para tornar as coisas um pouco mais fáceis, o Facebook está a implementar um cão de guarda baseado em inteligência artificial que tem a capacidade de descobrir, de forma simples, mensagens ofensivas.
Este sistema de inteligência artificial que pode vasculhar uma imensa quantidade de dados num período muito curto de tempo, é totalmente capaz de ler o texto que foi sobreposto numa imagem ou vídeo e compreende vários idiomas. O nome deste sistema é Rosetta e o Facebook perdeu algum tempo para explicar como funciona.
Este sistema de inteligência artificial utiliza um algoritmo para detectar quais as regiões de uma imagem ou vídeo que provavelmente contêm texto. Posteriormente, divide o texto suspeito em palavras que ele interpreta. O algoritmo deve ser versátil o suficiente para lidar com vários idiomas diferentes, incluindo idiomas como o árabe, escritos da direita para a esquerda.
A Rosetta foi treinada em imagens com anotações humanas e geradas artificialmente.
Já ao policiar vídeos, este sistema pode capturar frames individuais de vídeo e aplicar a mesma lógica. No entanto, o Facebook diz que esta abordagem não funciona a longo prazo.
O Facebook tem apostado cada vez mais no machine learning para ajudar a melhorar a plataforma, e parece que a moderação de conteúdos será a próxima área em que este sistema vai incidir com toda a força.
Receba as notícias Leak no seu e-mail. Carregue aqui para se registar. É grátis!
