Mercado abrirá em 1 h 19 min
  • BOVESPA

    110.249,73
    +1.405,98 (+1,29%)
     
  • MERVAL

    38.390,84
    +233,89 (+0,61%)
     
  • MXX

    50.828,13
    +270,48 (+0,53%)
     
  • PETROLEO CRU

    71,47
    +0,98 (+1,39%)
     
  • OURO

    1.774,20
    -4,00 (-0,22%)
     
  • BTC-USD

    41.927,45
    -1.510,63 (-3,48%)
     
  • CMC Crypto 200

    1.044,07
    -19,77 (-1,86%)
     
  • S&P500

    4.354,19
    -3,54 (-0,08%)
     
  • DOW JONES

    33.919,84
    -50,63 (-0,15%)
     
  • FTSE

    7.068,00
    +87,02 (+1,25%)
     
  • HANG SENG

    24.221,54
    +122,40 (+0,51%)
     
  • NIKKEI

    29.639,40
    -200,31 (-0,67%)
     
  • NASDAQ

    15.067,50
    +43,50 (+0,29%)
     
  • BATS 1000 Index

    0,0000
    0,0000 (0,00%)
     
  • EURO/R$

    6,1807
    +0,0016 (+0,03%)
     

Facebook pede desculpa após sugestão racista de algoritmo

·3 minuto de leitura

Usuários do Facebook relataram ter se deparado com um absurdo caso de racismo no algoritmo da plataforma. Após assistirem a um vídeo de jornal com homens negros, o sistema de inteligência artificial (IA) os questionou se gostariam de continuar a ver "vídeos sobre primatas", em uma clara atitude racista de associação a macacos.

Em resposta à BBC News, o Facebook pediu desculpas e disse se tratar de um "erro inaceitável". A rede social desativou o sistema e iniciou uma investigação para descobrir o que ocorreu neste caso. A recomendação ofensiva não foi a primeira e nem será a última de uma longa série de fatos envolvendo preconceitos raciais e IA.

O algoritmo associou homens negros a macacos (Imagem: DailyMall/Facebook)
O algoritmo associou homens negros a macacos (Imagem: DailyMall/Facebook)

A inaceitável vinculação entre pessoas negras e macacos tem raízes sociais e acabam transportadas para os algoritmos das redes sociais em razão da atitude dos próprios usuários. Com base no aprendizado de máquina, esses sistemas rotulam fotos, vídeos e textos conforme as associações feitas pelas pessoas — quanto mais isso se repete, mais o computador entende se tratar de algo correto e então começa a tomar como verdadeiro.

No ano passado, foi anunciada a criação de um conselho voltado para examinar, entre outras coisas, preconceitos raciais nos algoritmos do Facebook e do Instagram. Como nada mais se falou sobre isso, pressupõe-se que esteja em funcionamento.

No caso do Facebook, ainda não dá para afirmar se foi isso que ocorreu ou se houve trabalho humano por trás. O jeito é aguardar a investigação e cobrar medidas concretas da rede social para coibir essa prática.

Outros casos similares

O fato mais recente relacionado ao racismo algoritmo foi da ferramenta de corte automático de fotos do Twitter. Usuários notaram que o sistema, usado para selecionar trechos mais importantes das imagens, tinha uma tendência a focar em figuras femininas brancas, cortando sem dó homens negros.

Após um concurso realizado com especialistas, os desenvolvedores comprovaram o enfoque racista da ferramenta e outras coisas mais. Eles descobriram, por exemplo, que o algoritmo também era preconceituoso contra palavras escritas em árabe e pessoas gordas.

O algoritmo do Twitter cortava as fotos erradas quando o termo vinha em árabe (Imagem: Reprodução/Roya Pakzad)
O algoritmo do Twitter cortava as fotos erradas quando o termo vinha em árabe (Imagem: Reprodução/Roya Pakzad)

No TikTok, o problema foi um filtro inseridos de forma automática em vídeos gravados com a ferramenta da plataforma. Rostos de mulheres ganhavam uma aparência mais afilada e clara, além de contornos mais "femininos", o que deixou muita gente perplexa e indignada. A rede social limitou-se a dizer que foi uma falha corrigida pouco tempo depois.

O mesmo TikTok, em junho, foi acusado de censurar termos antirracismo, mas permitir conteúdo racista. Na ocasião, frases como “I am a neo nazi” ("Eu sou neonazista") e “I am an anti semetic” ("Eu sou antissemita") foram aceitas nas legendas, mas “I am a black man” ("Eu sou um homem preto") era vedada.

Em 2015, o aplicativo Fotos, do Google, rotulou imagens de negros como "gorillas". A empresa se disse chocada e genuinamente arrependida, embora a correção àquela altura tenha sido apenas censurar buscas de fotos e tags com o termo.

Fonte: Canaltech

Trending no Canaltech:

Nosso objetivo é criar um lugar seguro e atraente onde usuários possam se conectar uns com os outros baseados em interesses e paixões. Para melhorar a experiência de participantes da comunidade, estamos suspendendo temporariamente os comentários de artigos