Mercado abrirá em 5 h 57 min
  • BOVESPA

    113.794,28
    -1.268,26 (-1,10%)
     
  • MERVAL

    38.390,84
    +233,89 (+0,61%)
     
  • MXX

    52.192,33
    +377,16 (+0,73%)
     
  • PETROLEO CRU

    72,26
    -0,35 (-0,48%)
     
  • OURO

    1.764,00
    +7,30 (+0,42%)
     
  • BTC-USD

    48.112,96
    -300,39 (-0,62%)
     
  • CMC Crypto 200

    1.231,81
    -1,48 (-0,12%)
     
  • S&P500

    4.473,75
    -6,95 (-0,16%)
     
  • DOW JONES

    34.751,32
    -63,07 (-0,18%)
     
  • FTSE

    7.027,48
    +10,99 (+0,16%)
     
  • HANG SENG

    24.786,32
    +118,47 (+0,48%)
     
  • NIKKEI

    30.500,05
    +176,71 (+0,58%)
     
  • NASDAQ

    15.533,75
    +16,00 (+0,10%)
     
  • BATS 1000 Index

    0,0000
    0,0000 (0,00%)
     
  • EURO/R$

    6,2050
    +0,0202 (+0,33%)
     

Google teria demitido especialista após críticas sobre preconceito em sua IA

·8 minuto de leitura

Na última quinta-feira (03), o Canaltech publicou uma entrevista com Ademir de Alvarenga Oliveira, engenheiro de software do Google, que falava sobre as ações da empresa para promover uma maior diversidade racial em seu quadro de funcionários. No entanto, parece que tais iniciativas ainda encontram certo desequilíbrio na companhia como um todo. Isso porque uma respeitada pesquisadora do Google afirmou que foi demitida pela empresa após criticar sua abordagem de contratação de minorias e os preconceitos embutidos nos atuais sistemas de inteligência artificial.

Timnit Gebru, era co-líder da equipe Ethical AI (uma divisão que abordava posturas éticas no uso de Inteligência Artificial) do Google e anunciou a sua demissão em seu perfil do Twitter na última quarta-feira (2). Ela afirma que a causa da dispensa foi um e-mail que havia enviado um dia antes a um grupo que incluía funcionários da empresa.

Este conteúdo não está disponível devido às suas preferências de privacidade.
Para vê-los, atualize suas configurações aqui.


No e-mail, no qual o jornal The New York Times teve acesso (e que você pode ler aqui - em inglês), ela expressou exasperação com a resposta do Google aos seus esforços - e de outros funcionários - para aumentar a contratação de minorias e chamar a atenção para o preconceito na inteligência artificial.

“Sua vida começa a piorar quando você começa a advogar por pessoas pouco representadas. Você começa a incomodar os outros líderes ”, dizia o e-mail. “Não há como mais documentos ou mais conversas alcançarem alguma coisa.”

Falhas na IA ética

Nascida e criada na Etiópia, Timnit Gebru, hoje com 37 anos, ajudou a escreveu em 2018 - quando atuava como pesquisadora da Universidade de Stanford - um artigo que é amplamente visto como um ponto de virada nos esforços para localizar e remover preconceitos nas plataformas de Inteligência Artificial. Ela começou a trabalhar no Google ainda naquele ano e ajudou a formar a equipe de ética em IA.'

Após contratar pesquisadores como o Dr. Gebru, o Google conseguiu se firmar como uma empresa dedicada à "IA ética". Mas, muitas vezes, a companhia relutaria em reconhecer publicamente as falhas em seus próprios sistemas.

Em uma entrevista ao New York Times, Gebru disse seus conflitos com o Google foram iniciados a partir do tratamento que a empresa deu a um artigo que ela havia escrito com seis outros pesquisadores, quatro deles do próprio Google. O material, também revisado pelo Times, apontou falhas em uma nova geração de tecnologia de linguagem, incluindo um sistema construído pelo Google que sustenta o mecanismo de busca da empresa.

Segundo a Dra. Gebru, esses sistemas aprendem os caprichos da linguagem analisando enormes quantidades de texto, incluindo milhares de livros, inserções na Wikipedia e outros documentos online. Como este texto inclui linguagem tendenciosa e, às vezes, odiosa, a tecnologia pode acabar gerando linguagem tendenciosa e odiosa da maneira, devido ao seu machine learning.

Timnit Gebru: forte críticas à política de contratação de minorias do Google (Foto: Stanford.edu)
Timnit Gebru: forte críticas à política de contratação de minorias do Google (Foto: Stanford.edu)

Gebru afirma que, depois que ela e outros pesquisadores enviaram o artigo para uma conferência acadêmica, um gerente do Google exigiu que ela retirasse material o evento ou removesse seu nome e os nomes de outros funcionários da empresa. Ela se recusou a fazer isso, sem mais discussões e, no e-mail enviado na noite de terça-feira, disse que renunciaria ao seu cargo após um período apropriado, se o Google não pudesse explicar por que queria que ela retirasse o documento e respondesse a outras questões.

A empresa respondeu ao seu e-mail, disse ela, dizendo que não poderia atender às suas demandas e que sua renúncia foi aceita imediatamente. Seu acesso ao e-mail da empresa e outros serviços foi revogado imediatamente. Em nota aos funcionários, Jeff Dean, vice-presidente sênior da divisão de IA do Google, disse que a empresa respeitava "a decisão de da Dra Gebru de renunciar". Ele afirmou também que o New York Times não reconheceu as pesquisas recentes que mostram formas de mitigar o viés preconceituoso em tais sistemas.

“Foi desumanizante”, disse Gebru ao jornal. “Eles podem ter motivos para encerrar nossas pesquisas. Mas o que é mais perturbador é que eles se recusam a discutir o motivo. ”

Dependência cada vez maior da IA

A saída do Dr. Gebru do Google ocorre em um momento em que a tecnologia de IA desempenha um papel crescente em quase todas as facetas dos negócios da companhia. A empresa atrelou seu futuro à inteligência artificial - seja com o Google Assistente - assistente digital habilitado por voz da empresa - seja por sua veiculação automatizada de publicidade para profissionais de marketing - como a tecnologia que deve tornar a próxima geração de serviços e dispositivos mais inteligentes e capazes.

Sundar Pichai, CEO da Alphabet e do próprio Google, comparou o advento da inteligência artificial ao da eletricidade ou do fogo e disse que a tecnologia é essencial para o futuro da empresa e da computação. No início deste ano, Pichai pediu maior regulamentação e tratamento responsável da inteligência artificial, argumentando que a sociedade precisa equilibrar os danos potenciais com as novas oportunidades.

O Google se comprometeu repetidamente a eliminar o preconceito em seus sistemas. O problema, disse Gebru, é que a maioria das pessoas que tomam as decisões finais é formada por homens:

“Eles não estão apenas deixando de priorizar a contratação de mais pessoas de comunidades minoritárias, eles estão reprimindo suas vozes”, disse ela.

Julien Cornebise, um professor associado honorário da University College London e ex-pesquisador da DeepMind, um proeminente laboratório de IA de propriedade da Alphabet, controladora do Google, estava entre muitos pesquisadores de inteligência artificial que disseram que a saída de Gebru refletia um problema maior no setor:

“Isso mostra como algumas grandes empresas de tecnologia apenas apóiam a ética e a justiça e outras causas de IA para o bem social, desde que seu impacto positivo de Relações Públicas supere o escrutínio extra que trazem”, disse ele. “Timnit é uma pesquisadora brilhante. Precisamos de mais como ela em nosso campo. ”

Tensão

Ainda segundo o Times, a saída de Gebru destaca a tensão crescente entre a força de trabalho mais engajada do Google e sua administração sênior mais rígida, enquanto são levantadas preocupações sobre os esforços da empresa para construir uma tecnologia de IA justa e confiável. Além disso, a dispensa também pode ter um efeito desanimador, tanto sobre os trabalhadores negros de tecnologia, quanto sobre os pesquisadores que deixaram os meios acadêmicos nos últimos anos por empregos bem remunerados no Vale do Silício.

“A demissão dela apenas indica que cientistas, ativistas e acadêmicos que desejam trabalhar neste campo - e são mulheres negras - não são bem-vindos no Vale do Silício”, disse Mutale Nkonde, um membro do Laboratório da Sociedade Civil Digital de Stanford. “É muito decepcionante.”

Por anos, o Google permitia um ambiente livre para discussões, em que seus funcionários participavam e debatiam os mais diversos temas, através de reuniões em toda a empresa, além de fóruns online. Nos últimos tempos, no entanto, a empresa teria começado a reprimir discursos mais engajados no local de trabalho. Muitos funcionários do Google se irritaram com as novas restrições e argumentaram que a companhoa rompeu com a tradição de transparência e livre debate.

Ainda quarta-feira (2), o National Labor Relations Board disse que o Google provavelmente violou as leis trabalhistas ao demitir dois funcionários envolvidos na organização trabalhista. A agência federal disse que a empresa fiscalizou ilegalmente os empregados antes de despedi-los.

Google vs. trabalhadores e o preconceito na Inteligência Artificial

Ainda nos últimos anos, o Google vem entrando em atrito com seus funcionários, que criticaram fortemente a empresa sobre como a empresa lida com o assédio sexual, bem como a respeito do seu trabalho com o Departamento de Defesa e agências de fronteira federais. Com isso, a reputação da companhia como "um lugar dos sonhos para se trabalhar", com salários generosos, vantagens e liberdade acabou seriamente danificada.

Protesto de funcionários do Google contra empresa: tensões crescentes entre a gerência senior da companhia e seus colaboradores (Foto: ACLU.org)
Protesto de funcionários do Google contra empresa: tensões crescentes entre a gerência senior da companhia e seus colaboradores (Foto: ACLU.org)


Como outras empresas de tecnologia, o Google também enfrentou críticas por não fazer o suficiente para resolver a falta de mulheres e minorias raciais entre suas fileiras. Os problemas de desigualdade racial, especialmente os maus-tratos a funcionários negros em empresas de tecnologia, atormentam o Vale do Silício há anos. A Coinbase, uma das empresas mais badaladas do setor de criptomoedas, experimentou nos últimos dois anos um êxodo de funcionários negros devido às acusações por parte dos trabalhadores de que receberam tratamento racista e discriminatório.

Os pesquisadores especializados em Inteligência Artificial temem que as pessoas que estão construindo plataformas neste padrão estejam inserindo seus próprios preconceitos na tecnologia. Nos últimos anos, vários experimentos públicos mostraram que os sistemas, frequentemente, interagem de maneira diferente com pessoas de cor - talvez porque eles estejam sub-representados entre os desenvolvedores que criam esses sistemas.

Um porta-voz do Google não quis comentar. Em um e-mail enviado aos funcionários do Google, Jeff Dean chamou a partida da Dra. Gebru de “um momento difícil, especialmente devido aos importantes tópicos de pesquisa em que ela estava envolvida, e quão profundamente nos preocupamos com a pesquisa de IA responsável, tanto como uma organização, quanto como uma empresa. ”

Com informações do Platformer.news

Fonte: Canaltech

Trending no Canaltech:

Nosso objetivo é criar um lugar seguro e atraente onde usuários possam se conectar uns com os outros baseados em interesses e paixões. Para melhorar a experiência de participantes da comunidade, estamos suspendendo temporariamente os comentários de artigos