Mercado fechado

Tinder usa inteligência artificial como arma contra o abuso

Felipe Demartini

O Tinder está usando a inteligência artificial como mais uma forma de evitar abusos e ampliar a segurança dos usuários da plataforma. Um sistema de machine learning, já ativo em 11 países e falando nove idiomas, será capaz de detectar automaticamente quando uma conversa privada começar a seguir um caminho negativo e auxiliará os usuários a se protegerem por meio de bloqueios e sistemas de denúncias.

A plataforma de segurança estará constantemente fazendo a leitura das mensagens trocadas entre os usuários. Ao sinal de problemas, o aplicativo exibirá uma mensagem perguntando se o usuário está incomodado com o que está acontecendo e, em caso positivo, será instruído sobre a possibilidade de reportar o match para que os sistemas de segurança do Tinder possam tomar atitudes, além de bloquear o contato para que a comunicação deixe de acontecer de forma imediata.

De acordo com a empresa, a ideia é mudar uma realidade percebida em pesquisas internas e que também começa a virar uma constante nas redes sociais. Enquanto exposições feitas, principalmente, por usuárias começam a aparecer em outras redes sociais, como o Twitter e o Facebook, o Tinder percebeu que muitos dos casos evidenciados desta maneira acabam não sendo denunciados à própria plataforma, o que dificulta a ela tomar atitudes e remover aqueles que fazem mau uso de seus sistemas.

Por meio de uma inteligência artificial, a companhia acredita ter encontrado uma maneira pouco intrusiva e também direta de realizar essa moderação, algo que também vem sendo feito por outras plataformas digitais. É um caminho que, ao mesmo tempo, garante uma proteção adicional aos usuários e não fere a privacidade deles, uma vez que o processamento de mensagens é feito somente pelo sistema automatizado e os textos jamais são lidos por funcionários da companhia.

Sistema de machine learning do Tinder identificará mensagens problemáticas e permite que usuário informe sobre a própria segurança (Imagem: Divulgação/Tinder)

No Tinder, entretanto, o uso do machine learning serviu como um desafio a mais, pois o que normalmente seria visto como uma linguagem vulgar em outra plataforma pode não valer para o app de namoros. É por isso que, com base em um conjunto inicial de dados compilado a partir de denúncias já realizadas, os responsáveis pela plataforma decidiram seguir com uma notificação, algo que permite ao usuário se demonstrar como seguro e, também, alimenta a tecnologia com mais informações que possam auxiliar em novas detecções e evitar falsos positivos.

Por enquanto, a ideia da empresa é fazer com que a inteligência artificial peque pelo excesso, já que o contrário disso coloca a segurança dos utilizadores em risco. A meta é que, com o tempo, cada usuário tenha seu próprio sistema, funcionando de acordo com preferências pessoais e a forma como prefere utilizar o aplicativo, com modelos customizados criados automaticamente de acordo com as indicações de cada pessoa.

O uso da inteligência artificial se une a outras medidas de segurança que estão sendo implementadas pelo Tinder. Na última semana, a empresa anunciou os testes de um “botão do pânico” que pode ser acionado por usuários em caso de problemas durante os encontros. A iniciativa é parceria com uma empresa de geolocalização e funciona a partir de atendentes reais, que são capazes de tentar contato com possíveis vítimas de abuso e enviar autoridades para o endereço onde elas estão.

De acordo com o Tinder, a plataforma de machine learning deve ser aplicada em todos os países nos quais a companhia atua. O Canaltech entrou em contato para saber se o Brasil e o português nacional estão na lista inicial da tecnologia ou se farão parte de uma liberação futura, mas não havia recebido resposta até o momento da publicação.


Fonte: Canaltech

Trending no Canaltech: