Mercado fechado

“Criança” de IA pode escapar e fazer "travessuras", diz engenheiro do Google

O Google se defendeu dizendo que a informação era falsa (Getty Image)
O Google se defendeu dizendo que a informação era falsa (Getty Image)
  • Google estaria desenvolvendo uma tecnologia de uma AI "infantil"

  • Engenheiro afirmou que tecnologia era capaz de escapar e fazer “coisas ruins”

  • Empresa negou as acusões de ex-funcionário

Se já não é fácil compreender e educar crianças na vida real, com a inteligência artificial também não é muito diferente. Ao menos é isso o que diz o engenheiro Blake Lemoine, que trabalhou em um projeto do Google responsável por desenvolver uma AI "infantil".

O funcionário afirmou que a tecnologia era capaz de escapar e fazer “coisas ruins”, “travessuras”. Ele disse ainda que o recurso possui algumas características que dificultam a sua diferenciação de uma criança da vida real.

A inteligência artificial foi criada como um chatbot (sistema de conversa automatizada) da Google, permitindo que haja uma interação com os usuários de forma mais natural.

Nomeada de LaMDA (Language Model for Dialogue Applications, ou Modelo de Linguagem para Aplicações de Diálogo em português). A invenção seria capaz de conversar sobre diferentes assuntos.

“Se eu não soubesse exatamente o que era, um programa de computador que construímos recentemente, eu pensaria que era um garoto de 7 ou 8 anos que, por acaso, conhece física”, disse Blake em uma entrevista ao Washington Post.

A principal razão pela qual a IA é considerada uma “criança” se deve ao fato de que também é capaz de crescer e pode ser usada por pessoas com más intenções. O engenheiro ainda disse que ela pode ser considerada um “pouco narcisista”.

O Google se defendeu dizendo que a informação era falsa. A empresa disse que o sistema está sendo desenvolvido para “replicar conversas encontradas em milhares de frases”, e que foram mostradas provas à Lemoine de que a LaMDA na verdade não é consciente.

“Embora outras organizações tenham desenvolvido e já lançado modelos semelhantes de linguagem, estamos adotando uma abordagem estreita e cuidadosa com o LaMDA, para considerar melhor as preocupações válidas sobre justiça e factualidade”, disse Brian Gabriel, porta-voz da empresa.

Nosso objetivo é criar um lugar seguro e atraente onde usuários possam se conectar uns com os outros baseados em interesses e paixões. Para melhorar a experiência de participantes da comunidade, estamos suspendendo temporariamente os comentários de artigos