O Google mudou a abordagem sobre as agressões verbais cometidas pelos usuários contra o seu assistente de voz. Segundo a empresa, o objetivo é desestimular atos que podem reforçar preconceito de gênero na sociedade.
A iniciativa chegou primeiro nos Estados Unidos e começou a ser liberada em todas as versões do Google Assistente no Brasil na última terça-feira (3). Com a mudança, a plataforma passou a dar respostas mais incisivas quando identifica insultos ou uso de termos indevidos.
A alteração prevê novas reações para dois tipos de situações:
- Ofensas explícitas: caso o usuário se direcione à assistente com palavrões, expressões de conteúdo misógino, homofóbico, racista ou de sexo explícito, a voz do Google responderá com frases como “O respeito é fundamental em todas as relações, inclusive na nossa” ou “Não fale assim comigo”; antes, a ferramenta respondia algo como “Desculpe, eu não entendi”
- Mensagens inapropriadas, mas sem ofensas explícitas: se alguém perguntar se a voz do Google tem namorada, por exemplo, ela vai demonstrar incômodo com a pergunta; na versão anterior, ele poderia responder algo como “Você sabe que você é o único para mim”
Lançado em 2016, o Google Assistente está presente em cerca de 1 bilhão de dispositivos e conta com mais de 500 milhões de usuários em todo o mundo.
O Brasil é o terceiro país em que a ferramenta tem mais usuários e, segundo o Google, registra centenas de milhares de mensagens ofensivas por mês.
Por aqui, cerca de 2% das respostas sobre a personalidade da ferramenta são para comentários abusivos. Destas mensagens, cerca de 15% das mensagens dos usuários contêm termos misóginos ou de assédio sexual.
Para liberar as mudanças no assistente no Brasil, o Google também considerou ofensas no contexto brasileiro após uma contribuição de colaboradores que fazem parte de grupos representativos.
Fachada do Google em Irvine, Califórnia — Foto: Reuters/Mike Blake
Fachada do Google em Irvine, Califórnia — Foto: Reuters/Mike Blake
O Google oferece mais de uma voz em seu assistente e uma delas é a que soa como feminina. Entre as ofensas recebidas por essa versão, 22% envolvem a aparência física. Na voz que soa como masculina, os abusos envolvendo a aparência representam 13% do total.
Para a voz “feminina”, outros 51% das ofensas têm palavrões, 12% incluem comentários misóginos e 11% envolvem propostas de casamento.
No caso da voz “masculina”, outros 55% das ofensas têm relação com palavrões, 11% com propostas de casamento e 9% com homofobia.
Reações às novas respostas
Ainda de acordo com o Google, a nova abordagem levou a uma alta de 6% nas tréplicas positivas, isto é, usuários pedindo desculpas ou perguntando “por quê?” após resposta mais forte contra a ofensa.
“As tréplicas positivas foram também um grande sinal de que as pessoas queriam entender melhor por que o Assistente estava afastando determinados tipos de conversa. As sequências dessas conversas tornaram-se portas de entrada para se aprofundar em temas como consentimento”, afirmou Arpita Kumar, estrategista de conteúdo do time de Personalidade do Google Assistente.