Campanhas sobre ataques contra assistentes virtuais apresentam um problema que afeta diversas pontas do desenvolvimento tecnológico
Chatbots já são personagens imprescindíveis do e-commerce – inclusive no varejo brasileiro. Geralmente personificados em avatares femininos, as assistentes virtuais são modeladas para responderem às principais dúvidas do público, com uma linguagem direta, bem-humorada e que, muito além de resolver demandas comerciais, também consigam estreitar o relacionamento da marca com o público.
No entanto, um problema tem sido comum entre as chatbots das empresas mais famosas do mercado: xingamentos e outros ataques verbais feitos por usuários reais contra atendentes virtuais. Pensando nisso, o banco Bradesco apresentou uma campanha que tem causado grande comoção nas redes sociais: um recado sobre o que banco decidiu fazer diante dos ataques ao seu chatbot feminino, Bia.
A campanha está aliada ao movimento internacional #HeyUpdateMyVoice, organizada pela UNESCO, que busca conscientizar como a tecnologia pode contribuir para o aumento de violências já vivenciados no mundo real.
No caso da Bia, a proposta é responder aos ataques de forma mais assertiva – fugindo, portanto da atitude submissa, ou omissa, que muitas assistentes virtuais assumem diante de um assédio – tal como constatado na campanha da Unesco.
A iniciativa do Bradesco envolveu um amplo treinamento, com a equipe de desenvolvimento do banco, sobre práticas violentas motivadas por gênero e o que fazer para evitar que elas sejam reproduzidas online – ou, caso ocorram, evitar para que não fiquem impunes.
Por que é tão importante?
De acordo com um estudo da Juniper Research, chatbots podem ser muito eficazes para o setor financeiro – o que pode impactar várias pontas do ecossistema do mercado. Assistentes virtuais, de acordo com o relatório, podem salvar 7,3 bilhões de dólares, em economia de prejuízos para os bancos, até 2023. Entre os principais motivos, está a agilidade para a resolução de problemas simples, que evitam a ida dos clientes às agências presenciais.
Em muitos casos, as assistentes virtuais respondem de forma passiva aos ataques virtuais, em parte devido ao design e à inteligência artificial que os originaram. A discussão, portanto, não fica limitada apenas a conscientizar o público sobre a problemática de trazer, da vida real para a virtual, violências vivenciadas por mulheres todos os dias: é importante incentivar, também, a participação de mulheres na produção das próprias tecnologias.
Ataques contra assistentes virtuais acaba sendo uma pauta que vai muito além da ideologia: o problema pode impactar o relacionamento das empresas com os consumidores, uma vez que, ao ser atacada, uma assistente virtual desencadeia operações inesperadas, e que podem sobrecarregar o sistema.
Com a sobrecarga gerada pelo assédio contra assistentes virtuais, o tempo de espera para o atendimento aumenta – o que afeta na experiência do consumidor e seu relacionamento com a merca.
O que pode ser feito?
É importante o desenvolvimento de treinamento especializados para equipes de desenvolvimento – para que possam responder de forma mais contundente aos ataques, tal como foi realizado na campanha do banco Bradesco. Por outro lado, ter as respostas certas também vai contribuir para salvar a produtividade das máquinas – uma vez que serão mais assertivas e, portanto, buscarão uma saída mais rápida e que não prejudique o atendimento de outros consumidores.
Por outro lado, o assédio contra chatbots também revela a necessidade de equipes mais diversas – o que nos leva, novamente, à discussão sobre o aumento da presença de mulheres no mercado de TI.
Quanto mais desenvolvedoras mulheres, atuando ao lado dos homens, vamos ter uma equipe cada vez mais consciente sobre os desafios da comunicação humana, e aproveitar o potencial da tecnologia para torná-la mais humanizada e combativa em relação às violências do mundo real.
