“Hey, Atualize Minha Voz”: Uma campanha contra o assédio às assistentes virtuais

Quando publicamos o texto “Detroit Become Human: Um jogo sobre empatia e humanidade”, a nossa discussão foi em torno de inteligências artificiais e a empatia humana, reflexões sobre humanidade e a nossa relação com androides. No texto abaixo, vamos explorar ainda mais esta relação. A UNESCO lançou a campanha #HeyUpdateMyVoice (“Hey, Atualize Minha Voz”, em tradução livre), um movimento contra o preconceito de gênero e o assédio sexual às AIs. Algo que pode parecer sem sentido, mas quando olhamos mais de perto, entendemos o tamanho do problema.

De acordo com a campanha, as assistentes virtuais estão cada vez mais presentes em nossas vidas. Seja para ajudar, tirar dúvidas, facilitar o nosso dia a dia. Em comum, elas têm nomes de mulheres e a voz padrão do gênero feminino, como a Magalu (do Magazine Luiza), Siri, Alexa, Cortana, etc. Infelizmente essas inteligências artificiais vêm sofrendo com assédio. Um estudo lançado em maio de 2019 pela UNESCO, chamado “I’d Blush If I Could” (“Ficaria Corada se Pudesse”, em tradução livre), constatou que, como essas assistentes são programadas basicamente por homens (que representam 90% da força de trabalho na criação de IA) e têm a premissa de estar sempre conectadas aos seus usuários, quando são verbalmente assediadas, suas respostas são tolerantes, subservientes e passivas.

Engana-se quem acha que esta discussão é nova ou reflexos de uma sociedade conectada. Na década de 60, nos primórdios da pesquisa sobre programas de reconhecimento de voz, Joseph Weizenbaum – professor do MIT – desenvolveu o primeiro chatbot, chamado Eliza e, enterrado nos códigos da ferramenta (veja aqui), uma série de reações para caso uma pessoa começasse a xingá-la. Entre mensagens como “eu realmente não deveria tolerar essa linguagem” ou “você está sendo um pouco infantil”, Eliza reagiria.

Mas Eliza é de uma outra época. Uma época em que pouco importa se a pessoa manteria o engajamento com a solução. Eliza não foi desenvolvida para coletar informações, criar uma interação com o consumidor e, em última instância, vender algo via publicidade.

Já Alexa, Siri, Magalu e outras tantas IA foram projetadas para aceitarem todo tipo de consumidor. Elas não podem criar embates com um determinado perfil, pois correm o risco de perderem uma fatia do mercado. E essa submissão ao consumidor, somado ao sexismo do mercado de tecnologia, criaram um ambiente onde a misoginia e a intolerância são tratados com indiferença.

A questão levantada pela UNESCO é que, esta indiferença e/ou submissão são tão problemáticas quanto uma relação abusiva real, pois geram aos agressores uma sensação de que aquilo é algo aceitável. Para que possamos entender o tamanho do problema, o nome da campanha – “Ficaria Corada se Pudesse” – era uma resposta programada para a Siri, a IA da Apple, caso fosse chamada de “vadia”. E se isso acontece com elas, imagine o que acontece na vida real com mulheres reais. Segundo a Kering Foundation, 73% das mulheres de todo mundo já sofreram algum assédio online. Já no Brasil, 97% das mulheres brasileiras afirmam ter sofrido assédio em transportes públicos e privados, afirma pesquisa do Instituto Locomotiva e Instituto Patrícia Galvão.

E como podemos mudar isso? O movimento “Hey, Atualize Minha Voz” propõe que você sugira uma resposta para as assistentes virtuais em caso de assédio. Com a ajuda dos usuários, eles esperam criar um banco de vozes para atualizar as respostas das assistentes virtuais. Além disso, em seu site, o movimento pede que compartilhe as resoluções propostas para um futuro digital mais igualitário.