Google cria nova escala de tons de pele para melhorar avaliação por IA

O tom de pele desempenha um papel fundamental na forma como vivemos e somos tratados no mundo, e até mesmo fatores em como interagimos com as tecnologias. Estudos mostram que os produtos criados usando as tecnologias atuais de inteligência artificial e aprendizado de máquina podem perpetuar preconceitos e não funcionar bem para pessoas com tons de pele mais escuros.

Em 2018, um estudo inédito da Gender Shades demonstrou que as APIs (Interface de programação de aplicações) comerciais de análise facial têm um desempenho substancialmente pior em imagens de pessoas de não brancas e mulheres. Através do estudo, a Gender Shades avaliou o desempenho da API entre gêneros e tons de pele, bem como a interseccionalidade entre os dois. As descobertas do estudo inspiraram os membros da comunidade de inteligência artificial a explorar sistemas visão computacional mais inclusivos e desenvolver as melhores práticas para medir, melhorar e documentar como os modelos e conjuntos de dados representam o tom da pele.

Mas como categorizamos o espectro contínuo de tons de pele de todo o mundo em categorias significativas que funcionam de forma justa? Até o momento, o padrão da indústria de tecnologia para categorizar o tom de pele tem sido a Escala Fitzpatrick — que possui 6 tons. Desenvolvida em 1975 pelo dermatologista de Harvard Thomas Fitzpatrick, a Escala Fitzpatrick foi originalmente projetada para avaliar a sensibilidade a raios ultravioleta de diferentes tipos de pele para fins dermatológicos. Como resultado, a escala se inclina para tons mais claros, que tendem a ser mais sensíveis aos raios UV. Embora essa escala possa funcionar para casos de uso dermatológico, confiar na Escala Fitzpatrick para o desenvolvimento de aprendizado de máquina resultou em um viés não intencional que exclui tons mais escuros.

A visão computacional é um tipo de inteligência artificial que permite que os computadores “vejam e entendam” imagens de pessoas e ambientes, mas quando os sistemas atuais não são projetados com todos em mente, eles podem deixar de “ver” e “entender” pessoas com pele mais escura. Construir sistemas de visão computacional mais inclusivos é algo que precisa ser intencional – desde a coleta de conjuntos de dados representativos para treinamento e avaliação, até o desenvolvimento das métricas de avaliação corretas, até a criação de recursos que funcionem para todos os usuários.

Para aprimorar a compreensão dos sistemas de visão computacional sobre tons de pele e melhorar a equidade na avaliação feita pelo aprendizado de máquina, o Google anunciou — durante o Google I/O 2022, conferência anual que aconteceu em 11 de maio — que está abrindo o código da Escala Monk Skin Tone (MST) – uma escala alternativa que é mais inclusiva do que o padrão atual da indústria de tecnologia. Desenvolvida pelo professor de Harvard, Dr. Ellis Monk, a MST Scale oferece um espectro mais amplo de tons de pele que podem ser aproveitados para avaliar conjuntos de dados e modelos de aprendizado de máquina para melhor representação. Para conhecer e explorar a Escala Monk Skin Tone, clique aqui.

O Centro de Pesquisa do Google para Inteligência Artificial Responsável e Tecnologia Centrada no Homem fez uma parceria com o Dr. Monk para lançar abertamente a Escala MST para a comunidade de aprendizado de máquina. Ao liberar de forma aberta a escala para o setor mais amplo, o Google espera que outros profissionais incorporem a escala em seus processos de desenvolvimento, melhorando coletivamente essa área no campo da inteligência artificial.

Atualmente, a equipe do Google segue colaborando com o Dr. Monk para refinar ainda mais a escala. Além disso, o Google também está convidando especialistas em equidade de aprendizado de máquina e desenvolveres a compartilhar comentários sobre como a empresa pode aprimorar a escala e desenvolver seus modelos com responsabilidade, de acordo com os princípios de inteligência artificial do Google.

Junto ao anúncio, a empresa também compartilhou suas práticas recomendadas para a pesquisa de aprendizado de máquina de tom de pele. Confira alguns pontos importantes (e, para conhecer a lista completa, clique aqui).

Lembre-se de que o tom de pele pode ser subjetivo

Especialistas e desenvolvedores precisam se certificar de que os conjuntos de dados sejam analisados com responsabilidade. O Google recomenda pedir aos participantes do estudo que relatem seu tom de pele ou recrutar seres humanos para identificar o tom de pele percebido das pessoas nas imagens.

É importante lembrar que a percepção do tom de pele é, em parte, subjetiva, o que significa que as avaliações podem variar de acordo com os participantes e o contexto em que as imagens aparecem. Também é importante recrutar um grupo diversificado de participantes.

Não iguale o tom de pele à raça

Ao desenvolver sua escala, uma das intenções do Dr. Monk era ajudar a dissociar tom de pele e raça – dois conceitos que muitas vezes são confundidos. Os grupos raciais e étnicos incluem um vasto espectro de tons de pele e, levando em conta essas diferenças (dentro e entre grupos), podemos avançar para tecnologias mais sutis e inclusivas.

Colabore com o projeto

Resolver o problema da inclusão do tom de pele na tecnologia é complexo e deve ser um esforço colaborativo. Em seu anúncio, o Google deixou claro que presente fazer parcerias com pesquisadores das ciências sociais, especialistas em equidade de aprendizado de máquina e a comunidade de aprendizado de máquina mais ampla em todos os setores. Se você quiser colaborar nessa iniciativa, clique aqui para entrar em contato com o projeto.

Google Introduces New Skin Tone Scale for Photos