The Babbel Blog

All posts by Joshua Stephens

Automatizando Preconceitos: quando as máquinas aprendem sobre gênero

Posted on outubro 15, 2018 by

No ano passado, as grandes inovações no aprendizado por máquinas ocuparam as manchetes por razões preocupantes: elas revelaram a manutenção dos nossos próprios preconceitos ao adotá-los. Em relação aos estereótipos de gênero, há um risco duplo enraizado na maneira como as máquinas aprendem os idiomas. A linguista computacional da Babbel, Kate McCurdy, pesquisa como os algoritmos associam gênero semântico e gramatical, bem como o que isso poderia significar para a chamada inteligência artificial e como nós devemos pensar para corrigir essa tendência.

 

Então, vamos começar explicando seu projeto?

 

Bom, eu estou pesquisando o gênero gramatical em vetores de palavras (word embedding, em inglês). Os vetores de palavras são um tipo de tecnologia de processamento de linguagem natural que é aplicada a diversas coisas. No cerne disso, está um algoritmo que aprende o significado de uma palavra com base nas palavras que se encontram ao redor dela. Nos últimos anos, nós vimos desenvolvimentos bastante notáveis nessa área. Há várias pesquisas e empresas grandes, como o Facebook e o Google, que estão usando essas tecnologias. Alguns anos atrás, havia esse algoritmo novo que permitia treinar um novo modelo bem rápido, resultando em representações de significados de palavras que pareciam bem impressionantes. Assim, você podia simplesmente deixá-lo solto num corpus e ele aprenderia, por exemplo, que cachorro, gato e animal estão relacionados, ou que maçã e banana têm a ver, sem precisar ensinar isso explicitamente. Isso é bastante poderoso e está sendo usado em muitas aplicações tecnológicas. Porém, nós começamos a perceber que também alguns de seus problemas.

(mais…)