The Babbel Blog

All posts by Joshua Stephens

Automatizando el sesgo: cuando las máquinas aprenden sobre género

Posted on octubre 14, 2018 by

Las grandes innovaciones en el aprendizaje automático nos dejaron varios titulares inquietantes el año pasado y reflejan nuestros propios prejuicios, aún persistentes, al adoptarlas. Cuando se trata de estereotipos de género, hay un doble riesgo en la forma en que las máquinas aprenden idiomas. La lingüista computacional de Babbel, Kate McCurdy, estudia cómo los algoritmos mezclan el género semántico y gramatical, lo que esto podría significar para cualquier aplicación de la conocida inteligencia artificial y las formas en las que podríamos rectificar su curso.

 

¿Qué tal si empezamos explicando de qué trata tu proyecto?

 

Claro.  Me dedico a estudiar el género gramatical en word embedding. Word embedding es una especie de tecnología de procesamiento de lenguaje natural que se utiliza para muchas cosas. El núcleo es un algoritmo que aprende el significado de una palabra basado en las palabras que aparecen a su alrededor. En los últimos años, hemos visto grandes desarrollos en esta área. Se están llevando a cabo muchas investigaciones y grandes empresas como Facebook y Google utilizan estas tecnologías. Hace un par de años, este nuevo algoritmo permitió formar un modelo con bastante rapidez y obtener representaciones del significado de las palabras con un resultado realmente impresionante. Por lo tanto, si se dejara suelto en un corpus de texto aprendería, por ejemplo, que “perro”, “gato” y “animal” están relacionados, o que “manzana” y “plátano” también, sin que nadie se lo diga explícitamente. Un método bastante poderoso y que se está usando en numerosas aplicaciones tecnológicas; sin embargo, nos hemos empezado a dar cuenta de que también tiene algunos problemas.

(más…)