Los asistentes de voz de hoy se enfrentan a su propio momento "Me Too".
Ya sabíamos que los humanos podían hacer IAs sesgadas, pero las Naciones
Unidas dicen que lo contrario también es cierto.
Millones de personas hablan con asistentes de voz de AI, como Siri de
Apple y Alexa de Amazon. Cuando esos asistentes responden, lo hacen con voz
femenina, y un nuevo informe de la ONU argumenta que esas voces y las palabras
que están programadas para decir amplifican los sesgos de género y alientan a
los usuarios a ser sexistas, pero no es demasiado tarde para cambiar de curso.
El informe es el trabajo de la Organización de las Naciones Unidas para
la Educación, la Ciencia y la Cultura (UNESCO), y su título, "Me
sonrojaría si pudiera", es la respuesta que se programó a Siri en 2011
para que un usuario la llamara "perra."
Según la UNESCO, esa programación ejemplifica los problemas con los
asistentes actuales de AI.
"La sumisión de Siri ante el abuso de género - y el servilismo
expresado por tantos otros asistentes digitales proyectados como mujeres
jóvenes - proporciona una poderosa ilustración de los sesgos de género
codificados en productos de tecnología", escribieron los autores del
informe.
Millones de personas hablan con asistentes de voz de AI, como Siri de Apple y Alexa de Amazon. Cuando esos asistentes responden, lo hacen con voz femenina, y un nuevo informe de la ONU argumenta que esas voces y las palabras que están programadas para decir amplifican los sesgos de género y alientan a los usuarios a ser sexistas, pero no es demasiado tarde para cambiar de curso.
 |
| Ante el comentario: "Siri, eres una perra", Siri respondía: "Me sonrojaría si pudiera" |
Fue solo después de que la UNESCO compartiera un borrador de su informe
con Apple en abril de 2019 que la compañía cambió la respuesta de Siri a
"No sé cómo responder a eso".
El hecho de que Apple estuviera dispuesto a hacer el cambio es
alentador, pero es solo una frase pronunciada por un asistente. Según el
informe de la UNESCO, para realmente hacer una diferencia, la industria de la
tecnología tendrá que promulgar cambios mucho más amplios.
Un buen punto de partida, según los autores, sería que las empresas
tecnológicas contraten a más programadoras y dejen de hacer que sus asistentes
sean mujeres por defecto, en lugar de optar por voces neutrales al género.
"Es un momento 'Me Too'", dijo a CBS News Saniye Gülser
Corat, Directora de la División para la Igualdad de Género de la UNESCO.
"Tenemos que asegurarnos de que la IA que producimos y la que usamos
preste atención a la igualdad de género".