La polémica surgió en junio de 2015 cuando un usuario de Google Photos descubrió que este programa etiquetaba a sus amigos de color como gorilas con lo que la inteligencia artificial no era capaz de distinguir una piel oscura de humano de la de los primates como chimpancés o gorilas lo que obligó a disculparse a Google.

La compañía prometió solucionar el error y dos años después, para que el programa no vuelva a dar errores, ha sacado tanto a los monos, como a los chimpancés como a los gorilas del buscador aplicando el dicho de “muerto el perro, se acabó la rabia”.

Este conflicto saca a la luz algunos de los problemas de la inteligencia artificial y es que los algoritmos heredan prejuicios de las bases de datos que han sido alimentadas por humanos y que están en las manos de los programadores que las desarrollan.

También deja ver otro problema del que vienen advirtiendo los expertos en inteligencia artificial y es que estas máquinas tienen secretos incluso para los propios desarrolladores. El programador sabe con qué elementos alimenta al algoritmo y cuales son sus resultados pero no conoce el proceso intermedio. Es decir, cuando algo falla se desconoce por qué y como se podría solucionar.