Las redes neuronales reconocen los malos hombres y mujeres de raza negra

sistema de reconocimiento facial ya está muy densamente entró en nuestras vidas. Se utiliza en los escáneres como Face ID e incluso utilizar para encontrar criminales. Sin embargo, según lo informado por la publicación Science Daily, un equipo de investigadores del Instituto de Tecnología de Massachusetts (MIT) y la Universidad de Stanford, después de haber estudiado varios algoritmos de IA comerciales para el reconocimiento facial, puesto de manifiesto en ellos signos de sexismo y el racismo.

Las redes neuronales reconocen los malos hombres y mujeres de raza negra

El estudio encontró que el análisis de las fotos de algoritmos hombres blancos determina incorrectamente el sexo de sólo 0, 8% de los casos, y en el caso de las mujeres negras el porcentaje de error promedio de alrededor del 30%. Para identificar los patrones de los empleados del MIT alegría Buolamvini recogieron 1.200 fotos de diferentes personas (que, sin embargo, las mujeres, en su mayoría fueron representados con piel oscura). Luego se volvió a la escala Fitzpatrick, según la cual hay 6 tipos de piel, en el que - es el más ligero, y VI - el más oscuro.

Como resultado, se hizo claro que para las mujeres con piel oscura con la evaluación IV, V o VI de acuerdo con las tasas de error de Fitzpatrick de 20, 8%, 34, 5 y 34%, 7%, respectivamente. De este modo se encontró que el tipo de piel más oscura - es más probable que el algoritmo comete un error. Cuando se identifican los hombres con tasa de error de piel clara no sea superior a 0, 8%. Por otra parte, la alegría (que en sí es una mujer afroamericana) trató de analizar su propia foto, y resultó que el sistema sea no reconoce su cara, o no lo detecta correctamente el suelo. De hecho, para un estudio de este tipo pueden ser tratados de manera diferente. Pero dejando a un lado todos los chistes y prejuicios acerca de la tolerancia, el estudio plantea una pregunta muy importante: ¿Es cara algoritmos de reconocimiento realmente funciona? Después de todo, con su ayuda, en la misma China están ya tratando de procesar. Además, la nueva investigación débilmente correlacionado con la declaración de una de las empresas de software que crean software para redes neuronales y argumentó que su software reconoce los rostros con una precisión del 97% de los casos. ¿Qué opinas? Ha emitido su opinión en nuestro nuevo chat-Telegram.