Twitter informó que descartó un sistema automatizado de recorte de imágenes después de hallar un sesgo en el algoritmo que controla la función en los contenidos que se publican.
La red social dijo que encontró que el algoritmo brindaba un “trato desigual basado en diferencias demográficas”, favoreciendo a usuarios blancos y hombres sobre negros y mujeres, y un sesgo descrito como “mirada masculina”, que se enfocaba en el pecho o las piernas de una mujer.
La noticia llega un mes después de que Twitter lanzó una iniciativa de equidad algorítmica, como parte de un esfuerzo por reducir sesgos en su plataforma por la automatización.
En 2018, Twitter introdujo un algoritmo de relevancia para recortar imágenes, con el objetivo de mejorar la coherencia en el tamaño de las fotos en la línea de tiempo y centrarse en sus elementos más importantes. Rumman Chowdhury, jefe de ingeniería de software de Twitter y especialista en ética e inteligencia artificial, dijo que la compañía determinó después de su revisión que es preferible dejar las decisiones de corte de imágenes en manos de los usuarios. “Consideramos las compensaciones entre la velocidad y la consistencia del corte automatizado con los riesgos potenciales que vimos en esta investigación”, indicó en una publicación de blog.
“Una de nuestras conclusiones es que no todo en Twitter es buen candidato para un algoritmo y, en este caso, cómo recortar una imagen es una decisión que la gente toma mejor”, añadió. El anuncio se produce en medio de una mayor preocupación por los algoritmos avanzados que pueden ofrecer resultados sesgados debido a la falta de datos sobre minorías u otros factores.
Esta semana, Amazon anunció que estaba extendiendo la prohibición sobre el uso de la tecnología de reconocimiento facial, por parte de las fuerzas del orden, en medio de temores de que sus fallas pudieran amplificar el prejuicio racial. La iniciativa de Twitter exige “asumir la responsabilidad” de las decisiones algorítmicas con el objetivo de “equidad y justicia de los resultados”, según la empresa.