English Version
Facebook se disculpó este viernes luego que su sistema de recomendación de contenidos catalogara a hombres negros como «primates» en un video. Un portavoz de la compañía declaró que se trató de «un error claramente inaceptable» y que desconectaron el software involucrado.
«Nos disculpamos con cualquiera que haya visto estas recomendaciones ofensivas», señaló la empresa de Mark Zuckerberg en un comunicado oficial. «Deshabilitamos toda la función de recomendación de temas tan pronto como nos dimos cuenta de que esto estaba pasando y así poder investigar la causa y evitar que esto pase de nuevo», indicaron.
El periódico británico Daily Mail publicó el video en cuestión, que tiene fecha de junio de 2020. Este lleva por título «Hombre blanco llama a la policía por hombres negros en la marina». Durante los últimos días, Facebook ha recibido numerosas denuncias por la publicación. Esto debido a que miles de usuarios han reportado recibir un anuncio automático que les consultaba si querían «seguir viendo videos sobre primates».
Darci Groves, antiguo jefe de diseño de contenido del gigante tecnológico, compartió una captura de pantalla del registro. «Este aviso de ‘seguir viendo’ es inaceptable», escribió en Twitter. «Es atroz», añadió.
Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui
— Darci Groves (@tweetsbydarci) September 2, 2021
¿Cuál es la explicación?
Según explicó Dani Lever, vocero de Facebook, el sistema de inteligencia artificial (IA) de reconocimiento de caras habría sido el responsable del error. «Como hemos dicho, aunque hemos realizado mejoras en nuestra IA, sabemos que no es perfecta y tenemos más avances que hacer», comunicó.
El programa de reconocimiento facial ha sido criticado en otras oportunidades, particularmente por su imprecisión detectando a personas que no son blancas. En este sentido, no es primera vez que este mecanismo le juega una mala pasada a un gigante tecnológico.
Por ejemplo, en 2015 Google Photos etiquetó erróneamente imágenes de personas negras como «gorilas». En aquella ocasión, la principal compañía proveedora de Internet afirmó que estaba «realmente arrepentida» y que trabajaría para solucionar el problema de inmediato.
Años después, la revista estadounidense Wired, especializada en tecnología, descubrió que la solución de Google era censurar la palabra «gorila» de las búsquedas. Asimismo, bloqueaba otros términos como «chimpancé» y «mono».
