Los algoritmos de caja negra son aquellos algoritmos que no muestran el funcionamiento interno del mismo al usuario. Un ejemplo de este tipo de algoritmos sería el algoritmo de Google que nos devuelves unos resultados de búsqueda cuando introducimos una consulta, el algoritmo de Netflix, que nos sugiere uno u otro contenido en base a nuestras preferencias o el muro de Facebook, que nos ofrece contenidos en base a nuestros gustos y al de nuestros amigos, entre muchos otros factores.
Este tipo de algoritmos suelen ser bastante dinámicos, es decir, suelen cambiar constantemente, con el objetivo de ofrecer siempre resultados que aporten valor a sus usuarios y se adecuen a los nuevos escenarios y realidades.
Los algoritmos de caja negra tienen un inconveniente: la falta de transparencia, fruto de su propia naturaleza. Este tipo de algoritmos puede priorizar unos u otros resultados en base a objetivos empresariales o políticos, provocando situaciones injustas para aquellas empresas, personas o asociaciones que ven su exposición o visibilidad afectadas.
Este tipo de sesgos pueden ser intencionados o inintencionados. Puede darse el caso que fruto de errores en estos algoritmos, el resultado obtenido no sea el adecuado, provocando verdaderas catástrofes como la caída del Dow Jones en mayo de 2010 (-9% en pocos minutos).
Otra de las incógnitas es el uso que se le de a la información obtenida por estos algoritmos, como fue el caso del escándalo de Cambridge Analytica. Este tipo de errores son fruto del aprendizaje automático, que acaba generando un sesgo en el algoritmo. Este tipo de errores genera desigualdades e injusticias que deben ser reguladas, y en esta línea se están desarrollando diferentes movimientos sociales enfocados a desarrollar un mayor y mejor sistema de protección para los usuarios.
