El año pasado, por estas mismas fechas, Netflix trataba de capear una de las mayores crisis de reputación de su historia. El detonante fue Cuties, película recién adquirida por la compañía tras haber sido premiada en el festival de Sundance. La cinta, en palabras de su directora, Maïmouna Doucouré, era un alegato contra la hipersexualización de las niñas en el mundo online. Resulta hasta irónico que Netflix hiciese para promocionarla justo aquello que la película pretendía denunciar. En el primer póster oficial aparecían un montón de niñas preadolescentes, escasas de ropa y con actitud provocativa. Apología de la pedofilia, explotación de menores, pornografía infantil… la crisis de reputación que sacudió Internet fue tal que la compañía la retiró de la circulación e hizo varias declaraciones a los medios pidiendo disculpas.
Mientras todo esto ocurría de puertas afuera, internamente Netflix llevaba a cabo una purga para tratar de minimizar el impacto de la crisis, tal y como se desprende de varios documentos internos publicados recientemente por la web especializada Verge. Netflix había tomado la decisión de prescindir de la imagen del póster original (que mostraba a un grupo de niñas corriendo por una colina) porque, en su opinión, no iba a funcionar bien en la plataforma. En su lugar, optó por la imagen de la discordia, más provocativa. Una vez desatada la tormenta, la solución fue esconderla. La película fue retirada de los resultados de búsqueda, del apartado Próximamente y de Búsquedas populares. Cuties tampoco aparecía cuando se buscaban títulos con la palabra guapis ni en ninguna selección de películas infantiles. La película seguía en su catálogo, pero la sepultó bajo una gruesa capa de programación.
Este caso deja bien claro hasta qué punto una compañía como Netflix puede poner la tecnología y procesos automatizados al servicio de sus propósitos. Esa es la cruda realidad en la nueva economía de internet. Ya sabíamos que Netflix emplea algoritmos que condicionan qué muestra a cada usuario en función de su historial de búsqueda y, también, de los contenidos que le interesa promocionar a la compañía. Gracias a Cuties ahora sabemos que el sistema tiene también la capacidad de ocultar determinada información si eso sirve a un propósito en concreto.
Resulta difícil escapar a las garras del algoritmo. Este conjunto de instrucciones que permiten enseñar a los sistemas informáticos cómo solucionar problemas se han convertido en parte estructural de Internet. Como usuarios no percibimos todos los procesos que tienen lugar en la sombra cuando, por ejemplo, buscamos algo que ver en Netflix. Entendemos su utilidad, que se materializa en un resultado final, es decir, lo que ese algoritmo, en función de las indicaciones recibidas, ha decidido mostrar como contenidos recomendados. El algoritmo cincela la realidad y, por extensión, condiciona nuestra percepción de las cosas.
En un mundo ideal los algoritmos podrían convertir el proceso de toma de decisiones en algo mucho más eficiente. Si en su diseño y gestión se observase una suerte de código ético sería posible obtener soluciones más objetivas y menos sesgadas. En la práctica, sin embargo, es muy difícil. Aunque los algoritmos sean neutrales, las intenciones que se persiguen con ellos rara vez lo son. Para Netflix los algoritmos están supeditados a un objetivo principal: poner delante del usuario contenido que le resulte atractivo y, por tanto, conseguir que esté conectado a la plataforma el mayor tiempo posible. Eso reducirá las posibilidades de que el cliente quiera darse de baja y, en el medio plazo, le hará ganar dinero. Ocultar un determinado contenido polémico que pueda poner a prueba la tolerancia y el compromiso del cliente también puede ser el camino para conseguir ese mismo resultado. Empresas como Netflix tienen en sus manos el poder quitar lo incómodo y lo molesto del paisaje. Esto, en el largo plazo, levanta una prisión invisible a la que nosotros mismos estamos echando la llave.
El sesgo es una característica humana. Nuestra visión de la realidad está condicionada por infinidad de elementos que condicionan las infinitas decisiones que tomamos cada día. Y también contagia a la tecnología con ideas preconcebidas, prejuicios, opiniones o propósitos ocultos, que los propios desarrolladores de los algoritmos transfieren y aplican en el diseño de sus modelos. Por eso nuestra realidad está en lo que el algoritmo muestra… pero también en lo que esconde.
