Con 33 años, el programador barcelonés Elies Campo había alcanzado lo que otros sueñan toda una vida con lograr. En 2013, lo fichó una de las grandes empresas de Silicon Valley, Whatsapp. Pero un año después la empresa fue adquirida por Facebook. “Me encanta la mensajería, pero para mí es importante trabajar en una empresa que respeta a los usuarios. Cuando vi cómo funcionaba [Facebook], me di cuenta de lo que pasaría con Whatsapp”, afirma Campo, en referencia a que actualmente la red social aprovecha parte de los datos del servicio de mensajería.

En 2014, dejó Whatsapp (cobrando solo una parte del importe de cancelación del contrato debido a la venta, afirma) y el año siguiente empezó a trabajar en Telegram, que presume de no hacer negocio con los datos de sus usuarios. “Seguramente no podré volver a trabajar en Facebook, pero tenemos que dar estos pasos”, afirma.

El dilema moral que expone Campo no es una excepción. “Trabajando en marketing, te topas con temas cuestionables cuando usas datos. Te preguntas si estás haciendo las cosas correctas”, afirma P., un programador de una empresa, que pide anonimato.

“Son asuntos de los que hablamos entre nosotros”, admite M. un informático que trabaja desde España para una empresa de Silicon Valley y que tampoco quiere hacer público su nombre. “¿[Las compañías] se están portando bien? ¿Vulneran la privacidad? ¿Tienen un impacto en la democracia?”, se preguntaba, a los pocos días del asalto al Capitolio, instigado en parte a través de las redes sociales.

“Si estás dentro durante un tiempo, te encuentras envuelto en asuntos que no habrías aceptado antes de entrar”, afirma J., un desarrollador de videojuegos, que también prefiere no desvelar su nombre.

“Dentro de las empresas hay muchos desarrolladores que empujan para cambiar las cosas. Los directivos ya no responden solo a los accionistas y los trabajadores tienen sus opiniones”, reflexiona E., otra joven informática empleada por uno de los gigantes de Silicon Valley, que se suma a la petición de anonimato.

La mayoría de las fuentes consultadas trabajan en empresas privadas que no les permiten expresarse libremente, o sienten incomodidad al cuestionar abiertamente el trabajo de otros programadores.

Un movimiento global

Sin embargo, basta con darse una vuelta por los foros de programadores y redes sociales para encontrar decenas que explican por qué han dejado o rechazado trabajos en las mejores compañías de computación.

Algunos casos son sonados. En 2020, el exdirectivo de Amazon Tim Bray abandonó la empresa en protesta por el despido de un trabajador que había reclamado más compromiso con el cambio climático. En 2019, la investigadora en inteligencia artificial Meredith Whittaker abandonó Google, criticando su enorme poder.

Muchos trabajadores del código están preocupados por la captación de información privada, la difusión de noticias falsas y la manipulación del comportamiento de algunas personas. Pero también por el monopolio de unas pocas compañías, la discriminación algorítmica (el diseño de programas a la medida de hombres blancos y ricos), la huella de carbono de la computación, y el modelo de negocio de la economía de plataforma.

“La ética de los algoritmos está tomando cada vez más importancia”, afirma Ricardo Baeza-Yates, profesor de Ciencias de la Computación en la Universitat Pompeu Fabra. Por ejemplo, se han multiplicado los congresos académicos y el activismo. La “humanización” de las tecnología de la información también forma parte de la iniciativa Mobile World Capital de Barcelona.

Los físicos en la Guerra Fría

Sin embargo, en la práctica no es fácil dar la espalda a una oferta de trabajo de Facebook o Amazon, por ejemplo. “Además de buenos sueldos, puedes trabajar en tecnologías punteras, y después tu currículum sube de categoría”, afirma R., informático que trabaja para una empresa española, que también quiere permanecer en el anonimato.

Diversos expertos ven cierta analogía con la situación de los físicos nucleares durante la Guerra Fría. La ciencia de las partículas también era impulsada, en parte, por una finalidad aterradora: la carrera nuclear. A la vez, los físicos investigaban temas fascinantes y gozaban de prestigio y buenos sueldos, igual que los expertos en informática hoy.

“Los físicos tenían claro que sus experimentos eran conocimiento puro. Si les surgía algún escrúpulo, era fácil desacoplar su trabajo de cualquier aplicación”, explica Xavier Roqué, profesor de Historia de la Ciencia de la Universitat Autònoma de Barcelona. “Con la mirada fría del historiador, se ve que no era así. A menudo la base teórica y el desarrollo práctico van juntos: en el proyecto Manhattan [para la construcción de la bomba atómica] se hizo mucha física”, añade. De hecho, el proyecto Manhattan tuvo solo un objetor de conciencia, Joseph Rotblat, que luego recibió el premio Nobel de la Paz.

También los informáticos tienen la opción de lavarse las manos. “Como trabajador, programas una parte y no sabes cómo se usará. Puedes sospechar que la empresa hará cosas poco éticas con tu código, pero no depende de ti, sino de los jefes. Puedes decirte: ‘Yo cobro y se acabó”, afirma Josep Domingo-Ferrer, profesor de Ciencia de la Computación en la Universitat Rovira i Virgili, para ejemplificar esa manera de pensar.

Sin embargo, ese autoengaño funciona peor con la inteligencia artificial. “En la física no había tanta motivación económica. Al contrario, Google y Facebook tienen el objetivo claro de hacer dinero. Eso debería poner más en alerta”, observa. “Del proyecto Manhattan solo se fue un físico. En el mundo de la inteligencia artificial, la disidencia es masiva”, coincide Carlos Castillo, investigador en ética de los algoritmos en la Universitat Pompeu Fabra.

“Los físicos necesitaron la bomba atómica para abrir los ojos. Esperemos que a los ingenieros no les haga falta algo equivalente”, afirma Gemma Galdón, directora de la consultora Éticas Research and Consulting.

La industria se mueve

De hecho, algo se mueve dentro de la industria. “En Estados Unidos, el poder de negociación de los informáticos es mayor. Hay movimientos que piden códigos éticos y objeción de conciencia”, explica Galdón. En Google se acaba de formar un sindicato y sus empleados y los de Microsoft han conseguido boicotear contratos militares.

“Algunas empresas están en un momento de reflexión, a raíz de escándalos que han protagonizado. Han creado equipos para hacer algoritmos más equitativos. Eso era impensable hace cinco años”, comenta Castillo. Varios expertos alaban los esfuerzos de Google.

Sin embargo, hay señales contradictorias. En diciembre de 2020, esa empresa despidió a la codirectora de su equipo de ética, Timnit Gebru, después de que redactara un informe sobre sesgos en algoritmos lingüísticos. “Esto nos ha dejado confundidos. Ella es una persona extremadamente mesurada y nada estridente. Si le echan a ella, te hace pensar que entonces no puedes hablar”, comenta Castillo.

La disidencia es viable

Para algunos programadores, la ética ya es un criterio imprescindible. “Yo no contrataría a nadie que haya trabajado en Facebook después de los escándalos de 2015-16. Tu carrera explica tus valores”, afirma Elies Campo.

“En el sector de la informática hay más demanda que oferta de perfiles cualificados. Puedes escoger en qué empresa quieres trabajar”, afirma Jordi Mas, una de las almas de la asociación Softcatalà. Un ejemplo de ello es Diego Sáez Trumper, informático chileno afincado en Barcelona e investigador en la Wikimedia Foundation, la entidad que garantiza el funcionamiento de la Wikipedia.

Después de investigar en la universidad, Sáez optó por una informática basada en el software libre y sin lucro. “Es una aventura, más que un negocio exitoso. No compites en igualdad de condiciones con los que no tienen requisitos éticos”, lamenta.

La suya es una opción vital, además de profesional. “En mi vida diaria puedo prescindir de cualquier software propietario. Tengo un móvil donde he instalado una versión libre de Android. No uso Whatsapp y he convencido a mi familia y mis amigos de que utilicen Signal. Tengo Linux en mi ordenador y borro las cookies cada vez que me conecto”, explica.

Sáez compara su elección personal con reciclar la basura: no es suficiente para solucionar un problema global, pero es necesario. “No me gusta que usen mis datos para hacer negocio, y además, consigo salir de la burbuja del filtro”, asegura, en referencia al contenido de internet personalizado por algoritmos para que encaje con nuestras preferencias.

“El sector de la informática ética es minoritario y lo va a ser durante mucho tiempo. Pero, ¿tener éxito quiere decir ser famoso o bien hacer cosas interesantes?”, pregunta Baeza-Yates. Campo no tiene dudas: “Se puede desarrollar una carrera satisfactoria y de alto nivel en empresas con valores con los cuales te sientes alineado”, concluye.

Europa planta cara a los gigantes

Las aplicaciones de rastreo del covid-19 han sido una palestra de computación ética en Europa. Desde un principio, se diseñaron con la ambición de respetar la privacidad. También hay casos como el de la plataforma de participación ciudadana o el buzón ético del Ayuntamiento de Barcelona que están pensados para no recoger información de los usuarios. Estos son ejemplos de cómo Europa (prácticamente el único mercado grande que está plantando cara a los gigantes de Silicon Valley) podría desarrollar su propio negocio informático con estándares éticos.

“Nos hemos pasado 20 años dejando que americanos y chinos se dieran una fiesta con nuestros datos personales. A la vez, las grandes empresas informáticas europeas, como Olivetti, Siemens o Nokia, se quedaban atrás. Ahora somos cautivos de las plataformas [de Silicon Valley]”, afirma Josep Domingo-Ferrer, de la Universitat Rovira i Virgili.

“La única defensa que tenemos es la Comisión Europea. En 2016, Europa se despertó con la ley de protección de datos [RGPD]. La talla de nuestro mercado puede imponer estándares éticos y legales a esas empresas”, prosigue el investigador.

Muchos de los programadores consultados se sienten amparados por la RGPD. Perciben que sin ella, sus empresas les pedirían tareas más cuestionables.

Cierto “proteccionismo ético” podría favorecer a empresas europeas orientadas al bien común, a la privacidad o a la auditoría de algoritmos, según Domingo-Ferrer.

Fórmulas de pago

Andreu Veà, pionero de internet en España, duda de que aparezca un Google europeo y cita la historia de Google News en España: cuando el país quiso regularlo, la multinacional sencillamente retiró la oferta del territorio.

“Después de casi 30 años de internet, no sé decir si hay una solución perfecta a nivel ético”, afirma. El ingeniero cree que fórmulas de pago o tarifas planas podrían romper la lógica de muchas empresas de internet, que se cobran sus servicios “gratuitos” a base de vender datos de los usuarios.

Ricardo Baeza-Yates, de la Universitat Pompeu Fabra, cree que la computación ética seguirá los pasos de la comida orgánica. Cada vez más usuarios y empresas querrán apuntarse a ella. Como ejemplo, Telegram ha presumido de un enorme incremento de usuarios a partir de que Whatsapp anunció que compartiría datos con Facebook.

Pero también hay ejemplos de lo contrario. La mayoría de las escuelas se han entregado a Google Classroom para la educación a distancia, en detrimento de programas para escuelas que se basan el sistema operativo de Linux, un software libre de código abierto.

El compromiso del sector público es imprescindible, según los expertos. “Hay empresas que almacenan datos de todo el mundo. Es cuestión de que los estados tengan una política de soberanía de datos”, concluye Diego Sáez, de la Wikimedia Foundation.