Algoritmo debe de ser una de las palabras más utilizadas en el ámbito tecnológico a nivel mundial en los últimos años. Aunque, estrictamente hablando, los algoritmos existen desde la época babilónica, ha sido la mejora de la capacidad de procesamiento de los ordenadores y la aparición de nuevas tecnologías como el Big Data o la inteligencia artificial los detonantes de su generalización.
De hecho, el concepto forma parte hoy de nuestra jerga tecnológica con toda naturalidad. Se ha popularizado tanto, que son muchas las películas de gran presupuesto que en los últimos tiempos tratan esta temática o innumerables los libros que se publican cada año al respecto. También es habitual que la cuestión esté presente en la mayoría de los podcasts que tratan sobre tecnología.
No es para menos: los algoritmos son claves para entender cómo funciona el mundo digital y virtual en el que cada vez estamos más inmersos.
Nos rodean…nos analizan…y nos ayudan
Las grandes compañías tecnológicas son las que tienen actualmente los algoritmos más avanzados y potentes. Es el caso de Google, o de las redes sociales como Twitter, Facebook o Instagram, o tiendas on-line como Amazon o Aliexpress.
Los algoritmos, según la definición de la Real Academia Española de la Lengua, son un 1conjunto ordenado y finito de operaciones que permite hallar la solución de un problema. También es válida la acepción Método y notificación en las distintas formas de cálculo. Una definición muy matemática pero que no parece resolver lo que de verdad nos preocupa: ¿sabemos para qué sirven?
Simplificando podríamos decir que, los algoritmos nos ayudan a elegir, a encontrar contenido que nos interesa, a resolver dudas y problemas… Y al mismo tiempo también son utilizados para explotar nuestros datos, para obtener información de nuestra vida digital.
¿Cómo lo hacen? Lo consiguen a través de lo que ven de nosotros, es decir del Big Data que generamos cuando interactuamos digitalmente y del estudio que realizan sobre estos datos a partir de unos parámetros y órdenes previamente programadas. Pero este análisis automático de nuestros datos puede ir más allá: gracias al machine learning los propios algoritmos puede ir aprendiendo y mejorando para ofrecer cada vez resultados mejores, más ajustados.
Ni neutrales ni objetivos
Es evidente que actualmente los algoritmos tienen una enorme influencia en nuestras vidas. Por decirlo de alguna manera sencilla, están pendientes de nosotros y a media que navegamos por internet, consultamos las redes sociales o utilizamos nuestro dispositivo móvil deciden, por ejemplo, qué contenidos mostrarnos, o qué alertas y mensajes activar para invitarnos a interactuar con nuestras aplicaciones
También, y en la medida que conocen nuestras preferencias y costumbres en profundidad saben cómo influir en nosotros incluso en nuestra manera de entender el mundo y de pensar. Se dice que Facebook, gracias a sus algoritmos sabe más de nosotros que las personas de nuestro círculo más íntimo. También es sabido que los algoritmos ha influido en procesos electorales e incidido en la intención de voto de los ciudadanos. En ese contexto, parece lógico cuestionarse hasta qué punto su poder está bajo control.
La realidad es que los algoritmos son tan subjetivos como las empresas que los han ideado y programado. A menudo responden a intereses económicos, pero muchas veces no tienen en cuenta las implicaciones éticas. Según Micaela Mantegna, abogada especializada en Derecho de Internet, “si alimentamos un algoritmo con sesgos, entonces los resultados que nos ofrezca estarán también parcialmente sesgados” . El problema pues, no es la información que alimenta un algoritmo, sino cómo se ha programado para que filtre y haga correlaciones.
Un ejemplo: el sistema COMPAS de inteligencia artificial que usan algunos tribunales de Estados Unidos para evaluar los riesgos de reincidencia de un delito es, a priori, una muy buena idea que ayuda a jueces a tomar mejores decisiones. El problema, sin embargo, ha surgido cuando una investigación de ProPublica.org ha descubierto que este algoritmo presenta un sesgo contra la población afroamericana.
Como dice el experto en tecnología Juan Alonso en su artículo “Ética y algoritmos: una combinación necesaria“, “Los bancos, los buscadores, las aseguradoras, nos reducen a un número que puede tener repercusiones importantes en nuestra vida. Sin embargo, nosotros no podemos someter a ese mismo escrutinio a los algoritmos”.
La necesidad de una ética para los algoritmos
Por suerte, da cierta tranquilidad saber que desde hace años se está trabajando para incorporar criterios éticos en el proceso de desarrollo de los algoritmos.
La ética de los algoritmos es una cuestión que se puso sobre la mesa cuando se vio su potencial, y son muchos los profesionales que están estudiando y reflexionando sobre cómo mejorar los algoritmos para que sea más eficaces, pero también más justos y no cruzar ciertas líneas rojas que puedan generar sesgos de distintos tipos como los sociales, culturales o cognitivos. Se trata de un proceso largo, tedioso y que requiere de muchos consensos, pero, aun así, es imprescindible.
Una de estas profesionales es la periodista Karma Peiró, que hemos entrevistado en este blog, y que ha publicado numerosos artículos sobre ética digital y algoritmos. También en anteriores artículos hemos reflexionado sobre “¿quién vigila a los algoritmos?”
Los peligros de los algoritmos tienen solución
Desde el punto de vista científico, los algoritmos han impulsado el uso de las tecnologías de forma exponencial y, en muchos casos, de manera adictiva, como se puede comprobar, por ejemplo, en el caso de las redes sociales. Sabemos que una utilización excesiva de las pantallas y las aplicaciones genera en nuestro cerebro grandes cantidades de dopamina debido a la alta cantidad de estímulos que producen y que afectan a nuestras dinámicas cerebrales. Al respecto, cuando en 2017, le preguntaron Chamath Palihapitiya, exvicepresidente de Crecimiento de Usuarios de Facebook, sobre la incidencia de los algoritmos en las adicciones respondió: “Me siento tremendamente culpable”
Es un ejemplo más que nos alerta de que si no se toman medidas de control, los algoritmos pueden ser maliciosos y perjudiciales.
La buena noticia es que no es una causa perdida y que hoy se está discutiendo, reflexionando y actuando para encontrar una solución que tenga en cuenta a todas las partes implicadas, los proveedores de servicios, los usuarios y los desarrolladores. Nuestro futuro digital pasa por educar a las máquinas, pero también a las personas.
Como asegura la investigadora Sara Degli, investigadora en el Instituto de Políticas y Bienes Públicos del CSIC, “la inteligencia artificial la crean personas y afecta a las personas”.
