Periodista especializada desde 1995 en Tecnologías de la Información y la Comunicación, Karma Peiró participa en numerosas iniciativas de debate relacionadas con la ética digital, la inteligencia artificial, los datos abiertos, la transparencia de la información pública, y la transformación y la comunicación digital. La entrevistamos.

¿Cómo definirías la ética digital?

Para responder me gustaría citar a la catedrática de ética y filosofía del derecho moral y político de la Universidad Autónoma de Barcelona, Victoria Camps. En el informe “Inteligencia artificial. Decisiones Automatizadas en Cataluña” (Autoridad Catalana de Protección de Datos/ Karma Peiró, 2020) dice que “la ética se podría definir como un conjunto de principios, normas o valores que orientan nuestra conducta, y que no pueden ser anuladas por los demás”. Por poner un ejemplo, el respeto a la dignidad, que no puede ser eliminado para que sea beneficioso para otro.

Si tomamos esta definición de Victoria Camps, ¿que sería la ética digital? Podemos decir que es el respeto de este conjunto de principios, normas o valores que orientan la conducta en el ámbito digital.

Y quisiera añadir también que la ética no es única, nunca podrá ser global, siempre corresponde a un entorno, a una comunidad.  Esto ya lo dice Alessandro Mantelero, relator de Inteligencia Artificial y Privacidad del Consejo de Europa: “ética y derecho están conectados, pero son diferentes. Si la ética se transforma en ley, tiene sanciones, ya no es ética”, puntualiza.

En un mundo digital que evoluciona tan deprisa, ¿es posible encontrar tiempo para pensar y reflexionar sobre las implicaciones éticas?

El filósofo Josep Maria Esquirol me dijo algo sobre la aceleración digital que me gustó muchísimo: “En el momento actual, ¿qué es lo que nos divide al tiempo nos aliena?” Él hablaba de la “pantallización”, para definir todas las pantallas que nos rodean, y decía que “la alienación es la evasión que nos hace perder, que nos aleja de lo más importante”. Y esto no tiene nada que ver con distraerse y estar un rato disfrutando con lo que llega del mundo digital. Esta alienación de las pantallas, no nos permite reflexionar, ni ver más allá, ni ser conscientes de lo que está pasando.

Es un mundo que evoluciona rápido, y que para la gente va muy deprisa, porque la tecnología que nos rodea provoca esta aceleración mental, un non stop, un no detenerse a reflexionar. Cada segundo tenemos un nuevo input al cual prestar atención, otro vídeo que ver, un nuevo mensaje de Twitter por responder. Nuestra atención está constantemente bombardeada. Y esto nos distrae de pensar, de reflexionar hacia dónde van nuestras acciones o sobre qué está pasando en el entorno digital.

Es importante tener bien presente qué estamos haciendo en nuestras interacciones digitales. Yo, como ciudadana, saber cómo protegernos, y exigir a gobiernos y a empresas, que respeten los derechos de las personas, los que tengo adquiridos como ser humano, también en el entorno digital.

Porque de lo contrario, si perdemos la consciencia del momento, pasamos por alto factores importantes de esta transformación. Y un buen día nos daremos cuenta, miraremos atrás y nos preguntaremos ¿cómo hemos llegado hasta aquí?

¿Cuáles son los principales riesgos éticos de la sociedad digital? ¿Y en lo referente al Big Data?

Muchísimos. De entrada, todo lo que pasa por la privacidad de los datos, tantísimos datos, ese rastro que dejamos. A menudo lo dejamos en manos de compañías sin leernos las cláusulas de privacidad de sus servicios. O si las intentamos leer, son tan complicadas que acabamos cediendo: “Mira, es igual, yo quiero acceder a esta aplicación”. Esta desidia es uno de los riesgos, uno de los peligros.

El Big Data, los datos masivos, pueden hacer mucho bien para entrenar algoritmos que realmente nos ayuden como sociedad, pero también se ha demostrado que pueden hacer mucho daño.

También debemos mantenernos alerta sobre toda la perversión que hay detrás de los móviles en manos de los niños y de los adultos, con el cyberbulling que se usa para hacer daño a las otras personas, o sobre el uso que aplicaciones para encontrar pareja hacen de nuestros datos. La investigadora Joana Moll, en su trabajo “Dating Brokers” exploró el negocio escondido detrás de las aplicaciones de citas ‘online’ y cómo las empresas comercian con los datos de los usuarios sin su permiso.

No quisiera que parezca que todo son riesgos. Cada uno de nosotros tiene un teléfono móvil o un ordenador, muy potentes, que nos facilitan la vida. Las aplicaciones que se crean hoy en comparación a las que había hace diez años no tienen nada que ver: son mucho más perfectas, la mayoría son gratuitas, nos ayudan a gestionar nuestra vida profesional. Esto también se debe tener en cuenta.

¿Por qué hay que estar atento a los algoritmos que hacen funcionar la inteligencia artificial?

Los algoritmos no son más que un conjunto de órdenes a seguir para resolver un problema o una tarea. Una receta de cocina podría ser eso: un conjunto de comandos hasta que tenemos el plato cocinado, como un algoritmo. Y la verdad es que fueron aplicados en las primeras civilizaciones de la humanidad. Por lo tanto, podríamos decir que los algoritmos no son nada nuevo. Nosotros mismos, en nuestro cerebro, cuando reaccionamos a una situación imprevista, mentalmente empleamos algoritmos para resolverla.

Los algoritmos que se encuentran en los ordenadores nos hacen la vida más fácil y sencilla. Cuando buscamos la mejor ruta para ir a un lugar, cuando pedimos un taxi desde una app móvil, cuando encontramos o compramos algo y recibimos recomendaciones similares, etcétera. Cuando pedimos un crédito al banco, detrás hay un algoritmo que decide si nos lo concederán en función de nuestro perfil bancario, Y en una lista de espera para una operación quirúrgica, también hay un algoritmo que decide en función de la gravedad de los casos.

Después hay algunos algoritmos más sofisticados que utilizan el aprendizaje automático, lo que se conoce como Machine Learning.

Esta es una rama de la inteligencia artificial que consigue que las máquinas mejoren con la experiencia. Es buenísima para establecer patrones y relaciones, y también para agilizar muchos procesos o para la gestión de determinados sectores industriales.

Dentro del Machine Learning está el Deep Learning, que es el aprendizaje profundo, una técnica de procesamiento de datos basada en redes neuronales artificiales con muchas capas, una tecnología que se inspira en el funcionamiento de las neuronas del cerebro.

Esta técnica tampoco es nueva, existe hace más de 50 años. Pero ahora, cuando tenemos suficiente volumen de datos, el Big Data, y una capacidad de computación enorme con los ordenadores actuales, podemos aplicar este Deep Learning en multitud de casos prácticos.

Es en la aplicación de este Deep Learning donde se han detectado casos de discriminación. Situaciones en las que se han tenido en cuenta determinados factores que han acabado perjudicando a un colectivo en función de su origen o su edad o su género.

Es importante que las aplicaciones de inteligencia artificial estén mitigadas de sesgos. A pesar de ser muy beneficiosa, no son perfectas y cabe investigar más para que representen para la humanidad un bien y no un perjuicio.

 ¿Qué iniciativas de debate, reflexión y control en el campo de la ética digital recomendarías a quien quiera saber más?

Hasta ahora todo lo interesante había salido de arriba hacia abajo, es decir desde gobiernos o empresas o la Unión Europea o las tecnológicas, que han creado sus códigos éticos, normativas, la ley de protección de datos, las directrices éticas de la inteligencia artificial en el ámbito europeo, etc. Pero todo ello desde el poder hacia la ciudadanía, de arriba a abajo.

Para mí lo más interesante y enriquecedor son las iniciativas que están surgiendo de la ciudadanía concienciada que quiere saber más y que exige saber más. Gente que se ha agrupado y ha decidido debatir sobre estas cuestiones porque les interesa y quieren aprender. Son iniciativas independientes, que no pertenecen ni a gobiernos ni empresas, surgidas de grupos de personas de diferentes profesiones, experiencias y conocimientos, y que están muy atentas a todo lo que se hace desde gobiernos y empresas para decidir si deben exigirse sus derechos.

Un ejemplo es Algorights, una agrupación de profesionales de diversos ámbitos que se ha creado aquí, en Cataluña, y que ya está en diferentes congresos dando su voz siempre desde la visión más ciudadana. En el ámbito europeo funcionan otras iniciativas como Algorithm Watch, una organización sin ánimo de lucro con la que colaboré para elaborar el informe “Automating Society”, precisamente sobre los riesgos de la inteligencia artificial en el ámbito europeo.

Afortunadamente, cada vez hay más expertos y expertas de diferentes ámbitos como la filosofía, la ética, la tecnología, que levantan la voz y se atreven a hablar a riesgo de ser despedidas. Su voz llega a la ciudadanía y genera conciencia. También tenemos mucha información en Internet, en todos los idiomas.

¿Cuál es tu papel como periodista especializada en TIC en la difusión o reflexión de la ética digital?

Como periodista, yo pienso que mi función es muy modesta: intento entender la complejidad de la tecnología y difundirla al máximo. Puedo aportar algo con mis reflexiones, provocar debate en charlas, hacer pensar a otra gente a través de mis artículos, o informes divulgativos que realizo. Esta es mi aportación para la sociedad.