Entendemos el algoritmo como «un conjunto de reglas para resolver un problema en un número finito de pasos». Así hablamos de una construcción programada para facilitar la elección e interpretación de los datos de aprendizaje, de modo que se pueda predecir la conducta de los usuarios de los dispositivos tecnológicos digitales. Los algoritmos son sistemas automatizados complejos con capacidad de modelizar el mundo social; tienen opacidad y los sesgos de sus diseñadores o de sus financiadores.
La realidad, sin embargo, en su complejidad, es irreductible a los algoritmos, que pueden ser utilizados de muy distintas maneras, por ejemplo, en la creación de protocolos que ayuden a reducir o prevenir agresiones de violencia de género, como se ha dado ya recientemente en algún juzgado de Cataluña.
1. La vertiente política y económica
En la obra Vigilar y castigar (1975) Michel Foucault hablaba de las medidas de confinamiento, del sistema de registro constante y centralizado que se aplicaba cuando se declaraba la peste en una ciudad. Era “la ciudad en estado de peste (…); un diseño de coerciones sutiles para una sociedad futura”. Somos, concluye, “mucho menos griegos de lo que creemos. No estamos ni sobre las gradas ni sobre la escena, sino en una máquina panóptica, dominados por sus efectos de poder, que seguimos nosotros mismos, ya que somos uno de sus engranajes (…) Las Luces, que inventaron las libertades, inventaron también las disciplinas” y el control.
Efectivamente, los algoritmos permiten hoy hacer lo mismo que hacían aquellos registros del XVIII: «penetrar hasta los más finos detalles de la existencia, mediante una jerarquía que garantiza el funcionamiento capilar del poder». En palabras de Shoshana Zuboff los algoritmos son el instrumento por excelencia del poder instrumentario en el capitalismo de la vigilancia (El capitalismo de la vigilancia. Ed. Paidós, 2020) y plantean serios interrogantes también a la educación de los niños y adolescentes en una sociedad monitorizada y moldeada desde las redes sociales, a través de dispositivos conectados y activos en la red, por los que se paga un elevado coste emocional.
Este libro nos permite constatar la enorme actualidad de viejo conductismo y la incidencia de pensadores como Skinner, diseñador de una «nueva física social», enfrentada a los principios ilustrados de libertad, autonomía personal y dignidad individual, de la que se seguiría que el individuo autónomo no sería más que «una incidencia estadística pasajera», en expresión de Pentdal. Un reto de primera magnitud para el razonamiento moral y epistemológico: la acción no estaría en nuestra cabeza, sino, principalmente, en las redes sociales y en el tejido social que nos rodea. Éste es un debate de connotaciones clásicas, abordado entre nosotros ya a finales de los años setenta (Salvador Giner, Sociedad Masa: crítica del pensamiento conservador. Eds.62, 1979).
En este marco, las grandes corporaciones de las tecnologías digitales han gozado de oportunidades y posibilidades bien aprovechadas de actuación: sin control, sin límites, contra toda visión crítica y ética y supeditándolo todo al marketing. Un nuevo liberalismo digital se convertiría, así, en portavoz político de un fuerte determinismo comercial (Éric Sandin La siliconización del mundo. La irresistible expansión del liberalismo digital. Caja Negra Editora, Buenos Aires, 2018).
2. La cuestión social en la Sociedad Digital
La desigualdad económica y la polarización social está creciendo mucho, tanto a nivel mundial como estatal, y no hacen sino anunciar una espiral descendente de exclusión social, que la Pandemia del COVID no ha hecho más que agravar. Se calcula que la brecha digital deja fuera a un 35% de la población, de personas y hogares vulnerables.
La tecnología, por su parte, ha incrementado la productividad, ha mejorado el trabajo y el bienestar, a la vez que planteado retos imprevistos para los que no estábamos preparados, que piden un replanteamiento a fondo de la noción misma de trabajo.
Hoy la cultura está vindicando su autonomía, abriendo paso a nuevas posibilidades de acción y transformación de la vida colectiva, en un largo período de entropía social y de aparente desorden. En nuestros días “la cultura tiende a abstraerse de la historia y la geografía, quedando sometida a un hipertexto audiovisual digital: crear imágenes, crear códigos culturales es tener poder. Es la autonomía de la cultura respecto a las bases materiales de la existencia. La información es hilo básico o ingrediente clave de nuestra actual organización social”, en palabras de Manuel Castells (La Era de la Información. La sociedad red. Vol.1. Barcelona, UOC, 2003).
Jeremy Rifkin habla, en su última obra, de la Revolución que une el Planeta «como un gran cerebro digital», en una «nueva era de la resiliencia»:» nos adentramos, dice, en la era de la infraestructura de la tercera revolución industrial: de la internet de la comunicación y la energía, de la movilidad y de las cosas (La era de la resiliencia. Paidós, Barcelona, 2022).
3. Los algoritmos son, también, una “cuestión ética”
El año 2022, Francesc Torralba acaba de publicar un interesante ensayo sobre La ética algorítmica (Eds. 62, Barcelona), al que querría remitir al lector, destacando algunas de sus ideas.
Como dice el autor «es necesario sacudir al lector con un montón de interrogantes», cuya respuesta no se encuentra en los sabios del pasado, aunque nos inspiramos en ellos. La nueva tecnoética global que necesitamos va más allá de las tradiciones humanistas ilustradas y debe contar con tradiciones humanistas orientales, americanas y africanas: el primer reto es, pues, el de la posibilidad misma de una ética global por una tecnología humanista e inclusiva, al servicio de todas las personas.
Una cosa es la ética de la Inteligencia Artificial, más macro y con perspectiva descendente, y otra la ética algorítmica, más focalizada en el detalle y más micro. Mientras la primera se interesa por el ser humano y sus relaciones con las máquinas, la segunda lo hace por funcionamiento interno de las máquinas. La ética algorítmica «explora y trata de resolver el conjunto de cuestiones que afloran a raíz de la programación de un algoritmo». Los algoritmos no son neutros, están llenos de juicios de valor, «han invadido el espacio público y el privado» y plantean serias cuestiones éticas en su gobernanza.
A lo largo de su libro Torralba platea la utilidad y conveniencia de crear Comités de Ética interdisciplinares, independientes y plurales en las organizaciones. Comités que velen por el respeto a los principios y valores que proclaman y las inspiran (principios como hacer el bien, no causar daño, autonomía de las personas, la no discriminación, la transparencia y valores como el respeto, la justicia, la protección de datos ….).
Por otro lado, en otro orden de cosas, en Cataluña, se ha tomado alguna iniciativa que consideramos significativa. En junio de 2020 se hacía pública la noticia de que la Consejería de Políticas Digitales y Administración Pública y la Universidad de Girona habían creado el Observatorio de Ética en Inteligencia Artificial de Cataluña, para promover una inteligencia artificial ética, merecedora de confianza, de estudiar las consecuencias éticas y legales, y analizar los riesgos y oportunidades de su implantación en la vida cotidiana.
4. Derechos Digitales y compromisos colectivos
Y, por último, una explícita referencia al Forum de los Derechos Digitales, celebrado en la sede de Fundesplai (El Prat del Llobregat) en mayo de 2022, en el que se defendieron una serie de Derechos Digitales y se formularon algunos compromisos para avanzar en la construcción de sociedades en las que la digitalización esté centrada en la mejora de la vida de las personas.
Se trata de derechos y compromisos como la accesibilidad universal; la conectividad en el medio rural, para superar la brecha de acceso y la despoblación; el uso crítico y responsable de la tecnología; la educación digital por la inclusión social de grupos en situación de vulnerabilidad; el desarrollo de itinerarios formativos en competencias digitales, a lo largo de la vida, para mejorar la empleabilidad; el protagonismo de las mujeres en la superación de la brecha de género; la educación para el buen uso de las tecnologías digitales, en las etapas de la infancia y la juventud y en las personas mayores, de modo que también ellas sean partícipes y beneficiarías; la protección del medio ambiente, aprovechando el potencial innovador de las tecnologías; los avances de la inteligencia artificial y el tratamiento de datos hacia el bien común, con principios éticos y sin sesgos; una nueva gobernanza de internet y la participación en democracia (Fundación Esplai “Las organizaciones sociales en defensa de los Derechos Digitales. Manifiesto”. Documentos para el Debate, nº10).
Vivimos inmersos en una era de transformación digital. Como recordaba Genís Roca, en el mismo Forum, “ahora internet no es un espacio de contenidos, es un espacio de actividad y de movilización que nos permite actuar y reclamar nuestros derechos y garantías. Estar conectadas y conectadas a la red nos da el poder y la tecnología, que es nuestra herramienta para luchar y alcanzar nuestros derechos digitales”.
