Athenea Digital. Revista de pensamiento e investigación social

Volumen 23, Número 2, 2023

¿Ciudadanía vigilada o monitorización ciudadana? Dos aproximaciones opuestas a la relación entre tecnología y democracia

Surveilled citizenship or citizen monitoring? Two conflicting approaches to the relationship between technology and democracy

• Resumen
• Abstract

1 Introducción

Desde finales de 1990, el rápido desarrollo de las tecnologías digitales de la información y de la comunicación ha cambiado la forma de relacionarnos, de trabajar, de consumir y también de participar en la comunidad social y política. De la mano de estos avances, han surgido diversas corrientes que hacen interpretaciones diferentes sobre los objetivos que debe perseguir el uso de nuevas tecnologías en relación con el ejercicio del poder político en los sistemas democráticos. En consecuencia, también ha aumentado el interés académico por estudiar los posibles efectos de las distintas aproximaciones sobre la naturaleza y los fundamentos de la democracia y los procesos de toma de decisiones políticas (Aguirre Sala, 2019; Bernholz et al., 2021; Kusche, 2020; Martí, 2020; Monteagudo, 2021; Saura Agel, 2020).

Principalmente, las corrientes a favor del uso de nuevas tecnologías en los procesos democráticos proponen aprovechar su potencial para hacer más eficientes o más ágiles la gestión y la toma de decisiones políticas. Algunas proponen, además, utilizarlas para aumentar la capacidad de la ciudadanía para participar en la vida política y monitorizar al poder. De especial interés para este artículo es el hecho de que algunas de estas aproximaciones dan lugar a un resurgimiento de concepciones tecno-elitistas de la democracia (Brennan, 2016; Larson, 2018; Pentland, 2011; 2014a). Otras, mientras tanto, generan un creciente apoyo a la tesis de que utilizar las tecnologías digitales como una herramienta al servicio de la monitorización popular del poder y la denuncia ciudadana fortalece los sistemas democráticos (Feenstra y Welp, 2019; Keane, 2009, 2013; Ortiz Galindo, 2019;).

En su representación más extrema, la primera de estas aproximaciones ha dado lugar a proyectos de vigilancia masiva como el que reveló Edward Snowden en el año 2013, el cual involucraba a la Agencia Nacional de Seguridad Estadounidense (NSA) y a las grandes empresas tecnológicas (Greenwald et al., 2013). Más tarde, el escándalo de Facebook y Cambridge Analytica vinculado a las campañas a favor de Donald Trump en EEUU y del sí al Brexit en Reino Unido confirmó esta tendencia: los datos de millones de usuarios de Facebook fueron recopilados, analizados de acuerdo con un modelo psicométrico considerado capaz de predecir la orientación sexual, política o religiosa (Kosinski et al., 2013) y utilizados para intentar manipular el voto del electorado a través de una campaña de microtargeting político (Cadwalladr, 2017; Rosenberg et al., 2018; Suárez-Gonzalo, 2018). Por otra parte, el auge tecnológico ha dado lugar a la creación de plataformas como Wikileaks, organización sin ánimo de lucro que publica informes filtrados de forma anónima a través de su plataforma; o GlobalLeaks, un software de código abierto y libre, desarrollado por el Centro Hermes para la Transparencia y los Derechos Humanos Digitales, que permite constituir de manera sencilla plataformas de filtración y denuncia ciudadana sobre las acciones de grupos de poder públicos y privados.

Este artículo presenta un análisis no desarrollado hasta el momento sobre las características y los límites de estas dos interpretaciones sobre el papel que debe desempeñar la tecnología con respecto al sistema democrático que, a pesar de verse impulsadas por las posibilidades tecnológicas actuales, nos acercan a posicionamientos democráticos diferentes, con objetivos y consecuencias sociales y políticas opuestas. Una que remarca el potencial tecnológico de procesamiento de datos para guiar o sustituir la acción política, a la que otros han llamado: democracia basada en la “física social” (Pentland, 2014a), “democracia aumentada” (Burgess, 2022; Hidalgo, 2018a, 2018b) o “gobernanza algorítmica” (Morison, 2020), y a la que en este artículo llamamos la democracia vigilada, término antes utilizado en inglés (surveillance-democracy) por Nick Couldry (2017), para referirse a la infraestructura de vigilancia corporativa y automatizada que, de acuerdo con el autor, afecta a la noción de autonomía individual que da sentido a las distintas nociones de vida democrática: una idea un tanto distinta a la que presentamos en este artículo. Y otra interpretación de la relación entre tecnología y democracia que, por el contrario, observa el potencial transformador de las tecnologías digitales para reforzar el papel de la sociedad civil en la lucha por la transparencia y la fiscalización del poder, la democracia monitorizada, introducida en la literatura académica por John Keane. Cabe resaltar aquí que, pese a que se plantean desde concepciones enfrentadas de la democracia y dan lugar a consecuencias inversas, estas dos corrientes no siempre pueden considerarse opuestas y pueden, por tanto, ser analizadas de manera dicotómica. Implementadas de una manera irresponsable, interesada o sin una conciencia crítica de las propias limitaciones tecnológicas o de la estructura social, económica y política en la que se integran, por ejemplo, las propuestas de la segunda de las corrientes podrían dar lugar a riesgos similares a los que conlleva la primera de ellas. También cabe apuntar que en este artículo se discuten ambas posturas, teniendo fundamentalmente en cuenta su concepción ideal, tal como la plantean sus principales defensores.

Partiendo de este contexto, las dos secciones siguientes exponen las características de cada una de las aproximaciones, ahondando en las propuestas de sus defensores. Posteriormente se analizan, por una parte, su dimensión procedimental ―relativa a aspectos tecnológicos, características formales y procesos establecidos― y, por otra, su dimensión sustantiva ―referida a sus principios fundamentales y a las formas de participación política que impulsan. Cabe aclarar que no es el objetivo de este artículo ahondar, no obstante, en los modelos de Estado o de Derecho ligados a estas dos aproximaciones. Finalmente, de acuerdo con los resultados del análisis crítico de ambas aproximaciones, se plantean propuestas para avanzar hacia un desarrollo tecnológico justo, deseable y que contribuya a afianzar y profundizar los sistemas democráticos.

2 El auge de la tecnocracia: la democracia vigilada

Convivir con sistemas que generan y procesan datos de forma masiva se ha vuelto algo normal (Baruh y Popescu, 2017; Mayer-Schönberger y Cukier, 2013). El incremento del uso de algoritmos de aprendizaje de máquinas para la toma de decisiones, de plataformas digitales para comunicarnos o comprar, o de chatbots como canales de comunicación oficial son solo algunos ejemplos. Estas nuevas tecnologías ya no solo generan interés en el sector privado. Instituciones públicas, partidos políticos y gobiernos ven en el uso de tecnologías de procesamiento de datos una nueva forma de optimizar procesos y hacer más eficiente la toma de decisiones (Ada Lovelace Institute, 2021; Calvo, 2020; Guerrero-Solé et al., 2020; Laniuk, 2021; Reniu y Meseguer, 2020; Sætra, 2020; Tangi et al., 2022; Yáñez-Urbina y Reyes Espejo, 2019). Esto puede comportar beneficios, pero también abre la puerta a nuevos riesgos y a posibles cambios sustantivos capaces de cuestionar su premisa fundamental: la soberanía popular.

Dejando de lado los casos de Facebook-Cambridge Analytica y la NSA, las instituciones democráticas y otros actores públicos ya utilizan sistemas basados en el procesamiento de datos de la ciudadanía para tomar decisiones en cuestiones tan sensibles como, por ejemplo, la distribución de recursos públicos (Eubanks, 2021; Vecinday Garrido, 2021). El Condado de Allegheny (Estados Unidos) fue pionero en introducir este tipo de sistemas. Entre otros que han venido después, como el sistema de predicción de riesgo de quedarse sin techo (Castillo et al., 2020), en 2016 Allegheny incorporó la Allegheny Family Screening Tool, un sistema basado en datos que predice el riesgo infantil de sufrir abusos y aconseja qué niños y niñas debían ser separados de sus familias (Allegheny County, s. f.; Hurley, 2018). El Sistema de Alerta Niñez del Ministerio de Desarrollo Social y Familia chileno, tiene un objetivo similar: predecir el riesgo de vulneración de derechos en la infancia y alerta a las instituciones para que actúen en consecuencia (Valderrama, 2021). En España, el Ayuntamiento de Barcelona incorporó recientemente un sistema de procesamiento del lenguaje natural que asiste a los y las trabajadoras sociales a la hora de definir qué recursos públicos deben asignar a las personas que acuden a los cuarenta centros de servicios sociales (Comissionat d’Innovació Digital de Barcelona, 2021; Servicio de Prensa de Barcelona, 2021). Las empresas comercializadoras de energía utilizan el sistema BOSCO para determinar qué usuarios deben beneficiarse del bono social eléctrico (Civio, 2022).

Más allá de ejemplos concretos, distintas voces influyentes convencidas del potencial de las tecnologías de procesamiento de datos masivos han introducido en el debate público la pregunta: ¿para qué necesitamos democracia si tenemos datos? (Larson, 2018). Sus propuestas parten de la premisa de que, analizando grandes cantidades de datos, es posible obtener un perfil de las personas, sus gustos, comportamientos, necesidades, inquietudes, etc. Y, con él, entender las necesidades e intereses de las personas, de forma más detallada y precisa que ellas mismas y, con este conocimiento, predecir cuál es la mejor forma de gobernar (Burgess, 2022; Morison, 2020).

Alex Pentland, autor de Social Physics (2014a) ha sostenido en declaraciones públicas que es posible observar y registrar en datos el comportamiento de cada persona y generar modelos predictivos para modificarlo (Pentland, 2014b). Asegura que, con los datos adecuados, él y su equipo son capaces de forzar estos cambios de comportamiento otorgando incentivos a determinadas personas bajo la condición de que cambien de algún modo su relación con otras personas. Es decir, generando una presión social que propicia cambios a nivel económico, pero también político, tanto en el comportamiento individual como en el colectivo y que influyen tanto en los mercados, como en ámbitos territoriales determinados, o en la sociedad en general.

César Hidalgo (2018a; 2018b) ha sido pionero en su propuesta de democracia aumentada (augmented democracy). El autor propone sustituir la figura del representante político por un “representante de software”: un algoritmo de aprendizaje automático entrenado con grandes cantidades de datos sobre comportamientos, preferencias, rasgos psicológicos y características personales de cada individuo que tomaría decisiones políticas en su nombre, con el nivel de independencia y bajo los parámetros deseados por esa persona. Es decir: podría tomar decisiones políticas relativas a múltiples cuestiones de forma autónoma (sin supervisión de la persona representada), o bien de forma más controlada, sometiendo las decisiones tomadas a la revisión o modificación de la persona. Estos representantes de software también podrían sustituir a los representantes políticos humanos, incluso en tareas como la redacción e implementación de nuevas leyes.

Este tipo de propuestas se acercan a los ideales tecnocráticos y elitistas de la democracia (véase: Buchanan y Tullock, 1962; Bucher, 2019; Dahl, 1989; Hayek, 1960), que encuentra sus raíces en las obras de Joseph Alois Schumpeter (1984) y Anthony Downs (1956). Estos modelos teóricos parten de la convicción de que la ciudadanía es incapaz de tomar decisiones políticas que contribuyan al bien común: porque no está adecuadamente formada o informada, o porque no es capaz de actuar racionalmente, más allá de sus propias preferencias y su estricto interés propio. Por ello, tradicionalmente han defendido que sea un grupo de individuos racionales, soberanos y bien informados quien tome las mejores decisiones, teniendo en cuenta que, además, estas representen de la manera más fiel posible la agregación de las preferencias individuales de la ciudadanía (Lippmann, 1998; Martí, 2006). Esto implica que, para gobernar bien, es necesario disponer de un conocimiento lo más amplio y profundo posible sobre el electorado y sus preferencias. Así, propuestas como las de Pentland o Hidalgo presentan una respuesta novedosa a problemas tradicionales como: ¿cómo pueden estas élites reunir suficiente información para tomar las mejores decisiones de manera que estas decisiones satisfagan los intereses de la ciudadanía? O ¿cómo hacerlo sin recurrir al debate público, la deliberación o la negociación? La respuesta: implementar un sistema tecnocrático cuya forma de gobierno se basa en la vigilancia de los datos de la ciudadanía: la democracia vigilada.

3 Fiscalización ciudadana del poder: la democracia monitorizada

Frente a la postura tecno-elitista, otras voces hacen hincapié en las posibilidades que ofrecen las tecnologías digitales para aumentar la fiscalización cívica de los poderes públicos y privados. Una de esas propuestas es el modelo de democracia monitorizada, cuyo marco teórico fue propuesto en 2009 por el teórico político John Keane con la finalidad de comprender ciertas transformaciones emergentes en las democracias liberales occidentales. Concretamente, el concepto se presentó para contextualizar procesos como la fiscalización de centros de poder, exponencialmente incrementados a raíz de la consolidación de un amplio abanico de herramientas de comunicación digital (Castells, 2013). La teorización de la democracia monitorizada plantea una relación directa entre nuevas tecnologías y promoción de la monitorización ciudadana como proceso político. Dicho proceso conoce casos históricos previos (Watergate, Papeles del Pentágono), pero su expansión se generaliza ante la multiplicación de recursos tecnológicos para registrar, filtrar y difundir abusos de poder. Sin dejar de percibir limitaciones o deficiencias que también afectan al espacio digital, se observa el potencial democratizador de la tecnología para ampliar la agenda informativa, evitar el ocultamiento de noticias y fomentar el escrutinio de asuntos de interés público (Keane, 2013). En suma: para que todo recoveco de poder se convierta en un blanco potencial a la exposición pública (Keane, 2009).

La propuesta de la democracia monitorizada se enmarca en un conjunto de obras que buscan repensar la democracia en el tiempo presente y ampliar los mecanismos de participación política ciudadana (Keane, 2013). Esta corriente busca complementar la democracia representativa del mismo modo que como otras propuestas contemporáneas buscan profundizar o transformar la democracia a través de instrumentos como la acción directa (Graeber, 2013; Holloway, 2002; Tormey, 2015), la consulta (Baiocchi y Ganuza, 2016; Barber, 2004), el sorteo (Ganuza y Mendiharat, 2020; Manin, 1998; Moreno Pestaña, 2017; Sintomer, 2017; Van Reybrouck, 2016), la deliberación (Cortina, 2001; Fishkin, 2011; García-Marzá, 2019; Habermas, 1998; Setälä, 2017) o una combinación entre varios: representación, sorteo, deliberación, participación directa (Santos y Avrtizer, 2004; Welp, 2018). Más específicamente, la democracia monitorizada se centra en las innovaciones centradas en aprovechar potencial regenerador de la fiscalización y la contestación del poder desde la sociedad civil. Así pues, se ocupa de la dimensión concreta del control del poder y no de otras dimensiones como la selección de representantes o los modos de toma de decisiones (Feenstra y Welp, 2019). Con ello, este planteamiento se acerca a otras propuestas de la teoría política contemporánea como el marco de la contrademocracia (Rosanvallon, 2008) que observan un progresivo reforzamiento de la sociedad civil como contra-poder. Por otra parte, la teorización de la democracia monitorizada marca un distanciamiento con parte de la abundante literatura en torno a la democracia “en crisis” en la que destacan obras como las de Colin Hay (2007), Colin Crouch (2004) o Christian Laval y Pierre Dardot (2017). Estas hacen hincapié en tendencias que acechan a las democracias liberales representativas contemporáneas, como la desafección ciudadana o el desmedido poder de los poderes fácticos (Streeck, 2011; Galli, 2013). Además, el marco de la monitorización se distancia también de quienes proponen una democracia en términos minimalistas (Dahl, 1989; Schumpeter, 1984; Sartori, 1988, 1999;) y especialmente de las propuestas tecno-elitistas.

4 Vigilancia y monitorización: dos aproximaciones opuestas a la relación entre tecnología y democracia

Las dos tendencias cuyas características han sido expuestas en las secciones anteriores (resumidas en la Figura 1) representan posturas contrarias, pero ambas se apoyan en el potencial de las tecnologías digitales para mejorar determinados procesos relativos a la gestión pública y la toma de decisiones políticas.

Figura 1

Comparativa: democracia vigilada y democracia monitorizada.

Este apartado discute ambas posturas desde dos perspectivas: en primer lugar, desde un punto de vista procedimental, relativo a los procesos y métodos que exigen la vigilancia o la monitorización y, en segundo lugar, desde un punto de vista sustantivo, relativo a los principios y fundamentos rectores de los sistemas democráticos a los que se aproxima cada postura.

4.1 Dimensión procedimental de la democracia vigilada

El uso de tecnologías digitales de procesamiento de datos masivos para reducir o sustituir la participación política de la ciudadanía puede resultar atractivo para dinamizar o reducir la carga de trabajo humano en procesos concretos. La crisis sanitaria mundial provocada por la Covid-19 ha mostrado la importancia de tener buenos sistemas de análisis de información. No obstante, debe valorarse con prudencia cuando se trata de tomar decisiones sensibles que afectan a la vida de las personas y al cumplimiento de sus derechos fundamentales atendiendo, por una parte, a la lógica de estas tecnologías y, por otra, al análisis de casos y experiencias previas.

En la actualidad, se tiende a pensar que las tecnologías digitales, y especialmente aquellas basadas en el procesamiento de datos y en técnicas de inteligencia artificial, sirven para resolver cualquier tipo de problema, si se usan de forma adecuada (Crawford, 2021; Morozov, 2011). Algo que Evgeny Morozov (2014) ha llamado el solucionismo tecnológico. Sin embargo, el procesamiento de datos masivos no siempre es suficiente para entender y explicar el mundo ni los comportamientos humanos (boyd y Crawford, 2011).

La analítica big data aporta novedades relevantes con respecto a las técnicas tradicionales de análisis de datos, especialmente en: cómo se generan los datos (más rápido, más cantidad y en formatos diversos), cómo se recopilan (masivamente) y cómo se procesan (automáticamente). Sin embargo, no deja de ser una forma de análisis cuantitativo de información con posibilidades limitadas.

Cuando nos planteamos si el análisis de datos puede sustituir de forma efectiva a la participación ciudadana a la hora de conocer las preferencias mayoritarias de la comunidad política, podemos encontrarnos con problemas diversos. En primer lugar, los datos pueden ser inexactos, incompletos o inadecuados para representar la realidad que se pretende. Si se procesan datos que proceden de forma desigual de una comunidad política ―algo que ocurre de forma innegable en las sociedades actuales, marcadas por las brechas digitales (Eurostat, 2021; Gros et al., 2018)―, obtendremos información que no será igualmente representativa de sus miembros (Fernández-Ardèvol y Grenier, 2022). Así, propuestas como las de Pentland o Hidalgo podrían dar lugar a importantes errores, sesgos o formas de discriminación hacia determinadas personas o grupos sociales infrarrepresentados. En segundo lugar, cuando se trabaja con un conjunto masivo de datos que superan la capacidad de procesamiento humano, es necesario utilizar herramientas automatizadas cuya supervisión humana es inviable. Además, la maleabilidad y la complejidad inherente a estos sistemas, especialmente los de aprendizaje de máquinas hace, además, que las instrucciones en base a las que operan varíen de forma constante (Tsamados et al., 2022). Esto representa un escollo a la hora de extraer conclusiones informadas de los mismos y valorar que los procesos de análisis de datos no estén generando resultados sesgados o discriminatorios (O’Neil, 2017).

Diversos ejemplos recientes demuestran que esta tecnología no siempre ayuda a gobernar mejor. El algoritmo COMPAS (Angwin et al., 2016), dedicado a predecir la reincidencia criminal, es conocido por discriminación racial: generaba muchos más falsos positivos para la población negra que para la blanca. El motivo: el tipo de información que se había modelado como determinante de reincidencia en el sistema. La Allegheny Family Screening Tool, antes mencionada, reproduce una desigualdad social grave: tiende a separar más a los menores de edad de sus familias cuando estas son pobres: historicamente éstas, con peores condiciones vitales, han perdido mucho más a sus hijos. El sistema BOSCO fue denunciado por la Fundación Civio (s. f.; 2022) por negar el bono social a personas con derecho a recibirlo.

En definitiva, las tecnologías big data, pueden ser útiles en determinados casos pero no sirven para resolver cualquier tipo de problema y pueden generar formas de discriminación o aumentar la desigualdad y propiciar nuevas formas de exclusión social.

4.2 Dimensión sustantiva de la democracia vigilada

Tras las propuestas favorables a la democracia vigilada está la idea de que lo importante en democracia es que los mejores (humanos o máquinas), tomen las mejores decisiones políticas para dar respuesta a los intereses o necesidades de los de los demás. No importa si esos intereses o necesidades han sido explícitamente expresados, razonados y argumentados. Tampoco que la ciudadanía pierda capacidad de participar y conocer los procesos de toma de decisiones políticas que afectan a su comunidad política. ¿Se puede considerar esto deseable desde un punto de vista democrático? ¿Cómo afecta a los principios y los fundamentos que rigen las democracias? Por una parte, significa un aumento de la brecha entre gobernantes y gobernados y, con ello, conduce a una sociedad menos democrática, en la cual derechos y libertades se ven mermados por un nuevo poder de control (Mattelart, 2008; Ramonet, 2016; Staples, 1998). ¿Qué es la democracia si no es precisamente el ejercicio del poder por parte del demos? Por otra parte, afirmar que el análisis de datos permite conocer y predecir las circunstancias, necesidades e intereses de las personas, implica una comprensión conductista o determinista de la naturaleza humana, que cierra la puerta a la imprevisibilidad, el cambio de posturas y opiniones, o la evolución intelectual y personal a lo largo de la vida. Cambios que se suelen producir en los procesos de participación y deliberación políticas, gracias al intercambio razonado y argumentado de opiniones, que en este caso se elimina. Y, más allá de esto, cabe preguntarse cómo podrá generar confianza y legitimidad política un modelo de gobierno que no invita a su ciudadanía a participar, sino que procesa su información para predecir sus intereses.

Dando por hecho que, como indica Pentland (2014a), se pudiera llegar a determinar quiénes son las personas más preparadas para interpretar la información procedente de los sistemas de procesamiento de datos, ¿cómo se podría determinar quiénes, además, son gobernantes buenos, capaces de decidir lo mejor para satisfacer los intereses de los demás, y no los propios, de forma neutral y objetiva?

En el caso de la sustitución total de la participación ciudadana y de la acción política por agentes de software, atendiendo más específicamente a la propuesta de Hidalgo (2018a; 2018b), también surgen dudas relevantes. ¿Quién y cómo determinará si estos sistemas funcionan de una forma justa e igualitaria? ¿Requeriría al conjunto de la ciudadanía disponer de un conocimiento técnico que, atendiendo a las brechas digitales antes mencionadas, podría generar importantes problemas de desigualdad y exclusión social?

Hay un aspecto más a tener en cuenta: el desarrollo de las tecnologías digitales y de procesamiento de datos que permitirían llevar a cabo estas propuestas es inseparable de los intereses privados de unas pocas corporaciones tecnológicas (Google, Apple, Meta, Amazon y Microsoft), cuyo modelo de negocio monopolístico y opaco se basa en la explotación de la información que en ellas se comparte (Couldry y Mejias, 2019; McChesney, 2013; Pasquale, 2015; Petit, 2020; Zuboff, 2019). Esto genera una creciente desigualdad, que deja a la ciudadanía en una situación de desprotección de derechos fundamentales frente a los grandes poderes privados y públicos, capaces de acceder a esta información y utilizarla en su beneficio (Candón-Mena, 2021; Harvey, 2005; Hintz et al., 2019; McChesney, 2013; Tufekci, 2017). Esto es lo que, en línea con la idea de libertad neo-republicana (Pettit, 2012) se ha llamado “dominación de datos” (Suárez-Gonzalo, 2019). Una amenaza que se debe tener en cuenta, tanto al hablar de los riesgos de la postura elitista, como de cualquiera que plantee la introducción social de nuevas tecnologías en la toma de decisiones políticas.

4.3 Dimensión procedimental de la democracia monitorizada

Siguiendo el esquema empleado para analizar la postura elitista, también cabe hacer algunos apuntes, en primer lugar, respecto a la dimensión procedimental de la democracia monitorizada.

La consolidación de la democracia monitorizada requiere de un desarrollo tecnológico e institucional que haga efectivos y confiables los procesos de filtración de información sensible. La monitorización ciudadana de los centros de poder puede erigirse como un proceso clave en el fomento de la transparencia y la legitimidad de las instituciones. En los últimos años se ha observado cómo, desde iniciativas ciudadanas, se ha dado impulso a plataformas que ofrecen buzones de alerta donde la ciudadanía puede reportar de forma anónima información sensible o pruebas sobre abusos de poder o corrupción. Éstas se constituyen como espacios digitales instaurados en las instituciones donde, de forma segura, la ciudadanía puede filtrar o enviar información o evidencias sobre malas prácticas. A nivel internacional son conocidas plataformas como Wikileaks o GlobalLeaks. También diversas instituciones gubernamentales —(especialmente locales o regionales) y vinculadas a la administración pública (universidades u hospitales)— han dado impulso a la inclusión y propagación de buzones de alerta o canales de filtración, llamadas: “líneas éticas”, “buzones de denuncias” o “sistemas de alertas”. Su proliferación plantea una cuestión central en torno a los criterios técnicos e institucionales que se deben cumplir con la finalidad de fomentar una monitorización con garantías. Estas deben ofrecer una serie de condiciones básicas como las siguientes: contar con un canal a través del cual alertar del posible abuso de poder, proteger al informante o alertador, canalizar el mensaje de forma segura, estudiar la denuncia por parte de un comité independiente o contar con un protocolo capaz de resolver y dar respuesta al expediente o caso abierto.

Estas condiciones institucionales son claves en la medida que los alertadores se exponen a riesgos personales y profesionales. Ante esto, la Unión Europea ha desarrollado un marco jurídico que exige a países miembros el desarrollo de leyes y protocolos que protejan la figura de los whistleblowers, efectivo desde la entrada en vigor de la Directiva (UE) 2019/1937 en 2019. En España, la transposición de esta directiva ha tenido lugar en diciembre de 2022 con la aprobación del Proyecto de Ley que regula la protección de las personas que informen sobre infracciones que vulneren el ordenamiento europeo y nacional y cumple con los objetivos establecidos en el IV Plan de Gobierno Abierto 2020-2024.

Además, las plataformas de monitorización ciudadana deben ofrecer garantías con respecto al uso específico de la información y los datos compartidos. De no ser así, estos espacios digitales podrían ser utilizados de forma anti-democrática. Asimismo, hay que tener en cuenta que, cuando hablamos del uso de tecnologías en el ámbito de la participación democrática, existe un riesgo significativo de que la confianza en el potencial de los mecanismos de participación digital sustituya a un análisis serio de su trasfondo tecnológico y del diseño institucional que debe acompañarlos (Rendueles, 2013).

4.4 Dimensión sustantiva de la democracia monitorizada

Frente a las concepciones tecno-elitistas, la concepción monitorizada reclama una participación más directa e influyente de la sociedad civil. Esta postura reivindica complementar (y no sustituir) la representación para que la participación en los procesos políticos no quede reducida al voto. La idea es mantener la estructura central del sistema político pero aumentando la capacidad ciudadana de fiscalizar los núcleos de poder de manera continuada. Esta idea es contraria a las propuestas tecno-elitistas que, en tanto que procesos de arriba abajo, buscan reforzar los centros de poder.

La monitorización plantea la descentralización del poder a través de la lucha por la transparencia y la participación ciudadana directa. Idealmente en ella participan diversos espacios y actores, aunque la concepción normativa de la democracia monitorizada se centra en el papel de contra-poder y contrapeso de la sociedad civil. Así, la función clásica del periodismo y sus profesionales como guardianes de la democracia e impulsores de la rendición de cuentas se extiende también a la ciudadanía, con una nueva capacidad para constituirse como fuentes de información de los abusos de poder (político, económico, laboral o de cualquier otro tipo).

Esta propuesta focaliza su atención en la fiscalización de los centros de poder y, por tanto, en el control de los poderes y la transparencia. La monitorización como proceso político deseable implica un acto de escrutinio público de un asunto de interés público y, además, exige que se justifique mediante la aportación de evidencias. Esto lo aleja de otros procesos como la crítica o el linchamiento público hacia un/a representante y también de lo que Umberto Eco llama la máquina del fango: el uso estratégico de información personal con el mero fin de desprestigiar a un posible adversario político.

Por otro lado, cabe preguntarse por las propias limitaciones del proceso de monitorización. En este sentido, aunque este proceso supone una ampliación de las posibilidades de participación con respecto a la representación, su función es de carácter defensivo. De acuerdo con Keane (2009), la monitorización se comprende como el medio más eficaz para prevenir peligrosas acumulaciones de poder político y económico.

Sin desmerecer estos aspectos, cabe tener en cuenta, para la discusión que plantea este artículo, que el ejercicio de monitorización constituye una forma de participación en la cual la ciudadanía y la sociedad civil ejercen un papel observador y vigilante del escenario político. Su consolidación implica una mayor capacidad de influencia pero no explora ni defiende otros procesos de participación que podrían ser fomentados a través del uso de las nuevas tecnologías. Asimismo, cabe recordar que para ejercer la monitorización es preciso disponer de ciertos recursos materiales (como acceso a internet y a dispositivos tecnológicos) e inmateriales (como contar con competencias digitales o formación suficiente). De ahí que la posibilidad de ejercer o contribuir a la monitorización ciudadana pueda verse afectada, también, por las brechas digitales y quedar restringida a unos pocos, al menos si no se ofrecen facilidades para su promoción entre la población.

5 Conclusiones

El escenario tecnológico actual plantea nuevas posibilidades para la mejora de los sistemas democráticos. La sustitución total o parcial de la participación política por el procesamiento de datos masivos sobre la ciudadanía (la democracia vigilada) y el fomento de la monitorización ciudadana del poder a través de medios digitales (la democracia monitorizada) son dos ejemplos de ello que, no obstante, en su concepción ideal, persiguen objetivos opuestos. Este artículo analiza estas dos posturas, haciendo especial hincapié en analizar las propuestas de sus defensores, tanto desde un punto de vista procedimental, como sustantivo.

En cuanto a la democracia vigilada, autores como Pentland (Hintz et al., 2019, 2014b) o Hidalgo (2018a; 2018b) proponen la vigilancia en datos de la ciudadanía para optimizar la gestión y la toma de decisiones relativas al gobierno de lo público. Esto puede ser útil a la hora de tomar decisiones informadas con respecto a cuestiones puntuales y no tendría por qué estar reñido con que la ciudadanía participe en la toma de esa decisión y pueda ejercer sobre ella una influencia significativa. No obstante, las propuestas que se han descrito aquí no se plantean en estos términos sino como una nueva forma de organización política a la que no le preocupa que este cambio tecnológico reduzca o sustituya la participación ciudadana en la vida política. Es importante destacar que estas no son propuestas minoritarias, sino que están ganando cada vez más apoyos en los ámbitos académico, empresarial e institucional. Tanto es así que múltiples ejemplos (algunos de ellos presentados a lo largo del texto) muestran que las instituciones públicas, cada vez más, adquieren e implementan tecnologías que permiten automatizar (total o parcialmente) procesos que afectan a la vida de las personas, disminuyendo la atención humana sobre ellos y abriendo la puerta a nuevos riesgos para los sistemas democráticos. En este artículo hemos analizado la viabilidad y la deseabilidad de esta postura, tanto desde un punto de vista procedimental como sustantivo. Por una parte, hemos explicado que la misma lógica de las tecnologías de análisis de datos masivos que subyacen a estas propuestas no permite alcanzar los objetivos propuestos. Por otra parte, hemos argumentado que, desde un punto de vista sustantivo, estas propuestas van en contra de la premisa fundamental de los sistemas democráticos: la soberanía popular.

La democracia monitorizada, enmarcada en tradiciones participacionistas y que defienden la profundización de la democracia y la participación política, constituye una postura opuesta, que busca utilizar las nuevas tecnologías para reforzar el proceso político mediante la fiscalización ciudadana de los espacios de poder públicos y privados. Es decir, sus defensores ven en las nuevas tecnologías una oportunidad para ejercer un control ciudadano del poder con garantías democráticas. En cuanto a esta postura se ha destacado que el diseño institucional resulta una condición determinante para impulsar la transparencia y la rendición de cuentas: es necesario que estos sistemas cumplan determinados criterios que permitan la accesibilidad, el control popular y democrático, la revisión y la evaluación de la información filtrada y que, además, aseguren la protección del informante. Asimismo, para potenciar sus efectos democratizadores, es necesario que dicho diseño institucional se haga teniendo en cuenta los límites y riesgos de la implementación de tecnologías en los procesos de participación política. En su dimensión sustantiva, nuestro análisis expone que la monitorización ciudadana permite complementar la participación restringida en la actualidad a los procesos electorales. En consecuencia, la participación ciudadana se ve ampliada, generando un efecto de profundización política. Sin embargo, hemos apuntado la importancia de valorar los riesgos de esta postura, si se lleva a la práctica de un modo irresponsable interesado o falto de una conciencia crítica acerca de las propias limitaciones de la estructura social, económica y política en la que se integran. También, que esta propuesta no agota, ni mucho menos, todas las opciones de participación que pueden impulsarse mediante las tecnologías, sino que se concentra en ofrecer una manera efectiva y accesible de ejercer una monitorización ciudadana del poder, especialmente relevante para la legitimidad y la confiabilidad de los sistemas democráticos.

Este artículo parte de la convicción de que el uso de tecnologías puede y debe contribuir a la mejora de los sistemas democráticos. Asimismo, señala la importancia de que esto no suponga una reducción de la participación política de la ciudadanía o un perjuicio para las personas que no tienen acceso o las competencias necesarias para utilizar estas tecnologías. Teniendo en cuenta lo analizado, para avanzar hacia un desarrollo tecnológico justo, deseable y que contribuya a afianzar y profundizar los sistemas democráticos, es necesario invertir el orden de intereses que guían el actual desarrollo tecnológico, opaco, propietario y difícilmente controlable por la ciudadanía, para avanzar hacia tecnologías más abiertas, responsables, explicables y auditables. Esto implica establecer obligaciones de transparencia y explicabilidad y garantizar canales de control popular sobre el desarrollo y la implementación de tecnologías, especialmente cuando el cumplimiento de derechos fundamentales o el ejercicio de libertades básicas puedan verse comprometidos. También requiere proporcionar los recursos materiales e inmateriales necesarios para que las personas puedan participar de manera equitativa en estos procesos y ejercer sus derechos libremente: tanto para protegerse de posibles amenazas, riesgos o abusos, como para contribuir activamente a generar un escenario socio-tecnológico más justo. Los canales de monitorización ciudadana, en tanto que se construyen sobre elementos tecnológicos, deben estar especialmente sometidos a estas medidas y, además, garantizar la seguridad y la confidencialidad del proceso, si así lo desea la persona denunciante.

Estas medidas son, a la luz del análisis planteado, las fundamentales para avanzar hacia un desarrollo tecnológico favorable al conjunto de los intereses ciudadanos y que profundice los sistemas democráticos. Permitirían que la ciudadanía pueda participar e intervenir de una forma significativa en el desarrollo tecnológico y, con ello, adaptarlo a sus necesidades y aprovechar su potencial para mejorar la gestión, la organización y la toma de decisiones políticas de forma colaborativa, sin amenazar la democracia y la soberanía popular.

6 Agradecimientos

Agradecemos las aportaciones de las y los miembros del grupo de investigación CNSC-IN3 de la Universitat Oberta de Catalunya durante la redacción de este artículo, y también las de las personas que han hecho su revisión ciega.

7 Financiación

Esta investigación ha sido financiada por la Beca postdoctoral Josep Irla de recerca en Anàlisi i Pensament Social 2020-2021 (Fundació Josep Irla) y por la ayuda Juan de la Cierva-Formación FJC2020-044757-I (Ministerio de Ciencia e Innovación / Agencia Estatal de Investigación (Gobierno de España) / 10.13039/501100011033 y la Unión Europea / NextGenerationEU/PRTR), ambas ayudas otorgadas a Sara Suárez-Gonzalo.

Además, se inserta en el Proyecto de Investigación Científica y Desarrollo “Ética aplicada y confiabilidad para una Inteligencia Artificial” PID2019-109078RB-C21 financiado por MCIN/ AEI /10.13039/501100011033 del que forma parte como investigador Ramón A. Feenstra.

8 Referencias