¿Ciudadanía vigilada o monitorización ciudadana? Dos aproximaciones opuestas a la relación entre tecnología y democracia
Resumen
La transformación digital de la sociedad ha dado lugar al auge de dos corrientes opuestas en su interpretación sobre la relación entre tecnología y democracia. Por una parte, empresas e instituciones recogen y procesan cada vez más información sobre la ciudadanía para optimizar la toma de decisiones. Por otra, la sociedad civil encuentra en las tecnologías digitales una herramienta para la monitorización del poder y la denuncia ciudadana. En este artículo analizamos estas dos aproximaciones que beben de tradiciones democráticas distintas y persiguen objetivos diferentes, a las que llamamos la democracia vigilada y la democracia monitorizada. Lo hacemos prestando atención tanto a su dimensión procedimental, relativa a las características y limitaciones de los procesos y los métodos propuestos, como a su dimensión sustantiva, concerniente a sus principios y fundamentos teóricos. Finalmente, planteamos propuestas para avanzar hacia un desarrollo tecnológico justo y que contribuya a afianzar y profundizar los sistemas democráticos.
Palabras clave
Tecnología digital, Participación política, Democracia, Vigilancia, Monitorización políticaCitas
Ada Lovelace Institute (2021). Algorithmic accountability for the public sector. https://www.adalovelaceinstitute.org/report/algorithmic-accountability-public-sector
Aguirre Sala, Jorge Francisco (2019). Democracia Líquida: la opción de las TIC para incorporar la participación ciudadana en instituciones representativas, Athenea Digital, 19(2), e2212. https://doi.org/10.5565/rev/athenea.2212
Allegheny County (s. f.). The Allegheny Family Screening Tool. https://www.alleghenycounty.us/Human-Services/News-Events/Accomplishments/Allegheny-Family-Screening-Tool.aspx
Angwin, Julia; Larson, Jeff; Mattu, Surya & Kirchner, Lauren (2016). Machine Bias. ProPublica. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Baiocchi, Gianpaolo & Ganuza, Ernesto (2016). Popular democracy. Stanford University Press.
Barber, Benjamin (2004). Democracia fuerte. Almuzara.
Baruh, Lemi & Popescu, Mihaela (2017). Big data analytics and the limits of privacy self-management, New Media & Society, 19(4), 579-596. https://doi.org/10.1177/1461444815614001
Bernholz, Lucy; Landemore, Hélène & Reich, Rob (Eds.) (2021). Digital technology and democratic theory. University of Chicago Press.
Boyd, Danah & Crawford, Kate (2011). Six Provocations for Big Data. Oxford Internet Institute. https://doi.org/10.2139/ssrn.1926431
Brennan, Jason (2016). Against Democracy. Princeton University Press.
Buchanan, James M. & Tullock, Gordon (1962). The Calculus of Consent. University of Michigan Press.
Bucher, Taina (2019). If… then: Algorithmic Power and Politics. Oxford University Press.
Burgess, Paul (2022). Algorithmic augmentation of democracy. AI & Society, 37, 97-112. https://doi.org/10.1007/s00146-021-01170-8
Cadwalladr, Carole (2017, 7 de mayo). The great British Brexit robbery, The Guardian. https://www.theguardian.com/technology/2017/may/07/the-great-british-brexit-robbery-hijacked-democracy
Calvo Cabezas, Patrici (2020). Democracia aumentada: un ecosistema ciberético para una participación política basada en algoritmos. Ápeiron, 12, 129-141. http://hdl.handle.net/10234/188440
Candón-Mena, José (2021). Democracia deliberativa en los cibermovimientos sociales contemporáneos, Athenea Digital, 21(3), e2781. https://doi.org/10.5565/rev/athenea.2781
Castells, Manuel (2013). Communication power. Oxford University Press.
Castillo, Carlos; Zamorano, Mariano Martín; Jaramillo, Giovanna & Suárez-Gonzalo, Sara (2020). Algorithmic Impact Assessment of the predictive system for risk of homelessness developed for the Allegheny County. Allegheny County Analytics. https://www.alleghenycountyanalytics.us/wp-content/uploads/2020/08/Eticas-assessment.pdf
Civio (2022, 10 de febrero). La Justicia impide la apertura del código fuente de la aplicación que concede el bono social. https://civio.es/novedades/2022/02/10/la-justicia-impide-la-apertura-del-codigo-fuente-de-la-aplicacion-que-concede-el-bono-social/
Civio (s. f.). Que las ayudas públicas lleguen a quienes más las necesitan. https://civio.es/acceso-a-bono-social/
Comissionat d'Innovació Digital de Barcelona (2021). Mesura de Govern de l’estratègia municipal d’algoritmes i dades per a l’impuls ètic de la IA. https://bcnroc.ajuntament.barcelona.cat/jspui/handle/11703/121795
Cortina, Adela (2001). Ética aplicada y democracia radical. Tecnos.
Couldry, Nick (2017) Surveillance-democracy, Journal of IT & Politics, 14(2), 182-188. https://doi.org/10.1080/19331681.2017.1309310
Couldry, Nick & Mejias, Ulises A. (2019). The Costs of Connection. Stanford University Press.
Crawford, Kate (2021). Atlas of AI. Yale University Press.
Crouch, Colin (2004). Post-democracy. Polity Press
Dahl, Robert A. (1989). Democracy and its critics. Yale University Press.
Directiva (UE) 2019/1937 del Parlamento Europeo y del Consejo, de 23 de octubre de 2019, relativa a la protección de las personas que informen sobre infracciones del Derecho de la Unión. http://data.europa.eu/eli/dir/2019/1937/oj
Downs, Anthony (1956). An Economic Theory of Democracy. Harper and Row.
Eubanks, Virginia (2021). La automatización de la desigualdad. Capitán Swing.
Eurostat (2021). Digital economy and society statistics. https://ec.europa.eu/eurostat/statistics-explained/index.php?title=Digital_economy_and_society_statistics_-_households_and_individuals
Feenstra, Ramón A. & Welp, Yanina (2019). Sobre demos, cracias y gogias, Araucaria, 42, 585-604.
Fernández-Ardèvol, Mireia & Grenier, Line (2022): Exploring data ageism: What good data can(’t) tell us about the digital practices of older people? New Media & Society (OnlineFirst), 1-18. https://doi.org/10.1177/14614448221127261
Fishkin, James S. (2011). When the people speak: Deliberative democracy and public consultation. Oxford University Press.
Galli, Carlo (2013). El malestar de la democracia. Fondo de Cultura Económica.
Ganuza, Ernesto & Mendiharat, Arantxa (2020). La democracia es posible. Consonni.
García-Marzá, Domingo. (2019). Habermas: a two-track model of deliberative politics, En Cristina Flesher Fominaya & Ramón Feenstra (Eds.), Routledge Handbook of Contemporary European Social Movements (pp. 89-99). Routledge.
Graeber, David (2013). The democracy project: A history, a crisis, a movement. Random House.
Greenwald, Glenn; MacAskill, Ewen & Poitras, Laura (2013, 11 de junio). The whistleblower behind the NSA surveillance revelations. The Guardian. https://www.theguardian.com/world/2013/jun/09/edward-snowden-nsa-whistleblower-surveillance
Gros, Begoña; Zhang-Yu, Cristina; Ayuste, Ana & Escofet, Anna (2018). La apropiación de los dispositivos móviles en ciudadanos inmigrantes: el segundo nivel de división digital, Athenea Digital, 18(3), e2175. https://doi.org/10.5565/rev/athenea.2175
Guerrero-Solé, Frederic; Suárez-Gonzalo, Sara; Codina, Lluís & Rovira, Cristòfol (2020). Social media, context collapse and the future of data-driven populism, El Profesional de la Información, 29(5), ee290506. https://doi.org/10.3145/epi.2020.sep.06
Habermas, Jurgen (1998). Facticidad y validez. Trotta.
Harvey, David (2005). A brief history of Neoliberalism. Oxford University Press.
Hay, Colin (2007). Why we hate politics. Polity Press.
Hayek, Friedrich (1960). The Constitution of Liberty. Routledge.
Hidalgo, César (2018a). Augmented Democracy. https://www.peopledemocracy.com/
Hidalgo, César (2018b). A bold idea to replace politicians. [TED Talk]. https://www.ted.com/talks/cesar_hidalgo_a_bold_idea_to_replace_politicians
Hintz, Arne; Dencik, Lina & Wahl-Jorgensen, Karin (2019). Digital citizenship in a datafied society. Polity Press
Holloway, John (2002). Change the World Without Taking Power. Pluto Press.
Hurley, Dan (2018, 2 de enero). Can an Algorithm Tell When Kids Are in Danger?, New York Times. https://www.nytimes.com/2018/01/02/magazine/can-an-algorithm-tell-when-kids-are-in-danger.html
Keane, John (2009). The Life and Death of Democracy. Simon y Schuster.
Keane, John (2013). Democracy and media decadence. Cambridge University Press.
Kosinski, Michal; Stillwell, David & Graepel, Tore (2013). Private traits and attributes are predictable from digital records of human behavior, Proceedings of the National Academy of Sciences USA, 110(15), 5802-5805. https://doi.org/10.1073/pnas.1218772110
Kusche, Isabel (2020). The old in the new, Big Data & Society, 7(1). https://doi.org/10.1177/2053951720908290
Laniuk, Yevhen (2021). Technocracy as a challenge to political freedom in the digital age, Grani, 24(4), 31-37. https://doi.org/10.15421/172136
Larson, Christina (2018). Who needs democracy when you have data?, MIT Technology Review. https://www.technologyreview.com/2018/08/20/240293/who-needs-democracy-when-you-have-data/
Laval, Christian & Dardot, Pierre (2017). La pesadilla que no acaba nunca. Gedisa.
Lippmann, Walter (1998). Public Opinion. Transaction Publishers.
Manin, Bernard (1998). Los principios del gobierno representativo. Alianza.
Martí, José Luis (2006). La república deliberativa. Marcial Pons.
Martí, José Luis (2020). La democràcia en l’era de la IA. Eines Irla, 39, 18-28. https://irla.cat/wp-content/uploads/2020/12/eines39-article-connexions-josep-lluis-marti.pdf
Mattelart, Armand (2008). La globalisation de la surveillance. La Découverte Poche
Mayer-Schönberger, Viktor & Cukier, Kenneth (2013). Big Data: A Revolution That Will Transform How We Live, Work and Think. Houghton Mifflin Harcourt.
McChesney, Robert W. (2013). Digital Disconnect. The New Press.
Monteagudo, Ricardo (2021). Democracia em tempos de vigilância ubíqua. Quaestio Iuris, 14(4), 1727-1743. https://doi.org/10.12957/rqi.2021.62818
Moreno Pestaña, José Luis (2017). Los desafíos del sorteo a la democracia, los desafíos de la democracia al sorteo. Daimon, 72, 7-21. https://doi.org/10.6018/daimon/303241
Morison, John (2020). Towards a Democratic Singularity? En Simon Deakin & Christopher Markou (Eds.), Is Law Computable? (pp. 85-106). Hart Publishing.
Morozov, Evgeny (2011). The Net Delusion. Public Affairs.
Morozov, Evgeny (2014). To Save Everything, Click Here. PublicAffairs
O’Neil, Cathy (2017). Armas de destrucción matemática. Capitán Swing.
Ortiz Galindo, Rocío (2019). ¿Cómo controlar a los políticos? Cibermovimientos sociales y nuevas vías para la rendición de cuentas, Athenea Digital, 19(3), e2182. https://doi.org/10.5565/rev/athenea.2182
Pasquale, Frank (2015). The Black Box Society. Harvard University Press.
Pentland, Alex (2011). Society's Nervous System. DSpace@MIT. http://hdl.handle.net/1721.1/66256
Pentland, Alex (2014a). Social Physics. Penguin.
Pentland, Alex (2014b, 7 de marzo). How Good Ideas Spread [Vídeo]. https://www.youtube.com/watch?app=desktop&v=HMBl0ttu-Ow
Petit, Nicolas (2020). Big Tech and the Digital Economy. Oxford University Press.
Pettit, Philip (2012). On the people’s terms. Cambridge University Press.
Proyecto de Ley que regula la protección de las personas que informen sobre infracciones que vulneren el ordenamiento europeo y nacional. https://www.lamoncloa.gob.es/consejodeministros/referencias/Paginas/2022/refc20220913sini.aspx#Denunciantes
Ramonet, Ignacio (2016). El imperio de la vigilancia. Clave Intelectual.
Rendueles, César (2013). Sociofobia. Capitan Swing.
Reniu, Josep Maria & Messeguer Sánchez, J. Víctor (Eds.) (2020). ¿Política confinada? Thomson Reuters Aranzadi.
Rosanvallon, Piere (2008). Counter-democracy. Cambridge University Press.
Rosenberg, Matthew; Confessore, Nicholas & Cadwalladr, Carole (2018, 17 de marzo). How Trump Consultants Exploited the Facebook Data of Millions. New York Times. https://www.nytimes.com/2018/03/17/us/politics/cambridge-analytica-trump-campaign.html
Sætra, Henrik S. (2020). A shallow defence of a technocracy of AI. Technology in Society, 62, https://doi.org/10.1016/j.techsoc.2020.101283
Santos, Boaventura de Sousa & Avrtizer Leonardo (2004). Introducción: para ampliar el canon democrático. En Boaventura de Sousa Santos (Ed.), Democratizar la democracia (pp. 35-74). Fondo de Cultura Económica.
Sartori, Giovanni (1988). Teoría de la democracia. Alianza.
Sartori, Giovanni (1999). En defensa de la representación política. Claves de Razón Práctica, 91, 2-6.
Saura Agel, Pilar (2020). El big data i la IA dins les polítiques públiques. Eines Irla, 39, 30-37. https://irla.cat/wp-content/uploads/2020/12/eines39-article-connexions-pilar-saura.pdf
Schumpeter, Joseph Alois (1984). Capitalismo, Socialismo y Democracia. Folio.
Servicio de Prensa de Barcelona (2021, 21 de abril). Barcelona impulsa l’ús de la IA per millorar els serveis públics garantint el respecte als DDHH. https://ajuntament.barcelona.cat/premsa/2021/04/21/lajuntament-de-barcelona-impulsa-lus-de-la-intelligencia-artificial-per-millorar-els-serveis-publics-garantint-el-respecte-als-drets-humans/
Setälä, Maija (2017). Connecting deliberative mini publics to representative decision making. European Journal of Political Research, 56, 846-863. https://doi.org/10.1111/1475-6765.12207
Sintomer, Yves (2017). Sortition and Politics. Daimon, 72, 25-43. https://doi.org/10.6018/daimon/295531
Staples, William G. (1998). The Culture of Surveillance. St. Martin’s Press.
Streeck, Wolfgang (2011). The crises of democratic capitalism, New left review, 71, 5-29
Suárez-Gonzalo, Sara (2018). Your likes, your vote? Big personal data exploitation and media manipulation in the US presidential election campaign of Donald Trump in 2016. Quaderns del CAC, 44(21), 25-33. https://www.cac.cat/sites/default/files/2019-01/Q44_Suarez_EN_1.pdf
Suárez-Gonzalo, Sara (2019). Personal data are political. A feminist view on privacy and big data, Recerca. Revista de Pensament i Anàlisi, 24(2), 173-192. https://doi.org/10.6035/Recerca.2019.24.2.9
Tangi, Luca; van Noordt, Colin; Combetto, Marco; Gattwinkel, Dietmar & Pignatelli, Francesco (2022). AI Watch. Publications Office of the EU. https://doi.org/10.2760/39336
Tormey, Simon (2015). The end of Representative Politics. Polity.
Tsamados, Andreas; Aggarwal, Nikita; Cowls, Jessica; Morley, Jessica; Roberts, Huw & Floridi, Luciano (2022). The ethics of algorithms. AI & Society, 37, 215-230. https://doi.org/10.1007/s00146-021-01154-8
Tufekci, Zeynep (2017). Twitter and the tear gas. Yale University Press.
Valderrama, Matías (2021). Sistema Alerta Niñez y la predicción del riesgo de vulneración de derechos de la infancia. https://www.derechosdigitales.org/publicaciones/sistema-alerta-ninez-y-la-prediccion-del-riesgo-de-vulneracion-de-derechos-de-la-infancia-en-chile/
Van Reybrouck, David (2016). Against elections. Random House
Vecinday Garrido, María Laura (2021). Prácticas de vigilancia en la política asistencial ¿Vigilar para proteger?, Athenea Digital, 21(1), e2467. https://doi.org/10.5565/rev/athenea.2467
Welp, Yanina (2018). Todo lo que necesitás saber sobre las democracias del siglo XXI. Paidós.
Yáñez-Urbina, Cristopher & Reyes-Espejo, María Isabel (2019). Racionalidad técnica y liderazgo: análisis del formato banner en la oferta de la política pública. Athenea Digital, 19(2), e2311. https://doi.org/10.5565/rev/athenea.2311
Zuboff, Shoshana (2019). The Age of Surveillance Capitalism. Public Affairs.
Publicado
Cómo citar
Descargas
Derechos de autor 2023 Sara Suárez-Gonzalo, Ramón A. Feenstra
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
