Athenea Digital. Revista de pensamiento e investigación social

Volumen 24, Número 1, 2024

Trabajo digital y “sonambulismo tecnológico”: el caso de la moderación de contenido en Internet

Digital Labour and “Technological Somnambulism”: The Case of Internet Content Moderation

• Resumen
• Abstract

1 Introducción

En su famoso artículo de 1983, “¿Tienen política los artefactos?” (2008, p. 55), el cientista político estadounidense Langdon Winner plantea que las tecnologías tienen o hacen política. Siguiendo su idea de las “tecnologías como formas de vida” (2008, p. 35), Winner plantea que las tecnologías no son meros instrumentos neutros, sino que establecen configuraciones y ordenaciones de distribución del poder. Su ejemplo clásico es el de los pasos sobre-nivel en New York realizados por el arquitecto Robert Moses (2008, p. 60), diseñados deliberadamente bajos para evitar que los buses de transporte público, usados por la población más pobre, accedieran a los lugares de descanso de los más adinerados. El uso de este caso por Winner ha sido criticado, aduciendo que Moses no construyó los pasos con la intención de impedir el paso (Joerges, 1999). Ahora bien, el propio Winner establece que el uso de tecnologías para establecer o fijar relaciones de poder no es necesariamente deliberado, sino que puede ser no-intencional (2008, p. 63). Es por ejemplo lo que sucede con las escaleras, que no fueron creadas para impedir el paso de personas en sillas de rueda, aunque lo hacen. Si bien Winner plantea el caso de Moses como una acción deliberada, si este no fuera el caso, igualmente serviría para la argumentación, ya que la clave no está tanto en la intencionalidad de quien diseña una tecnología sino en el rol “activo” que esta juega en un espacio social específico, delimitando y modulando posibilidades que permiten el desarrollo de formas de vida (Durán, 2020). Es en este sentido que podemos decir que una señal de tráfico o un semáforo “actúan”, o juegan un rol activo. Es algo que ha puesto de relieve el sociólogo francés Bruno Latour, cuando considera como ejemplo de “actante” los reductores de velocidad en las calles (Latour, 2002, p. 250). El olvido del rol activo y constitutivo que juegan las tecnologías en la configuración de formas de vida y su dimensión ética y política es lo que Winner denomina “sonambulismo tecnológico” (2008, p. 37).

Winner plantea que los artefactos pueden “actuar” políticamente porque “encarnan” o “incorporan” (embody) en su diseño relaciones de poder, es decir, ordenan las actividades humanas, distribuyendo poder. Esto se refleja, por ejemplo, en el mayor o menor grado de ajuste que requieren las tecnologías por parte de los usuarios, según sea su grado de flexibilidad técnica.

Pensemos, por ejemplo, en el funcionamiento de un automóvil. Quien conduce debe ajustar su cuerpo, sus movimientos y su atención para que la máquina cumpla su función específica. Podemos extender esta idea más allá a la organización de una sociedad completa. Winner pone el ejemplo de la estructura social requerida para el funcionamiento de la energía nuclear (2008, p. 74). Sigue aquí ideas planteadas por Lewis Mumford, quien establecía que había tecnologías democráticas o autoritarias, en la medida en que obligaban a una estructura y funcionamiento social específico (1964).

Ahora bien, la dimensión política de las tecnologías no solo se manifiesta en su uso, sino también en los propios procesos de diseño, en su fabricación o producción, o en las actividades requeridas para su funcionamiento u operación. Estos procesos y actividades implican relaciones de poder asociadas al trabajo humano, las acciones, las decisiones y los procesos materiales que permiten la concreción de un diseño en un artefacto funcional. “Las tecnologías son el trabajo congelado del pasado, y así humanas y políticas en su contenido” (Wendling, 2009, p. 118, traducción propia). Este “trabajo congelado” es el que cae en el olvido. Así pues, el “sonambulismo tecnológico”, no se da solo en el uso, sino también se da lo que podríamos llamar un “sonambulismo de la producción”, incluyendo en el término “producción” todos aquellos procesos, actividades o decisiones, requeridos para la fabricación, operación o funcionamiento de tecnologías. Se incluyen aquí, entre otros: el diseño, el trabajo humano, el uso de materias primas, las relaciones laborales. Darse cuenta de esta dimensión olvidada de las tecnologías es importante para superar la visión neutral e instrumental de la tecnología (Durán, 2020) y plantear formas de vida alternativas, pues como afirma Winner: “Por lo general, no nos detenemos a pensar si un artefacto dado podría haber sido diseñado y construido de manera tal que produzca una serie de consecuencias lógica y temporalmente previas a cualquiera de sus usos declarados” (Winner, 2008, p. 63).

En nuestras sociedades contemporáneas, el “sonambulismo de la producción” está aún más presente, pues los procesos de producción de los artefactos no son algo que tengamos a la vista, habiendo dejado de ser productores para convertirnos en sobre todo en consumidores. Ya no hacemos nuestros propias “ojotas” o “escobas”, como sucedía en el campo hace no mucho, sino que simplemente elegimos y compramos a partir de una variedad inabarcable de productos disponibles. Así pues, los artefactos técnicos se nos presentan como meras mercancías, con características establecidas sobre todo por el marketing, ignorando o dejando de lado los procesos de producción, en particular el trabajo humano implicado. Así pues:

El consumo ocupa el centro de la escena, mientras que la realidad más fundamental del trabajo queda relegada a un segundo plano, rara vez representada con algún detalle, y por lo general de forma romántica. Las duras experiencias de aquellos que se ven obligados a ganarse la vida mediante una conformidad interminable con rutinas aburridas reguladas por máquinas, divorciadas de su propio potencial creativo —todo en nombre de la eficiencia y los beneficios— parecen siempre más allá del ojo de la cámara, siempre fuera de la vista. (Foster, 1998, p. ix, traducción propia)

Estas palabras no son válidas solamente para los trabajos de las industrias del siglo XIX, sino también para las menos tangibles industrias basadas en el trabajo digital, como veremos más adelante.

2 Sonambulismo de la producción y fetichismo de la mercancía

La noción de “sonambulismo de la tecnología” de Winner está inspirada en la de “fetichismo de la mercancía” de Karl Marx. Esta influencia se vuelve más evidente aún al hablar de “sonambulismo de la producción”, por lo que es necesario detenernos en su análisis.

En el siglo XIX, Karl Marx planteó una noción referida al olvido u ocultación del trabajo humano en detrimento de las cosas producidas y de su valor de cambio, lo llamó fetichismo de la mercancía. Esta noción ha sido ampliamente discutida y ha sido interpretada de diversas maneras (Iacono, 2016; McAllister, 2011). Aquí solo me interesa subrayarla en la medida en que implica una cosificación o sustancialización del trabajo humano, pues se concibe el resultado del trabajo, el producto o artefacto técnico, como mero resultado de relaciones entre cosas o de relaciones de mercado, y dejando de lado la dinámica de la producción y del trabajo. En la sección “El carácter fetichista de la mercancía y su secreto” de El Capital, Marx afirma:

Lo misterioso de la forma mercantil consiste sencillamente, pues, en que la misma refleja ante los hombres el carácter social de su propio trabajo como caracteres objetivos inherentes a los productos del trabajo, como propiedades sociales naturales de dichas cosas, y, por ende, en que también refleja la relación social que media entre los productores y el trabajo global, como una relación social entre los objetos, existente al margen de los productores. (Marx, 2017, p. 123)

Destaco los siguientes puntos de la cita anterior. Primero, el trabajo de los trabajadores o productores se objetiva en las cosas que producen. En otras palabras, el producto de su trabajo se convierte en algo externo, ajeno, a ellos. Por ello, la noción de fetichismo de la mercancía se ha relacionado con la de alienación, de la que Marx habla en sus Manuscritos económico-filosóficos de 1844, y que implica varias dimensiones: el alejamiento o extrañamiento del trabajador del producto de su trabajo, del proceso de trabajo, de los demás trabajadores y de sí mismo (Díaz, 2017; Marx, 2015, p. 107; Wendling, 2009, p. 17).

El segundo punto que quiero señalar es que se trata de cómo aparecen las cosas, no aparecen como realmente son. Por esta razón, el fetichismo de la mercancía se ha relacionado también con la noción de ideología, entendida generalmente como “falsa conciencia” (Larraín, 2007). Las cosas se ven de forma errónea o falsa, ajena a los intereses de los trabajadores, porque no se ven las relaciones de explotación subyacentes. Superar la falsa conciencia implica darse cuenta de la falsedad de la forma habitual de ver, e implica situarse en un punto de vista privilegiado, no distorsionado, por así decir. Las dificultades conceptuales que implica es algo que ha estudiado con detalle Alfonso Iacono (2016), considerando la dialéctica de la esencia y la apariencia, que está a la base de la noción de ideología. Me interesa rescatar aquí la idea de que el propio proceso de objetivación del trabajo, la separación de quien produce y lo producido, sienta una base estructural para una visión “ideológica” de las mercancías como algo “naturalizado”, como algo simplemente disponible, es decir, para el olvido de los productos como algo que implica trabajo y procesos de producción. Como afirma Iacono:

El carácter de fetiche de la mercancía significa que la forma social de las cosas está dotada de naturalidad. Más explícitamente, la forma social de las cosas aparece como una propiedad natural de las mercancías […] El carácter del fetichismo puede verse, pues, como la atribución de naturalidad a las relaciones que son sociales. (2016, pp. 121-122, traducción propia)

La noción de fetichismo de la mercancía nos permite pensar en los artefactos y las tecnologías como encarnación de procesos y relaciones de poder. Para resumir, podemos decir que:

Para Marx, el fetichismo de la mercancía se refería a cómo las relaciones sociales y los procesos de producción de una cosa, incluida la dinámica del trabajo, quedaban enmascarados por la mercantilización, descontextualizando así la mercancía y haciéndola parecer autónoma de sus medios de producción. En la mercantilización, las relaciones entre las personas se ocultan, mientras que las relaciones entre las cosas se naturalizan. (Mcallister, 2015, p. 1, traducción propia)

3 Trabajo digital y sonambulismo de la producción

El olvido del trabajo y de los procesos de producción, así como la alienación de los trabajadores, también se produce en nuestra época de trabajo digital. Nos cautivan las apariencias etéreas de teléfonos móviles y ordenadores portátiles cada vez más finos y ligeros, y las posibilidades que abren la “nube”, Internet y las redes sociales. Esta es la cara brillante que las corporaciones tecnológicas muestran y promocionan a través del marketing y en la que nosotros, como usuarios, quedamos atrapados. Sin embargo, si consideramos toda la “vida de las cosas” (Leonard, 2014), aparece un panorama menos luminoso: trabajo humano en condiciones deplorables, explotación del ser humano y de la naturaleza, contaminación, basura digital, e-waste, etc. (Parikka, 2015). Todo lo que hace posible la producción, el uso y la disponibilidad de las tecnologías que utilizamos cada día. Como dice Astra Taylor, en relación con la automatización asociada a las tecnologías digitales y la “inteligencia artificial”:

Nuestra falta de curiosidad general por saber cómo funcionan realmente las plataformas y servicios que utilizamos a diario hace que a menudo nos creamos el bombo y platillo, dando a la automatización más crédito del que realmente le corresponde. En el proceso, no vemos —y no valoramos— el trabajo de nuestros congéneres. (2018, traducción propia)

La moderación de contenido en internet es uno de esos aspectos invisibles para los usuarios, pero crucial para el buen funcionamiento de las redes sociales y otras plataformas de Internet, que es necesario sacar a la luz. Pero antes veamos el ámbito de trabajo en el que se enmarca: el trabajo digital.

El trabajo digital pertenece a lo que Nick Srnicek ha llamado “capitalismo de plataformas”. Este capitalismo sigue la lógica del capitalismo clásico asociada a la alienación, la explotación y la descualificación, en resumen, el debilitamiento del poder de los trabajadores, pero ahora mediante la extracción y el uso de datos (Srnicek, 2018, p. 40). Generalmente, por datos, se entiende la información básica, aquella simplemente “dada”, sin mediación ni elaboración. Pero esta visión es errada, pues para tener datos se requiere trabajo y soportes materiales para su registro y almacenamiento:

La mayor parte de los datos precisa limpieza y se la deben organizar en formatos estandarizados para que sean utilizables. Del mismo modo, generar los algoritmos apropiados puede implicar ingresar manualmente secuencias de aprendizaje en un sistema. En conjunto, esto significa que la recopilación de datos al día de hoy depende de una vasta infraestructura para detectar, grabar y analizar. (Srnicek, 2018, p. 42)

La nueva materia prima que son los datos se explota a través de plataformas. ¿Qué son las plataformas? “En el nivel más general las plataformas son infraestructuras digitales que permiten que dos o más grupos interactúen. De esta manera se posicionan como intermediarias que reúnen a diferentes usuarios: clientes, anunciantes, proveedores de servicios, productores, distribuidores e incluso objetos físicos” (Srnicek, 2018, p. 45). El término plataforma se refiere tanto a las firmas o empresas como a las tecnologías digitales, software y hardware, que hacen posible la extracción y uso de datos. Srnicek establece la siguiente clasificación (2018, p. 50): a) plataformas publicitarias (por ejemplo, Google, Facebook); b) plataformas de la nube (por ejemplo, Amazon Web Services (AWS), Salesforce); c) plataformas industriales (por ejemplo, GE Siemens); d) plataformas de productos (por ejemplo, Rolls Royce, Spotify); e) plataformas austeras (por ejemplo, Uber, Airbnb). Las plataformas del primer tipo extraen y analizan datos con fines de venta. Las plataformas del segundo tipo poseen hardware y software para alquilar a empresas. El objetivo del tercer tipo de plataformas es la transformación de la fabricación tradicional en procesos conectados a Internet. El cuarto tipo busca el beneficio mediante el uso de plataformas para recoger y alquilar bienes o contenidos tradicionales, como la música. Por último, las plataformas austeras funcionan como intermediarias de servicios, por ejemplo, de transporte o alimentación, sin aportar su propia infraestructura (hardware) para realizar estos servicios.

La diversidad de las plataformas se refleja también en una diversidad de tipos de trabajo digital. El sociólogo Antonio Casilli distingue tres tipos de trabajo de plataformas, a saber: el trabajo digital bajo demanda, el microtrabajo y el trabajo “gratuito” (2021, p. 90), ejemplos de la llamada gig economy (economía informal, asociada al trabajo temporal) basada en el crowdsourcing (“colaboración” colectiva). El primer tipo se refiere a lo que se ha llamado “uberización de la economía”, el tipo de trabajo característico de la plataforma Uber y similares (Casilli, 2021, p. 97). El segundo tipo de trabajo se refiere a la realización de las tareas repetitivas no cualificadas, o microtareas (porque se trata de realizar pequeñas tareas en las que se ha dividido una tarea o problema mayor), que las máquinas no pueden hacer por sí solas, y que son necesarias para la implementación y el funcionamiento de los algoritmos de aprendizaje automático. Entre ellas tenemos: transcripción de audio, traducción de idiomas, anotaciones, etc. (Casilli, 2021, p. 123). Un ejemplo importante de este tipo de trabajo es la plataforma Amazon Mechanical Turk (MTurk), creada en 2005 como una plataforma para tareas de “inteligencia humana”. Normalmente, este trabajo se oculta tras el bombo publicitario asociado a la Inteligencia Artificial (IA). Sin embargo, los creadores de estas plataformas entienden muy bien la implicación del trabajo humano en ellas. La propia elección del nombre MTurk por parte de Amazon así lo evidencia. “Turco mecánico” hace referencia al famoso “autómata” de Wolfgang von Kempelen del siglo XVIII que recorría las cortes europeas jugando al ajedrez, o eso se creyó, porque, como se supo después, se trataba de una persona que movía las piezas oculto en el mecanismo (Riskin, 2016, pp. 123-128). Por último, el trabajo “gratuito”, es el que realizamos como usuarios de plataformas, por ejemplo, al subir información a las redes sociales, clasificar fotografías, etiquetar fotos de personas, subir imágenes o vídeos, etc. Si se puede considerar trabajo o no, es una cuestión abierta (Casilli, 2021, p. 165).

4 Moderación de contenidos en Internet

La moderación de contenidos en Internet (o moderación de contenidos comerciales, utilizando la denominación de Sarah Roberts) corresponde al tercer tipo de trabajo digital (microtareas), y es útil sobre todo para las plataformas de redes sociales. A pesar de su importancia, ha permanecido hasta hace poco en la oscuridad. Solo en los últimos años, como resultado del trabajo paciente y pionero de unos pocos investigadores/as, ha ganado una atención pública (Gillespie, 2018; Gray y Suri, 2019; Roberts, 2017, 2019; Smyrnaios y Marty, 2017).

En este trabajo digital, los trabajadores (muchos de ellos con títulos universitarios) miran y examinan los contenidos subidos a sitios de redes sociales como Facebook, Instagram, Twitter o YouTube, con el objetivo de identificar los contenidos que infringen la normativa de estas plataformas (véase el documental de H. Block y M. Riesenwieck de 2018, The Cleaners). En pocos segundos deben tomar sus decisiones, evaluando y eliminando el contenido inapropiado. “actúan con rapidez, a menudo examinando miles de imágenes, vídeos o publicaciones de texto al día” (Roberts, 2019, p. 1, traducción propia). Con más detalle:

En cuestión de segundos, siguiendo la política predeterminada de la empresa, los trabajadores de CCM [moderación de contenidos comerciales, por sus siglas en inglés] toman decisiones sobre la idoneidad de las imágenes, los vídeos o las publicaciones que aparecen en un sitio determinado —material ya publicado en el sitio o en vivo, o marcado como inapropiado por los miembros de la comunidad de usuarios—. Los trabajadores de CCM se dedican a este proceso de revisión una y otra vez, a veces miles de veces al día. (Roberts, 2017, párrafo 5, traducción propia)

¿Qué tipo de contenido juzgan? Lo que podríamos llamar la “basura digital” de internet. Imágenes que exponen los peores y más repugnantes aspectos de nuestra naturaleza humana. “Pornografía, gore, solicitud sexual de menores, partes del cuerpo, imágenes sexuales, racismo […] brutales peleas callejeras, tortura de animales, atentados suicidas, decapitaciones y horribles accidentes de tráfico” (Buni y Chemaly, 2016, párrafo 94, traducción propia. Ver también Chen, 2014). Es la labor de estos moderadores la que garantiza que estos contenidos brutales no proliferen en nuestras redes, y que sigan siendo espacios prístinos para el beneficio monetario. Para las empresas (y para los usuarios), las redes deben ser solo un espacio lleno de sonrisas y poses de felicidad fingida.

El trabajo de moderación es también un ejemplo de injusticia laboral global, pues en gran parte es realizado por trabajadores de países pobres, para beneficio principalmente de quienes viven en países ricos. Así, la mayor parte de la moderación de contenidos se subcontrata a países como Filipinas (por razones de dominio del inglés y mayor conocimiento de la cultura estadounidense), o a otros países que cuenten con suficientes personas con las cualificaciones requeridas, pero con trabajos precarios o directamente sin trabajo. En el caso de Accenture, empresa que realiza trabajos de moderación para Facebook, tenemos lo siguiente: “En mayo, Accenture contrató para Facebook unos 1.900 moderadores a tiempo completo en Manila; 1.300 en Mumbai (India); 850 en Lisboa; 780 en Kuala Lumpur (Malasia); 300 en Varsovia; 300 en Mountain View (California); 225 en Dublín; y 135 en Austin (Texas), según los registros de personal revisados por The Times” (Satarino e Isaac, 2021, párrafo 31, traducción propia). Esta injusticia global respecto a la basura digital se ha comparado, con razón, con el envío de residuos electrónicos (e-waste) de los países ricos a los países pobres o en desarrollo, a pesar de los tratados internacionales que lo prohíben (aunque no en todos los casos).

Muchas empresas con sede en Estados Unidos […] siguen relegando a sus moderadores a los márgenes, enviando los residuos digitales de sus plataformas a “zonas económicas especiales” en el Sur Global. Como relata Roberts en su artículo “Digital Refuse”, estas imágenes tóxicas siguen las mismas rutas que se utilizan para exportar los residuos físicos del mundo industrial: desechos peligrosos de hospitales, pañales sucios de adultos y viejos modelos de ordenadores. (Buni y Chemaly, 2016, párrafo 94, traducción propia)

Si bien el trabajo de moderación de contenidos en Internet no es exclusivo del Sur global o de los países pobres, pues empresas tecnológicas estadounidenses también emplean a estudiantes universitarios recién graduados, o profesionales sin trabajo o con trabajo precario, la disparidad salarial entre los trabajadores estadounidenses y los de países pobres se mantiene. “Un flamante moderador estadounidense de una gran empresa tecnológica en Estados Unidos puede ganar más en una hora que un veterano moderador filipino en un día” (Chen, 2014).

¿Por qué es tan importante la moderación de contenidos en Internet? Sencillamente, porque es un factor clave para que plataformas de redes sociales funcionen correctamente. No pueden funcionar sin limpiar la basura digital, tal como ocurre en nuestro mundo “real” con nuestra basura y residuos cotidianos. Y también, como en nuestra vida cotidiana, no queremos ver ni lidiar con esa basura. Por esta razón, la labor de moderación de contenidos ha estado presente en internet desde sus inicios, aunque de distintas maneras (Gillespie, 2018). Un ejemplo de moderación clásico es la realizada por los administradores de foros, que tiene aún cierto prestigio y se realiza habitualmente de forma gratuita y voluntaria. Sin embargo, debido al crecimiento y a la internacionalización de las plataformas, la moderación de contenidos, que ha de realizarse las 24 horas del día, desborda el trabajo voluntario, obligando a la contratación de una mano de obra continua y barata. Además, y este es un punto clave, la moderación de contenidos no ha sido completamente automatizada, y probablemente nunca lo será.

5 Invisibilidad por diseño de la moderación de contenido en internet

Tal como he dicho, la moderación de contenido en internet ha estado en las sombras. Ciertamente, al utilizar una plataforma de redes sociales no vemos directamente los procesos que permiten su funcionamiento, lo que ocurre habitualmente con nuestras tecnologías actuales. Pero en este caso la ocultación y el olvido han sido deliberados. Ha sido una invisibilidad por diseño (Roberts, 2019, p. 3), tanto del trabajo humano como de los criterios o reglas de moderación de las empresas. Como dice Sarah Roberts: “Las empresas de redes sociales tratan sus prácticas de CCM como secretos empresariales o comerciales y normalmente se niegan a divulgar sus mecanismos internos de toma de decisiones o a facilitar el acceso a los trabajadores que realizan la CCM” (Roberts, 2017, párrafo 13, traducción propia). Y en relación con los trabajadores: “el trabajo que realizan, las condiciones en las que lo hacen y en beneficio de quién lo hacen son en gran medida imperceptibles para los usuarios de las plataformas que pagan y dependen de este trabajo” (Roberts, 2019, p. 3, traducción propia). Los moderadores trabajan bajo acuerdos de confidencialidad: “que les impiden hablar de su trabajo con amigos, familiares, la prensa o académicos, a pesar de que a menudo lo necesitan” (Roberts, 2017, párrafo 8, traducción propia. Ver también Dwoskin, 2019). Haciendo hincapié en este secretismo deliberado, Casey Newton reafirma: “que la gente no sepa que hay seres humanos haciendo este trabajo [la moderación de contenidos] es, por supuesto, por diseño. Facebook prefiere hablar de sus avances en inteligencia artificial, y enfatizar la perspectiva de que su dependencia de los moderadores humanos disminuirá con el tiempo” (Newton, 2019, párrafo 98, traducción propia). Retomando las ideas de Winner, podemos decir que en el diseño mismo de las plataformas se fijan relaciones asimétricas de poder, que en este caso implican ocultar una parte importante de su funcionamiento. Se trata de un caso de “sonambulismo de la producción” conscientemente buscado, implicando no solo la estructura de las plataformas, sino acciones y decisiones por parte de directivos y propietarios de las empresas.

¿Por qué esta invisibilidad por diseño? Creo encontrar aquí una cuestión de imagen y retórica de las empresas sobre la automatización tecnológica y los poderes de la inteligencia artificial. Esta retórica de la tecnología digital se basa en la eliminación del trabajo humano, que se tiende a asociar a las industrias del siglo XIX, o a resabios del pasado. Esto choca con el deseo de estas empresas de presentarse como etéreas, limpias, blancas, cristalinas. Pensemos, por ejemplo, en la imagen que ha promovido Apple (véase, por ejemplo, el vídeo promocional de Ridley Scott para Apple Macintosh en 1984, que muestra claramente estos valores en contraste con las antiguas empresas burocráticas, pesadas y oscuras, como IBM). Esta retórica, con su énfasis en lo etéreo e inmaterial, ya había sido identificada en los años 80 por Donna Haraway en su Manifiesto Cyborg (1983): “Nuestras mejores máquinas están hechas de sol; son todas ligeras y limpias porque no son más que señales, ondas electromagnéticas, una sección de un espectro, y estas máquinas son eminentemente portátiles” (1991, p. 153). Esto fue dicho antes de la creación y masificación de nuestros actuales teléfonos móviles, tabletas o computadores portátiles. Al mismo tiempo, Haraway contrasta esta retórica de las máquinas ligeras con la materialidad más cruda que las hace posibles y que implica: “un inmenso dolor humano”.

La retórica de la luz de las empresas tecnológicas nos acerca a corrientes religiosas de rechazo de lo material, del cuerpo y de búsqueda de trascendencia inmaterial. Utilizando la expresión del filósofo español Félix Duque referida al movimiento post y transhumanista (2003), digo que esta retórica tecnológica es neognóstica. Desde la perspectiva de los gnósticos, el cuerpo es una prisión para el alma, y la materia un obstáculo para la trascendencia, no aquello que justamente la posibilita. Así, con su retórica de la luz, las empresas tecnológicas tocan raíces profundas de las sociedades cristianas occidentales.

Por último, identifico otra imagen religiosa en la negación del trabajo humano: la imagen del paraíso y del trabajo como pena, carga o dolor. En las imágenes clásicas del paraíso, o “lugares utópicos”, el trabajo no es necesario para sobrevivir. Las necesidades básicas, como la alimentación, se satisfacen sin esfuerzo, como una especie de “regalo de la naturaleza”. Así, tenemos, por ejemplo, la edad de oro de Hesíodo, el jardín del paraíso, el país de Cucaña (véase, por ejemplo, el cuadro de Peter Bruegel el Viejo, de 1567). El trabajo constituye un castigo, una caída o decadencia: la edad de bronce en Hesíodo, la expulsión del paraíso. La retórica de la automatización tecnológica del trabajo se apoya en estas imágenes, asociando los valores negativos al trabajo y los valores positivos a quienes buscan eliminarlo. También está presente en la oposición entre trabajo manual e intelectual, el primero “pecaminoso” y “sucio”, el segundo “puro y luminoso” (piénsese en la metáfora de la razón como luz). En definitiva, tras la retórica de la luz y la trascendencia inmaterial, tenemos la apelación a las utopías tecnológicas, muy del gusto de Silicon Valley, que nos traen a la mente las imágenes de la película Metrópolis (1927) de Fritz Lang, en la que el mundo de felicidad y ocio de las clases altas (literalmente, porque viven en la superficie) se sustenta en el trabajo de los obreros escondidos en las entrañas de la tierra, entregando sus vidas intercambiables a la Máquina (asociada al mítico dios devorador de humanos Moloch). Muchas plataformas tecnológicas parecen nuevos dioses Moloch que devoran el trabajo humano vivo para el placer de sus afortunados usuarios.

Esta dimensión simbólica o de representación, no es solo retórica, sino que se concreta en prácticas, acciones y decisiones específicas, configurando y fijando las precarias condiciones laborales de los moderadores. Y las apelaciones a la automatización, que forman parte del bombo y platillo de las promesas de la IA, se han utilizado como excusa para devaluar el trabajo humano, minimizando u ocultando su papel en la limpieza de datos para el aprendizaje automático, o su rol de auxiliares cuando los algoritmos no son capaces de hacer frente a sus tareas. Esto conduce a la llamada “paradoja de la última milla de la automatización”: la promesa siempre retrasada de una automatización tecnológica completa que nunca se realiza del todo y que siempre requiere, no obstante, nuevas fuentes de trabajo humano, devaluado por su supuesta transitoriedad e inminente eliminación (Mary y Suri, 2019, p. xxi; Casilli, 2021, sobre el mito de la automatización).

6 Alienación en la moderación de contenido de Internet

La invisibilidad por diseño de la moderación de contenidos en Internet es un esfuerzo deliberado de “sonambulismo de la producción”, que bajo la retórica de la automatización tecnológica promueve el fetichismo de las tecnologías digitales y las plataformas de redes sociales y la alienación de los moderadores de contenido.

En primer lugar, se produce la alienación del resultado o producto de su trabajo y de los beneficios económicos que conlleva. La moderación de contenidos en Internet, tal y como se produce en las plataformas digitales actuales, lleva al extremo la tendencia a la división del trabajo entre lo mental y lo manual, entre el diseño o la forma que organiza el trabajo y las actividades concretas que lo realizan. Esta separación entre la mente y la mano forma parte del proceso de expansión y consolidación del capitalismo industrial y postindustrial. En el caso de la moderación, esta separación es evidente en el sentido de que las normas de moderación son fijadas de antemano por las plataformas y, de hecho, los casos difíciles deben ser sometidos a las oficinas centrales para su resolución. Desde el punto de vista de las empresas, los moderadores deben limitarse a aplicar las directrices, como si fueran ordenadores que siguen los pasos de un algoritmo predefinido. La retroalimentación de los trabajadores resulta irrelevante para las empresas en el desarrollo de sus reglas. Se deja así de lado su conocimiento y experiencia. Para las empresas, el trabajo de los moderadores se reduce al solo clic físico que ordena eliminar o aceptar los contenidos revisados. De hecho, la monetización y el pago se establecen en función del número de clics y del tiempo dedicado a decidir. Pero, ¿cómo se realiza esta decisión? ¿De qué manera se valora aquello que hace posible esa decisión: la experiencia y la capacidad de juicio de los moderadores? Todo su trabajo mental, su capacidad hermenéutica para identificar rápida y eficazmente un contenido como inapropiado queda sin pagar. Podemos asociar esto a la plusvalía (siguiendo el análisis del trabajo de Marx [2017, p. 209]) que aportan los trabajadores. A diferencia de las fábricas, aquí no se trata de un trabajo manual, sino mental. La cuantificación, expresada ahora en tiempo objetivado y número de clics es, una vez más, insuficiente como medio para contabilizar el trabajo real realizado. La remuneración que reciben los trabajadores es, pues, insignificante en comparación con los enormes beneficios de las plataformas, e injusta en relación con el trabajo que realizan. El resultado es la explotación de los trabajadores, cuyo trabajo es crucial no solo para el funcionamiento de las plataformas, sino también para proteger la imagen y la reputación de “algunas de las empresas más ricas del mundo” (Dwoskin, 2019, párrafo 5, traducción propia).

En segundo lugar, alienación respecto a sus otros compañeros de trabajo. Los moderadores están excluidos de los beneficios laborales de las empresas que contratan su trabajo, y de las posibilidades de ascenso en la jerarquía laboral. De hecho, los trabajadores subcontratados (a empresas que realizan la moderación) son vistos como “ciudadanos de segunda clase” (Dwoskin, 2019), sin acceso a los beneficios de los trabajadores de la plataforma. Esto se da incluso cuando comparten un mismo espacio de trabajo. Un empleado de Accenture (Austin, EE. UU.) que realiza moderación para Facebook afirma:

Vivimos en este mundo de Facebook, pero somos como esos hijastros raros que ellos como que reclaman pero no reclaman realmente […] Es como, te queremos, y almuerza, y merienda con nosotros, pero por favor, sabes que vas a regresar a la casa de tu tía al final del día. (Dwoskin, 2019, párrafo 16, traducción propia)

Como afirma Dwoskin, en relación a la misma empresa: “Se sientan por separado en la misma cafetería [… y] no están invitados a los eventos de la empresa, como la fiesta anual de vacaciones” (2019, párrafo 20, traducción propia). En estos relatos se evidencia nuevamente la dimensión simbólica de la imagen de pureza asociada a estas empresas tecnológicas. A pesar de la importancia crucial de su trabajo, los moderadores son vistos por las empresas y por sus compañeros (de tiempo completo) como los “impuros” que deben ser excluidos; como si su condición fuera la cosificación de su trabajo de limpieza de la basura digital.

En tercer lugar, alienación de los moderadores respecto de sí mismos, pues la continua visualización de imágenes impactantes los afecta psicológicamente, llevando a muchos de ellos a sufrir estrés postraumático. De esta manera, pagan con su propia salud metal y con sus identidades el trabajo de moderación (Steiger et al., 2021).

Por último, propongo otro tipo de alienación, asociada a la desigual relación con el tiempo que tienen los trabajadores y los propietarios de las empresas. Es lo que podríamos llamar “alienación del tiempo”. En el capitalismo de plataforma esto se expresa en la diferencia que tienen aquellos cuyo tiempo no vale prácticamente nada (los moderadores) y aquellos cuyo tiempo es infinitamente valioso (los propietarios o gestores de las plataformas como Amazon, Facebook, Google, etc.). Los trabajadores se convierten en alienados del tiempo porque ya no lo poseen ni lo controlan, estando sometidos al tiempo y a los ritmos de las máquinas y del capitalista. Los trabajadores no tienen tiempo para ellos, para el desarrollo personal, mientras que los propietarios tienen el tiempo bajo su control (Foster, 1998, p. xviii).

El secreto y la invisibilidad de las decisiones de las empresas y del funcionamiento de la moderación de contenidos tiene consecuencias también para su evaluación y control social. No sabemos qué criterios de moderación se establecen, quién los establece y cómo se establecen, cómo se modifican, etc. Así, la “invisibilidad por diseño” (también presente, por ejemplo, en los algoritmos) convierte a la tecnología en una caja negra. Esto alimenta la imagen de la autonomía de la tecnología o el determinismo tecnológico, como si la tecnología siguiera su propio camino por sí misma, algo que ha estado muy presente en los discursos actuales sobre “inteligencia artificial”, sobre todo después de la explosión mediática provocada por ChatGPT. La cerrazón de las tecnologías, su configuración como “cajas negras”, oculta las decisiones y negociaciones que conlleva la adopción de determinadas tecnologías y diseños tecnológicos, tal como han mostrado muy bien los estudios de Ciencia, Tecnología y Sociedad (CTS) (Bijker et al., 2012). Las decisiones humanas implicadas se hacen aparecer entonces como puramente técnicas, como producto de un desarrollo técnico necesario. Se oculta así el abanico de posibilidades disponibles.

7 ¿Plataformas neutrales?

Teniendo en cuenta lo anterior, podemos plantear la cuestión de la neutralidad de las tecnologías de plataforma: ¿son meros instrumentos que pueden utilizarse para bien o para mal? Y en el caso de la moderación de contenidos en Internet: ¿Hay algo en la estructura de las plataformas, en su diseño y funcionamiento que obligue a ocultar el trabajo de moderación? ¿Debe ser un trabajo mal pagado o realizado en condiciones precarias? Creo que podemos decir que no a todas estas preguntas. Ni la invisibilidad de la moderación, ni las condiciones de trabajo de los moderadores son condiciones técnicas estructurales. El cambio de las condiciones de trabajo de los moderadores requerirá la adaptación de las tecnologías de plataforma, modificando, por ejemplo, la forma de asignar las tareas, la forma de medir el trabajo realizado o el establecimiento de bucles de retroalimentación entre los moderadores y los ejecutivos para la determinación de las normas de moderación. Así, aunque el producto sea el mismo, el cambio en las condiciones de producción o funcionamiento implica cambios en el diseño (Feenberg, 2002, p. 45).

Creo, por tanto, que el trabajo de moderación puede y debe hacerse de forma diferente, sobre todo porque es un tipo de trabajo que siempre requerirá mano de obra humana. El carácter abierto, complejo y dinámico de la realidad humana y social, con su continua novedad de significado, hace improbable la automatización algorítmica de la moderación. Las máquinas no son buenas para reconocer matices de significado, variaciones de contexto, metáforas, insinuaciones, alusiones, etc. Esta riqueza de significados no ha sido tomada en serio por el enfoque actual de la moderación de contenidos, basado en reglas y directrices diseñadas de arriba abajo. Aquí predomina una visión estática de la realidad. Ningún conjunto de reglas, por muy completo que sea (o se crea ser), puede establecer todas las posibilidades de antemano. La realidad siempre supera la previsión (algo que los defensores de la inteligencia artificial de los años 50 tuvieron que aceptar a regañadientes). Esto resulta evidente en la continua revisión de las directrices por parte de las plataformas, que siempre van a remolque de los cambios. Pero la elección de este paradigma estático también es comprensible, desde la perspectiva de las empresas, porque ofrece un medio de centralización y control. Un diseño distribuido de la moderación no podría apelar al enfoque actual, jerárquico y centralizado. En un enfoque distribuido, los moderadores no serían meros recursos humanos intercambiables o desechables, sino agentes reconocidos en la organización de la plataforma. Las plataformas, tal y como están diseñadas actualmente, encarnan las injusticias sociales y laborales de las fábricas de la primera industrialización, y también las deficiencias de su diseño. Creo, por tanto, que un paso hacia la mejora de las condiciones laborales de los moderadores de contenidos pasa por un rediseño de las plataformas. Esto significa que los valores que actualmente encarnan: centralización, jerarquía y control, deben ser modificados por otros nuevos, abriendo nuevas posibilidades y promoviendo otras formas de trabajo y de vida.

8 Conclusiones

En este artículo se plantea la noción de “sonambulismo de la producción” (como una extensión de lo que Winner llama “sonambulismo tecnológico”) en referencia al olvido de las condiciones materiales que están implicadas en la fabricación y funcionamiento de artefactos técnicos o tecnologías, y que resulta necesario poner al descubierto. Vinculé este sonambulismo al fetichismo de la mercancía y la alienación. Se analizó en detalle el caso de la moderación de contenido en Internet, un tipo de trabajo digital que es clave para el funcionamiento de las plataformas publicitarias y redes sociales. En particular, se planteó que la invisibilidad de los moderadores es deliberada, por diseño, y que esto lleva a la alineación de estos trabajadores. Se plantea la no neutralidad de las plataformas y la necesidad de rediseñarlas para hacer visible y valorar adecuadamente el trabajo de moderación.

En conclusión, las actuales condiciones laborales de los moderadores obligan a un ejercicio de toma de conciencia y puesta al descubierto de la moderación en plataformas publicitarias y redes sociales; es necesario salir del sonambulismo de la producción aquí implicado, escapar de “nuestros malentendidos sobre Internet y nuestra visión de la tecnología como algo mágicamente no humano” (S. Roberts, citado en Chen, 2014). Un primer paso lo han dado quienes han sacado a la luz pública el trabajo de los moderadores. Otro son los esfuerzos por crear condiciones de trabajo justas y dignidad laboral para todos los microtrabajadores digitales, ya sea por parte de los propios trabajadores digitales o de las organizaciones laborales internacionales (véanse las cooperativas de trabajadores digitales y el informe de la Organización Internacional del Trabajo: “Las plataformas laborales digitales y el futuro del trabajo. Hacia el trabajo decente en el mundo online”, International Labour Organization [ILO], 2018). Pero se necesita más: difusión, educación, derechos, leyes, quizás incluso la abolición del propio capitalismo de plataformas.

9 Referencias