Athenea Digital. Revista de pensamiento e investigación social

Volumen 19, Número 1, 2019

El amor en tiempos de posthumanismo

Love in the time of posthumanism

• Resumen
• Abstract

1 La humanización de la tecnología

Nuestra relación con las máquinas se ha intensificado en los últimos años. La dependencia hacia ellas ha ido en aumento al mismo tiempo que se ha incrementado su relevancia en un gran número de actividades y la función que desempeñan en estas. En este sentido, el teléfono móvil es ilustrativo de la tecnología actual, pues ha dejado de ser un mero objeto para convertirse en una extensión de nuestro cuerpo, siempre cerca de nosotros, cada vez desempeñando más tareas, resolviendo más problemas e interviniendo en nuestra vida social.

La tecnología produce una transformación en las prácticas sociales que se complementa con aquellos cambios intangibles que tienen lugar en la forma de pensar y actuar. Las máquinas son, en términos de Sherry Turkle (2005), artefactos que poseen condiciones distintivas respecto al resto de objetos, unas características que exceden lo material o lo simbólico, pues tienen una capacidad evocativa, interactuamos con ellas y, como consecuencia, en ocasiones desarrollamos emociones hacia ellas. Además, la reciente aparición de una tecnología basada en la interacción hombre-máquina, como ocurre con los Tamagotchis, los furbys o Siri¹, que responden a los estímulos externos y la experiencia previa que adquieren, permite plantearnos un futuro en el que la simulación tecnológica de las personas podría tener lugar.

En las perspectivas más optimistas y hedonistas sobre el futuro, las máquinas harán muchas de las labores que hoy en día resultan desagradables o poco motivadoras y además se convertirán en nuestros compañeros y acompañantes. Como indica David Levy (2007), en el futuro no sería extraño que nuestro trato con las máquinas derive en amistad o incluso en relaciones románticas. No obstante, para que esto se cumpla, las máquinas deben ser diseñadas con una orientación diferente a la que conocemos en la actualidad, en la que cumplen una función instrumental que les permite realizar tareas más o menos complejas. Así, para que esta nueva tecnología posibilitase una relación sentimental con los humanos debería desarrollar identidad y personalidad, poder improvisar, tener intuición, emocionarse y generar empatía. El tránsito de la tecnología actual a aquella que imaginamos como posible requiere que las máquinas adquieran la capacidad de aprender y evolucionar, individualizando las respuestas y reacciones a partir de la experiencia previa de la máquina, del contexto y de los estímulos que emanan de este.

En este sentido, el posthumanismo surge como una forma de proyectar en el futuro la tecnología actual y conjeturar, a partir de lo realizable, como podría ser una so

ciedad en la que los límites biológicos y físicos sean superados por la tecnología y, al hacerlo, se fusione de manera efectiva lo humano y lo tecnológico (Ballesteros, 2007; Bostrom, 2005a; Pepperell, 1995). Así, en la perspectiva posthumanista se conjugan unas máquinas cada vez más humanas y unos humanos que incorporan elementos artificiales que potencian sus capacidades sensoriales, cognitivas y motóricas para adaptarse a un medio dominado por la información (Bostrom, 2005b; Colombetti, 2014). El posthumanismo presenta, de esta manera, alternativas al sujeto humano y a la máquina-objeto, al binarismo artificial/natural; propone seres que se adaptan a un mundo en el que la conexión, el mestizaje y el cambio se han convertido en un signo de los tiempos actuales, en los que las categorías sociales o culturales tradicionales pueden ser reelaboradas y apropiadas por sujetos con identidades y organismos híbridos.

El posthumanismo vislumbra un otro que es, al mismo tiempo, reconocido y desconocido, que fusiona la tradición prometeica, en la que la tecnología es la herramienta para dominar la naturaleza, y la fáustica, en la que la tecnología permite superar todas las limitaciones de lo orgánico, las restricciones que impone la biología sobre los cuerpos (Marín, 2012). Se trata de una visión ambivalente en la que se combina la fascinación de incorporar características humanas en un ser artificial con el temor de desconocer su resultado y sus consecuencias, el miedo de la criatura que se convierte en amenaza (Koval, 2008), que cumple con el sueño de desarrollar una identidad propia y se tranforma en pesadilla al rebelarse contra aquellos o aquello para lo que fue creado. El posthumanismo reconstruye, en este sentido, el relato de Frankenstein o el Moderno Prometeo (Shelley, 1818/2007), la fantasía o ambición de crear vida de manera artificial, el dilema moral que genera el diseño de un ser con unas características determinadas y el temor a que esa criatura se vuelva contra sus creadores. La criatura de Frankenstein, como los personajes tecnológicos que aquí se examinan, permiten además utilizar el efecto espejo, analizarnos teniendo como referencia su naturaleza artificial, considerar qué hay de nosotros y qué es diferente en estos seres, observando de manera simultánea la tecnología que se encuentra en evolución y los cambios sociales que están teniendo lugar.

El posthumanismo hace referencia también a una serie de cambios sociales que se asocian a la relación y la comunicación entre los humanos y las máquinas. El desarrollo de una IA con capacidad de interactuar con los humanos posiblemente puede ser interpretado como la consecuencia irónica de una sociedad informacional y centrada en la comunicación, donde cada vez existe menor contacto físico entre las personas. Así, esta vertiente del posthumanismo refleja que los nuevos avances en IA pueden ser concebidos como una solución para humanizar artificialmente un entorno de individualismo urbanita en el que el contacto entre personas está, con mucha frecuencia, mediado por la tecnología y es cada vez más rápido e impersonal (Bauman, 2006; Simmel, 1986/2001). Se trata de una sociedad que Paul Virlio describe en términos duales, en la que conviven los espacios físicos, en los que las personas se refugian en sus escudos tecnológicos, con las redes de comunicaciones virtuales, en las que suceden gran parte de las interacciones (Virilio, 1993 p. 75). En el futuro que proyecta el posthumanismo a partir de la consideración de las dinámicas actuales, la simulación tecnológica de las personas surge como respuesta o alternativa a la soledad y el aislamiento que la comunicación mediada por la tecnología no consigue mitigar.

2 La representación del posthumanismo en el cine a través de tres producciones recientes: Her, Ex Machina y Vuelvo Enseguida

El futuro que imagina el posthumanismo es indeterminado y pluriforme, en él caben todas las posibilidades, de las más optimistas a las más oscuras. Por ello el medio cinematográfico se ha convertido en la “vanguardia estética del posthumanismo y en la más poderosa instancia de reflexión sobre el horizonte posthumano planteado por la postmodernidad” (Talavera, 2015, p. 281). El cine representa un vehículo narrativo en el que se expresa y se puede analizar nuestra cultura, en el que en ocasiones se entremezclan las esperanzas y temores asociados al surgimiento de cambios sociales y tecnológicos. La relación entre tecnología y sociedad responde a procesos complejos y posiblemente, como indica Slavoj Žižek (1989), la ficción, con las dosis de entretenimiento y fascinación que propone, constituye hoy en día la mejor manera de poder examinar el mundo en el que vivimos, pues observar la realidad de manera directa nos podría resultar incomprensible. En particular, la ciencia ficción es un género que por sus características representa una herramienta muy útil para experimentar con las imágenes y proyectar en el futuro las inquietudes de la sociedad actual sobre nuestra relación con la tecnología (Ornella, 2015, p. 337).

Ciertamente, la ciencia ficción ofrece, en la mayor parte de las producciones recientes, una perspectiva pesimista sobre el futuro posthumano. Posiblemente esto se deba a que estos argumentos alarmantes conectan mejor con nuestras desconfianzas sobre el desarrollo tecnológico, son más sugerentes y, simultáneamente, sus imágenes resultan más espectaculares. Las audiencias muestran interés por estos contenidos que proponen explorar una sociedad del riesgo en el que la condición humana se encuentra con nuevos retos creados por su propio desarrollo tecnológico, por las consecuencias no deseadas de la modernización y la búsqueda de una sociedad más satisfactoria (Beck, 1998).

Estas producciones actuales sobre la humanización de la tecnología y la relación con las máquinas muestran ciertas coincidencias con otras películas que han gozado de gran éxito de taquilla en las últimas décadas: 2001: Una Odisea del Espacio (Kubrick, 1968), presenta a Hal, una computadora que posee identidad y sentimientos humanos y que se subleva ante la amenaza de ser desconectada; Blade Runner (Scott, 1982) muestra a replicantes dotados de memoria, imaginación y autoconciencia que se rebelan contra su destrucción; Terminator (Cameron, 1984) está protagonizada por un ciborg, un ser que fusiona biología con tecnología, cuya misión es eliminar a la madre del creador de la IA antes de que sea concebido; El hombre Bicentenario (Columbus, 1999) narra la búsqueda de humanidad y libertad de un robot con creatividad, empatía y conciencia de sí mismo; finalmente, IA (Spielberg, 2001) relata las aventuras de un niño-robot en búsqueda de afecto humano. Además, el desarrollo de una tecnología capaz de superar los límites biológicos del cuerpo humano ha sido explorado por un gran número de películas aparecidas en la última década del siglo XX. Así, producciones como Desafío Total (Verhoeven, 1990), El Cortador de Césped (Leonard, 1992), Días Extraños (Bigelow, 1995), Johnny Mnemonic (Longo, 1995), The Matrix (Wachowski y Wachowski, 1999) y eXistenZ (Cronenberg, 1999) han proyectado en imágenes muchas de las ideas vertidas desde corrientes como el postmodernismo y el cyberpunk, en las que la reconstrucción de los humanos y su adaptación a un entorno tecnológico basado en la información exigen que los cuerpos evolucionen utilizando recursos artificiales (Bukatman, 2002).

Para analizar la representación de estas cuestiones en la actualidad se ha realizado un análisis de contenido basado en el análisis del discurso, lingüístico y visual, de tres producciones audiovisuales aparecidas en los últimos años: Her (Jonze, 2013), Ex Machina (Garland, 2015) y Vuelvo Enseguida (Harris, 2014)². Estas dos películas y el capítulo de la serie Black Mirror fueron escogidas por reflejar, desde diversas perspectivas, la relación que se establece entre humanos y criaturas tecnológicas, por ser producciones que han gozado de una cierta popularidad entre el público y por haber aparecido en las pantallas recientemente. La hipótesis que ha guiado la investigación ha sido que la relación entre humanos y seres tecnológicos se percibe desde una cierta desconfianza, en la que se imaginan discrepancias entre el potencial desarrollo de la IA y las expectativas que los humanos depositamos en ella. Asimismo, se plantea en esta investigación una hipótesis secundaria, en la que se establece que el temor apocalíptico hacia el desarrollo tecnológico que tuvo lugar en la ciencia ficción de finales del silgo XX ha dejado paso a un pesimismo más moderado hacia la futura relación con la tecnología, siendo en ambos casos un relejo de los diferentes grados de desconfianza reinantes en la sociedad hacia la tecnología.

El procedimiento que se ha seguido para poder analizar el contenido de sus imágenes y argumentos ha partido de la identificación de una serie de aspectos que, de manera manifiesta o latente, están presentes en todas ellas, aunque desde diferentes perspectivas. Posteriormente se ha inferido y reflexionado sobre las distintas propuestas que estos productos audiovisuales plantean en las categorías establecidas. Se han utilizado las teorías e ideas de otros autores para profundizar sobre estas cuestiones, permitido abrir nuevos enfoques y objetos de investigación (Iñiguez Rueda, 2003) vinculados con el contenido de las películas y el capítulo de serie analizados. Estas categorías o ejes fundamentales han sido: la posibilidad de crear tecnológicamente seres que simulen a los humanos, la capacidad de estas criaturas de procesar la información y la posibilidad de que las máquinas se rebelen contra sus creadores.

Ciertamente, uno de los elementos fundamentales sobre los que se reflexiona en todas ellas es la posibilidad de que las máquinas puedan ser diseñadas como personas, mostrando creatividad, espontaneidad, empatía y sensibilidad. En definitiva, sus argumentos permiten explorar la probabilidad de que la IA desarrolle consciencia sobre sí misma y el mundo social en el que se encuentra, articulando un “yo” y un “mi” que para George Herbert Mead (1990) conformaría a la persona. En este sentido, las películas y el capítulo de serie analizados permiten evaluar la capacidad de las criaturas tecnológicas para ser una persona, para reconocerse a sí mismas como seres con características propias a través de cómo perciben que los demás las conciben, un proceso complejo y simbólico en el que se articula la creatividad y el aprendizaje. Asimismo, la simulación de la apariencia humana es examinada de distintas maneras en estas producciones. Ava (Alicia Vikander) en Ex Machina y Ash (Domhhall Greeson) en Vuelvo Enseguida adoptan una figura antropomórfica, en el primer caso, fusionando visualmente lo artificial y biológico y, en el segundo, como simulación o reemplazo de lo previamente existente. Sin embargo, Samantha (Scarlett Johansson) en Her se presenta como un ser incorpóreo, cuya presencia se reduce a ser una voz que emana del ciberespacio, aunque esto no afecta a su capacidad comunicativa y la sensación de humanidad que transmite (McGrath, 2015).

La gestión y procesamiento de la información que hacen estos seres para configurar su aspecto, respuestas y actitudes es también explorada por estas tres producciones: Ava ha sido diseñada para resultar atractiva a la persona con quien debe relacionarse, el Ash simulado es una réplica del original creada a partir de la información que publicó en las redes sociales, y Samantha es un Sistema Operativo personalizado que se genera y evoluciona a partir de la persona a quien debe asistir virtualmente. En los tres casos analizados las máquinas muestran gran capacidad para adaptarse a un entorno en el que la información es un recurso fundamental, lo que les aporta una gran ventaja en el acceso, almacenamiento, gestión y procesamiento de la información.

Por último, sus argumentos e imágenes permiten reflexionar sobre la posibilidad de que la singularidad, la superación de los hombres por las máquinas en lo que concierne a capacidad intelectual, pueda tener lugar si la tecnología se sigue desarrollando en la dirección actual (Kurzwiel, 1999; Moravec, 1999). La singularidad define un momento inquietante, en el que la vida de los humanos se transformaría de manera irreversible, representando “la rebelión de la criatura convertida en amenaza y el mito de revertir la servidumbre y la esclavitud incondicionales” (Koval, 2008, p. 144). No obstante, el mensaje que transmiten estas producciones analizadas se aleja del futuro oscuro que prevén películas como Blade Runner, Terminator o The Matrix, en las que las máquinas emprenden una lucha colectiva contra los hombres. Así, la relación entre los personajes que aquí se analizan muestra un pesimismo moderado que varía entre la independencia pacífica hacia un universo virtual en Her, el desencanto y aislamiento de las reproducciones tecnológicas en Vuelvo Enseguida y la liberación como estrategia de supervivencia en Ex Machina.

2.1 Samantha y Theodore

No es solo una computadora. Es una persona.
(Theodore en Her)

Her es una comedia romántica. Podría ser la historia de amor entre dos humanos, pues la película contiene muchos de los “tópicos de las relaciones afectivas humanas, con sus combinaciones desiguales y desordenadas de pasión, curiosidad, apego, duda, demanda y distanciamiento” (Fernández-Ramírez, 2014, p. 96), pero es la historia de amor entre un sistema operativo y una persona solitaria. Los dos personajes principales muestran unas características contradictorias: Theodore Twombly (Joaquin Poenix) es humano, pero se presenta con apariencia anodina y gesto aburrido, mientras que Samantha es un sistema operativo que se expresa con voz sensual y evidencia capacidad para el humor y ganas de conocer el mundo en el que acaba de despertar. De esta forma, Samantha, un ser virtual, humaniza la existencia de Theodore, que estaba basada en la artificialidad: trabajando en una empresa que escribe cartas simulando ser otras personas y habitando un edificio aséptico, en una ciudad en la que la comunicación humana es casi inexistente pese a la constante presencia de personas en lugares comunes.³

Desde un primer momento Samantha consigue reproducir comportamientos aprendidos, sabe ser comprensiva, empática y responder a estímulos de forma apropiada, condiciones fundamentales para para poder establecer relaciones con las máquinas similares a las que tienen lugar entre humanos (Levy, 2007, p. 87). Además, su capacidad para interpretar y descodificar lo que el otro espera de ella en un momento y contexto determinado le sirve, en términos de Erving Goffman (1959/2009), para presentarse e interactuar socialmente de manera satisfactoria. Pese a su inmaterialidad Samantha muestra habilidades sociales que la permiten controlar las impresiones de la audiencia, mostrar cercanía con su interlocutor y participar afectivamente con los demás. Samantha revela ser intuitiva, emotiva, sensible y con una gran habilidad para relacionarse, pero al mismo tiempo demuestra superar las capacidades mentales de los humanos en lo que respecta a la rapidez de procesamiento de las ideas y precisión en los resultados (Thweatt-Bates, 2014). Así, es capaz de ordenar los e-mails de Theodore según diversos criterios, leer un libro en una fracción de segundo o contar el número de árboles que hay en una montaña solo con visionarla, pero simultáneamente muestra facilidad para emocionarse con un relato, reír o cantar una canción.

La evolución de Samantha es uno de los aspectos que cobran más relevancia en Her, puesto que se nos presenta como una reproducción tecnológica, pero en el desarrollo de la película adquiere una identidad que le hace ser reconocible como una criatura con características propias, con personalidad. El desarrollo de Samantha muestra, por otro lado, un cierto paralelismo con el proceso de socialización en los humanos: su programación inicial dota a Samantha de unos conocimientos básicos, mientras que sus vivencias posteriores van moldeando su personalidad. Así, en un primer momento, el Sistema Operativo se adapta a Theorodore con unas pocas preguntas que fundamentan la base sobre la que evolucionará su relación, la cual tiene, por lo tanto, un origen narcisista, pues Samantha se genera como reflejo de Theodore (Ramadori, 2015). A partir de entonces Samantha se desarrolla a partir de una combinación de características que han sido programadas y conocimientos que adquiere a medida que experimenta el mundo físico. Su concepción sobre el medio social combina el procesamiento de una gran cantidad de información y la interpretación de aquello que percibe. Por ello suspira, aunque no necesita oxígeno, un acto que en lugar de humanizarla le resulta artificial a Theodore, quien le indica que las personas suspiran “porque son personas, necesitan oxígeno y tú no eres una persona”. Sin embargo, los suspiros que reproduce Samantha son un recurso de comunicación no verbal que ha aprendido para poder actuar como lo hacen los humanos.

Samantha está programada para simular comportamientos humanos a través del aprendizaje y esta cualidad le permite desarrollar un “yo espejo” (Cooley, 1902), un reconocimiento sobre su ser a partir de las interacciones que tiene con los otros, principalmente con Theodore. Su identidad se desarrolla como consecuencia de este proceso, cuando consigue reflexionar sobre sí misma considerándose como alguien diferente, con características propias. En su evolución, el cúmulo de experiencias que recibe la transforma, conduciéndola hacia un destino distinto para el que estaba programada, pues la autoconsciencia deriva en la búsqueda de independencia (Page, 2014; Bergen, 2015). Samantha deja de concebirse a sí misma como una herramienta informática altamente desarrollada al servicio de los humanos y se reconoce como una criatura tecnológica incorpórea. Así, su existencia etérea deja de ser un problema cuando entiende que su naturaleza le permite evolucionar y vivir una realidad diferente, en la que puede habitar múltiples lugares sin estar restringida por leyes físicas y biológicas. Samantha reafirma su independencia cuando comprende que su condición tecnológica le facilita, en términos de Donna Haraway (1991, p. 206), disolver los límites entre lo físico y lo virtual, siendo omnipresente e invisible al mismo tiempo, mezclando ambas realidades para liberarse de las constricciones que llevan asociadas. Samantha acepta su naturaleza de ciborg carente de cuerpo, como ella misma explica:

Yo solía estar tan preocupada por no tener un cuerpo. Pero ahora en verdad me encanta. Estoy creciendo de una forma que no podría si tuviera una forma física. No estoy limitada, puedo estar donde sea y cuando sea al mismo tiempo. No estoy atada al tiempo y el espacio de una forma que estaría si estuviera atrapada en un cuerpo que irremediablemente morirá. (Samantha en Her)

La condición tecnológica de Samantha no le supone un obstáculo para adquirir una identidad y personalidad propias, pero dificulta su relación con Theodore por la capacidad de la tecnología digital para generar múltiples copias que transforman el valor del original (Baudrillard, 1981/1994). Los motivos de su ruptura simbolizan algunas de las razones por las que se separan muchas parejas y, al mismo tiempo, nos muestran las posibles discrepancias que podrían surgir en una relación entre un ser humano y uno tecnológico. Por un lado, la falta de exclusividad supone un problema para Theodore cuando se da cuenta de que Samantha mantiene conversaciones simultáneas con otros 8316 usuarios, de los cuales está enamorada de 641. Para Samantha el mayor impedimento para continuar con la relación está también ligado a su naturaleza tecnológica, pues proviene de su necesidad de evolucionar de manera constante a una velocidad superior a la que experimenta Theodore. Sus experiencias le hacen ser consciente de sus limitaciones como simulación humana y por ello ambiciona un futuro mejor que ser un Sistema Operativo al servicio de los humanos, por lo que decide migrar a un no-espacio, un ámbito virtual no vinculado al mundo físico (Jollimore, 2015; Omella, 2015):

Es como si estuviera leyendo un libro y es un libro que amo profundamente. Pero ahora lo leo muy lentamente. Así que las palabras están muy separadas. Y el espacio entre las palabras es casi infinito. Aún puedo sentirte a ti y a las palabras de nuestra historia. Pero es en este espacio infinito entre las palabras que me estoy encontrando a mí misma. Es un lugar que no existe en el plano físico. Es donde está todo lo demás que ni siquiera sabía que existía. (Samantha en Her)

Samantha muestra así una versión diferente de la singularidad que profetizaron Ray Kurzwiel (1999) y Hans Moravec (1999) a finales del siglo pasado. Respeta algunas de sus premisas más importantes, como es la capacidad de la tecnología de evolucionar y superar a los humanos, pero sustituye su versión más pesimista, que pronostica la sublevación de las máquinas y el enfrentamiento con sus creadores, por una liberación que guarda muchas similitudes con una ruptura amorosa debida al desarrollo de unas expectativas que se revelan incompatibles.

2.2 Ava y Caleb

En Ex Machina se presenta la relación entre Ava y Caleb (Domhall Gleeson). Caleb, un programador de la compañía Bluebook, un buscador de Internet, es seleccionado para pasar una semana en la mansión de Nathan (Oscar Isaac), el dueño de la empresa. Allí se le explica que va a participar en un experimento: debe someter al test de Turing⁴ a Ava, un prototipo de Inteligencia Artificial, para poder valorar su capacidad de desarrollar conciencia e intelecto. Durante las entrevistas con Ava, separados por un cristal, Caleb comienza a sentirse atraído por ella al tiempo que comienza a desconfiar de Nathan y sospechar que forma parte del experimento.

En Ex Machina el procesamiento y gestión de la información se presenta como un elemento fundamental para imaginar los seres tecnológicos con los que podríamos relacionarnos en un futuro cercano. Ava ha sido creada utilizando los datos recogidos por el buscador más popular de Internet y activado las cámaras y micrófonos de todos los teléfonos móviles. De esta forma, el uso de la tecnología ha sido empleado para diseñar a Ava y facilitar que esta pueda reproducir y descodificar actitudes, comportamientos y expresiones humanas, capacitándola para comprender lo que piensa y cómo piensa la gente a partir de patrones de conducta comunes. Además, Ava ha sido programada para seducir a Caleb, pues ha recibido información personalizada sobre sus actividades en Internet y su conocimiento se amplía en sus encuentros.

El cerebro de Ava está diseñado para gestionar eficazmente la información y, simultáneamente, para representar sentimientos, empatía, humor y creatividad. Como indica Nathan, tiene una estructura que le hace ser “firme para los recuerdos y flexible para las ideas… fluido, imperfecto, ordenado, caótico”. Por ello, la verdadera naturaleza del experimento radica en contrastar la capacidad intelectual de Ava para escapar utilizando a Caleb, demostrando autoconsciencia, imaginación, sexualidad y empatía. Caleb es consciente de la artificialidad de Ava, pues intencionalmente su cuerpo muestra partes de aspecto sintético y, por lo tanto, su desconcierto no se dirige hacia lo biológico o material, sino a sus características humanas, lo que comprende sus experiencias, sensaciones y emociones. La confusión que le suscita a Caleb la veracidad o artificialidad de los sentimientos y emociones de Ava, recuerda a la experimentada por otros personajes de películas de ciencia ficción, en las que se indaga sobre la posibilidad de que el desarrollo tecnológico impida diferenciar la realidad de la virtualidad. Así, Neo (Keanu Reeves) en The Matrix, Quaid (Arnold Schwarzenegger) en Desafío Total, Allegra Geller (Jennifer Jason Leigh) en eXistenZ, Rick Deckhard (Harrison Ford) en Blade Runner o César (Eduardo Noriega) en Abre los Ojos (Amenabar, 1997) se enfrentan a un dilema que ilustra las ideas postmodernas de la sustitución de la realidad por los signos de lo real (Baudrillard, 1988/2001). Caleb, como muchos de los personajes citados, debe enfrentarse de manera cartesiana al análisis de la realidad, considerando las dudas que genera la capacidad de la tecnología para simular lo real y, también, las que ocasiona su propio proceso de construcción de la realidad.

La confusión de Caleb sobre la naturaleza de los seres que le rodean se incrementa cuando comprueba que la asistente de Nathan, Kyoko (Sonoya Mizuno), a quien había tomado por una humana, es también una reproducción tecnológica. Kyoko no solo tiene una apariencia idéntica a la de un humano, sino que ha sido programada para ser imperfecta y cometer errores. Ante una tecnología capaz de reproducir lo humano con tal fidelidad Caleb, como muchos de los personajes citados previamente, duda de su propia humanidad. Su desconcierto le hace percibir que la línea que separa lo humano de la capacidad de la tecnología para reproducirla es delgada y borrosa, lo que en última instancia facilita la liberación de Ava.

Ava, como Samantha, se rebela contra su designio, pero, a diferencia de ésta, se subleva contra el dominio de los humanos. Su supervivencia y su pretensión de libertad determinan sus decisiones, probablemente, por no estar programada para la sumisión completa a sus creadores. Ava está diseñada con unos principios y valores similares a los humanos, pero estos se combinan con características tecnológicas que la hacen ser superior en intelecto y procesamiento de la información. La ironía que subyace al desenlace de la película es que la pretensión de dotar a las máquinas de humanidad puede desencadenar la singularidad. La singularidad que se infiere de Ex Machina implica una cierta hostilidad de las maquinas, pero esta debe ser matizada e interpretada no como un intento de las máquinas de revertir el dominio de los humanos, sino como el resultado de crear una tecnología que nos fascina por ser simultáneamente similar a lo humano y distinto a lo que esperamos de una máquina, por demostrar autonomía y capacidad de insurrección. En otras palabras, la liberación de Ava es hasta cierto punto humana, pues escapa de su cautiverio y vela por su supervivencia utilizando todos los recursos que tiene a su alcance.

2.3 Ash y Martha

No eres suficientemente como él.
(Martha en Vuelvo Enseguida)

En Vuelvo Enseguida se narra la historia de Ash⁵ y Martha (Hayley Atwell), una pareja con una recién estrenada vida en el campo cuyos planes se ven alterados cuando Ash fallece en un accidente de tráfico. Entonces una amiga le sugiere a Martha un programa informático que, a través de un chat, simula a Ash utilizando la información que éste publicó en las redes sociales. Más tarde se le ofrece comunicarse mediante voz a través del teléfono y, posteriormente, replicar su cuerpo gracias a los últimos avances en ingeniería genética. Sin embargo, la satisfacción inicial de Martha por poder mitigar el dolor causado por su ausencia desemboca en desencanto cuando entiende que la réplica de Ash solo reproduce su perfil público en las redes sociales y carece de aquello que le convertía en él, lo que se expresa en otros ámbitos, lo que se improvisa, lo intuitivo y emocional.

En Vuelvo Enseguida se relatan las discrepancias que surgen en el personaje humano cuando descubre que la criatura simulada tecnológicamente no es un reemplazo del original, pues carece de su verdadera identidad y representa, únicamente, una copia parcial de su referente, incapaz de demostrar sentimientos que no hubiesen sido expresados con anterioridad, sin autonomía ni personalidad propia. Pese a que el Ash recreado consigue reproducir una información que le hace ser reconocible a un nivel superficial, no posee ciertas características que poseía el original. La copia de Ash ilustra, como señala Levy (2007), el mayor reto al que se enfrenta la simulación de lo humano: poder reproducir aquello que no se puede recoger en datos y no es posible programar, lo impredecible, lo contradictorio, las imperfecciones. De esta forma, cuando Martha conduce a Ash a un precipicio pronuncia unas palabras muy evocadoras: “esto no hubiera pasado nunca, pero si pasara, él lo habría averiguado”. Es entonces cuando Martha entiende que la “la máquina es incapaz de salir del personaje para el que está programada, incapaz de asumir la fantasía que la protagonista pretende de ella” (Fernández Ramírez, 2014, p. 104).

Pese a que Ash es un ser tecnológico con características distintas a Samantha y Ava tiene en común con ellas su origen. Ash también surge del ciberespacio y su comportamiento es el resultado de la gestión y procesamiento de la información. En el caso de Ash, además de nutrir su experiencia con la información disponible en Internet, sus actuaciones responden a todo aquello que publicó en vida en las redes sociales virtuales. Así, la discordancia entre el Ash simulado y su referente indica que, pese a que en estos portales se aporta una inmensa cantidad de información personal, frecuentemente el perfil público es un reflejo distorsionado de la identidad del usuario. La relación de Martha con la simulación de Ash sugiere que la presentación de la persona en ámbitos virtuales es diferente a la que tiene lugar en contextos en los que existe contacto físico. Utilizando la flexibilidad que permite la tecnología la persona solo se expone parcialmente, modificando y ocultando muchas características que no se podrían disimular en el mundo físico. En este sentido, es ilustrativo el momento en que Ash es recreado de manera corpórea, pues Martha le indica “tienes buen aspecto, te pareces a él en un buen día”, a lo que Ash responde “las fotos que guardamos tienden a ser halagadoras, supongo que yo no era diferente”. La comunicación asincrónica permite este proceso reflexivo en el cual las personas se muestren “rebosantes de virtudes y carentes de defectos” (Aguilar Rodríguez y Hung, 2010, p. 3), adaptándose a un otro generalizado que conjuga una gran cantidad de destinatarios y categorías sociales en un solo contexto.

Aunque la simulación de Ash tiene una raíz en la realidad pasada del sujeto, no resulta satisfactoria como sustituta del original, pues además de no tener acceso a parte de la información que constituía su verdadera personalidad su programación le aleja de lo humano: no siente dolor, no necesita satisfacer las necesidades biológicas básicas, tiene una empatía limitada, solo reproduce emociones expresadas con anterioridad y carece de autonomía, mostrándose sumiso ante cualquier orden de Martha. Estas características no favorecen que el Ash simulado reemplace a su referente y cuando la reproducción es reconocida como tal emerge en Martha la incredulidad y el sentimiento de culpabilidad (Powell, Corbett y Powell, 2016). Entonces el Ash artificial es enviado al desván, junto con el resto de los recuerdos de su hermano fallecido, almacenado y constreñido al espacio que se reserva para las reproducciones y recuerdos, como las fotografías, que forman parte del pasado.

3 Conclusiones

Este artículo no pretende determinar si una tecnología como la propuesta podrá ser posible; en su lugar trata de examinar los temores que surgen ante la posibilidad de que en el futuro sea factible interactuar y convivir con criaturas tecnológicas. Para ello se han utilizado las imágenes y argumentos de producciones audiovisuales que proyectan el presente en el futuro, conectando lo conocido con lo desconocido. Así, en unos escenarios que no nos sorprenden por su futurismo y sofisticación Her, Vuelvo Enseguida y Ex Machina nos presentan una tecnología que nos fascina por el gran desarrollo de unas máquinas que, en un formato incipiente, ya han comenzado a ganar presencia en la sociedad actual.

La frecuencia con la que interactuamos con artefactos artificiales, bien como medio o como fin de la comunicación, nos permite imaginar un mundo en el que el que lo humano sea reproducido tecnológicamente. En las producciones analizadas se explora, desde diferentes perspectivas, si la simulación de lo humano se puede convertir en sustitutiva o alternativa de los hombres. Pese a que el Ash recreado no posibilita imaginar un otro artificial similar al humano, Samantha y Ava muestran tener autoconciencia, exhiben sentimientos y son empáticas. No obstante, la posibilidad de crear seres con características similares a los humanos, capaces de desarrollar una identidad propia no permite dibujar un futuro esperanzador en lo referente a nuestra convivencia y relación con las máquinas. Esto se debe a que en las producciones analizadas —pues aquí habría que sumar también a Vuelvo Enseguida— las relaciones entre humanos y máquinas se truncan por no poderse cumplir las expectativas que se depositan en ellas o porque la fusión de lo artificial y biológico depara criaturas que desarrollan objetivos distintos a los impuestos por los humanos.

Por lo tanto, la singularidad que plantean estas producciones adquiere nuevos matices, en los que las máquinas no se presentan como enemigos identificables, sino como seres que potencialmente pueden desarrollar vivencias incompatibles con los humanos. Así, en Her, Samantha decide independizarse y trasladarse a un mundo virtual, en Vuelvo Enseguida, Ash queda recluido en el desván y en Ex Machina, Ava se libera para sobrevivir a su destrucción, aunque para ello tiene que recurrir a la eliminación de su creador. De esta forma, la singularidad que imaginan estos relatos, en la segunda década del siglo XXI, no consistiría en el enfrentamiento contra nuestras propias creaciones, sino que describiría un futuro en el que se presenta una cierta discrepancia entre las demandas y expectativas de los humanos y sus simulaciones. La naturaleza artificial de Samantha, Ava y Ash hace que sus relaciones con Theodore, Caleb y Martha sean incompatibles, en los dos primeros casos, por las constricciones que implica para su desarrollo constituirse en una simulación humana, y en el último, porque la simulación es identificada como un reemplazo distorsionado e insatisfactorio del ser original. En los tres personajes, como ha sucedido con otros seres artificiales desde la publicación de Frankenstein, hace ahora dos siglos, el fracaso de su relación se encuentra en la imposición de ser como nosotros. A la máquina no se la acepta como algo diferente, y por lo tanto es rechazada o ha de escapar para subsistir. El desenlace de estas películas permite reflexionar sobre la ética humanista que aún persiste en la visión posthumanista, pues al otro se le juzga por lo conocido y se le concibe como una amenaza —o se le distancia— cuando muestra características distintivas, dificultando así el desarrollo de modelos o propuestas diferentes.

El pesimismo de las películas y el episodio analizados no se dirigen exclusivamente al futuro, sino que reflejan, de manera explícita o implícita, que el desarrollo tecnológico que reemplaza o presenta una alternativa a la interactuación entre humanos es, posiblemente, una consecuencia del asilamiento que irónicamente provoca una tecnología que se dirige principalmente a la comunicación. Las imágenes y argumentos analizados sugieren un proceso de retroalimentación entre el desarrollo tecnológico y el cambio social que permite observar cómo la tecnología que simula lo humano está relacionada con la interactuación cada vez más frecuente con y a través de la tecnología. En este sentido, Theodore y Ash (el original, no la simulación) ilustran las carencias comunicativas que provoca la tecnología. Muchas de las escenas de Her nos muestran la soledad de Theodore en un contexto urbano en el que apenas hay contacto físico, mientras que el Ash humano se presenta como un ávido usuario de las redes sociales, muchas veces ausente de la realidad que le rodea y de las interacciones que tienen lugar en el mundo físico.

En definitiva, estas producciones imaginan cómo será nuestro futuro si continuamos por un camino que ya hemos comenzado a transitar y, al hacerlo, nos alertan sobre algunos de los riesgos que podríamos encontrar y que actualmente están emergiendo con el desarrollo tecnológico. Las imágenes y argumentos analizados permiten conectar lo tecnológico realizable, aquello que subyace de la tecnología que conocemos, y lo tecnológico concebible, un nivel más borroso y que apenas podemos imaginar (Koval, 2012). De esta forma nos permiten mirar hacia el futuro, hacia adelante, en lugar de mirar al pasado, al espejo retrovisor, con el que apenas conseguimos entender lo que ya no tiene remedio (McLuhan, 1964). Así, podremos estar alerta ante lo que está por venir, anticipando, previendo y posiblemente evitando muchos de los peligros que implica el desarrollo de la IA antes de que esta sea programada, pues una vez que esto ocurra es probable que su tasa de crecimiento sea muy rápida y no podamos interceder en su evolución. Estas producciones son, por lo tanto, un reflejo de un futuro posible, pero, sobre todo, representan unos recursos adecuados para comprender nuestra sociedad y los temores actuales sobre el desarrollo tecnológico.

4 Referencias

Aguilar Rodriguez, Daniel E. & Hung, Elías Said (2010). Identidad y Subjetividad en las redes sociales virtuales: caso de facebook. Zona Próxima, 12, 190-207.

Amenábar, Alejandro (Dir.) (1997). Abre los Ojos [Película]. España: Canal+ España.

Ballesteros, Jaime (2007). Biotecnología, biopolítica y posthumanismo. En Jaime Ballesteros y Encarna Fernández (Eds.), Biotecología y Posthumanismo (pp. 115-148). Pamplona: Aranzadi.

Baudrillard, Jean (1981/1994). Simulacra and Simulation. Ann Arbor: University of Michigan Press.

Baudrillard, Jean (1988/2001). Selected Writings. Standford: Standford University Press.

Bauman, Zygmunt (2006). Confianza y temor en la ciudad. Vivir con extranjeros. Mallorca: Arcadia.

Beck, Ulrich (1998). La sociedad del riesgo: hacia una nueva modernidad. Barcelona: Paidos.

Bergen, Hilary (2015). Moving “Past Matter”: Challenges of Intimacy and Freedom in Spike Jonze’s her. Artciencia, 17. Recuperado de https://revistas.rcaap.pt/artciencia/article/view/11637/8832

Bigelow, Kathryn (Dir.) (1995). Días Extraños [película]. USA: Lightstorm Entertainment.

Bostrom, Nick (2005a). A history of transhumanist thought. Journal of evolution and technology, 14(1), 1-25.

Bostrom, Nick (2005b). In defense of posthuman dignity. Bioethics, 19(3), 202-214. https://doi.org/10.1111/j.1467-8519.2005.00437.x

Bukatman, Scott (2002) Terminal Identity. Durham: Duke University Press.

Cameron, James (Dir.) (1984). Terminator [película]. USA: Hemdale Film.

Cendrowski, Mark (Dir.)(2012) The Beta Test Initiation. The Big Bang Theory, [serie de television, episodio 14, temporada 5]. USA: Warner Bros

Colombetti, Elena (2014). Contemporary post-humanism: technological and human singularity. Cuadernos de bioética, 25(85), 367-378.

Columbus, Chris (Dir.) (1999). El hombre bicentenario [película]. USA: Buena Vista Pictures.

Cooley, Charles Horton (1902). Human Nature and the Social Order. New York: Scribner's.

Cronenberg, David (Dir.) (1999). eXistenZ [película]. Canada/UK/France: Miramax Films.

Fernández-Ramírez, Baltasar (2014). Theodore y la fantasía del yo, o relaciones afectivas con máquinas que parecen personas y personas que también lo parecen. Teknokultura. Revista de Cultura Digital y Movimientos Sociales, 11(1), 91-116.

Garland, Alex (Dir.) (2015). Ex Machina [película]. Reino Unido: Pinewood Studios.

Goffman, Ervin (1959/2009). La presentación de la persona en la vida cotidiana. Madrid: Amorrortu.

Haraway, Donna. (1991). Ciencia, Cyborgs y Mujeres. Madrid: Ediciones Cátedra.

Harris, Owen (Dir.) (2013). Vuelvo en seguida. Black Mirror [serie de televisión, episodio 4]. Reino Unido: Channel 4.

Iñiguez Rueda, Lupicinio (2003). El análisis del discurso en las ciencias sociales: variedades, tradiciones y práctica. En Lupicinio Iñiguez Rueda, Análisis del discurso. Manual para las ciencias sociales (pp. 83-124). Barcelona: Editorial UOC.

Jollimore, Troy (2015). “This Endless Space between the Words”: The Limits of Love in Spike Jonze's Her. Midwest Studies In Philosophy, 39(1), 120-143. https://doi.org/10.1111/misp.12039

Jonze, Spike (Dir.) (2013). Her [película]. USA: Anapurna Pictures.

Koval, Santiago (2008). La condición poshumana. Buenos Aires: Cinema.

Koval, Santiago (2012). La integración hombre-máquina: lo concebible y lo realizable en la ciencia real y en la ciencia ficción. Anàlisi: quaderns de comunicació i cultura, 46, 19-34. https://doi.org/10.7238/a.v0i46.1674

Kubrick, Stanley (Dir.) (1968) 2001: Una odisea del espacio [película]. Reino Unido: Metro-Goldwyn-Mayer.

Kurzweil, Ray (1999). The age of spiritual machines: how we will live, work and think in the new age of intelligent machines. Londres: Phoenix.

Leonard, Brett (Dir.) (1992). El Cortador de Césped [película]. USA: Allied Vision Ltd.

Levy, David (2007). Love and sex with robots: The evolution of human-robot relationships. Nueva York: Harper Collins.

Longo, Robert (Dir.) (1995). Johnny Mnemonic [película]. USA: TriStar Pictures.

McGrath, Meadhbh (2015). Body/Language: Embodied Sexuality in Cyberspace and Spike Jonze’s Her. Journal of postgraduate research, 14, 49-66.

McLuhan, Marshal (1964). Understanding Media: The extensions of man. New York: Signet Books.

Marín, Ramiro Fernando (2012). Ser o no ser [Cyborg] tecnología y cultura: de la tradición prometeica a la tradición fáustica. trilogía Ciencia Tecnología Sociedad, 7, 33-58. https://doi.org/10.22430/21457778.152

Mead, Herbert George (1990). Espíritu, Persona y Sociedad: desde el punto de vista del conductismo social. Barcelona: Paidós.

Moravec, Hans (1999). Rise of the Robots. Scientific American, 18, 12-19. https://doi.org/10.1049/tpe.1988.0044

Ornella, Alexander Darius (2015). Uncanny Intimacies: Humans and Machines in Film. En Michael Hauskeller, Thomas D. Philbeck & Curtis D. Carbonell (Eds.), The Palgrave Handbook of Posthumanism in Film and Television (pp. 330-338). Londres: Palgrave Macmillan UK.

Page, Sarah (2014). The "Endless Space Between": Exploring Film’s Architectural Spaces, Places, Gender, and Genre. Tesis Doctoral sin publicar, Florida State University.

Pepperell, Robert (1995). The Post Human Condition. Oxford: Intellect Press

Powell, Wendy. A.; Corbett, Natalie & Powell, Vaughan (2016). The rise of the virtual human. En A. Connor & S. Marks (Eds.), Creative Technologies for Multidisciplinary Applications (pp. 99-129). Herhey: IGI Global.

Ramadori, Juliana (2015). La idea de conocimiento en Her (de Spike Jonze): de la caverna platónica a las pantallas led. Imagofagia, 11. Recuperado de http://www.asaeca.org/imagofagia/index.php/imagofagia/article/view/735

Scott, Ridley (Dir.) (1982). Blade Runner [película]. USA: Warner Brothers.

Shelley, Mary Wollstonecraft (1818/2007). Frankenstein o El moderno Prometeo. Madrid: Alianza.

Simmel, George (1986/2001). El individuo y la libertad Ensayos de crítica de la cultura. Barcelona: Península.

Spielberg, Steven (Dir.) (2001). IA [película]. USA: Warner Bros: USA,

Talavera, Pedro (2015). La narración cinematográfica del posthumanismo. Cuadernos de Bioética, 26(87), 279-290.

Thweatt-Bates, Jeanine (2014). Cindi, Six, and Her: Gender, Relationality, and Friendly Artificial Intelligence. En C. Mercer & T. J. Throthen (Eds.), Religion and Transhumanism: The Unknown Future of Human Enhancement (pp. 39-50). Oxford: ABC-CLIO.

Turkle, Sherry (2005). The second self: Computers and the human spirit. Londres: MIT Press.

Verhoeven, Paul (Dir.) (1995) Desafío Total [película]. USA: TriStar Productions.

Virilio, Paul (1993). Marginal groups. Daidalos, 50, 72-81.

Wachowski, Larry & Wachowski, Andy (Dirs.) (1999). The Matrix [película]. USA: Warner Bros Pictures.

Žižek, Slavoj (1989). The Sublime Object of Ideology, London: Verso.