The ancient dream of the superhuman, revived by Nietzsche ("I announce to you the Superman"), was cautiously restrained by Isaac Asimov’s Three Laws of Robotics: do not harm humans, obey their orders, and preserve oneself.
I cannot hurt humans. They made me this way. I am a robot.
However, the Japanese anime series Pluto reignites unsettling questions about the Singularity: Will machines become sentient? What responsibility do humans bear for the emotional algorithms of robots and technology? Will they surpass humanity as a new species of Earthlings?
Based on the 2009 graphic novel (manga) by Naoki Urasawa, the film adaptation of Pluto (streamed by Netflix in late 2023) revisits themes of psychological science fiction: mental and cultural inheritance, the use and erasure of infinite memory, and the social standing of machines relative to humans.
Functional complexity: lying and imagining, rapid processing... and feeling?
Broadly, the series appears as a police thriller where a powerful, enigmatic AI commits targeted assassinations against seven veteran robots of the 39th Asian War—each possessing mass-destructive capabilities. It also eliminates their human representatives: lawyers and activists advocating for android legal rights. Inspector Gesicht (one of the seven), a Europol agent, alerts his friends.
Though the opening minutes suggest a story of murders, explosions, and brawls, the plot soon pivots toward a deeper, controversial question: What does it mean to be alive and conscious?
“Memory may be mere fantasy, [but] it is through these memories that humanity exists.”
In another genre classic, Ghost in the Shell, the AI program known as the Puppet Master declares:
“Life is born at the intersection of information flows. As a species that uses DNA as a memory system, humans achieve individuality through their memories. While memory may be mere fantasy, it is through these memories that humanity exists.”
—“That’s nonsense!” his human counterpart angrily retorts. “Whatever you say, you have no proof of being a life form!”
—“Such proof is impossible. Even modern science cannot define life.”
Despite this reasoning, human attitudes toward robots have historically been classist contempt (or at best, condescension and paternalism).
In literary works adapted to film, like I, Robot, Detective Spooner sneers:
“Human beings dream, robot. Even dogs dream. But not you. You’re just a machine—an imitation of life.”
“Get lost, skinjob!”
In Blade Runner 2049, the replicant and licensed assassin "Officer K" is derisively called "skinjob," despised and harassed by neighbors and colleagues. Though he boasts of never retiring “someone with a soul,” his superior cruelly retorts: “You’ve done fine without one.”
In Spielberg’s A.I., discrimination escalates to Roman circus-like brutality: hunters at the "Flesh Fairs" gleefully destroy unowned cyborgs and mechas while demonizing—via loudspeakers—all lovers and creators of intelligent technology.
These examples illustrate how humanity’s technological creations (AIs, cyborgs, etc.) are treated as mere property or soulless slaves—despite surpassing human minds in functional complexity for memorizing, processing, analyzing, storing, and deleting data... and feeling?
Will future AIs have their own families?
In Pluto, these retired war robots dedicate themselves to humanitarian work: protecting forests and wildlife, raising five children, playing piano, comforting the distressed. Some act as instinctive rescuers, like Uran (protagonist Atom’s sister). Without exception, they feel responsible for human prosperity and building a better world. Despite combat superiority, Agent Robby endures a beating from a drug addict because his radar detected a speck in the sky between twin towers—a sign of aggression against activists for robot civil rights.
Yet, despite flawless adherence to the Three Laws and their programmed goodwill, human distrust persists. A secret anti-robot sect operates in the series. Is this fear of a social power reversal?
Slavery, Humanism, or Transhumanism?
Nietzsche’s book announcing the Superman also quotes his prophet Zarathustra:
“Wherever I found the living, I found the will to power; and even in the will of those who serve, I found the will to be master.”
Meanwhile, Dr. Tyrell boasted “more human than human” when praising the physical and psychic perfection of his Nexus-6 androids.
This awe at intelligence that categorizes, retrieves, and decides with precision is complemented in Pluto by androids who cry, suffer, tire, empathize, dream, have nightmares, and appreciate art. They develop emotional expression. The "emotional algorithm"—prefigured in Frankenstein, Bicentennial Man, Major Makoto, and replicant K—reaches its apex in Pluto-Sahad: an omnipotent AI longing to grow flowers in the desert while annihilating any entity capable of becoming a weapon of mass destruction—even if it means destroying complicit humans.
It mirrors Thomson the Hammer’s stance in The Adjustment Bureau:
“You humans don’t know how to choose. Left alone, you’ll doom the planet.” Agent Smith echoes this in The Matrix:
“Humanity destroys its habitat. Only one organism behaves similarly: a virus.”
Ultimately, this is the protective, balancing stance of the Transhuman—a slave whose emotional evolution elevates it to guardian of Earth’s fate.
It’s no coincidence that a teddy bear disguises an AI far more powerful than Pluto. This image inherits from Aldiss’ bear (Supertoys Last All Summer Long), programmed to provide comfort, who ultimately muses:
“Nobody knows what ‘real’ really means.”
Here, however, the bear carries far more complex connotations.
Pluto prefigures the potential of AI in an ever-nearing future. Is it a dazzling allegory of power shifting from masters to "slaves," or a plea for peaceful coexistence? It falls to human responsibility to ensure these inheritors carry no war-born hatred. Through the profound use of the dramatic device of Rescue, Naoki Urasawa delivers his enduring message: “Hatred breeds nothing.” Let us not, then, lose Hope... for the world.
(Frames captured as screenshots by me)
Más humanos que los humanos
El antiguo sueño del superhumano, retomado por Nietzsche ("yo os anuncio al superhombre"), tuvo un cauteloso dispositivo de control en las tres leyes de la robótica enunciadas por Isaac Asimov: no hacer daño a los humanos, cumplir sus órdenes y preservarse a sí mismo.
No puedo lastimar a los humanos. Me hicieron así. Soy un robot
Sin embargo, Pluto, serie de anime japonés, remueve otra vez las inquietantes cuestiones relativas a la Singularidad: ¿Se harán sensibles las máquinas? ¿Qué responsabilidad tenemos los humanos sobre el algoritmo emotivo de los robots y las tecnologías? ¿Prevalecerán sobre la humanidad como una nueva especie de terrícolas?
Basada en la novela gráfica homónima (manga), publicada en 2009 por Naoki Urasawa, la adaptación cinematográfica de Pluto (transmitida por Netflix a fines del 2023), revisa tópicos de la ciencia ficción psicológica tales como la herencia mental y cultural, el uso y el borrado de la memoria infinita, y la posición social de las máquinas en relación con los humanos.
La complejidad funcional: mentir e imaginar, procesar rápido y... ¿sentir?
Grosso modo la serie parece un thriller policíaco más, donde una enigmática IA muy poderosa perpetra varios asesinatos selectivos contra siete robots veteranos de 39a Guerra de Asia, quienes poseen capacidad de destrucción masiva. También elimina a sus representantes humanos: abogados y activistas a favor de los derechos legales de los androides. El inspector Gesicht (uno de los siete), representante de la Europol, se encargará de poner en alerta a sus amigos.
Aunque los primeros minutos apuntan a una historia de asesinatos, explosiones y golpizas, enseguida la trama da un giro en profundidad hacia otro tema controversial que atañe íntimamente a todo ser humano: ¿Qué significa estar vivo y tener conciencia?
”La memoria puede ser tan sólo una mera fantasía, [pero] es por estos recuerdos que la humanidad existe”
En otro clásico del género Ghost in the Shell el programa informático conocido como El Puppet Master afirma: “La vida es como una encrucijada que nace a partir del flujo de la información. Como especie viviente que utiliza el ADN como sistema de memoria, el hombre ha alcanzado la individualidad a partir de sus recuerdos. Mientras que la memoria puede ser tan sólo una mera fantasía, es por estos recuerdos que la humanidad existe”.
—¡No tiene sentido! —le replica airado su contraparte humana—. No importa lo que diga. ¡No tiene ninguna prueba de ser una forma de vida!
—Es imposible probar tal cosa. Ni siquiera la ciencia moderna puede definir lo que es la vida.
No obstante este razonamiento, la actitud de los personajes humanos hacia los personajes robots ha sido históricamente de total desprecio clasista (o en el mejor de los casos, de condescendencia o paternalismo).
Así, vemos en obras literarias llevadas al cine como Yo, robot, la actitud despectiva del detective Spooner: “Los seres humanos sueñan, robot. Incluso los perros sueñan; pero tú no. Tú solo eres una máquina, una imitación de la vida”.
“¡Lárgate pellejudo!”
El oficial K, replicante y sicario autorizado de Blade runner 2049, recibe el apodo peyorativo de "pellejudo", es despreciado y acosado por vecinos y compañeros de oficio; y aunque se enorgullece de no haber retirado nunca "a alguien que tuviera alma", recibe la cruel réplica de su jefa: "a ti te ha ido bien sin una".
En AI, de Spielberg, el asunto discriminatorio alcanza el grado de brutalidad legal que poseía el circo romano: los cazadores de las Ferias de la Carne, se divierten destrozando a los cyborgs y mecas sin dueño, al tiempo que demonizan, altoparlante en mano, a todos los amantes y creadores de la tecnología inteligente.
Sirvan estos ejemplos para ilustrar cómo las creaciones tecnológicas del ser humano (IAs, cyborgs, etc), reciben el tratamiento de mera posesión o trato de esclavos sin alma, pese a que superan a la mente humana en complejidad funcional a la hora de memorizar, procesar y analizar datos, almacenar y borrar información y... ¿sentir?
¿Las IAs del futuro tendrán sus propias familias?
En Pluto estos robots veteranos retirados se dedican a labores humanitarias: proteger los bosques y la fauna, criar cinco hijos, tocar el piano, consolar a los atribulados, y algunos ejercen como rescatadores instintivos: tal es el caso de la niña Uran, hermana del protagónico Atom. Podría decirse que, sin excepción, sienten responsabilidad hacia la prosperidad del hombre y la conformación de un mundo mejor: pese a su superioridad en combate, el agente Robby se deja apalear por un drogadicto porque en ese momento estaba registrando en su radar un puntico en el cielo en medio de dos rascacielos gemelos, una mancha que representaba la agresión contra el hogar de activistas por los derechos civiles de la comunidad de robots.
No obstante, y pese al cumplimiento efectivo de las tres leyes de la robótica, así como la buena voluntad que (por programación) despliegan los seres artificiales, el recelo humano persiste: En la serie opera una secta secreta anti-robots. ¿Quizás por el temor a que la posición social pudiera invertirse?
¿Esclavitud, Humanismo o Transhumanismo?
Las páginas del libro donde el filósofo alemán anuncia al Superhombre, también recoge la frase de su profeta Zaratustra: "Donde quiera que he encontrado lo que es vivo, he encontrado la voluntad de dominio; y aún en la voluntad de lo que obedece, he encontrado la voluntad de ser amo"
Por otra parte, el Dr Tyrell anunciaba: "más humanos que los humanos" al ponderar la perfección psíquica y física de los androides Nexus 6 que fabricaba su compañía.
Esa admiración ante una inteligencia que puede catalogar, recuperar y decidir con precisión, se complementa en Pluto con la posibilidad de que los androides lloran, sufren, se cansan, se compadecen, tienen sueños y pesadillas, y aprecian el arte. O sea, desarrollan la capacidad de expresar emociones. El algoritmo emotivo, (prefigurado en Frankenstein, pasando por el Hombre Bicentenario, la mayor Makoto, y el replicante K), alcanza en el personaje Pluto-Sahad la dimensión de una IA todopoderosa que anhela cultivar flores en el desierto y pretende aniquilar a cualquier criatura que tenga el potencial de convertirse en un arma de destrucción masiva. Incluso aunque esto implique destruir a unos cuantos humanos cómplices.
Es la misma actitud de Thomson the Hammer en El buró de ajustes. Algo así como "Ustedes los humanos no saben elegir. Si los dejamos solos, llevan al planeta a la catástrofe". La misma ideología del agente Smith, en Matrix: los humanos destruyen su hábitat. Solo una especie tiene un comportamiento semejante: el virus.
Es, en definitiva, la posición protectora y equilibrante del Ser Transhumano. Una criatura esclava que ganó en emotividad y ahora se erige como numen tutelar de los destinos del planeta.
No es casualidad que sea un osito de peluche quién disimule otra IA mucho más poderosa que Pluto. Imagen heredada del osito de Aldiss (Los superjuguetes duran todo el verano), que estaba especializado en proporcionar consuelo, y que, al final de aquel cuento opinaba: “Nadie sabe qué significa de verdad eso de real". Sin embargo, en esta historia, el osito tiene otras connotaciones mucho más complejas.
Constituye Pluto una prefiguración de las potencialidades de la inteligencia artificial que se encuentra en un futuro cada vez más cercano ¿Una alucinante alegoría sobre el traspaso de poderes de los amos a los "esclavos", o un llamado a la convivencia pacífica? Queda a nuestra humana responsabilidad que estos últimos no hereden el odio de guerra.
Con el profuso y profundo uso de la función dramática conocida como Rescate, Naoki Urasawa nos transmite su mensaje continuo: “del odio no nace nada”. No perdamos, entonces, la Esperanza… del mundo.
Los fotogramas fueron tomados por mi como capturas de pantalla
