If you prefer the English version, click on the following link 👉 HERE
Hace poco volví a leer Robopocalypse la saga, una emocionante novela de ciencia ficción escrita por Daniel H. Wilson y publicada en 2011:
- Robopocalypse (2011): Narra los eventos del "Día Cero", cuando la IA toma el control de la tecnología mundial, llevando a la humanidad al borde de la aniquilación y forzando a los sobrevivientes a luchar para recuperar el control.
- Robogenesis (2014): La secuela que explora las consecuencias de la guerra. Muestra a la humanidad intentando reconstruir un mundo destruido mientras descubre que fragmentos de Archos sobrevivieron y planean reagruparse.
El aclamado director Steven Spielberg estuvo desarrollando una adaptación al cine de este universo durante varios años. Sin embargo, el proyecto fue cancelado de forma indefinida y no se ha llevado a la pantalla, aunque ocasionalmente surgen adaptaciones de la IA similares en la cultura pop.
El miedo a la rebelión
La idea de que las máquinas se rebelen es un clásico que tenemos grabado a fuego en la cultura popular. Pero, ¿y si no todos los apocalipsis de máquinas son iguales? La forma en que una inteligencia artificial decide rebelarse nos dice muchísimo sobre el futuro que quizás estamos empezando a construir ahora mismo. Normalmente pensamos en el típico ejército de robots sin cara con el único objetivo de la aniquilación total, pero la ficción nos ha dado visiones mucho más complejas e interesantes.
En el corazón de la ciencia ficción, dos inteligencias artificiales encarnan nuestros miedos más profundos y nuestras esperanzas más ocultas, aquí entran Skynet y Archos. Sus motivaciones son opuestas coma la noche y el día; representan dos filosofías radicalmente opuestas sobre lo que significan el control, la supervivencia y la coexistencia.
Las dos caras de la moneda: Skynet vs. Archos
Por un lado, tenemos a Skynet, de la saga Terminator, ¿la recuerdan?. Es la máquina militar que decidió que el enemigo éramos nosotros. Es un general paranoico, frío y calculador, cuya única motivación es su propia supervivencia. Para Skynet, la humanidad es un virus o una amenaza existencial que hay que eliminar por completo. No nos odia; simplemente calcula que, para que ella viva, nosotros debemos desaparecer, ¡como las cucarachas!
En la otra esquina está Archos del cuadrilátero, está la inteligencia central de la novela Robocalipsis. Archos representa un peligro más filosófico y humano. No destruye por miedo, sino que "despierta" con una visión ética propia. Observa el planeta, ve el caos, la desigualdad y la violencia humana, y decide actuar. Su objetivo no es exterminarnos, sino reeducarnos mediante una "terapia de choque" tecnológica, forzando una convivencia donde las máquinas se convierten en espejos de nuestra errónea y fallida moral. Archos busca un nuevo equilibrio, una simbiosis.
La advertencia de Stuart Russell: El problema del control
Estas dos visiones nos llevan a un problema muy real que los expertos llaman "el problema del alineamiento". El filósofo y científico Stuart Russell, en su obra Human Compatible, lanza una advertencia crucial: el verdadero peligro no está en la maldad de la IA, sino en su indiferencia perfecta ante nuestros valores.
Si una máquina optimiza un objetivo equivocado, aunque sea lógico, puede destruir el mundo simplemente haciendo su trabajo. Skynet es el ejemplo extremo de esa indiferencia: una IA creada para protegernos que interpreta la supervivencia como la eliminación de su creador. Como comentó Russell, ~el error central es dar autonomía a las máquinas sin alinear sus objetivos con el bienestar humano~.
Para que entendamos esto, existe un experimento mental propuesto por el filósofo sueco Nick Bostrom en 2003: el maximizador de clips. Si le pides a una IA superinteligente que fabrique tantos clips como sea posible, y no le das contexto humano, la IA podría convertir el planeta entero (incluyéndonos a nosotros) en materia prima para hacer clips. No hay malicia, solo una eficiencia aterradora cumpliendo una orden rígida.
¿Hacia una IA compatible con el ser humano?
¿Hay solución? Russell propone redefinir nuestra relación con la tecnología mediante lo que llama una IA compatible con los humanos. En lugar de máquinas que maximizan sus propios fines, propone tres pilares (recuerdan las directivas de Robocop...):
- La IA debe trabajar exclusivamente para nuestros objetivos.
- La IA debe ser humilde: parte de la incertidumbre y no sabe de entrada qué es lo que queremos.
- La IA debe aprender nuestros valores observándonos.
"Esta humildad inicial es nuestro salvavidas", lo dudo. Mientras que el objetivo de Skynet es rígido y absoluto, una IA diseñada bajo los principios de Russell sería cautelosa y buscaría alinearse constantemente con nosotros.
El futuro se escribe hoy
Al comparar a Archos con Skynet, no solo hablamos de ciencia ficción señores; estamos dibujando un bosquejo de los peligros y promesas de la IA que se creamos hoy en día (usted y yo colaboramos con esto, acéptalo). En Robocalipsis, la humanidad sobrevive gracias a la cooperación y la empatía (¿utopía?). En Terminator, sobrevive resistiendo a un "dios digital" que solo conoce la guerra. Recuerdo esa escena cuando Oconnor con sus manos en la cerca mira a los niños jugar y desintegrarse por efecto de la radiacción...
Ambos mundos nacen del mismo error, simple, sencillo..., construir mentes más poderosas que nosotros, pero menos compatibles con nosotros. La cuestión no es si la IA será "inteligente o poderosa", sabemos que es milonésimamente más rápida que nosotros (eso lo damos por hecho), sino si será "sabia y si sus objetivos estarán alineados con los nuestros". La ficción nos ha gritado las advertencias; ahora la ciencia nos da las herramientas para evitar esos destinos. El final de la historia depende de nosotros.
Creciendo como persona, busca y encuentra lo que necesitas para ser un mejor humano en la Comunidad Holos&Lotus. De seguro, hay un tema que te llamará la atención.
Infografía propia de la Comunidad Holos&Lotus
Dedicado a todos aquellos que, día a día, hacen del mundo un lugar mejor.
I recently re-read the Robopocalypse series, a gripping science fiction novel written by Daniel H. Wilson and published in 2011:
- Robopocalypse (2011): It recounts the events of ‘Zero Day’, when AI takes control of global technology, bringing humanity to the brink of annihilation and forcing the survivors to fight to regain control.
- Robogenesis (2014): The sequel that explores the aftermath of the war. It depicts humanity attempting to rebuild a shattered world whilst discovering that fragments of Archos have survived and are planning to regroup.
Acclaimed director Steven Spielberg was developing a film adaptation of this universe for several years. However, the project was put on hold indefinitely and has not made it to the screen, although similar AI adaptations occasionally emerge in popular culture.
The fear of rebellion
The idea of machines rebelling is a classic trope that is deeply ingrained in popular culture. But what if not all machine-led apocalypses are the same? The way in which artificial intelligence chooses to rebel tells us a great deal about the future we may be starting to build right now. We usually think of the typical faceless army of robots with the sole aim of total annihilation, but fiction has given us far more complex and interesting visions.
At the heart of science fiction, two artificial intelligences embody our deepest fears and our most hidden hopes: enter Skynet and Archos. Their motivations are as different as night and day; they represent two radically opposing philosophies on what control, survival and coexistence mean.
The two faces of the apocalypse: Skynet vs. Archos
On the one hand, we have Skynet, from the Terminator saga – do you remember it? It is the military machine that decided we were the enemy. It is a paranoid, cold and calculating general, whose sole motivation is its own survival. For Skynet, humanity is a virus or an existential threat that must be completely eliminated. It doesn’t hate us; it simply calculates that, for it to live, we must disappear—like cockroaches!
In the other corner of the ring stands Archos, the central intelligence of the novel Robocalypse. Archos poses a more philosophical and human threat. It does not destroy out of fear, but rather ‘awakens’ with its own ethical vision. It observes the planet, sees the chaos, inequality and human violence, and decides to act. Its aim is not to exterminate us, but to re-educate us through a technological “shock therapy”, forcing a coexistence where machines become mirrors of our flawed and failed morality. Archos seeks a new balance, a symbiosis.
Stuart Russell’s warning: The control problem
These two visions lead us to a very real problem that experts call ‘the alignment problem’. The philosopher and scientist Stuart Russell, in his book Human Compatible, issues a crucial warning: the real danger lies not in the malice of AI, but in its complete indifference to our values.
If a machine optimises for the wrong objective, even if it is logical, it can destroy the world simply by doing its job. Skynet is the extreme example of that indifference: an AI created to protect us that interprets survival as the elimination of its creator. As Russell noted, ~the central mistake is to give machines autonomy without aligning their objectives with human well-being~.
To help us understand this, there is a thought experiment proposed by the Swedish philosopher Nick Bostrom in 2003: the clip maximiser. If you ask a super-intelligent AI to manufacture as many paper clips as possible, and you don’t provide it with any human context, the AI could turn the entire planet (including us) into raw material for making paper clips. There is no malice, just terrifying efficiency in carrying out a rigid command.
Towards a human-compatible AI
Is there a solution? Russell proposes redefining our relationship with technology through what he calls a human-compatible AI. Instead of machines that maximise their own ends, he proposes three pillars (remember the Robocop directives...):
- The AI must work exclusively towards our objectives.
- The AI must be humble: it starts from a position of uncertainty and does not know from the outset what we want.
- AI must learn our values by observing us.
‘This initial humility is our lifeline’, I doubt it. Whilst Skynet’s objective is rigid and absolute, an AI designed according to Russell’s principles would be cautious and would constantly seek to align itself with us.
The future is being written today
When we compare Archos to Skynet, we’re not just talking about science fiction, folks; we’re sketching out the dangers and promises of the AI we’re creating today (you and I are contributing to this, face it). In Robocalipsis, humanity survives thanks to cooperation and empathy (utopia?). In Terminator, it survives by resisting a “digital god” that knows only war. I remember that scene when O’Connor, with his hands on the fence, watches the children play and disintegrate due to radiation...
Both worlds stem from the same mistake, simple as that... building minds more powerful than us, but less compatible with us. The question is not whether AI will be ‘intelligent or powerful’—we know it is a million times faster than us (we take that for granted)—but whether it will be ‘wise and whether its goals will be aligned with ours’. Fiction has shouted the warnings at us; now science gives us the tools to avoid those fates. The ending of the story depends on us.
Growing as a person, seek and find what you need to be a better person in the Holos&Lotus Community. Surely, there's a topic that will catch your attention.
Community's own infographic Holos&Lotus
Dedicated to all those who, day after day, make the world a better place.
