La importancia de la tercera ley

Oppy fue a Marte para 90 días y duró más de 15 años

Hace pocas semanas que el rover de exploración Opportunity, Oppy para los amigos, ha dejado oficialmente de funcionar. Su último mensaje decía “Mi batería está baja y está oscureciendo”. Ha sido a partir de lo que en principio debería ser un sencillo mensaje informando de su estado, que ha surgido un movimiento espontáneo de simpatía por el pequeño robot. Cientos si no miles de mensajes de condolencia por el fin de la vida útil de Oppy, dibujos y tiras cómicas homenajeando su hazaña y todo tipo de muestras de pesar me hacen pensar que la tercera ley de Asimov puede no ser tan imprescindible como pudiera parecer a priori.

Pero vamos a suponer (acertadamente imagino) que no todos los que estáis leyendo este blog sois unos fans recalcitrantes de la ciencia ficción en general y de los robots de Asimov en particular, así que procederé a incluir las tres leyes de la robótica originales:

1. Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño.
2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

Por tanto, la tercera ley de la robótica de Asimov trata acerca de la auto preservación de los robots, pero ¿qué tiene que ver esto con Oppy?

Asimov, el padre de la robótica

Para entenderlo debemos acudir a la primera obra en la que se menciona la palabra “Robot”, que no es otra que la obra teatral R.U.R., Robots Universales Rossum Escrita por el checo Karel Čapek en 1920. Cuenta Asimov que cuando leyó la obra le pareció un sinsentido que los directivos de R.U.R. se lanzaran a fabricar sus creaciones sin dotarlas de ciertas medidas de seguridad para evitar los sucesos que se muestran en la obra y más le extrañó aún que se aceptaran tan alegremente a estos robots en la sociedad hasta el punto de que hubiera tantos que cuando se rebelaron el desenlace fuera inevitable. A partir de esa idea surgió el concepto de sus tres leyes de la robótica y el universo literario de robots que fue creando. En ese universo, la tierra es un espacio libre de robots excepto dentro de los límites de la única empresa autorizada a fabricarlos, la U.S. Robots and Mechanical Men, Inc. El motivo de esto es debido a un hipotético "complejo de Frankenstein" es decir, un temor que el ser humano desarrollaría frente a unas máquinas que teóricamente pudieran rebelarse y alzarse contra sus creadores. Justo lo que ocurre en R.U.R.

Y es que este miedo se ha reflejado en numerosas obras de ciencia ficción a lo largo de las décadas:

• La ya mencionada R.U.R., Robots Universales Rossum que, aunque ya se le notan los años es lectura obligada para cualquier fan de la ciencia ficción que se precie.
• Todas las historias cortas de robots de Asimov, junto con las novelas de Elijah Baley y R. Daneel Oliwav.
• Westworld, tanto la película de 1973 con Yul Briner como la serie de HBO.
• ¿Sueñan los androides con ovejas eléctricas? y Blade Runner. Dos versiones de la misma historia genial creada por Philip K. Dick.
• 2001: una odisea en el espacio y 2010: odisea dos. Hal no es un robot, pero es una inteligencia artificial tratada de forma muy realista y tiene mucha relevancia para los propósitos de este artículo.
• Toda la saga Terminator, aunque hay algunas películas que con verla una sola vez hay más que suficiente.
• Ghost in the Shell. Mangas, Ovas y series. Todo es tremendamente recomendable. En un mundo donde las nuevas tecnologías hacen cada vez más difusa la línea entre lo humano y lo artificial, la convergencia entre humanos totalmente tecnificados tratando de retener su esencia e inteligencias artificiales desarrollando de manera casi orgánica un espíritu hace que nos planteemos donde están los límites entre humanos y máquinas.
• La saga The Matrix, aunque para enterarte de todo has de experimentar la narrativa transmediática viendo el anime (Animatrix) y jugando al videojuego (Enter the Matrix).
• Inteligencia Artificial, película donde se muestra la posibilidad de que estas puedan exceder su programación y no siempre tiene que ser para mal.
• Futurama. Esta puede ser la más alocada e irreverente de las aproximaciones a la relación de la humanidad con los robots, pero estoy convencido de que esta serie también es en parte responsable del cambio en nuestra forma de ver y relacionarnos con estos.
• Horizon zero dawn. A estos les hubieran venido de perlas las tres leyes, ahora que lo pienso. Pero sin esa falta de visión no tendríamos este entretenidísimo y larguísimo videojuego.
• Detroit become human. David Cage, el videojuego, en su máxima expresión.

Fry y Bender o cómo cambiar la percepción hacia los robots.

En todas estas obras la Humanidad vive una relación de amor y odio con las máquinas, ya que sin ellas su desarrollo y bienestar no sería tan notable, pero a la vez los robots y las máquinas tienen una presencia y unas necesidades que deben ser tenidas en cuenta. Precisamente para minimizar y controlar esta presencia y sus necesidades fueron creadas las tres leyes que garantizan una obediencia total y una ausencia de conflictos.

Sabiendo todo esto ahora ¿cuál es el sentido de la tercera ley? Porque la primera establece que un robot nunca puede dañar de ninguna manera a un ser humano y la segunda asume que este debe obedecer todas las órdenes que le de un ser humano siempre que no sea dañar a un ser humano, valga la redundancia. La tercera está ahí para algo más que para evitar que un robot se dañe por accidente, también está ahí para impedir que un humano haga que un robot se dañe a sí mismo. Porque tenemos que asumir que siempre habrá personas con pocos escrúpulos, ingenuas o incompetentes que sean capaces, de forma intencionada o accidental, de provocar que un robot se dañe a sí mismo.

Sabiendo esto es totalmente lógico que exista la tercera ley, pero al ver la reacción del mundo frente a lo sucedido con Oppy y habiendo llegado a entristecerme tanto que al leer su último mensaje no pude dejar de soltar una lágrima, me cuesta cada vez más pensar en una Humanidad con un complejo de Frankenstein tan marcado. Si hemos hecho tanto por un pequeño rover en Marte, creo que el futuro está en las pompas fúnebres para robots.

Deus Ex Machina