Las tres leyes de la robótica son un conjunto de normas escritas por Isaac Asimov, que la mayoría de los robots de sus novelas y cuentos están diseñados para cumplir. En ese universo, las leyes son "formulaciones matemáticas impresas en los senderos positrónicos del cerebro" de los robots (lo que hoy llamaríamos ROM). Aparecidas por primera vez en el libro "Runaround" (1942), establecen lo siguiente:

- Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
- Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.
- Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.

Esta redacción de las leyes es la forma convencional en la que los humanos de las historias las enuncian; su forma real sería la de una serie de instrucciones equivalentes y mucho más complejas en el cerebro del robot.

Asimov atribuye las tres Leyes a John W. Campbell, que las habría redactado durante una conversación sostenida el 23 de diciembre de 1940. Sin embargo, Campbell sostiene que Asimov ya las tenía pensadas, y que simplemente las expresaron entre los dos de una manera más formal.

Posteriormente, en sus últimas novelas Asimov introdujo una Ley Cero de la robótica, con prioridad sobre las tres anteriores, que rezaría:

Un robot no puede realizar ninguna acción, ni por inacción permitir que nadie la realice, que resulte perjudicial para la humanidad, aun cuando ello entre en conflicto con las otras tres Leyes.



Tal como explicó en su día el propio Asimov, la concepción de las leyes de la robótica vino motivada por el deseo de contrarrestar en sus obras el por él denominado complejo de Frankenstein, es decir, el presunto temor que el hombre podía desarrollar frente a unos robots que hipotéticamente podían rebelarse en contra de sus creadores. Para evitar la aparición de robots asesinos (o cuanto menos desobedientes) en sus relatos, Asimov implantó las tres leyes de la robótica en los mismos circuitos de sus cerebros positrónicos, haciendo imposible que un robot pudiera violarlas ya que, de intentarlo siquiera, su cerebro resultaría dañado irrevisiblemente y el robot moriría. La Ley Cero, por su parte, sería producto de un reflexión filosófica por parte de los robots más sofisticados, como por ejemplo, Daniel R. Olivaw, protagonista de varias novelas.

Gran parte, por no decir la totalidad, de los relatos y novelas sobre robots escritos por Asimov se basan en la extrapolación de las posibles consecuencias prácticas de las leyes de la robótica, siendo habitual encontrarnos con problemas derivados de sus conflictos provocados en circunstancias muy determinadas, en una especie de tour de force en la que Asimov forzaba deliberadamente cada vez más la situación buscando soluciones para estos casos. Así pues, estos relatos acaban convirtiéndose en ejercicios lógica y ética que, en ocasiones, están realmente logrados.

Algunos autores han apuntado la posibilidad (hoy remota) de que, en el caso de que se acaben construyendo en el futuro robots inteligentes, éstos deberían llevar implantado como código de conducta algo similar, sí no idéntico, a las Leyes de la Robótica de Isaac Asimov. Asimismo, han sido muchos los escritores de ciencia-ficción que han imitado al maestro norteamericano, describiendo en sus obras robots gobernados por estas leyes o por otras muy similares. Una variante interesante de este problema es la planteada por Malcom Jameson en su relato ORGULLO, donde la prohibición de causar daño a los humanos se verifica no mediante la implantación en los cerebros de los robots de unas leyes que lo prohiban explícitamente, sino suprimiendo en ellos la ambición como motor que es de conductas agresivas y peligrosas. Ante el peligro de convertir a los robots en poco más que unos zombies mecánicos (la supresión de la ambición vendría a ser, según Jameson, algo equivalente a la lobotomización de un cerebro humano), la desaparecida ambición sería sustituida por el orgullo al que hace alusión el título, sirviéndole al autor como excusa para realizar una serie de interesantes disquisiciones filosóficas sobre hacia donde podría derivar el intelecto robótico.

Otras proposiciones de la Ley Cero

Elijah Baley, un personaje de Asimov, se comenta a sí mismo pensando que la Primera Ley prohibe a un robot dañar a un ser humano, a no ser que el robot sea lo suficientemente astuto para racionalizar que sus acciones son para el bien a largo plazo del humano (acá refiriéndose específicamente al humano que debe ser dañado).
Un traductor incorporó de un modo un poco diferente el concepto de la Ley Cero dentro de una de las novelas de Asimov antes de que el mismo Asimov hiciera la ley explícita:

"Un robot no debe dañar a un ser humano, a no ser que encuentre una manera de probar que en el análisis final, el daño hecho pueda beneficiar a la humanidad en general."

Historia

Los primeros robots construidos en la Tierra (vistos, por ejemplo, en Yo, Robot) eran modelos poco avanzados. Era una época en donde la robopsicología no estaba aún desarrollada. Estos robots podían ser enfrentados a situaciones en las cuales se vieran en un conflicto con sus leyes. Una de las situaciones más sencillas se da cuando un robot debe dañar a un ser humano para evitar que dos o más sufran daño. Aquí los robots decidían en función de un criterio exclusivamente cuantitativo, quedando luego inutilizados, al verse forzados a violar la primera ley.

Posteriores desarrollos en la robótica, permitieron la construcción de circuitos más complejos, con una mayor capacidad de autorreflexión. Una peculiaridad de los robots es que pueden llegar a redefinir su concepto de "daño" según sus experiencias, y determinar niveles de éste. Su valoración de los seres humanos también puede ser determinada por el ambiente. Es así que un robot puede llegar a dañar a un ser humano por proteger a otro que considere de más valía (su amo, por ejemplo). También podría darse el caso de que un robot dañara físicamente a un ser humano para evitar que otro sea dañado psicológicamente, pues llega a ser una tendencia el considerar los daños psicológicos más graves que los físicos. Estas situaciones nunca se hubieran dado en robots más antiguos. Asimov plantea en sus historias de robots las más diversas situaciones, siempre considerando las posibilidades lógicas que podrían llevar a los robots a tales situaciones.



Las nuevas leyes

Realmente, las premisas presentadas por Asimov (mucho antes que los robots fuesen una realidad) eran muy acertadas, y efectivamente protegían a los humanos de cualquier tipo de daño que fuese causado por estas maquinas.

Pero los tiempos cambian, los robots ya están entre nosotros, y parece que lo que hace furor es el robot armado para la guerra y no la “mucama cibernética” o el “trabajador robótico”. Eso volvió automáticamente obsoletas las Leyes que elucubro el escritor, ya que un combatiente robot que no dañe humanos es un contrasentido.

El ingeniero John S. Canning, del Naval Surface Warfare Centre (EE.UU.), ha dicho que se necesitan una serie de leyes que den más libertad a los robots sin que eso signifique tener “carta blanca” para cometer cualquier crimen. Menuda tarea.

Canning propone dotar a los robots de combate de total libertad cuando se enfrenta a un enemigo robótico (donde la violencia no seria un problema), y de algunas reglas más restrictivas cuando combate contra humanos. Incluso, dice que podría ser útil un operador humano para que decida por la maquina. “Este esquema permitiría a un robot apuntar a otro, y a un humano hacer lo mismo con un semejante”.

Entre los “autómatas” que tiene en mente Cannig figuran los misiles antitanque, sistemas de defensa automatizados, torpedos submarinos, etc.

El documento completo escrito por Canning esta disponible en el link que acompaña al artículo. No es necesario leerlo todo para encontrar algunos puntos inquietantes. Por ejemplo, seria valido para un robot (o sistema de combate automatizado) dispara al fusil que lleva un humano, y no necesitaría autorización para efectuar ese disparo. Su el soldado que lleva el fusil resultara herido o muerto, lo asumiría como un “daño colateral” y no plantearía ningún tipo de conflicto para el robot.

No sabemos cuando se llevaran a la práctica este tipo de ideas, pero confiamos en que falte mucho tiempo. Pensar que cuando se estrenó Terminator en 1984, nos creímos que era una película de ciencia ficción.



Modificación de las leyes

Primera ley modificada

En "Little Lost Robot", muchos robots NS-2 o "Nestor" son creados con sólo una parte de la primera ley. Que dice:

"Un robot no debe dañar a un ser humano."

Esta modificación es motivada por una dificultad on orden práctico: los robots tienen que trabajar a la par de los seres humanos quienes son expuestos a bajas dosis de radiación. Debido a que sus cerebros son altamente sensibles a los ratyos gamma, los robots se vuelven inoperables por dosis razonablemente seguras para los humanos, y están siendo destruidos intentando rescatar a los humanos (quienes no están en peligro, pero "podrían olvidar para abandonar" el area irradiada dentro del tiempo límite de exposición). Quitando la cláusula "inanición" de la Primera Ley resuelve éste problema, pero crea la posibilidad de uno aún mayor: un robot puede iniciar una acción que podría dañar a un humano (soltando un gran peso que no puede ser sostenido es el ejemplo que se da en el texto) sabiendo que era capaz de prevenir el daño, y luego decidir no hacerlo.


Otras Leyes propuestas

La cuarta Ley de la Robótica

La novela "Icarus's Way" de Lyuben Dilov del año 1974 introdujo una cuarta Ley de la robótica:

"Un robot debe establecer su identidad como robot en todos los casos"

Lyuben Dilov da una razón para esto: "La última Ley pone fin a los carísimos intentos de los diseñadores de dar a los psicorobots formas tan humanas como sea posibe. Y a los malentendidos resultantes..."[25]

La quinta Ley de la Robótica

"Un robot debe saber que es un robot"

La quinta Ley fue introducida por Nikola Kesarovski en su corta historia "The Fifth Law of Robotics". La trama ocurre alrededor de un asesinato. La investigación forense encuentra que la víctima fue asesinada por un robot de forma humanoide usando simplemente un abrazo. El robot directamente violó la primera y segunda Ley al no establecerse a si mismo como robot.

Aplicaciones en la tecnología futura

Los robotistas modernos y especialistas en robótica acuerdan que, al menos hasta el año 2006, las leyes de Asimov son perfectas para narrar historias, pero carentes de uso en la vida real.

Algunos han argumentado que, desde que los militares son los mayores productores de financiación para la investigación robótica, es contradictorio que dichas leyes sean construidas dentro del diseño.

David Langford sugirió, en tono de broma, que esas leyes deberían ser las siguientes:

- Un robot no dañará a personal del Gobierno autorizado pero eliminará a intrusos con un prejuicio extremo.
- Un robot obedecerá las órdenes del personal autorizado excepto cuando dichas órdenes entren en conflicto con la Tercera Ley.
- Un robot protejerá su propia existencia con armas antipersonales, porque un robot es terriblemente costoso.









Fuentes:
- Traducción propia de: http://en.wikipedia.org/wiki/Three_Laws_of_Robotics
- http://es.wikipedia.org/wiki/Tres_leyes_de_la_rob%C3%B3tica
- http://www.ciencia-ficcion.com/glosario/l/leyelar.htm
- http://www.neoteo.com/nuevas-leyes-de-la-robotica.neo
- http://www.quintadimension.com/article300.html