¿Se han explorado suficientemente los errores en los robots en ciencia ficción?

Advertencia: spoilers para 2001: una odisea del espacio a continuación.

En una interpretación común de 2001 , el comportamiento de HAL se explica por un error de conflicto. Por un lado, su trabajo es analizar e informar todos los datos importantes (preservación de la tripulación). Por otro lado, se le ordena mantener en secreto el propósito del viaje (preservación de la misión).

A lo largo de la película, la exclusividad mutua de estos dos comandos comienza a afectar a HAL, descrita en la novela como “un conflicto que destruye su integridad”. Él termina errando al lado de preservar el secreto, intentando matar a la tripulación, eliminando así la posibilidad de que descubran algo. “Esta misión es demasiado importante para que te permita ponerla en peligro”, dice.

Por supuesto, matarlos significa que la misión no se puede completar. Claramente una falla: la supervivencia de la tripulación debería haber superado el secreto de la misión, ya que Dave demuestra ser capaz de completar el viaje sin la ayuda de HAL.

Es menos cortante y seco en la película que en la novela, y los fanáticos de la película tienden a considerar los contenidos de la novela como no canónicos. Las explicaciones alternativas incluyen la capacidad emocional que conduce a la vergüenza por un error genuino, o que la sensibilidad significaba que HAL estaba principalmente preocupado por la autoconservación, o tal vez la arrogancia lo llevó a creer que podía completar la misión por sí mismo. Hay un montón de otras explicaciones más locas / menos creíbles (por ejemplo, el monolito lo reprogramó).

No estoy seguro exactamente dónde aterrizo, pero estoy bastante seguro de que HAL no pretende ser verdaderamente sensible y es más exactamente una extensión de la humanidad (no separada de ella). Explica su error inicial como solo “atribuible al error humano”, realmente sacando provecho de la ironía de que, por supuesto, fue programado por un humano. Todo sobre él es atribuible a los humanos. El famoso corte de hueso al barco lo dice todo: HAL es la herramienta del hombre.

La misión termina siendo un éxito, así que dudo que el programador responsable haya descubierto el miserable error que cometieron. Francamente, me sorprende que el error no apareciera en las simulaciones, ya que fueron las propias comunicaciones de HAL las que causaron las sospechas de la tripulación, no algo que descubrieron de forma independiente. Un departamento de control de calidad malo en los laboratorios de Urbana, supongo.

Editar: Ha pasado mucho tiempo desde que vi la película, pero ahora se me ocurre que una forma de leer el comportamiento de HAL es que comprende el propósito de la misión y sus habilidades predictivas (se ha demostrado que es un ajedrez experto jugador), llévalo a descubrir que la evolución de Dave concluirá con la humanidad tal como la conocemos. Su orden de preservar a la humanidad, entonces, en realidad podría llevarlo a evitar la finalización de la misión, no al revés. Whoa, necesito ir a la cama.

La historia de Isaac Asimov “¡Mentiroso!” es parte del ciclo de historia I, Robot . Tiene que ver con un robot que a través de algún tipo de error ha desarrollado poderes de lectura de la mente y el caos que causa, especialmente sobre la vida emocional de la Dra. Susan Calvin. Yo, Robot, siempre he sido uno de mis libros favoritos, y “¡Mentiroso!” es una historia que me ha acompañado durante más de 40 años desde que la leí por primera vez en la escuela secundaria.

Puedo pensar en uno, enseguida.

Mass Effect 2 incluye una referencia de error interesante. (Spoiler leve)

En Mass Effect 2, un grupo de máquinas llamadas Geth son una raza importante. Comenzaron como robots, pero se han vuelto conscientes de sí mismos y autodirigidos. Dentro del Geth hay un cisma causado por un error. Un grupo de Geth ha sido infectado con un virus que causa un pequeño error en matemáticas (que recuerda el error de la división Pentium -http: //en.wikipedia.org/wiki/Pen…). Debido a que el error matemático afecta a algunos, pero no a todos, los Geth se han dividido en dos grupos con objetivos muy diferentes.

En última instancia, esto solo sirve para la trama de la historia. El problema con los errores mundanos, como los que estás buscando, es que tienden a desarrollar los personajes en lugar de conducir la trama, por lo que se pueden perder la memoria.