Este honor tiene que ir al libro de James Barrat, Nuestra invención final: inteligencia artificial y el fin de la era humana.
Leyendo más como una hiper extensión del “Brave New World” de Aldous Huxley que como una introducción a una explosión de tecnología, “Nuestra invención final” de James Barrat, nos enfrenta cara a cara con las alarmantes consecuencias potenciales de la Inteligencia Artificial (“AI”) desaparecida sin control. Al contar con materiales recopilados de entrevistas con científicos, pioneros en robótica, directores de tecnología de empresas de inteligencia artificial y asesores técnicos para iniciativas clasificadas del Departamento de Defensa, Barrat fusiona una introducción de pesimismo. Barrat advierte al lector de una muerte inminente y proclama: “Hablé con … tratando de crear inteligencia artificial a nivel humano, que tendrá innumerables aplicaciones y alterará fundamentalmente nuestra existencia (si no la termina primero)”. .
James Barrat es el anatema del optimismo de un Ray Kurzweil. Pero como se desprende de una lectura de su libro, las afirmaciones hechas por él no son trozos no corroborados de tonterías nobles ni el producto de una imaginación extravagante que es el resultado de las divagaciones de un profeta de la fatalidad. Los defensores de la IA que están convencidos de que la humanidad está a punto de experimentar la “Singularidad” (una etapa en la que la IA trascenderá de la etapa de Inteligencia Artificial General (inteligencia humana coincidente) a Super Inteligencia Artificial (trascendiendo la inteligencia humana en múltiples grados)) Barrat un dolor de cabeza a perpetuidad. Tirando de todos los golpes posibles, Barrat se esfuerza por analizar el hecho de que ASI, en lugar de ser la encarnación de una aglomeración de nociones sensibles, será un monstruo de inteligencia intrigante, siniestro y quirúrgico que tiene el potencial y la inclinación para borrar a la humanidad de la faz de Planeta Tierra. La fuerza de la autoperpetuación incorporada en una máquina con ASI estará en condiciones de “reutilizar las moléculas del mundo utilizando la nanotecnología”, lo que conducirá a la “ecofagia”: comer el medio ambiente. “A pesar de todo, el ASI no tendría mala voluntad hacia los humanos ni amor. No sentiría nostalgia ya que nuestras moléculas fueron dolorosamente reutilizadas ”. Esta probabilidad clínica y desapasionada de destrucción impersonal envía un escalofriante escalofrío por la columna vertebral del lector.
Si bien se deja a Barrat reflexionar sobre la crisis existencial que es una consecuencia directa de las crecientes mejoras en la IA, el progreso en este dominio continúa a un ritmo vertiginoso. Barrat da ejemplos de organizaciones como Google, Cycorp, Novamente, Numenta, Self Aware Systems, Vicarious Systems y DARPA (Defense Advanced Research Projects Agency), sin mencionar toda una serie de compañías ocultas con fondos encubiertos que son optimistas sobre el logro de la inteligencia a nivel humano. dentro de poco más de una década.
- ¿Qué importancia tienen los antecedentes de autor al escribir libros de no ficción como negocios y académicos?
- ¿Cuál es la mejor manera de encontrar un agente para mi libro de no ficción?
- ¿Cuáles son los mejores libros de no ficción para leer en inglés?
- ¿Cuál es tu libro de no ficción favorito? ¿Por qué?
- ¿Cuáles son algunos que deben leer libros de no ficción de todos los tiempos?
En el núcleo y el quid de la explosión de inteligencia de una IA se encuentran cuatro impulsos primordiales en palabras de Barrat: eficiencia; autoconservación; Adquisición de recursos y creatividad. Estas son las cuatro unidades principales y críticas que aseguran que la IA alcance sus objetivos y conserve su existencia. “La IA retrocede en estas unidades, porque sin ellas se equivocaría de un error de pérdida de recursos a otro”. Para cumplir con estos impulsos básicos, una IA o un ASI cuya inteligencia será exponencialmente más aguda y mayor que la del ser humano más inteligente en la tierra, no se detendrá ante nada, incluidos los actos de aniquilación. Los pioneros de la IA y la robótica, mientras eligen jugar sordos a apasionados súplicas de escépticos y prefieren echar la vista gorda a los peligros que conlleva la IA, apuntalan su fe en las tres leyes de la robótica inmortalizadas por el escritor de ciencia ficción Issac Asimov. Las tres leyes de Asimov establecen:
• Un robot no puede herir a un ser humano o, por inacción, permitir que un ser humano venga a
daño;
• Un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando tales órdenes entren en conflicto.
con la primera ley; y
• Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con
Primera o segunda ley.
Pero como Barrat señala conmovedoramente a menos que una IA esté programada con una noción general de amistad y conserve la misma en el momento de su explosión inteligente de AGI a ASI, estas leyes siguen siendo exactamente lo que son: una brillante mezcla de ficción estupenda. Además, un ASI que es infinitamente más inteligente que un ser humano no tendrá reservas mientras se transfigura en una máquina manipuladora de muerte y destrucción.
Empleando IA para mostrar su poder para ganar juegos de ajedrez contra campeones mundiales o para mostrar un nivel de destreza hasta ahora inimaginable para ganar concursos en ‘Jeopardy!’ está muy lejos de esperar que ASI juegue a Dios. El Dios en la Máquina que emergería en el otro extremo del espectro de inteligencia podría ser terriblemente indistinguible de un Fantasma impredecible en la Máquina. La humanidad podría encontrarse involuntariamente en el proverbial control de una negociación faustiana.
Ray Kurzweil, posiblemente uno de los padres fundadores de la IA y el indiscutible doyen de su dominio, desarrolló su Ley de Rendimientos Acelerados (“LOAR”) para describir la evolución de cualquier proceso en el que evolucionan los patrones de información. Se espera que el LOAR de Kurzweil traiga múltiples retornos después de su aplicación a la IA, incluida, sí, lo has leído bien, la inmortalidad. Sin embargo, autores como Jaron Lanier de “No eres un gadget” prefieren una visión más tranquila y aleccionadora. La fama de un manifiesto. Él y psiquiatras como Elias Aboujaoude advierten sobre el debilitamiento del carácter y la individualidad que son el resultado directo de una inmersión en la tecnología.
Sin embargo, una cita paradójica, del atroz Kurzweil mismo, con la que Barrat elige abrir el último capítulo de su libro antes de cerrar la tapa sobre AI tiene la última palabra:
“Las máquinas seguirán un camino que refleja la evolución de los humanos. En última instancia, sin embargo, las máquinas conscientes de sí mismas y de superación personal evolucionarán más allá de la capacidad de los humanos para controlarlas o incluso comprenderlas ”.
Mientras tanto, nosotros, como habitantes del único Planeta que tenemos el privilegio de llamar hogar, solo podemos esperar y creer que en el futuro cercano, no estamos reducidos a ser seres experimentales indefensos y desventurados ajenos al baile macabro que es la reserva de un tortuoso laboratorio trabajado por AI, AGI, ASI o cualquier otro acrónimo que se expanda para significar la llegada de la fatalidad.
