Lo he dicho varias veces, soy un lector muy asiduo de ciencia ficción desde hace más de 40 años. Entre mis primeras lecturas del género descubrí a Isaac Asimov cuya narrativa me acompañaría por muchos años.
Visto en retrospectiva, me sigue impresionando, y mucho, la temática que manejó el autor en una época en que ni siquiera los satélites artificiales se habían inventado. Fue capaz de realizar análisis sobre la posibilidad de ciertas tecnologías y de cómo estas podrían afectar a la humanidad.
Uno de los temas recurrentes es el de los robots que, en cierta manera, el autor mezcla con la inteligencia artificial: Los androides en el universo asimoviano son seres perfectamente independientes con una Inteligencia Artificial (un cerebro positrónico) muy desarrollada que les permite realizar actividades de todo tipo.
Digamos, el sueño húmedo de Elon Musk.
Asimov, al explorar la posibilidad de que la humanidad pueda crear una inteligencia artificial con conciencia propia, analiza temas fundamentales como la responsabilidad de crear seres autoconscientes, la ética detrás de la forma de utilizarlos y, por supuesto, la psicología del ser “artificial” que siente curiosidad por su propio origen y existencia, que enfrenta a sus creadores y a una sociedad que los mira con miedo.
Sin duda, un tema que hoy tiene muchas resonancias.
Un relato que aparece en la recopilación de “Yo, robot” (muy mal llevada al cine con Will Smith) de nombre “Razón” es uno de los que me gustaría revisar.
El argumento va así:
La humanidad ha colocado estaciones espaciales en las que se genera energía y esta es enviada a la Tierra en forma de un rayo que debe mantener una dirección muy precisa a un receptor en la superficie. Cuenta con tanta energía que, si se desvía, podría causar muerte y destrucción.
Los dos protagonistas de la historia son enviados a la base para armar y programar un robot de nueva generación que se hará cargo del mantenimiento del rayo y que tendrá a sus órdenes a un grupo de robots menos avanzados para las tareas a bordo.
Luego de ser encendido el robot, que se llama “Cutie” (QT-1), los programadores descubren que están ante un caso único ya que se muestra sumamente inquisitivo para llegar a una conclusión excepcional:
–Yo, por mi parte, existo porque pienso– les expresa a los dos humanos quienes se sorprenden al descubrir que tienen un “Robot Descartes”
Con el paso de los días Cutie desarrolla su propia teoría del universo: Todo lo que se ve en el exterior es mero adorno y no tiene ningún objetivo; los humanos no tienen ninguna función visible o útil y están “condenados” a desaparecer tan pronto abandonan la estación. Son seres inferiores debido a su fragilidad.
La estación es un universo completo y cerrado donde la máxima autoridad es el rayo de energía al que todo mundo adora y sirve. Es dios. Cutie no tarda nada en transformarse en una especie de profeta para evangelizar y convencer al resto de los robots de su mensaje divino.
Para complicar las cosas, una tormenta cósmica –que podría alterar la dirección del rayo– comienza a aproximarse. Los dos humanos entran en pánico y tratan en vano de relevar a Cutie. El problema es que el robot ya ha tomado el control de la estación y es imposible vencerlo en el plano físico.
Llega la tormenta y, para sorpresa de todos, el robot mantiene la alineación del rayo mucho mejor que si lo hubieran hecho los propios humanos. La estación espacial funciona a la perfección.
Los dos hombres se dan cuenta de que el reinado religioso de Cutie es algo positivo ya que su afán de “complacer” al dios del rayo, hará todo lo necesario para cumplir con las directivas. Es su única misión.
En el remate del cuento los dos protagonistas comienzan a planear la manera de replicar el modelo mesiánico de Cutie en las demás estaciones.
–
Por supuesto que es imposible aplicar un cuento escrito en la década de los cuarenta a la realidad a la que enfrenta hoy el desarrollo de la IA.
Sin embargo, el gran acierto de Asimov ha sido el de comprender que una inteligencia artificial avanzada no necesariamente pensará de la misma forma que los seres humanos.
Lo interesante del relato radica en que el par de encargados aplica la solución más pragmática y, sin importar las motivaciones del robot, se conforman con el resultado que, para sus objetivos, se ajusta a la perfección.
Lo más seguro es que nunca veamos una IA con la capacidad de crear su propia religión, pero ¿hasta qué punto las grandes empresas estarían dispuestas a dejar pasar errores y alucinaciones por parte de sus modelos con tal de que cumplan con sus objetivos?
Tal vez la amenaza de la IA no sea una rebelión tipo Terminator. Más bien la verdadera amenaza sea la de alcanzar una competencia extraordinaria mientras construyen explicaciones del mundo incomprensibles para nosotros, los seres humanos.
Cuando eso ocurra, la gran tentación no será apagarlas, sino aceptarlas y promover aún más su uso, ya que producen mejores resultados que nosotros.
Esa es precisamente la pregunta que empieza a plantearse la industria de la IA: si una máquina obtiene siempre la respuesta correcta, ¿cuánto tiempo seguiremos exigiendo entender cómo llegó a ella?
About the Author
