Jake Moffatt se encontraba en una situación muy mala. Su abuela había muerto y él, residente de Vancouver, quería viajar a Toronto para participar en las exequias. Para ello entró en el sitio web de Air Canada donde fue atendido por un chatbot gestionado por una Inteligencia Artificial (IA).
Moffatt preguntó si era posible obtener un descuento de “vuelo por fallecimiento”, una política que algunas empresas aéreas practican para apoyar a personas en este tipo de situaciones.
El chatbot dijo que sí contaban con el programa y que, por lo pronto, pagara el boleto completo y que más tarde la empresa le devolvería el descuento. Moffatt pagó su vuelo (unos $1,300 USD) y viajó a Toronto.
La pesadilla comenzó cuando solicitó su reembolso. Ejecutivos de la empresa alegaron que estos descuentos se hacían al momento del pago y nuca después de este. El cliente argumentó que el propio chatbot fue quien le informó de lo contrario.
Fue en ese momento en que Air Canada tomó una de las decisiones más surrealistas de la historia: Afirmó que esos dichos no eran responsabilidad de la aerolínea, sino del chatbot: “el chatbot es una entidad independiente de Air Canada responsable de sus propios actos”.
La culpable era la Inteligencia Artificial.
Afortunadamente para Moffatt en el país que vive la ley sirve para defender a la gente de a pie frente a los corporativos. Luego de la obligada demanda, el juez determinó que la responsabilidad era de Air Canada y que la empresa debía reembolsar la cantidad prometida.
Es aquí donde surge la pregunta: ¿Hasta dónde llega la responsabilidad de desarrolladores, empresas e individuos ante los actos de una IA?
Los agentes de IA no son independientes, no son “malvados” y no tienen agenda propia. Su función consiste en realizar la tarea que les han solicitado y utilizarán todos los medios a su alcance para lograrlo. Una IA solo será tan benigna o tan dañina como la persona que le puso la tarea.
Nick Bostrom, experto en el tema de la IA, lo acusó en su libro Superintelligence: Paths, Dangers, Strategies: el problema no sería una IA malvada, sino una IA extremadamente competente persiguiendo objetivos mal definidos.
A él le debemos el “Experimento Mental del Maximizador de clips”, el cual aborda a una IA que en su afán de alcanzar sus metas de producción, podría transformar los recursos de la Tierra y del universo completo en clips para papel. A esto se le llama el Problema de Alineación.
Varios académicos y especialistas han refutado el Problema de Alineación; Rodney Brooks (CSAIL del MIT) asevera que la IA carece de la capacidad física real de ejecutar acciones corporales en el mundo sin intervención humana.
Para Stuart Russell de la UC Berkeley, la cuestión es que una consecuencia destructiva supone un acceso ilimitado a los recursos físicos con una inexistente supervisión humana. Por su parte, Yann LeCun (Premio Turing y Científico jefe de IA en Meta) argumenta que una demanda repentina e injustificada de electricidad y de los recursos que requiere una IA, sería la primera alarma sobre una posible IA fuera de control.
Tomando en cuenta estas opiniones, podríamos asegurar que, al día de hoy, un escenario de extinción es imposible en la práctica. Entonces, ¿cuál sería el verdadero problema?
El que la IA no pueda eliminar a la humanidad no la exime de una verdadera capacidad para causar tragedias en el caso de ser mal utilizada:
Por ejemplo: Colapso de sistemas energéticos, errores en la programación de tratamientos médicos o fallos de análisis en los antecedentes de personas.
También podrían ser utilizadas para campañas de desinformación y guerras de operaciones psicológicas (Deepfakes), en ciberataques automatizados y detección de vulnerabilidades en sistemas o en vigilancia masiva y control social.
Y es aquí donde entran a escena los grandes capitalistas, los tech-bros que están haciendo hasta lo imposible para empujar a la IA luego de haber realizado inversiones billonarias en esta.
Si una inteligencia artificial provoca una catástrofe, ¿quiénes serían los responsables?
¿Los algoritmos? ¿Los que utilizaron los algoritmos? ¿Los que decidieron crearlos y desplegarlos sin comprender plenamente sus consecuencias?
Una de las realidades que enfrenta el desarrollo de IA es que en la actualidad se encuentra en medio de una “carrera armamentista” que podría ser la primera causa de una tragedia. La competencia está obligando a estas empresas a presentar cada nueva versión lo más rápido posible y lo más pronto posible.
Al encontrarse sumidos en esta carrera, ¿priorizaron la velocidad de crecimiento sobre la seguridad? ¿Ignoraron advertencias de sus propios investigadores? Luego de enterarse de un problema ¿lo ignoraron o actuaron de forma lenta porque las restricciones podrían afectar sus beneficios?
Algo que es muy claro es que ninguna empresa está intentando activamente crear una IA peligrosa, pero la competencia está generando una política de «Si nosotros no la desarrollamos, lo harán los otros.»
Otro factor a tener en cuenta es el poder económico de estas empresas. Las cinco o seis principales tienen toda la capacidad para manipular gobiernos, medios y mercados.
Imaginemos un caso hipotético: Por causa de un modelo de IA miles de empleos son eliminados de manera repentina. La riqueza que generaban terminará —a fin de cuentas— en las arcas de los propietarios de las diversas plataformas.
¿Hasta qué punto estarían los gobiernos dispuestos a ir en contra de una empresa que cuenta con el poder de desestabilizar la economía?
Los dueños de las empresas no son necesariamente los ejecutores del desastre, pero su necesidad de ganar la carrera podría generarlo. Aunque en Europa la legislación está tratando de mantenerse al ritmo de este acelerado crecimiento, en Estados Unidos ya tienen carta blanca y la competencia de China le mete aún más velocidad.
¿Podremos ver una “autorregulación” por parte de las empresas? ¿Tendremos la capacidad de prevenir una tragedia causada por la IA?
La moneda está en el aire.
About the Author
