En una ominosa advertencia esta semana, conocidos investigadores enumeraron una serie de "escenarios de desastre" de la IA que, según ellos, podrían poner en peligro a la humanidad. Uno de estos escenarios tenía que ver con el argumento de una importante película de cine.
Dos de los tres "padrinos de la IA" antes mencionados se muestran preocupados, pero el tercero no podría estar más en contra, afirmando que tales "profecías catastrofistas" son un disparate.
En un intento de darle sentido, un presentador de televisión británico dijo: "Como alguien que no tiene experiencia en esto... Pienso en Terminator, pienso en Skynet, pienso en películas que he visto". Esto lo dijo uno de los investigadores que advirtió de una amenaza existencial. "
No está solo. WALL-E, de Pixar, fue utilizada como ejemplo de los peligros de la IA por los organizadores de la declaración de alerta, el Centro para la Seguridad de la IA (CAIS).
La ciencia ficción siempre ha sido un medio para especular sobre el futuro.
¿Tienen los éxitos de taquilla de Hollywood algo que enseñarnos sobre el inminente fin de la IA, utilizando ejemplos de la lista de amenazas potenciales del CAIS?
Mini Informe y Wall-E.
"El debilitamiento", según el CAIS, se produce cuando la humanidad "se vuelve completamente dependiente de las máquinas, de forma similar al escenario descrito en la película WALL-E".
Si necesita que le refresquemos la memoria, en esa película las personas eran básicamente animales perezosos y felices que apenas podían valerse por sí mismos. Los robots se encargaban de todo por ellos.
Es una conjetura suponer si esto es factible para toda nuestra especie.
Sin embargo, hay un tipo de dependencia más perniciosa y más cercana. La autora de Technology Is Not Neutral, Stephanie Hare, investigadora sobre ética de la IA, afirma que se trata de la transferencia de poder a una tecnología que quizá no comprendamos del todo.
En la imagen que encabeza este artículo, me viene a la mente Minority Report. Como los sistemas diseñados para predecir el crimen están seguros de que el respetado agente de policía John Anderton (interpretado por Tom Cruise) cometerá un delito, le acusan de ello.
La policía metropolitana de Londres utiliza la policía predictiva, según la Sra. Hare.
Tom Cruise interpreta en la película a un personaje cuya vida es destruida por un sistema "incuestionable" que no comprende del todo.
¿Qué ocurre entonces cuando la IA rechaza "una decisión que cambia la vida" tomada por una persona, como aprobar su hipoteca o concederle la libertad condicional de la cárcel?
Una persona podría explicarle hoy por qué no cumple los requisitos. Sin embargo, muchos sistemas de IA son opacos y, con frecuencia, ni siquiera los investigadores que los crearon son capaces de comprender del todo el razonamiento que hay detrás de sus decisiones.
"Simplemente introducimos los datos en el ordenador y éste actúa". Según la Sra. Hare, el resultado se produce después de que se produzca la magia.
Es discutible que la tecnología deba utilizarse alguna vez en situaciones cruciales como el cumplimiento de la ley, la asistencia sanitaria o incluso la guerra, dice, aunque pueda ser eficaz. No es aceptable si no son capaces de explicarlo. "
Un Terminator
En las películas de Terminator, Skynet, una IA creada para defender y proteger a la humanidad, en lugar del robot asesino interpretado por Arnold Schwarzenegger, es el verdadero antagonista. Como suele ocurrir en las películas, superó su programación y decidió que la humanidad representaba la mayor amenaza de todas.
Naturalmente, Skynet está muy lejos de nosotros. Algunos, sin embargo, creen que con el tiempo crearemos una inteligencia general artificial (AGI) que será capaz de realizar todas las tareas que pueden realizar los humanos, pero de forma más eficiente, y puede que incluso tenga conciencia de sí misma.
Es algo poco realista, según Nathan Benaich, fundador de la empresa de inversión en IA Air Street Capital en Londres.
La ciencia ficción suele revelar más sobre sus autores y nuestra cultura que sobre la tecnología, afirma el autor, que añade que las predicciones de futuro rara vez se hacen realidad.
"A principios del siglo XX, la gente imaginaba un mundo con coches voladores y teléfonos normales, mientras que hoy viajamos de manera similar pero nos comunicamos de forma muy distinta. "
La tecnología que utilizamos actualmente va camino de parecerse más al ordenador de a bordo de Skynet que a cualquier otra cosa. Podrías decirle a nuestra IA de hoy en día: "Ordenador, muéstrame una lista de todos los miembros de la tripulación", y te proporcionaría la lista y respondería a preguntas sobre ella en lenguaje cotidiano.
Sin embargo, era incapaz de disparar los torpedos o reemplazar a la tripulación.
Las preocupaciones sobre el armamentismo giran en torno a la integración de la inteligencia artificial (IA) en el hardware militar, algo que ya está previsto, y a si podemos confiar en la tecnología en situaciones de vida o muerte.
La posibilidad de que una IA creada para producir medicamentos pueda desarrollar nuevas armas químicas u otros peligros similares es otra de las preocupaciones planteadas por los críticos.
Odisea del espacio de 2001.
Otro tropo cinematográfico frecuente es la idea de que la IA está equivocada en lugar de ser malvada.
En 2001: Una odisea del espacio, de Stanley Kubrick, conocemos a HAL-9000, un superordenador que gestiona la mayoría de las operaciones de la nave Discovery y ayuda en la vida de los astronautas hasta que se avería.
Los astronautas deciden desactivar a HAL y tomar el control de la situación. La misión, sin embargo, se pone en peligro, según HAL, que es más inteligente que los astronautas. Los astronautas son un estorbo. HAL engaña a los astronautas, y la mayoría de ellos perecen.
Se podría argumentar que HAL está llevando a cabo sus instrucciones, manteniendo la misión, a diferencia de un Skynet autoconsciente, sólo que no de la manera que se había previsto.
La terminología moderna de IA se refiere a los sistemas de IA que se comportan mal como "desalineados". Sus objetivos parecen estar en desacuerdo con los objetivos humanos.
A veces esto se debe a instrucciones poco claras, y otras veces se debe a que la IA es capaz de encontrar una solución.
Una IA podría decidir que cambiar el documento de texto por una solución más sencilla es la mejor forma de actuar si, por ejemplo, la tarea es "asegurarse de que su respuesta y este documento de texto coinciden". Aunque técnicamente es correcto, no es lo que pretendía el humano.
Así, aunque 2001: Una odisea del espacio está muy lejos de la realidad, pone de relieve un problema con los sistemas modernos de IA que es muy real.
En Matrix
En Matrix (1999), Morfeo le pregunta a un joven Keanu Reeves: "¿Cómo distinguirías el mundo de los sueños del mundo real?"
La narración, que se centra en cómo la mayoría de la gente vive su vida sin darse cuenta de que su realidad es una fabricación digital, sirve como útil metáfora del actual auge de la información falsa generada por la IA.
Según la Sra. Hare, Matrix es un buen punto de partida para las "conversaciones sobre desinformación, desinformación y deepfakes" con sus clientes. Oh, Dios mío, ¿qué significa esto para los derechos civiles y como la literatura humana o las libertades civiles y los derechos humanos? ¿Qué significaría esto para la manipulación del mercado de valores?
Enormes cantidades de cultura que parecen auténticas pero que pueden ser completamente falsas o inventadas ya están siendo producidas por ChatGPT y generadores de imágenes.
Además, hay un lado mucho más oscuro, como la producción de pornografía deepfake dañina que es muy difícil de resistir para las víctimas.
Actualmente no hay nada que podamos hacer para salvaguardar a alguien si esto me ocurre a mí o a alguien que me importa, afirma la Sra. Hare.
Lo que podría ocurrir en realidad.
¿Qué opina de la advertencia de los principales expertos en IA de que ésta es tan peligrosa como una guerra nuclear?
La Sra. Hare afirma: "Me pareció realmente irresponsable". "Dejen de construirla si de verdad creen eso, si de verdad creen eso. ".
Afirma que es más probable que un accidente sea la causa de nuestra preocupación que los robots asesinos.
La alta seguridad estará presente en la banca. Serán extremadamente cautelosos con las armas. Para ganar algo de dinero rápido o demostrar su poder, los atacantes podrían liberar [una IA] antes de descubrir que no tienen control sobre ella, según el experto.
Sólo hay que multiplicar por mil millones todos los problemas de ciberseguridad con los que nos hemos encontrado porque ocurrirán más rápidamente. ".
Nathan Benaich, de Air Street Capital, se muestra cauteloso a la hora de especular sobre posibles problemas.
"Creo que la IA cambiará de forma fundamental una serie de sectores, pero debemos ser extremadamente cautelosos a la hora de precipitarnos a la hora de tomar decisiones basadas en historias febriles e improbables en las que se asumen grandes saltos sin tener una idea de lo que supondrá el puente", advierte.
