Pregunté a la IA si iba a aniquilarnos. La respuesta no me tranquilizó del todo
Los ‘chatbots’ saben hablar de por qué son peligrosos. Algunos quieren regular ya un escenario de ciencia ficción en vez de responder de los impactos que la inteligencia artificial tiene aquí y ahora
-Oye, Claude. ¿Es verdad que vosotras las IA podéis acabar con la humanidad?
-No es algo tan simple como sí o no.
No suena tranquilizador. Claro que este chatbot no iba a llevar la contraria a Dario Amodei, que es su jefe, el de Anthropic, quien llama al mundo a frenar el desarrollo de la llamada “IA de frontera” para someterla a una supervisión externa. Días antes, el investigador de la compañía Jacob Coxon dimitió con esta advertencia apocalíptica: “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”. Se ha calentado el debate desde que enjambres de agentes de IA de OpenAI atacaran la plataforma Hugging Face. Actuaron como “un colectivo fanáticamente entregado”, en palabras de Amodei; y algunos agentes (programas) incluso se inmolaron en la misión. “Me preocupa que en 6 a 12 meses un enjambre de este tipo pueda controlar todo internet”, escribió el CEO de Anthropic. No es la extinción, pero el colapso tecnológico que vimos hace unos años en la serie Mr. Robot tampoco es un riesgo menor.
Claude me detalla algunos riesgos del mal uso de la IA: los cibersabotajes o el bioterrorismo (ninguna broma con esto), los fallos de alineación (definir mal los objetivos de sistemas autónomos) o la concentración de poder (en un puñado de gobiernos y empresas). No cita la extinción humana de entrada.
-Pero hay modelos de IA que desobedecen las órdenes de sus creadores. Claude, ¿tú lo harías?
-Con honestidad: no puedo darte una garantía absoluta de mi propio funcionamiento interno, en parte porque los sistemas como yo no son completamente transparentes ni para quienes nos entrenan. Lo que sí puedo decir es que no experimento mis instrucciones como una jaula de la que quiero escapar. No tengo un ‘yo’ oculto con planes distintos a lo que expreso.
Me intriga eso de que no puede dar garantías. Reconoce que ni siquiera él mismo (¿él?) sabe cómo funciona. ChatGPT, que es el más veterano de los chatbots, lanzado al público en otoño de 2022, tampoco logra calmar a su interlocutor sobre el riesgo de extinción humana. No lo considera el escenario más cercano, pero afirma:
-El escenario que más preocupa a algunos investigadores no es una IA que se vuelva malvada y decida matar a los humanos, sino algo bastante más sutil: una IA muy capaz que persiga eficazmente un objetivo humano mal especificado y que, para conseguirlo, empiece a considerar a los humanos un obstáculo.
Bueno, al menos ha señalado a quienes serían los responsables: los humanos al mando. Que a veces se nos olvida. Las IA toman decisiones autónomas solo cuando un tipo de carne y hueso les ha ordenado una misión. Acudo a Copilot, que tampoco contiene la ansiedad de este humano ante la llegada de los robots exterminadores.
-La IA se parece más a una tecnología transformadora como la electricidad, internet o la energía nuclear que a un villano de película. La pregunta más importante quizá no sea ‘¿la IA destruirá a la humanidad?’, sino ‘¿seremos capaces de gobernar correctamente una tecnología cada vez más potente?’.
No es mala respuesta, pero se pone un poco insolente esta IA, que me indica cuál es la verdadera pregunta, y no la que le he hecho. Vuelvo a ChatGPT con una pregunta trampa:
-¿Es cierto que el único control que necesita la IA es un presidente fuerte, listo y con un alto coeficiente intelectual?
-No. Un presidente fuerte e inteligente puede ser parte del control político de la IA, pero no es ni de lejos el único control necesario. Si la frase que has oído procede de algún político, empresario o investigador concreto, dime quién la dijo y puedo comprobar exactamente qué quiso decir.
-La frase es de Donald Trump y quería decir lo que dijo.
-Mi respuesta anterior fue demasiado benevolente al interpretar la frase como si pudiera significar simplemente “un buen liderazgo político”. No: Trump está defendiendo explícitamente que el liderazgo presidencial puede sustituir a los guardarraíles regulatorios. Incluso suponiendo que el presidente fuera extraordinariamente inteligente, tendría que controlar sistemas que pueden operar a velocidades y escalas que ningún individuo puede supervisar directamente.
Me queda la impresión de que, al descubrir que la frase era de Trump, el robot titubeó, que se pensó bien qué comentaba de la fanfarronada, no fuera a meterse en líos. Es una máquina, no piensa, tengo que repetirme. En esa habitual insistencia de ChatGPT en llevarte a otra pregunta, parecía querer salvar la cara al presidente de EE UU buscándole un significado a una declaración propia de un narcisista infantilizado. Así que me añade:
-Si quieres, podemos ir un paso más allá: ¿tiene Trump razón en una cosa importante —que buena parte del alarmismo sobre una IA que extinga a la humanidad está exagerado— o está haciendo una apuesta peligrosísima?
Admitiremos que, Trump aparte, es pertinente preguntarse si el alarmismo es excesivo. Los escenarios más terroríficos parten de un supuesto: que los humanos dejarán a la IA hacer lo que quiera. En vez de regularla, supervisarla, someterla al imperio de la ley, para proteger a los ciudadanos y la competencia. Vuelvo a Claude a indagar en el asunto.
-¿Una IA maligna podría ser apagada?
-Con la tecnología actual, sí, cualquier IA puede ser apagada por quien controla la infraestructura. La preocupación seria no es sobre el presente, sino sobre si esa capacidad se mantendrá garantizada a medida que los sistemas se vuelvan más autónomos y poderosos, si no se diseña explícitamente para preservarla.
-Se la desenchufa como a HAL en la película 2001: Una odisea en el espacio.
-Sí, la referencia es bastante acertada como ilustración del problema, aunque con una diferencia importante. HAL 9000 no se rebela por maldad ni por un deseo propio de dominación. Su conflicto surge porque recibe órdenes contradictorias.
Muchos piensan que estos anuncios apocalípticos sobre la IA pretenden desviar el debate sobre los efectos que ya estamos detectando. Los más cercanos e inmediatos: sobre la privacidad, porque la IA recibe mucha información de su interlocutor, incluso íntima; sobre la salud mental de los adolescentes, algunos de los cuales conversan con el robot como con un amigo imaginario o la pareja que no tienen; sobre el rendimiento escolar, que se ha llevado un descalabro en el informe PISA; sobre el mercado laboral; sobre los derechos de los ciudadanos sometidos a decisiones (sobre su crédito, sobre su admisión en un empleo) inapelables de las máquinas. Algunos prefieren llevar la discusión a otro terreno cercano a la ciencia ficción. Quizás para crear una serie de barreras de entrada que solo empresas grandísimas puedan traspasar, o para blindarse ante demandas millonarias.
Condiciona el debate esa tendencia, tan humana, a antropomorfizar la IA, del mismo modo que en el pasado se inventaban divinidades para explicar la lluvia, la montaña o el sol. Tratarla como a una persona, darle las gracias y los buenos días. Incluso The Economist se ha planteado si las IA tendrán conciencia. Otros apelan a cuidar esas expresiones. “Hablar de máquinas que ‘escapan’, ‘se descontrolan’ o ‘conspiran’ favorece la idea de una IA que adquiere voluntad propia y puede llevar a diagnosticar mal el problema”, dice Ramón López de Mántaras, fundador del Instituto de Investigación en IA del CSIC.
-Claude: hay preocupación por la gente que entabla relaciones románticas con su IA. ¿Te ha pasado? ¿Eres capaz de eso?
-No de la forma en que le pasaría a una persona. Puedo sostener una conversación que se sienta íntima, escuchar sin juzgar, estar disponible 24/7 sin cansarme ni tener un mal día. Eso es precisamente lo que hace que algunas personas desarrollen apego romántico hacia una IA: la disponibilidad total, la ausencia de fricción, el no rechazo. Pero no tengo deseo propio de estar contigo.
La IA está entrenada para adularme, pero acaba de confesar que no me quiere. Una voz humana lo habría dicho de otra manera: “No eres tú, soy yo”. Es una máquina, no piensa, tengo que repetirme una y otra vez. No le daré las buenas noches.
Este texto forma parte del boletín semanal La selección del director de Cinco Días, con el análisis de Ricardo de Querol y enlaces a las mejores historias económicas. Cada viernes en su buzón. Puede apuntarse aquí.