Cápsula 8 / Los apocaloptimistas

 

Lo que está hoy en boca de todos es que la IA podría terminar por exterminarnos en un plazo bastante más corto de lo que hasta hace poco presuponíamos. De esto, lo sabemos bien, se viene hablando desde hace décadas, pero ahora nos dicen que ya no se trata únicamente de una fantasía o de un aventurado vaticinio de la ciencia ficción, sino de un riesgo que algunos expertos consideran suficientemente real como para tomárselo en serio.

Entre los famosos bandos tipificados por Umberto Eco, los apocalípticos y los integrados, yo siempre me he considerado de los segundos. La historia nos ha enseñado que los avances de la técnica suelen coincidir con momentos significativos de expansión de la riqueza y el bienestar y con vidas más prolongadas. Pero la técnica tiene sus propias contradicciones, y la IA no constituye ninguna salvedad. El razonamiento según el cual el problema no fue el invento de la pólvora, sino que se nos ocurriera utilizarla también para hacer explotar personas, sigue siendo válido: una parte importante de los riesgos de la IA dependerá de quién la controle, con qué fines y bajo qué reglas.

El problema mayúsculo de nuestro tiempo es que esta vez aparece, además, una dificultad distinta. Los avances técnicos que habíamos conocido hasta ahora eran herramientas cuya capacidad permanecía, en lo fundamental, subordinada a la nuestra. Con la IA comienza a discutirse la posibilidad de construir sistemas capaces de resolver problemas, tomar decisiones o ejecutar acciones con un grado creciente de autonomía y, eventualmente, de superar nuestras capacidades en ámbitos cada vez más amplios. Que eso desemboque o no en una inteligencia que ya no podamos controlar es otra discusión, mucho más incierta, pero es precisamente esa posibilidad la que vuelve distinto este momento.

Incluso para quienes contemplamos con inquietud su desarrollo resulta difícil negar el extraordinario potencial de la IA como aceleradora de muchos progresos humanos en las diversas áreas de la vida en común. Pero tampoco hace falta imaginar una superinteligencia rebelde para advertir su potencial destructivo. Decía el filósofo alemán Markus Gabriel que el problema no era Twitter, sino un Trump con Twitter. Básicamente, el mismo principio puede aplicarse a la IA: antes de preguntarnos qué ocurrirá si algún día las máquinas actúan completamente por su cuenta, convendría preguntarnos qué pueden hacer ya en manos de quienes buscan maximizar ganancias, vigilar poblaciones, concentrar poder o administrar vidas ajenas desde un algoritmo.

Escuchar por estos días las discusiones sobre la posibilidad de que sistemas de IA desarrollen comportamientos no previstos por quienes los diseñaron, y sobre escenarios más extremos en los que una inteligencia artificial pueda escapar de nuestro control, me ha hecho recordar la tesis de James Lovelock en Novaceno. El autor de la hipótesis Gaia imaginaba que con la inteligencia artificial comenzaría a cerrarse el Antropoceno: nuestra especie dejaría de ocupar el lugar de la inteligencia dominante del planeta y se abriría paso otra época, el Novaceno, habitada por superinteligencias que nosotros mismos habríamos construido, pero cuya existencia ya no estaría necesariamente subordinada a nuestros propósitos.

Esta es la idea más perturbadora: no que las máquinas necesariamente decidan exterminarnos, sino que podamos dejar de ser la medida de la inteligencia en un mundo construido por nosotros mismos. Que continuemos aquí, pero convertidos en actores secundarios de una historia que hasta ahora creíamos protagonizar.

Si acaso llegamos a tenerlo, se vislumbra un futuro extraño y por momentos lúgubre para la humanidad. No hay retorno o reversibilidad sobre la IA y sus vaivenes. Me cuestiono entonces si vale la pena continuar en el bando de los integrados, porque hacerlo podría equivaler a terminar dilapidado por ingenuo; pero pasarme definitivamente al de los apocalípticos supondría también renunciar demasiado pronto a todo aquello que la técnica todavía puede hacer por nosotros.

Quizá convenga adoptar otro nombre. Ser apocaloptimistas, como concluyen Daniel Roher y Charlie Tyrell en un nuevo documental estrenado en Netflix: conservar todavía alguna esperanza en la humanidad, aun conociendo sobradamente las razones que existen para desconfiar de ella.