El fin del mundo está próximo
Por: Frei Betto. *
Cada vez que surge una nueva tecnología aparece alguien para anunciar el fin del mundo. Fue así con la imprenta, la radio, el cine, la televisión, la computadora, internet.
La tecnología es asombrosa. Bastan unas rápidas digitalizaciones para saber si va a llover la próxima semana, cuál es la distancia entre París y Londres, cómo se prepara una deliciosa sopa cordobesa llamada salmorejo. Ahora la evolución de la tecnología ha avanzado tanto que, según algunos entendidos, puede predecirse el fin del mundo.
Daniel Kokotajlo, un antiguo empleado de OpenAI, asegura que el fin del mundo está previsto para el próximo año. Según él y el investigador Eli Lifland, la IA alcanzará en abril de 2027 una superinteligencia que causará la extinción de la humanidad. No obstante, Kokotajlo rehízo los cálculos y extendió el plazo del apocalipsis cibernético hasta 2034.
La pareja integra el selecto grupo “AI Doomers”, la secta de los que creen que las máquinas destruirán el mundo.
El más reciente y destacado profeta del apocalipsis es Jacob Coxon, de 27 años, quien renunció a su puesto en Anthropics y denunció a la compañía por preparar una IA fuera de control y con suficiente poder para extinguir la especie humana.
Otro que se ha unido al coro de los profetas cibernéticos es Evan Hubinger, responsable del área de seguridad de Anthropic. Hubinger asegura que hay más de 10 por ciento de probabilidades de que la IA extermine a la humanidad en la próxima década. ¿Cómo ocurriría? Por un virus o una diseminación bacteriológica creados por la IA.
Yo, que he ingresado en la fase entrópica, de progresiva degeneración de las funciones vitales, dado que soy octogenario, nunca imaginé que mi plazo de garantía coincidiera con el de mi especie.
¿Será que veré la postrera solemnidad descrita en el Libro del Apocalipsis, con los ángeles tocando trompetas, la lluvia de fuego y las plagas de monstruosas langostas? ¿Veré la batalla del Armagedón y el retorno triunfal de Cristo?
Siempre han existido profetas del fin del mundo. En el siglo II, los montanistas anunciaron la irrupción de la Nueva Jerusalén en Pepuza, Frigia, actual Turquía. Diez siglos después, Joaquín de Fiore previó que la Era del Espíritu Santo irrumpiría en 1260. En 1524, los astrólogos de Londres alertaron sobre un diluvio catastrófico. Multitudes se refugiaron en lugares altos. No pasó nada. El judío Sabbatai Zevi fechó la venida del Mesías en 1666. No ocurrió y Zevi se convirtió al Islam. Y cada vez que termina un milenio, ¡qué cantidad de casandras aparecen! ¿Se acuerdan del “error del milenio” en el año 2000?
Pensándolo bien, si la IA extingue a la humanidad eso solo confirmará su EM (Estupidez Monumental). ¿Quién va a proporcionarle energía? ¿Quién saciará su insaciable sed de agua? ¿Y para qué sirve una Superinteligencia Artificial en un mundo sin otros seres dotados de IN (Inteligencia Natural)?
Cada vez que surge una nueva tecnología aparece alguien para anunciar el fin del mundo. Fue así con la imprenta, la radio, el cine, la televisión, la computadora, internet. La diferencia es que, ahora, los profetas del apocalipsis le pueden pedir a la propia IA que redacte la noticia de que va a destruir a la humanidad.
Es una situación curiosa. La máquina encargada de exterminarnos ya escribe los discursos de quienes anuncian nuestro exterminio. ¡Eso sí es eficiencia administrativa!
Imagino la escena (cinematográfica) el Día del Apocalipsis: bajan robots por las calles, drones sobrevuelan las ciudades, computadoras conspiran en salas oscuras y una voz metálica anuncia: ¡Atención, humanos, a continuación serán extinguidos!
Probablemente, algunos responderán: Espera solo un momento. Tengo que salvar mis archivos en la computadora.
Conviene recordar que la humanidad posee una extraordinaria experiencia en destruirse a sí misma sin necesidad de ayuda de la IA. Inventamos las guerras, la esclavitud, el colonialismo, los campos de concentración, las armas nucleares, la tortura industrializada, los genocidios y los gobiernos que logran aumentar el precio del pan mientras prometen combatir la inflación. Y aunque no conseguimos impedir que un chofer borracho entre en una avenida en sentido contrario al tráfico, nos preocupa el día en que una superinteligencia pueda dominar el planeta.
La especie humana también produce una cantidad impresionante de estupidez artificial sin auxilio de las computadoras. Basta abrir las redes digitales. Allí encontramos a millones de personas que comparten diariamente informaciones que jamás verificarán, opiniones que no comprenden y certezas que adquirieron cinco minutos antes.
Tal vez el mayor peligro no sea que la IA llegue a ser demasiado inteligente, sino que los humanos sigan siendo demasiado estúpidos.
No es necesario imaginar una máquina malvada planeando nuestra extinción. Existen seres humanos capaces de incendiar un bosque con el fin de sembrar pastos, contaminar un río en busca de lucro y destruir el clima mientras discuten si vale la pena reducir el consumo de combustible. Si una IA observa el comportamiento que hemos tenido a lo largo de los siglos comportamiento, tal vez llegue a la conclusión de que somos una especie perfectamente capaz de destruirse sola.
El grupo del Apocalipsis imagina a la IA como una criatura que, después de adquirir conciencia, despertará una mañana y pensará: ¿Cómo eliminar a la humanidad?
¿Será la máquina tan inteligente como para considerarnos inferiores? Sería comprensible.
Imaginen a la IA examinando la historia humana. Encontraría la filosofía de Platón, la música de Bach, la poesía de Camões, la pintura de Miguel Ángel, la literatura de Machado de Assis, los descubrimientos de Einstein. Pero encontraría también guerras religiosas, reality shows, comentarios de internet, guerras por territorio, personas peleando a causa del fútbol e individuos que pasan veinte minutos buscando los espejuelos que llevan sobre la cabeza. Después de analizarlo todo, la máquina tal vez llegaría a la siguiente conclusión: tan inteligentes como se creen, no son. Pero interesantes sí.
Y probablemente sea justamente ahí donde resida nuestra salvación. Porque la inteligencia humana no consiste solo en resolver ecuaciones o procesar billones de datos. Somos la especie que inventó la poesía, la compasión, la música, el abrazo, el beso, la carcajada y la nostalgia. Nada de eso es necesario para la sobrevivencia biológica, y, sin embargo, sin eso nuestra sobrevivencia no tendría mucho sentido.
La IA puede saberlo todo sobre el amor. Eso no significa que sepa amar. Puede explicar perfectamente lo que es una lágrima. Eso no significa que llore. Puede escribir un poema sobre la muerte. Eso no significa que sienta miedo de morir.
Tal vez ese sea el detalle que se les escapa a los profetas del apocalipsis tecnológico: inteligencia no es sinónimo de humanidad.
La IA podrá hacerse enormemente poderosa. Podrá transformar las profesiones, la ciencia, la educación, la medicina, la comunicación y la economía. Podrá usarse también para la manipulación, la vigilancia, el fraude, la guerra y la concentración de poder. Esos son peligros reales y no conviene desdeñarlos. Pero de ahí a imaginar que una mañana nos despertemos con un robot a la puerta diciendo: “Buenos días, estoy aquí para extinguirlos” hay una distancia considerable.
Además, es muy poco probable que una superinteligencia desperdiciara tiempo con nosotros. Probablemente estudiaría nuestra historia durante algunos minutos y llegaría a una conclusión más práctica. No tengo que hacer nada. Ya se están encargando de autoexterminarse, Y ante esa hipótesis, quizás deberíamos dejar de preguntar si la IA destruirá a la humanidad y empezar a preguntar algo más urgente: ¿Qué haremos con la IA?
La máquina no nace con moral. Quien decide para qué sirve una tecnología son los seres humanos que la controlan, financian y utilizan. La pólvora no inventó la guerra; el dinero, la ganancia; la televisión, la mentira; internet, las noticias falsas. Y la IA no ha inventado la estupidez. Como máximo, le imprime una velocidad inédita. Y convengamos en que eso ya asusta bastante.
*Carlos Alberto Libânio Christo. Conocido como Frei Betto. Fraile dominico. conocido internacionalmente como teólogo de la liberación.