La tecnología no es inocua. Provoca en nosotros cambios que pueden ser tanto positivos como negativos. La aceleración tecnológica no queda allí afuera, se traslada dentro nuestro generando esa ansiedad permanente que muchas veces se torna insoportable. Antes, no sufríamos esta aceleración interna ni la impaciencia irritante ante la mínima espera, lo sabemos los que tenemos más edad y vivimos otras épocas. Este es solo un ejemplo, podría citar varios y mostrar que la tecnología no queda solo en los dispositivos, que nos afecta de muchas formas psicológicas y sociales. Y cada vez lo hará más.
Hace unos meses quiero escribir acerca de inteligencia artificial a raíz de la exponencialidad desatada por la tecnología GPT que está avanzando más rápido que cualquier otra. Pero me cuesta encontrar la punta del ovillo, es un tema muy complejo de analizar por la cantidad de aristas que contiene. Lo que sí tengo claro es que la inteligencia artificial es como un cuchillo, bien utilizado puede ayudarnos a comer, pero si lo manejamos mal su filo podría desangrarnos.
La automatización no es nueva, en la revolución industrial la conocimos aplicada a tareas mecánicas y eso nos resultó muy útil. Pero hoy es distinto, la automatización de la AI está actuando sobre los procesos creativos, es decir, la base de la cultura y eso nos afectará más de lo que suponemos si no tomamos acción. Además, la rapidez con la que se mueve esta tecnología está provocando la desaparición de industrias por completo y como humanos nos está metiendo en un tsunami de confusión permanente donde ya no podemos saber si las imágenes y videos que vemos son reales o no. Incluso, nuestra voz se puede clonar en un mensaje de audio de whatsapp diciendo cualquier cosa.
El viernes 24 de Marzo en el diario The New York Times apareció un gran artículo sobre inteligencia artificial y sus implicancias sociales escrito por tres expertos: Yuval Harari, Tristan Harris y Aza Raskin. Tomate cinco minutos y leelo para saber cuáles podrían ser las verdaderas consecuencias de la inteligencia artificial en nuestras vidas. Este tipo de información es la que necesitamos conocer para entender el contexto complejo en el que vivimos y tomar decisiones adecuadas.
Si no dominamos la IA, nos dominará a nosotros
Por Yuval Harari , Tristán Harris y Aza Raskin. Diario The New York Times, 24 de Marzo de 2023.
Imagine que mientras aborda un avión la mitad de los ingenieros que construyeron ese avión le dicen que hay un 10% de posibilidades que se estrelle, matándolo a usted y a todos los demás a bordo. ¿Todavía lo abordaría?
En 2022, se preguntó a más de 700 académicos e investigadores destacados detrás de las principales empresas de inteligencia artificial en una encuesta sobre el riesgo futuro de la IA. La mitad de los encuestados afirmó que había un 10% o más de posibilidades de extinción humana (o una pérdida de poder similar, permanente y grave) de los futuros sistemas de IA. Las empresas de tecnología que construyen los grandes modelos lingüísticos de hoy están atrapadas en una carrera para poner a toda la humanidad en ese avión.
Las compañías farmacéuticas no pueden venderle a la gente nuevos medicamentos sin antes someter sus productos a rigurosos controles de seguridad. Los laboratorios de biotecnología no pueden lanzar nuevos virus a la esfera pública para impresionar a los accionistas con su magia. Del mismo modo, los sistemas de IA con el poder de GPT-4 y más allá no deben enredarse con las vidas de miles de millones a un ritmo más rápido de lo que las culturas pueden absorberlos de manera segura. Una carrera para dominar el mercado no debe marcar la velocidad de implementación de la tecnología más importante de la humanidad. Debemos movernos a cualquier velocidad que nos permita hacerlo bien.
El espectro de la IA ha perseguido a la humanidad desde mediados del siglo XX, pero hasta hace poco seguía siendo una perspectiva lejana, algo que pertenece a la ciencia ficción más que a los debates científicos y políticos serios. Es difícil para nuestras mentes humanas comprender las nuevas capacidades de GPT-4 y herramientas similares, y es aún más difícil comprender la velocidad exponencial a la que estas herramientas están desarrollando capacidades aún más avanzadas y poderosas. Pero la mayoría de las habilidades clave se reducen a una sola cosa: la capacidad de manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes.
En el principio era la palabra. El lenguaje es el sistema operativo de la cultura humana. Del lenguaje surgen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones, incluso el código informático. El nuevo dominio del lenguaje de AI significa que ahora puede piratear y manipular el sistema operativo de la civilización. Al adquirir el dominio del lenguaje, la IA se apodera de la llave maestra de la civilización, desde las bóvedas de los bancos hasta los santos sepulcros.
¿Qué significaría para los humanos vivir en un mundo donde un gran porcentaje de historias, melodías, imágenes, leyes, políticas y herramientas son moldeadas por una inteligencia no humana, que sabe explotar con eficiencia sobrehumana las debilidades, sesgos y adicciones de la mente humana, al mismo tiempo que sabe cómo establecer relaciones íntimas con los seres humanos? En juegos como el ajedrez, ningún ser humano puede aspirar a vencer a una computadora. ¿Qué sucede cuando ocurre lo mismo en el arte, la política e incluso la religión?
La IA podría devorar rápidamente toda la cultura humana, todo lo que hemos producido durante miles de años, digerirla y comenzar a producir una avalancha de nuevos artefactos culturales. No solo ensayos escolares, sino también discursos políticos, manifiestos ideológicos e incluso libros sagrados para nuevos cultos. Para 2028, es posible que la carrera presidencial de EE. UU. ya no esté dirigida por humanos.
Los humanos a menudo no tienen acceso directo a la realidad. Estamos envueltos por la cultura, experimentando la realidad a través de un prisma cultural. Nuestras opiniones políticas están formadas por los informes de los periodistas y las anécdotas de los amigos. Nuestras preferencias sexuales están modificadas por el arte y la religión. Ese capullo cultural ha sido tejido hasta ahora por otros humanos. ¿Cómo será experimentar la realidad a través de un prisma producido por una inteligencia no humana?
Durante miles de años, los humanos hemos vivido dentro de los sueños de otros humanos. Hemos adorado dioses, perseguido ideales de belleza y dedicado nuestras vidas a causas que se originaron en la imaginación de algún profeta, poeta o político. Pronto también nos encontraremos viviendo dentro de las alucinaciones de la inteligencia no humana.
La franquicia “Terminator” mostraba robots corriendo por las calles y disparando a la gente. “The Matrix” asumió que para obtener el control total de la sociedad humana, la IA primero tendría que obtener el control físico de nuestros cerebros y conectar nuestros cerebros directamente a una red informática. De hecho, sin embargo, simplemente al dominar el lenguaje, la IA tendría todo lo que necesita para contenernos en un mundo de ilusiones similar a Matrix, sin dispararle a nadie ni implantar ningún chip en nuestros cerebros. Si es necesario disparar, la IA podría hacer que los humanos aprieten el gatillo, simplemente contándonos la historia correcta.
El espectro de estar atrapado en un mundo de ilusiones ha perseguido a la humanidad durante mucho más tiempo que el espectro de la IA. Pronto finalmente nos encontraremos cara a cara con el demonio de Descartes, con la caverna de Platón, con los mayas budistas. Una cortina de ilusiones podría descender sobre toda la humanidad, y es posible que nunca más podamos rasgar esa cortina, o incluso darnos cuenta de que está allí.
Las redes sociales fueron el “primer contacto” entre la IA y la humanidad, y la humanidad se perdió. El “primer contacto” nos ha dado el sabor amargo de lo que vendrá. En las redes sociales, la IA primitiva no se usaba para crear contenido, sino para curar el contenido generado por el usuario. La IA detrás de nuestras fuentes de noticias sigue eligiendo qué palabras, sonidos e imágenes llegan a nuestras retinas y tímpanos, en función de seleccionar aquellos que obtendrán la mayor viralidad, la mayor reacción y la mayor participación.
Si bien era muy primitiva, la IA detrás de las redes sociales fue suficiente para crear una cortina de ilusiones que aumentó la polarización social, socavó nuestra salud mental y deshizo la democracia. Millones de personas han confundido estas ilusiones con la realidad. Estados Unidos tiene la mejor tecnología de la información de la historia, pero los ciudadanos estadounidenses ya no pueden ponerse de acuerdo sobre quién ganó las elecciones. Aunque todo el mundo ya es consciente de las desventajas de las redes sociales, no se han abordado porque gran parte de nuestras instituciones sociales, económicas y políticas se han enredado con ellas.
Los grandes modelos de lenguaje son nuestro “segundo contacto” con la IA. No podemos permitirnos perder de nuevo. Pero, ¿sobre qué base deberíamos creer que la humanidad es capaz de alinear estas nuevas formas de IA para nuestro beneficio? Si continuamos con los negocios como de costumbre, las nuevas capacidades de IA se utilizarán nuevamente para obtener ganancias y poder, incluso si sin querer destruyen los cimientos de nuestra sociedad.
De hecho, la IA tiene el potencial de ayudarnos a vencer el cáncer, descubrir medicamentos que salvan vidas e inventar soluciones para nuestras crisis climática y energética. Hay otros innumerables beneficios que no podemos empezar a imaginar. Pero no importa cuán alto se construya el rascacielos de beneficios de la IA si los cimientos se derrumban.
El momento de tener en cuenta la IA es antes de que nuestra política, nuestra economía y nuestra vida diaria se vuelvan dependientes de ella. La democracia es una conversación, la conversación se basa en el lenguaje, y cuando se piratea el lenguaje mismo, la conversación se rompe y la democracia se vuelve insostenible. Si esperamos a que se produzca el caos, será demasiado tarde para remediarlo.
Pero hay una pregunta que puede permanecer en nuestras mentes: “Si no vamos lo más rápido posible, ¿no se arriesgará Occidente a perder ante China?” No. El despliegue y el enredo de IA descontrolada en la sociedad, desatando poderes divinos desvinculados de la responsabilidad, podría ser la razón por la que Occidente pierde ante China.
Todavía podemos elegir qué futuro queremos con la IA. Cuando los poderes divinos se combinan con la responsabilidad y el control correspondientes, podemos obtener los beneficios que promete la IA.
Hemos convocado una inteligencia alienígena. No sabemos mucho al respecto, excepto que es extremadamente poderosa, nos ofrece regalos deslumbrantes, pero también podría hackear los cimientos de nuestra civilización. Hacemos un llamado a los líderes mundiales para que respondan a este momento al nivel del desafío que presenta. El primer paso es ganar tiempo para actualizar nuestras instituciones del siglo XIX para un mundo posterior a la IA y aprender a dominar la IA antes de que nos domine a nosotros.
