Durante décadas, Silicon Valley ha anticipado el momento en que aparecerá una nueva tecnología que lo cambiará todo. Unirá al hombre y la máquina, quizás para bien pero quizás para mal, y dividirá la historia en antes Y después.
El nombre de este hito: Singularidad.
Puede suceder de varias maneras. Una posibilidad es que las personas añadan poder de procesamiento informático a su inteligencia innata, convirtiéndose en versiones sobrealimentadas de sí mismos. O tal vez las computadoras se vuelven tan complejas que realmente pueden pensar, creando un cerebro global.
En cualquier caso, los cambios resultantes serán drásticos, exponenciales e irreversibles. Una súper máquina autoconsciente puede diseñar sus propias mejoras más rápido que cualquier grupo de científicos, lo que resulta en una explosión de inteligencia. Siglos de progreso pueden ocurrir en años o incluso meses. La singularidad es una catapulta hacia el futuro.
La inteligencia artificial está destrozando la tecnología, los negocios y la política como ningún otro en la memoria reciente. Escuche los reclamos extravagantes y las afirmaciones salvajes que emanan de Silicon Valley, y parece que el paraíso virtual prometido por mucho tiempo finalmente está a su alcance.
El CEO de Google, Sundar Pichai, generalmente describe la IA como “más profunda que el fuego o la electricidad o cualquier cosa que hayamos hecho en el pasado”. “La capacidad de marcar una diferencia positiva en el mundo está a punto de recibir el mayor impulso que jamás haya tenido”, dice Reid Hoffman, un inversionista multimillonario. Y el cofundador de Microsoft, Bill Gates, declaró que la inteligencia artificial “cambiará la forma en que las personas trabajan, aprenden, viajan, obtienen atención médica y se comunican entre sí”.
La inteligencia artificial es la última oferta de nuevos productos de Silicon Valley: trascendencia bajo demanda.
Pero hay un giro oscuro. Es como si las empresas de tecnología introdujeran autos sin conductor con la advertencia de que podrían explotar antes de llegar a Walmart.
“La aparición de la inteligencia artificial general se denomina singularidad porque es muy difícil predecir lo que sucederá a continuación”, dijo a CNBC Elon Musk, que dirige Twitter y Tesla, el mes pasado. Dijo que cree que se producirá una “era de abundancia”, pero que existe la “posibilidad” de que “destruirá a la humanidad”.
El mayor fanático de la IA en la comunidad tecnológica es Sam Altman, director ejecutivo de OpenAI, la startup que condujo al frenesí actual con su chatbot ChatGPT. Dice que la IA será “la mayor fuerza para el empoderamiento económico y mucha gente se hace rica Lo hemos visto antes”.
Pero también dice que Musk, un crítico de la IA que también creó una empresa para desarrollar interfaces cerebro-computadora, puede tener razón.
El fin del mundo es un territorio familiar y amado de Silicon Valley. Hace unos años, parecía que todos los administradores de tecnología tenían un búnker lleno de apocalipsis fortificado en un lugar remoto pero accesible. En 2016, Altman dijo que estaba recolectando “armas, oro, yoduro de potasio, antibióticos, baterías, agua, máscaras de gas de las FDI y una gran extensión de tierra en Big Sur a la que podía volar”. La pandemia de coronavirus ha hecho que la tecnología se sienta reivindicada por un tiempo.
Ahora, se están preparando para destacar.
“Les gusta pensar que son personas razonables que hacen comentarios sabios, pero se parecen más a los monjes del año 1000 que hablan sobre el Rapto”, dijo Baldur Bjarnason, autor de “The Intelligence Illusion”, un examen crítico de la inteligencia artificial. Un poco de miedo”, dijo.
Las raíces de la trascendencia
Las raíces intelectuales de la singularidad se remontan a John von Neumann, un informático pionero que habló en la década de 1950 de cómo “el avance exponencial de la tecnología” produciría “alguna singularidad fundamental en la historia de la raza”.
Irving John Goode, el matemático británico que ayudó a descifrar la máquina Enigma alemana en Bletchley Park durante la Segunda Guerra Mundial, también fue un defensor influyente. Escribió en 1964: “La supervivencia del hombre depende de la construcción temprana de una máquina superinteligente”. El director Stanley Kubrick consultó a Judd sobre HAL, la computadora benigna que se volvió maligna en “2001: Una odisea del espacio”, un ejemplo temprano de los límites porosos entre la informática y la ciencia ficción.
Hans Moravec, profesor asistente en el Instituto de Robótica de la Universidad Carnegie Mellon, cree que la inteligencia artificial será una bendición no solo para los vivos: los muertos también serán restaurados en una singularidad. “Tendremos la oportunidad de recrear el pasado e interactuar con él de manera real y directa”, escribió en su libro Children of the Mind: The Future of Robot and Human Intelligence.
En los últimos años, el empresario e inventor Ray Kurzweil ha sido el mayor defensor de la singularidad. El Sr. Kurzweil escribió “La era de las máquinas inteligentes” en 1990 y “La singularidad está cerca” en 2005, y ahora escribe “La singularidad está más cerca”.
Para finales de la década, se espera que las computadoras pasen la prueba de Turing y sean indistinguibles de los humanos. Quince años después, calcula, llegará la verdadera trascendencia: el momento en que “la computación será parte de nosotros mismos y multiplicaremos nuestra inteligencia por un millón”.
Para entonces, el Sr. Kurzweil tendrá 97 años. Y con la ayuda de vitaminas y suplementos, planea vivir para verlo.
Para algunos críticos de la Singularidad, es un dudoso intento intelectual de replicar el sistema de creencias de la religión organizada en el reino del software.
“Todos quieren la vida eterna sin el inconveniente de tener que creer en Dios”, dijo Rodney Brooks, exdirector del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT.
La innovación que alimenta el debate sobre la singularidad hoy en día es el gran modelo de lenguaje, el tipo de sistema de inteligencia artificial que alimenta a los chatbots. Inicie una conversación con uno de estos LLM y pueden escupir respuestas rápidas, coherentes y, a menudo, con un grado razonable de iluminación.
“Cuando haces una pregunta, estos modelos interpretan lo que quieres decir, definen lo que debería significar su respuesta y luego lo traducen en palabras: si esa no es una definición de inteligencia general, ¿entonces qué es?” dijo Jerry Kaplan, empresario de IA desde hace mucho tiempo y autor de Inteligencia artificial: lo que todos necesitan saber.
El Sr. Kaplan dijo que era escéptico sobre maravillas tan publicitadas como los autos sin conductor y las criptomonedas. Abordó el reciente auge de la IA con el mismo escepticismo, pero dijo que ganó.
Dijo: “Si esto no es la ‘singularidad’, ciertamente es una singularidad: un paso tecnológico transformador que acelerará enormemente todo el cuerpo del arte, la ciencia y el conocimiento humano, y creará algunos problemas”.
Los críticos objetan que incluso los impresionantes resultados de LLM están muy lejos de la inteligencia global masiva que Singularity ha prometido durante mucho tiempo. Parte del problema con la estrecha separación entre la exageración y la realidad es que los motores que impulsan esta tecnología se han ocultado. OpenAI, que comenzó como una organización sin fines de lucro que utiliza código fuente abierto, ahora es un proyecto con fines de lucro que, según los críticos, es una caja negra virtual. Google y Microsoft también ofrecen visibilidad limitada.
Las empresas realizan una gran cantidad de investigación de IA con grandes ganancias a partir de los resultados. Los investigadores de Microsoft, que han invertido 13.000 millones de dólares en OpenAI, publicaron un artículo en abril en el que concluyeron que la versión inicial del último modelo de OpenAI “muestra muchos atributos de inteligencia” que incluyen “abstracción, comprensión, visión y codificación” y ” comprensión de la motivación humana. “Y las emociones”.
Algunos investigadores de IA han pintado una imagen inexacta de cómo estos grandes modelos de lenguaje muestran “capacidades emergentes”, dijo Rylan Schaeffer, estudiante de doctorado en informática en la Universidad de Stanford, capacidades inexplicables que no eran evidentes en versiones más pequeñas.
Junto con dos de sus colegas de Stanford, Brando Miranda y Sanmi Koejo, el Sr. Schaefer examinó la pregunta en un artículo publicado el mes pasado y concluyó que las propiedades emergentes eran un “espejismo” causado por errores de medición. De hecho, los investigadores ven lo que quieren ver.
Vida eterna, ganancias eternas
En Washington, Londres y Bruselas, los legisladores están aprovechando las oportunidades y los problemas de la IA y comenzando a hablar sobre la regulación. El Sr. Altman está en un road show, buscando desviar las primeras críticas y promover OpenAI como patrocinador de la exclusividad.
Esto incluye una apertura a la regulación, pero cómo sería exactamente eso es un misterio. Silicon Valley generalmente ha adoptado la opinión de que el gobierno es demasiado lento y estúpido para supervisar los rápidos desarrollos tecnológicos.
“No hay nadie en el gobierno que pueda hacerlo bien”, dijo Eric Schmidt, ex director general de Google. Él dijo En una entrevista con Meet the Press el mes pasado, habló sobre el tema de la autorregulación de la IA. “Pero la industria casi puede hacerlo bien”.
La inteligencia artificial, al igual que la singularidad, ya se califica de irreversible. “Detenerlo requeriría algo así como un sistema de monitoreo global, e incluso eso no garantiza que funcione”, escribieron Altmann y algunos colegas el mes pasado. Agregaron que si Silicon Valley no tiene éxito, otros lo harán.
Menos discutidos son los enormes beneficios que se pueden obtener al descargar el mundo. A pesar de todo lo que se dice acerca de que la IA es una máquina para la generación ilimitada de riqueza, las personas que se están volviendo más ricas son en gran medida las que ya son ricas.
Microsoft ha visto aumentar su valor de mercado en medio billón de dólares este año. Nvidia, el fabricante de los chips que alimentan los sistemas de inteligencia artificial, se convirtió recientemente en una de las empresas públicas más valiosas de EE. UU. cuando dijo que la demanda de estos chips se había disparado.
“La inteligencia artificial es la tecnología que el mundo siempre ha querido”, tuiteó Altman.
Definitivamente es la tecnología que el mundo tecnológico siempre ha querido, que llegue en el mejor momento posible. El año pasado, Silicon Valley estuvo plagado de despidos y aumento de las tasas de interés. La criptomoneda, el auge anterior, se vio envuelta en fraudes y decepciones.
Es un intento más serio de describir cómo podría ser la vida pronto, dijo Charles Stross, coautor de The Rapture of the Nerds, una comedia sobre la singularidad, y también autor de “Accelerando”.
“La verdadera promesa aquí es que las empresas podrán reemplazar muchos de los submódulos defectuosos, costosos y lentos del procesamiento de la información humana con piezas de software, acelerando así las cosas y reduciendo los gastos generales”, dijo.
La singularidad ha sido concebida durante mucho tiempo como un evento cósmico, literalmente alucinante. Y aún podría serlo.
Pero puede manifestarse ante todo —gracias en parte a la obsesión básica actual de Silicon Valley— como una herramienta para reducir la América corporativa. Cuando está compitiendo para agregar trillones a su capitalización de mercado, el cielo puede esperar.