Q-Star, la inteligencia artificial generativa que amenaza la humanidad

El pasado viernes, 17 de noviembre, la junta de OpenAI,  la compañía que desarrolla el famoso Chat GPT, despidió por sorpresa a su carismático CEO, Sam Altman.

El estadounidense Samuel H. Altman aprendió a programar y a desarmar una de las primeras computadoras de Apple, la Macintosh, cuando tenía 8 años. Ingresó en la Universidad de Stanford, en California, para estudiar informática, aunque no terminó la carrera.

En 2005, desarrolló junto a unos amigos, su primera idea, Loopt, una aplicación para compartir la ubicación con otras personas. Esta idea supuso el trampolín de su carrera como empresario y le abrió las puertas al mundo de las grandes inversiones tecnológicas.

Junto a Elon Musk creó en Silicon Valley, OpenAI, una compañía que le permitió sumergirse en un mundo que le generaba fascinación y temor por igual: el de la inteligencia artificial.

Poco antes del sorpresivo despido, varios empleados de enviaron a la junta directiva una carta advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad.

Que la junta directiva de OpenAI no conociera estos avances es lo que motivó la “falta de confianza” en Altman y su mediático despido y que más de 770 empleados amenazaran con renunciar y unirse a Microsoft –que es el inversor mayoritario de la compañía- en solidaridad con su CEO.

Sam Altman Reuters

La carta –según dos fuentes anónimas "familiarizadas con el asunto"- habla de un proyecto llamado Q* (pronunciado como Q-Star) que habría desarrollado un algoritmo de IA (Inteligencia Artificial) que habría conseguido resolver problemas elementales. Aunque sólo realizaban matemáticas al nivel de los estudiantes de escuela primaria, superar estas pruebas hizo que los investigadores se sintieran muy optimistas a que Q* pudiera pensar por sí misma.

La letra Q parece remitirnos a la clásica técnica de Q-Learning, ámpliamente usada en RL o Aprendizaje por refuerzo que es un método, mediante el cual, se enseña a los algoritmos a tomar decisiones por sí mismos y que, en su vertiente Deep Q Networks (DQN), ha cosechado bastantes éxitos. Este algoritmo, por ejemplo, es capaz de vencer a todos los jugadores del mundo en todos los juegos posibles. 

En el Q-Learning ha estado trabajando silenciosamente DeepMind Google con su sistema Gémini para plantar cara a un futuro GPT-5.

OpenAI, por tanto, estaría investigando esto internamente y parece que habrían dado con algo peligroso para el futuro de la humanidad.

Ryan Caplan, economista de la George Mason University, ya advertía en abril de los efectos catastróficos por la persistencia en la investigación sobre Inteligencia Artificial. Llegó a vaticinar que “la humanidad será borrada de la superficie de la Tierra el primero de enero de 2030”.

Según cuenta el profesor de ESADE, Esteve Almirall, en un artículo de La Vanguardia, el instigador del golpe en OpenAI no fue otro que su director científico, Llya Sutskever quien escribió en X: “nunca quise hacer daño a OpenAI” y pidió la vuelta de Sam Altman y Greg Brockman. 

I deeply regret my participation in the board's actions. I never intended to harm OpenAI. I love everything we've built together and I will do everything I can to reunite the company.

— Ilya Sutskever (@ilyasut) November 20, 2023

Finalmente, el consejo dimitió, Sam Altman volvió a la compañía y se ha elegido un nuevo consejo con nombres tan prestigiosos como Larry Summers, el Presidente más carismático de Harvard. ¿Qué pasará ahora? ¿Seguirá el desarrollo del "peligroso" Q-Star?

El divulgador de Inteligencia Artificial, Carlos Santana alerta de dos corrientes en la firma de Silicon Valley. “Sabemos por toda esta crisis de estos días que en OpenAI han convivido tribus de aceleracionistas (quieren llegar rápido a desbloquer el potencial de la IA) frente a los desaceleracionistas (que quieren ir a un ritmo más pausado para valorar muchas de las consideraciones éticas que se están dejando atrás)” –dice en un interesante hilo de X (antigua Twitter).

Os lo contaba así en el directo del otro día. pic.twitter.com/5ymSJgV8F6

— Carlos Santana (@DotCSV) November 23, 2023

La ejecutiva de larga data Mira Murati –que también pidió el retorno de Altman-  mencionó el proyecto Q* a los empleados asegurando que podría ser un gran avance en la búsqueda de la superinteligencia (la que supera a la humana), también conocida como Inteligencia Artificial Generativa (AGI, por sus siglas en inglés). 

Para Almirall, "el desarrollo trepidante de la Inteligencia Artificial generativa y, especialmente, el hecho de que se lanzase al mercado para que los usuarios lo adoptasen de una forma muy gradualista, no fue del agrado de estas corrientes de opinión y creó la confrontación." En su opinión, echar a Sam Altman y desacelerar el desarrollo en OpenAI se hizo creyendo que esta "desaceleración contribuiría a reducir el riesgo de poner en peligro el planeta."