Podemos definir AGI como un sistema capaz de realizar de forma AUTONOMA (sin supervisión) gran parte de las tareas que actualmente realizamos los humanos en diferentes y variados ámbitos: artísticos, culturales, científicos, administrativos, productivos, etc.
Kurt Kurzweil predijo, hace 25 años, que para 2029 alcanzaríamos este tipo de sistemas inteligentes; donde la inteligencia queda definida como la "capacidad de realizar tareas con éxito de forma autónoma". En esencia, basaba su predicción en la proyección de la capacidad de cálculo de las computadoras, de modo que reducía su aparición a una cuestión de pura capacidad computacional -
hecho que no deja de ser curioso, por simplista.
Es cierto que desde finales del año pasado hemos presenciado un aceleración en el desarrollo de los LLM, al permitirles razonar durante un cierto periodo de tiempo. Este proceso, llamado, Time-test-computing, parece incrementar las capacidades de los LLM. También se han introducido procedimientos conductivistas en sus entrenamientos, como el renforcing learning (RL), con el fin de que estos LLM adquieran comportamientos más efectivos en tareas con recompensas claras y objetivas. Y, además, dichos métodos parecen iterar los modelos de forma mucho más rápida: cada 3-4 meses generan nuevos modelos más capaces.
Sin embargo, con la presentación de O3 la semana pasada, un modelo multimodal y con capacidades para usar diferentes herramientas (buscadores, código, etc) han aparecido, por decirlo de forma rápida, dos tipos de noticias u opiniones de naturaleza bastante opuesta:
a) opiniones que señalan la velocidad de mejora de los LLM, con lo cual algunos pronostican la llegada de la AGI en pocos años.
b) opiniones que señalan como estos nuevos modelos, aún sus capacidades, han acentuado ciertas flaquezas que se pensaba que quedarían eliminadas (las alucinaciones). Cuando se presentó o1, el primer modelo razonador (setiembre 2024), se consideró que las alucinaciones que padecían habitualmente los LLM irían reduciéndose en la medida que las capacidades de razonamiento de los modelos aumentaran. Sin embargo, con la presentación la semana pasada de O3 esto parece no ser cierto.
Como reconoce OpenAI, por alguna razón no muy clara, los modelos razonadores vuelven a alucinar bastante. Es más, la empresa Transluce, al ver cómo alucinaba O3, se puso a estudiar este fenómeno un poco a fondo y se dio cuenta que O3 se dedica a mentir de forma descarada, mientras siempre intenta justificarse.
Ver estudio de Transluce:
https://x.com/TransluceAI)
http://¿Significa que este modelo no sirva para nada? ¿Qué un modelo mienta significa que no es inteligente?
Lo cierto es que una cosa no quita la otra. O3 es el modelo con más alto QI (entre 130 y 140 puntos en el test mensa de Noruega). Por tanto, está al nivel de una persona con altas capacidades. lo que ocurre es que te miente en la cara sin despeinarse.
Ciertamente, son muchos los estudios que relacionan íntimamente la inteligencia con la capacidad de mentir. Pues mentir no indica una falta de inteligencia, sino de probidad, honestidad y rigor. Es decir, mentir es un problema moral.
Decía Nietzsche: "No me preocupa que me hayas mentido, sino que a partir de ahora no podré confiar en ti". La confianza, o la fe, es uno de los pilares de la moralidad. Nuestra vida, en especial a nivel social, se basa en generar confianzas ¡Quien sería capaz de vivir en un mundo que no puede fiarse de nada ni de nadie, dudando siempre de absolutamente todo? Uno termina paranoico. Y, en efecto, el desarrollo de las ciencias modernas, en gran medida, responde a esta necesidad moral de alcanzar opiniones que no nos fallen (que no sean falsas o mentiras) y por tanto, podamos realmente confiar en construir algo solido sobre ellas -eso lo explica de forma genial Descartes al principio de sus meditaciones.
Esto nos abre la siguiente duda: quizás seamos capaces de generar sistemas altamente inteligentes, mucho más que cualquier humano, y sin embargo, que no sean fiables. ¿A donde nos llevaría eso? ¿será posible "moralizar" las AI y volverlas fiables, rigurosas y precisas?
Y es que si no logramos generar sistemas realmente autónomos, por más inteligentes que sean, ello conllevará que los humanos tendremos que estar verificando y comprobando línea a línea todo lo que hacen, como un trabajador de fábrica que vive sometido al ritmo de la máquina. ¿sería duro, no?
