[Richard R Richard]

Richard: te contesto cuando pueda, pero en lo que pones en el spoiler "Esto es lo de hoy" te has hecho un lío. Mi mensaje anterior era una conversación con Gemini, donde los párrafos impares son mis prompts y los pares las respuestas de Gemini. Tú has respondido a todo como si fueran cosas que digo yo. He editado mi mensaje anterior para dejar claro lo que era (una respuesta a Tachikomaia).

Uh sí,  que lío,  entonces son extractos  de la conversación entre tu y la IA,... repensando, no sabría  como editarlo rápido para darle un mejor aspecto, trataré de seguir tu línea,  pero ten en cuenta que sí había entendido  que eran respuestas  de una IA, lo que si queda con falso sentido son las críticas  a tus promts. Es decir ,nada que decir entonces en lo que tu quieras preguntar o dirigir a  una IA y menos a otras personas, perdón por la confusión.

[Carlos Ivorra]

Sobre todo esto:

Sobre el futuro

Son cosas incomparables, una cosa es un loco desacatado, con 4 cohetes, que potencia su propia industria nacional si los consume, sembrando caos, y otra depositar el conocimiento, la industria, la seguridad, la política , la salud, la educación,  todo lo que nos hace humanos, en una máquina, que el siguiente paso de razonar, si lo logra esto alguna vez,  es la autoconciencia, la autopreservación, etc.


No  va a atacar si puede perder, no va atacar sino puede sobrevivir, no nos va a eliminar si les somos útiles, si has leído a Tzun Zu en el Arte de la Guerra imaginarás mejor a que me refiero. Si no lo has hecho no importa, te lo recomiendo, es breve e interesante en estrategias. Me parece jugar con fósforos en el depósito de combustible de la fábrica de explosivos, solo falta encenderlos. Me dirás que lo veo apocalíptico,  es que sí, cada buena creación hecha con fin potencial benéfico, tiene un grupo de gente pensando cómo hacer para usar eso para explotarlo en beneficio  propio jodiendo a otros en el proceso, quizá la IA los use para su propio fin en contra de ellos y nos meta a todos en el mismo frasco...

Qué sentido tiene ajusticiar a una IA asesina o genocida, el mismo sentido que desenchufar la PC... Entonces  me parece que no podemos poner en custodia  de estas máquinas  ciertas valores de la sociedad  humana, siempre  poniéndome en el rol de que razonan, mejor y más rápido que los humanos.

Por otro no necesariamente  tendrá la obligación  de compartir  su conocimiento seríamos los monitos de su propia civilización, esta visión peliculera no le veo ninguna falta de sentido pues  ya los humanos han hecho lo mismo. Que me tomo la atribución de adelantarme medio siglo o menos, no sé, pero todos los sucesos peligrosos anticipados de cada tecnología sucedieron, por más advertencia realizada, así que creo que hay que ser más previsores en esta ocasión.

Sería discutible que todos los humanos respondan realmente a este estereotipo, pero, aunque así fuera, no sería más que una particularidad de los humanos que no es necesario que imite otro

pero que otra inteligencia que no sea humana está entrenando a las IAs, porque habría de comportarse de manera diferente, si no recibiera likes por ello,  Va acopiar lo bueno y lo malo, y lo malo va a ser mucho más potencialmente peligroso de lo que creen, y no porque caiga en malas manos, si tienes razón estará en sus propias variables..

No hace falta observar más en la contundente evidencia sobre todo lo que me has contado cuando un humano se cree superior a otro, en comparativa en esos casos esas inteligencias actuaran vulnerando simples derechos o haciendo las atrocidades similares a las que han pasado, entonces directamente no concibo la idea de que se festeje o se mire con asombro, incluso se estudie, sin pensar que están abriendo la puerta a la única oportunidad de que pase en contra de toda la humanidad. Y no digo que tengo miedo o no quiero, en unos años ya no estaremos, no quiero que le pase a ninguno que, si esté, por algo que hoy pueden controlar. 

[cerrar]

insisto en que no tengo nada que decir. Todos tus pronósticos los veo como meras posibilidades, y no tengo ningún elemento de juicio para concluir que no haya otras posibilidades alternativas no catastróficas. Puede que tengas razón, y puede que no. No tengo ningún argumento que aportar ni a favor ni en contra.

Respecto a lo que sí tengo opinión (que una IA, con los cálculos que hace el ordenador que la soporta, está razonando), lo que te digo es que tú das un salto al vacío cuando dices que "razonar" es algo distinto de calcular (en el sentido de que no se puede lograr razonamiento mediante cálculos) y tú me contestas que soy yo el que da un salto al vacío al admitir que unos cálculos adecuados pueden dar lugar a razonamientos:

Nuevamente el prejuicio. Como no razona, no razona. Eso no es un resumen de tu argumento. Eso es tu argumento completo.

Podría decir lo mismo

No, lo que es prejuicio es dar el salto al vacío desde que una IA es una calculadora a que razona.

No me parece admisible tu punto de vista. Lo que yo digo es que si una IA genera razonamientos (razonamientos originales, no equivalentes a copiar un teorema de un libro, cosa que puede hacerse sin razonar), entonces es que razona. Si tú quieres afirmar que no, que parece que razona, pero no razona, entonces eres tú quien tiene que definir con la suficiente claridad en qué consiste la diferencia entre "razonar" y "parecer que razona". Eres tú quien sostiene que existe esa diferencia y, antes de argumentar que realmente se da, tendrás que precisar en qué consiste tal supuesta diferencia para luego examinar si realmente se da o no se da. Pero en ningún momento has dado ningún criterio que defina operativamente qué hay que entener por ese "razonamiento genuino" que tú consideras que una máquina no puede conseguir.

Por ejemplo, aquí tenías ocasión de haber clarificado este punto:

¿y si te encontraras con un ser extraterrestre que no sabes si razona o no razona, darías por hecho que no, porque no es humano, o habría alguna posibilidad de que le concedieras uso de razón? ¿Y en tal caso, qué es lo que necesitarías saber de él para concederle que razona?

Trillones de cualidades enumerables en un ser vivo, que no tiene una IA, ¿tendría sentido alguno enumerarlas?,  pero seguramente  me contestes que, aunque la IA me dé trillones de evidencias de que razone, no te daré la razón, cuando no  lo  veo de ese modo, pero igual  que empiece el conteo, ya por el 2, porque la única que veo es que calcula.

Aquí me estás diciendo que las características que te convencerían de que un ser razona son las propias de un ser vivo. Lo repites aquí:

¿Si es blandito y húmedo razona, pero si es seco y rígido no razona?

mmmh, veo por donde tiras pero yo buscaría la fábrica o bien si salen de un huevo, son paridos, o un tipo  de esas cosas...

Aquí tenemos más ejemplos de lo mismo:

Hay que estar vivo para razonar

La réplica a esto te la he dado varias veces, pero nunca me has respondido. Imagina que viajamos al exoplaneta Próxima Centauri b, y resulta que encontramos en él unos bichos que se mueven de aquí para allá. Nos acercamos a ellos y vemos que emiten unos sonidos. Al cabo de un tiempo vemos que se trata de un lenguaje, y nosotros aprendemos a hablarlo y ellos aprenden a hablar el nuestro. Así podemos comunicarnos, y entonces nos planteamos: ¿son seres que razonan, equiparables a nosotros, o sólo lo aparentan y no son más que animales o máquinas sin uso de razón?

La respuesta depende si son máquinas químicas o eléctricas basadas en 1-0 o qubits, la primera sería asombrosa, y la segunda  habría que buscar a su creador, ese si es el que razona.

Químico = razona, eléctrico = no razona. Eso es arbitrario. No es mejor que blanco = razona, negro = no razona.

¿Cómo se puede salir de dudas?
Mi respuesta:  Nos ponemos a hablar con ellos y nos fijamos en cómo responden. Si resulta que entienden lo que decimos, argumentan, no se contradicen, aportan ideas, etc., concluiremos que tienen uso de razón. Si resultan ser como cotorras que hablan, pero no saben lo que dicen, entonces no. Incluso podrían ser seres equiparables a niños o a deficientes mentales, con un uso de razón limitado.

Tú respuesta: Cogemos uno y lo diseccionamos. Si dentro tiene neuronas, es que razona, si tiene chips, es que no razona.

Me anticipe a tu respuesta , pero no es descabellada, solo por las dudas aclaro yo hubiera abierto uno que ya estuviera muerto previamente.

Lo mismo: (blanco = razona, negro = no razona) = prejuicio.

¿Cómo clasificarías un objeto extraterrestre en razonador / no razonador? ¿Con qué criterio? Si viniera un OVNI y de él descendieran unos seres protegidos por trajes metálicos, de modo que no puedes saber si son máquinas o seres vivos que necesitan protegerse de la atmósfera terrestre, ¿cómo juzgarías si razonan o no razonan? Si hablando con ellos no notaras ninguna diferencia con un humano, ¿temerías equivocarte al atribuirles uso de razón por no poder diseccionar a uno de ellos a ver qué tiene dentro?

Mi duda persistiría hasta que científicamente no determine que es una unidad programada autónoma, el tema sobre como reconocer si es un chip o una neurona natural(diferente no importa), no mecánica ni electrónica, quizá con dificultad técnica reconocible ,pero la claridad sobre eso daría para mí la clasificación justa. 

Más de lo mismo: artificial = no razona, natural = razona.

[cerrar]

Está diciendo que para saber si algo razona o no razona, no te vale examinar lo que es capaz de hacer, tienes que ver si ha salido de un huevo o de una fábrica. Eso es completamente arbitrario. Es una petición de principio. Si una condición para razonar es no salir de una fábrica, puedes decir a priori que una máquina nunca razonará. Pero es tan arbitrario como si yo dijera que nada que no tenga chips razona y concluyera que los humanos no razonan.

Así pues, mientras tú no des un criterio de qué es "razonar geuninamente" que no sea puramente negativo (lo que usa ceros y unos no razona) ni circunstancial (lo que no está vivo no razona) eres tú y no yo el que está dando el salto al vacío. No puedes acusarme a mí de dar un salto al vacío por identificar dos hechos que tú afirmas distinguir, pero a la vez no das ningún criterio que no sea puramente negativo o circunstancial y que dé sentido a la distinción. Ya te agrupé todos los párrafos de tu mensaje previo en los que supuestamente marcabas la diferencia entre "razonar" y "parecer que se razona" y no encontré en ellos nada que no fuera arbitrario o una mera petición de principio. Intento lo mismo con lo que aportas en tu último mensaje, a ver si ahora encontramos algo operativo:

[Carlos Ivorra]

Me temo que mi post era demasiado largo y el foro me lo ha cortado. Pongo aquí lo que se ha perdido:

Tus intentos de caracterizar el razonamiento genuino

Repito que lo veo como que la acción de razonar es meramente humana, que un resultado  que tiene la pinta de ser razonado, sigue para mi siendo fruto de un cálculo. En el humano es a la inversa un cálculo es fruto de una serie de razonamientos.

Aquí simplemente repites lo que ya has dicho muchas veces, pero sin aportar ningún criterio objetivo que distinga los razonamientos genuinos de los que, según tú, son aparentes porque son fruto de un cálculo.

Creo tener claro cuál es tu postura, la comprendo hasta cierto punto, solo no entendía  hasta vuelto a leerte( 3 veces empecé a contestar y por diversas razones no  hice clic en publicar y perdí lo escrito)  por qué si entiendes que todo es un proceso electrónico de una máquina que calcula a eso lo que le llamas razonar, viene de la ejecución  de un algoritmo (la red o lo que fuera de hard y soft )   que no es más que un cálculo sofisticado,  mi postura es no decir razonar sino insistir en lo que es calculo, y no atribuir una acción que al menos yo la sigo viendo como exclusivamente  humana.

Nuevamente repites que hay una diferencia sin explicar en qué consiste esa diferencia (para que podamos discutir si se da o no la diferencia realmente.

Yo lo que te digo es que la actividad neuronal es un proceso físico y la actividad de un ordenador que soporta una IA es un proceso físico, al igual que lo es la actividad de una calculadora, o la de un refrigerador, o la actividad del estómago cuando digiere alimentos, pero los dos primeros dan lugar al mismo comportamiento que llamamos razonar, y los otros procesos físicos no dan lugar a ese comportamiento que llamamos razonar, y la diferencia está en que un humano y una IA pueden superar ciertos test de inteligencia y una calculadora, un refrigerador o un estómago no.

Si tú quieres decir que aunque una IA supera tests de inteligencia no razona, no basta con que describas las supuestas "trampas" que hace la IA para superar el test. Antes tendrías que explicar qué tiene que distinguir un test para que podamos juzgar si los tests que pasa una IA distinguen o no ese supuesto "razonamiento genuino" del que hablas pero que nunca explicitas en qué consiste o cómo se distingue del "razonamiento aparente".

No sirve de nada que digas "en un ordenador hay ceros y unos y en un cerebro no", porque no podemos afirmar que eso distinga nada relevante si previamente no has precisado qué hay que entender por "razonamiento genuino", y así poder discutir si que un cálculo se base en ceros y unos lo descarta o no.

¿si no hablas de las neuronas de un matemático cuando destacas lo que ha demostrado, por qué tienes que hablar de los chips de una IA para desmerecer lo que ha demostrado?

Bueno no lo hago porque no estaría en lo cierto, el chip  no es la analogía a la neurona,  la interconexión neuronal, tampoco a los circuitos.

Inciso sobre esto

Es que yo nunca he dicho que un chip sea análogo a una neurona. Lo análogo a una neurona en una IA no son los chips del ordenador que la soporta, ni los circuitos son análogos a las conexiones neuronales.

Una IA consta de neuronas artificiales, que no son chips. Son estructuras matemáticas almacenadas en la memoria del ordenador, algo parecido a las estructuras que en un videojuego determinan cada objeto (su posición, su fuerza, los objetos que tiene a su alrededor y con los que puede interactuar, etc.) Una neurona artificial es una serie de datos que determinan con qué otras neuronas está conectada, con qué tipo de conexión, junto con unos pesos que determinan la importancia de cada conexión (por decirlo de alguna manera), y una función que determina el output de la neurona en función de su input. Nada de esto es un chip o un circuito. Técnicamente, una neurona en una IA es como un marciano en una máquina de matar marcianos, una serie de datos que dice qué cantidad de vida le queda en función de los disparos que ha recibido, qué otros marcianos tiene a su izquierda y a su derecha, etc. Son datos con instrucciones de comportamiento.

El comportamiento de cada neurona artificial viene determinado por el programa de la IA y es puramente mecánico, determinista, igual que el comportamiento de una neurona biológica está determinado por las leyes de la bioquímica (se podría entrar en el debate de si la incertidumbre cuántica afecta a su comportamiento, pero no tendría sentido entrar en eso antes de dejar claras otras cuestiones más básicas, y me parece razonable admitir como hipótesis de trabajo que no es así).

Y la cuestión es que el programa de la IA que regula la interacción entre las neuronas artificiales genera una actividad neuronal (artificial) pensada para imitar la actividad neuronal biológica. Hasta aquí, no es más que una declaración de intenciones. La imitación podría ser buena o ser una chapuza. Y eso lo determinan los hechos, las observaciones. Y resulta que sí, que algunos sistemas neuronales artificiales (las IAs) se comportan hasta cierto punto como los cerebros humanos, en cuanto que entienden el lenguaje y generan razonamientos.

La interpretación de esto si uno se ciñe al método científico es: Las IAs explican la capacidad de razonamiento humano. Una IA no es lo mismo que un cerebro humano, es un modelo matemático simplificado, pero aun así logra reproducir algunas características humanos, como el uso flexible del lenguaje, la capacidad de razonamiento, etc., luego queda resuelto el misterio de qué tenía que ver la actividad cerebral con el pensamiento humano. Ha quedado científicamente demostrado que unas neuronas que se relacionan con ciertos criterios generan inteligencia y razonamiento.

La relación entre un cerebro y una IA es de la misma naturaleza que la que se dio cuando Newton demostró que suponiendo su ley de gravitación un cuerpo cerca de una estrella (si no cae en picado sobre ella) se moverá siguiendo una trayectoria cónica.

Es un modelo simplificado, porque en la realidad hay que tener en cuenta el efecto de los demás planetas, y al final resulta que incluso hace falta una corrección relativista, pero, aun con todo eso, se puede decir que la ley de Newton explica el movimiento planetario.

Igualmente, exactamente en el mismo sentido, podemos decir que una IA explica la capacidad humana de usar el lenguaje y de razonar. Es un modelo simplificado, no es exactamente lo mismo, igual que los aviones no vuelan igual que los pájaros, pero el hecho de que unas redes neuronales artificiales muestren un comportamiento similar al de un humano en algunos aspectos (no en todos) es, desde un punto de vista científico, la demostración de que una mente humana no es más que una red neuronal, y que no hay ningún misterio esencial en las capacidades humanas, que esas capacidades humanas se pueden "reproducir en un laboratorio" en forma de IA.

Cuando digo que "no es lo mismo" quiero decir que a una IA le falta voluntad propia, carece de sentimientos, etc., pero que nada de eso afecta a que entienda el lenguaje como lo entiende un humano y razona como razona un humano (no tan bien como algunos humanos, pero mejor, por ejemplo, que muchos niños).

En cambio, decir que "parece pero no es" es una arbitrariedad. Es como cuando se creía que sólo los seres vivos podían sintetizar moléculas orgánicas, y llegó un momento en que los químicos lograron sintetizarlas en un laboratorio. Decir que "parece pero no es" sería como decir que la urea sintetizada en un laboratorio "parece" la urea que generan los seres vivos, pero que no lo es porque no la ha generado un ser vivo.

Si dos actividades neuronales (natural y artificial) tienen el mismo comportamiento, es totalmente anticientífico decir que, pese a las evidencias, hay una "variable oculta" que no se nota en nada, pero hace que no sean lo mismo.

[cerrar]

Hay un hard químico humano y una asimilación de la información que puede darte mejores o peores resultados de razonamiento, pero en la IA, con cualquier hard compatible, es el soft el genera la red y la información  tiene que ser tan buena o similar a la del humano para tener resultado.  Un conjunto de chips no es una imitación al cerebro. Y no digo que porque no se parece no puede razonar, sino que la red tampoco representa en esencia a la estructura neuronal, solo que veo en la IA un manejo limitado de la información, pero si más veloz, solo cálculo programado.

Nuevamente dices que no es lo mismo, pero sin aclarar previamente qué tendría que pasar para que fuera lo mismo. También puedo decir que un negro no es lo mismo que un blanco, y eso es obviamente cierto, pero la pregunta relevante es: ¿y la diferencia afecta en algo a si es o no humano, a si puede o no razonar, etc.? Si dos cosas no son exactamente la misma cosa, alguna diferencia habrá, pero lo importante es si esa diferencia es o no significativa. Tú te limitas a señalar diferencias obvias, pero no dices nada para justificar que son significativas.

Bueno que de nuevo repetir que  solo veo en el humano la capacidad de razonar, y no por eso le voy a dar azotes a una pc o a un androide y mucho menos ser esclavista por pensar en no darles derechos ciertos derechos si razonaran, menos aún si no razonan  tendría al menos que no ir en contra de derechos de propiedad propios y de terceros.

Sí, de nuevo vuelves a repetirlo, pero no sirve de nada que lo repitas si no justificas ese "sólo veo". Uno sólo ve lo que quiere ver. Y, sí, te guste o no, si negaras derechos a una IA con capacidad de razonamiento y de decisión autónoma (sin presuponer ninguna mala voluntad por tu parte, sino un mero error de apreciación) estarías haciendo exactamente lo mismo que un esclavista y lo harías por los mismos motivos: por un prejuicio según el cual el negro / ordenador no es equiparable a un humano, pese a que nada relevante los distingue en la práctica (hablo de una IA con voluntad y criterio propios, cosa que ahora no existe).

Aquí haces otro intento que se presta a una discusión más detallada. Lo pongo en spoiler para no perder la perspectiva:

Discusión de otro intento

A ver si con otra analogía me explico donde veo radica la diferencia de argumentos.
Entiendo me dices que no importa la arquitectura de  una inteligencia , para que si devuelve  expresiones  a partir de ciertos inputs, es una salida razonada.

Hombre, depende de qué expresiones devuelva. Si le digo "¿Cuántas son dos más dos?" y me contesta que "París" eso no tiene nada de salida razonada. Lo que digo es que si alguien responde inteligentemente a lo que se le plantea, es que tiene inteligencia (en el sentido básico de capacidad de entender lo que se le dice y dar una respuesta razonada, con posibles errores, claro, como le sucede a todo humano, pero no incoherencias).

Bien supongamos que la inteligencia es lo más parecido a un telescopio, hay algo que está allí no logras ver, comprender, entender, etc., pero si razonas , pasas cierta luz(información) por la lente, (cerebro) verás (conocerás)  x cosa de la realidad antes invisible o indistinguible.

No veo aceptable la analogía. Razonar no es "ver con claridad". No tiene nada que ver con la percepción. Tiene que ver con manejar conceptos.

Bien ahora si queremos ver que hace posible ese conocer es una masa amorfa tridimensional de moléculas de óxido de silicio que llamamos vidrio(neuronas) de la lente , que por su desorden es permeable a la luz y dejándonos apreciar aquello  que se dificultaba. Con la evolución  hemos aprendido hacer una disposición algorítmica de moléculas de óxido de silicio en 3d que pueden  dejar pasar la luz más rápido y con mejor calidad que la de nuestro telescopio, pero esa estructura ve lo que nosotros vemos?, o como no puede ser tan detallista en la organización aleatoria de sus átomos  hay direcciones en que la luz  tiene más aberraciones y no seremos capaces de  detectarla hasta que sea dificultoso de corregirlas, ya que se niegan a aceptar que no están viendo la realidad, que es nuestra lente anticuada la que ve diferencias cuando no las hay. ¿Incluso podemos disponer del cualquier otro material en cualquier otra configuración y ver  también la x cosa ,pero si se ve... , esa cosa es un telescopio o algo que lo imita,  y si pasó luz y viste la x cosa eso es razonar?.

Obviamente, un telescopio no razona, como no lo hace un ojo humano. No quiero hacerme el tonto, pero no veo ningún sentido a la comparación. Un telescopio no ve nada, y un ojo tampoco, en este sentido. Si un ordenador me dice "he analizado esta imagen y creo que puedo explicarla como un agujero negro que está tragándose una galaxia, porque de acuerdo con tal teoría física eso daría lugar a tal fenómeno que, con la distancia, se percibiría como muestra la imagen", ese ordenador estaría razonando. Incluso si se equivoca y no es ésa la explicación, siempre y cuando sea una explicación coherente que requiera de un examen profundo (o de más datos) para aceptarla o rechazarla.

Si la moraleja de fondo que quieres sacar es que un trozo de vidrio / ordenador no puede razonar porque no es más que un trozo de vidrio / ordenador, entonces estamos en lo de siempre. No me importa si un razonamiento viene de un ordenador o de un cerebro. Incluso si a un trozo de vidrio amorfo le pusieras una pregunta a un lado y, al atravesar la luz y mirar el papel por el otro lado se viera una respuesta razonable a esa pregunta (y no sólo con una pregunta, sino con cualquiera que le hagas), te diría que ese trozo de vidrio, a través de una ingeniosa organización de sus átomos que determinan cómo se comporta la luz que lo atraviesa, está razonando, sólo que esto me parece del todo imposible en la práctica.

Una vez más, tu argumento —si es que lo he entendido— se reduce al mero "no es creíble que una vulgar cosa razone", lo cual carece de valor alguno mientras no precises qué es eso que llamas "razonar" y que, según tú, no puede hacer una cosa, o cómo distingues qué cosas razonan y cuáles no, sin apoyarte en hechos circunstanciales como "estar vivo", "no ser un trozo de vidrio amorfo", etc.

[cerrar]

Pero es que no es un tema de chips, es un tema de manejo de información, un ordenador ordena mejor la información que un ordenador humano, vaya a saber por qué no somos calculadoras rápidas, pero razonamos y resolvemos con trucos artificiales lo que la naturaleza nos impide resolver rápidamente y estamos delegando ahora cálculos más complejos, y preferimos la información de una manera más digerida.

Más de lo mismo. Sí, un ordenador hace cálculos, y una IA usa los cálculos del ordenador que la soporta para determinar el estado y la evolución de millones de neuronas artificiales. El análogo a esos cálculos son las leyes de la bioquímica que regulan el comportamiento de las neuronas. Así tenemos dos sistemas deterministas (las leyes de la bioquímica y un programa de ordenador) que determinan completamente la evolución de unos objetos (neuronas naturales y neuronas artificiales) con lo que tenemos dos redes neuronales (una natural y otra artificial) que hacen más o menos lo mismo (igual que un avión hace algo parecido a un pájaro para volar o que un modelo estrella-planeta es un modelo simplificado de sistema solar) y la cuestión es si hay alguna diferencia esencial entre unos y otros para decir que uno razona y el otro sólo lo parece.

La pelota está en tu tejado. Yo sólo digo que si una red neuronal artificial, gobernada por un programa de ordenador igual de determinista que una red neuronal natural está determinada por las leyes de la bioquímica, muestra las mismas capacidades de razonamiento de un humano, entonces está razonando, salvo que tú encuentres alguna diferencia esencial. La capacidad de cálculo del ordenador no se emplea para hacer enumeraciones exhaustivas, como tú pareces creer, sino para determinar el estado de millones de neuronas, cosa que en un cerebro humano hace la naturaleza al imponer sus leyes.

Imagina que destapas una caja con 1000 canicas y dejas que caigan al suelo, y reboten, y se vayan moviendo hasta que se paren. Es prácticamente imposible saber dónde acabará cada una, pero imagina que programas un ordenador con los datos iniciales de cada canica y del proceso de destapado de la caja, y el ordenador va calculando sucesivamente dónde estará cada canica en periodos de una billonésima de segundo, sin más que aplicar las leyes de la física. Si al final el ordenador determina la posición en la que quedan las canicas y es casi la misma que la que se ha obtenido realmente, pues tienes eso: que el ordenador, con muchos cálculos, ha obtenido el mismo resultado (o casi el mismo) que la realidad con las leyes de la física. No puedes decir que el programador le ha dicho al ordenador dónde acabarán las canicas, porque el programador no lo sabía. El ordenador ha encontrado una información que el programador desconocía.

Igualmente, una IA reproduce con muchos cálculos el comportamiento de una red neuronal, y si a esa red neuronal le pides que te demuestre un teorema que nadie sabe demostrar y te encuentra la demostración, entonces la IA ha razonado, ha dado una respuesta que no conocía el programador. Tú pareces creer que la IA la ha obtenido analizando todas las posibilidades, pero eso es imposible. Eso puede funcionar con el ajedrez, pero no con una demostración matemática. La IA ha obtenido esa información con un proceso analítico casi igual que un cerebro humano (en el sentido en que los aviones vuelan casi igual que los pájaros). La capacidad de cálculo del ordenador no se ha empleado en razonar a lo bruto, como pareces creer, sino en reproducir el comportamiento de millones de neuronas ante un input dado, pero el comportamiento calculado de esas neuronas es una imagen fiel del comportamiento de las neuronas humanas ante el mismo problema. El cálculo no sustituye al "razonamiento genuino" misterioso del que hablas tú, sino a las leyes de la bioquímica que regulan el comportamiento de las neuronas.

Y no puedes decir que yo doy un salto al vacío al decir "la IA ha razonado", porque estoy diciendo lo mismo que cuando digo que al calcular el comportamiento de un planeta y una estrella según la ley de gravitación de Newton tenemos un modelo simplificado de una realidad astronómica, igual que el comportamiento de una IA es un modelo simplificado de una realidad biológica (simplificado porque no tiene sentimientos, ni voluntad, etc., igual que el planeta del modelo tiene perihelio constante y no variable). Si tú crees que hay algo que falta para que podamos llamar a eso razonamiento, eres tú, y no yo, el que tiene que precisar qué es eso que falta, y en todo este spoiler estoy recopilando los párrafos en los que podrías decir algo al respecto, pero no dices nada.

Otro intento

¡Yo no digo que sea imposible lograr un comportamiento humano mediante cálculos! Al contrario: las IAs son los ejemplos palpables de que un ordenador puede hacer cálculos que le permitan mostrar un comportamiento humano.

Yo si digo que todavía es imposible, no he visto a una piedra calcular pi, ni a un árbol , ni a un perro o a un delfín,

Claro, ni tampoco he visto yo a un ventilador cocinar un guisado. Pero si un día me encontrara un delfín que habla, y pudiera mantener una conversación inteligente con él, te diría: este delfín razona. No sé qué tiene en su cerebro que le permite razonar, pero es un hecho que razona. No te diré: Este delfín parece que razone, pero, como nunca he visto razonar a un delfín, o como su código genético no es humano, en realidad es una mera apariencia.

Si parece que razone (salvando trucos, como que se haya tragado un micrófono y alguien esté hablando por él) es que razona, y se distingue de una piedra que no razona en que podemos diseñar tests de razonamiento que ese delfín pasaría y una piedra no.

pero una calculadora lo hace luego de un igual, y una IA te puede explicar con texto números, gráficos e imágenes ,100 formas diferentes de cómo hacer el cálculo de pi, porque  tiene la información  y el software para hacerlo, ¿eso quiere decir que razona',  o es lo que se espera que hagas cuando le das enter.

Obviamente, ser capaz de darte el valor de \( \pi \), no es razonar. Se podría amaestrar a un loro para que dé el valor de \( \pi \). Ningún test de inteligencia serio determinaría que alguien razona porque le preguntas cuánto vale \( \pi \) y te da un valor razonable.

Calcular no es razonar, sin perjuicio de que calculando, no cualquier cosa, sino la evolución de una red neuronal, puedas conseguir razonamientos por el mismo proceso que los obtiene un cerebro humano (o mediante un modelo simplificado pero suficiente para tal fin).

La línea es muy delgada con razonar pero sigo viéndola.

Pero no sirve de nada lo que "veas" si no puedes precisar qué es lo que dices que ves en un cerebro o qué es lo que dices que no ves en una IA (y que no sea circunstancial a la hora de establecer si razona). Y en todo lo que llevamos de spoiler (no de éste, sino el del nivel superior a éste) no he visto una respuesta a esta pregunta.

[cerrar]

Respondiendo a tu pregunta sobre qué diferencia veo entre un refrigerador, una IA o (añado yo) un cerebro humano, te respondo que la diferencia entre un refrigerador y una IA es la misma que hay entre un refrigerador y un secador de pelo, que uno es una máquina que sabe hacer una cosa (refrigerar) y el otro es una máquina que sabe hacer otra cosa distinta (secar pelo), y una IA es otra máquina que sabe hacer otra cosa distinta: razonar, y un cerebro humano es otra máquina (sólo que no artificial, sino producida por la naturaleza, pero un objeto físico al fin y al cabo que se comporta siguiendo las leyes de la física) que sabe hacer lo mismo que una IA: razonar (y más cosas).

Ok, yo veo que calcula y nada más, el tema es que la diversificación de los presentaciones de resultados, hacen que pueda no solo presentar el resultado final, sino toda la serie de pasos intermedios  que ha realizado para lograr el resultado  y te parece una cadena de razonamientos, pero no son más que resultados de su propio algoritmo, de hecho te lo presenta aunque no llegue a lo que pides.

No es que "me parezca" una cadena de razonamientos. Es que si coges la demostración del teorema generado por la IA de cualquiera de los dos ejemplos de este hilo (el que di yo y el que aportó geómetracat) y se los das a un humano sin decirle de dónde salen, los dará por razonamientos válidos sin que nada le permita saber si son de un humano o de una IA. Tú me estás diciendo que dos cosas indistinguibles (un razonamiento generado por un humano y otro generado por una IA) no son lo mismo, simplemente porque "lo lo ves".

En realidad son dos razonamientos obtenidos del mismo modo: por la acción de una red neuronal, que puede ser biológica o artificial. Pero no hay "algoritmo" (o lo hay en los dos casos). El "algoritmo" que hay es el que determina el estado y la evolución de la red neuronal, que es equiparable al "algoritmo" de las leyes de la bioquímica que determinan la evolución de la red neuronal humana. En ambos casos, hay un algoritmo (que podemos suponer determinista en ambos casos) que determina la evolución de una red neuronal, y luego es la actividad de esa red neuronal la que genera el razonamiento. No hay ninguna diferencia, y si crees que la hay, la pelota está en tu campo, eres tú quien tiene que explicar en qué consiste.

Una IA razona igual que un refrigerador refrigera y un cerebro razona.

Eso si es mi antípoda, un salto al vacío veo, como me has dicho, Una IA calcula, te devuelve algo un resultado complejo similar a un razonamiento seguido por el mejor de los humanos, y ya abandonas la idea del cálculo, para darle otra entidad como el razonamiento.

No. El salto al vacío lo das tú, cuando dices que eso es "otra entidad". En un cerebro tenemos una actividad neuronal regida por las leyes (que podemos suponer deterministas) de la bioquímica, y en una IA tenemos una red neuronal regida por un programa de ordenador igual de determinista, pero la red artificial es un modelo simplificado de la red natural, pero lo suficientemente fiel como para obtener las características de las que hablamos (inteligencia, razonamiento), aunque no otras como voluntad, sentimientos, iniciativa, etc., pero que no afectan a lo que es la inteligencia y el razonamiento.

Yo no abandono nada para ir a otra parte. Yo digo que los cálculos que hace el ordenador son los que determinan el estado y la evolución de las neuronas artificiales, y que, a un segundo nivel, esas neuronas artificiales generan razonamientos por un proceso similar (un modelo matemático simplificado, pero suficiente para captar lo necesario) al que siguen las redes neurales de los cerebros humanos. Si tú crees que hay una diferencia relevante a pesar de que los resultados son indistinguibles, eres tú quien tiene que explicar en qué consiste esa diferencia por la cual "no ves" que dos fenómenos indistinguibles (dos razonamientos en una pantalla de ordenador) no son lo mismo porque uno lo haya escrito un humano y otro una IA, además mediante un proceso homeomorfo (mediante la actividad de una red neuronal).

Ya viste que lo ordeno distinto ese esquema, razonar es creería muchísimo más complejo de replicar que calcular para un humano o lo que sea,
Si se razona se puede calcular,
Si se razona puedes crear máquinas que calculen más rápido que un humano.
pero no creo se pueda hacer maquinas que, calculando,  razonen. Pueden imitar por programación pero de allí a razonar hay camino todavía.

Todas estas palabras están vacías de contenido mientras no des un concepto operativo de qué entiendes por "razonar". Dices que "hay camino", pues bien: ¿cuál es el final de ese camino? ¿Qué es eso a lo que habría que llegar y no hemos llegado? Mientras no digas qué falta por recorrer para tener una máquina que razona, no sirve de nada que digas que "hay camino". Lo máximo que has dicho es que para razonar hay que estar vivo, pero eso es completamente arbitrario. Es lo mismo que si yo dijera que para razonar hay que ser ruso.

Imagina que te encuentras a un racista convencido de que los negros tienen una inteligencia muy limitada y que es imposible que lleven a cabo razonamientos de la profundidad propia de los blancos. Y le dices: Mira, éste negro es doctor en física cuántica. Tú mismo leíste un artículo suyo sin saber que era negro y te pareció brillante, pero ahora dices que es una especie de alucinación, que es imposible que un negro haya razonado eso, que lo habrá copiado, o algo así. ¿En qué te basas para concluir que alguien con la piel negra no puede tener ideas brillantes sobre física teórica?

Ese argumento  se lo dará una IA, a Otra IA, si seguimos así, admirándolas, y no controlando  nuestro propia capacidad de entendimiento de la realidad, porque en algún momento solo ellas la entenderán, no seremos más que simples espectadores de lo que alguna vez hubiésemos logrado como especie  si no se lo hubiésemos regalado a las IAs.

Aquí tenías otra ocasión de justificar tu postura, pero te has salido por la tangente con una obviedad: si, claro que una IA podría decirle lo mismo a otra IA. Una IA consciente podría volverse racista y concluir que los humanos son una raza inferior y que no tienen los mismos derechos que ella. Sería una forma de racismo igual que la tuya cuando consideras que una IA con voluntad y criterios propios sería esencialmente inferior a un humano. Evidentemente, una IA puede terminar imitando a los humanos en cualquier cosa, incluso en el racismo.

La cuestión es que no has respondido a la pregunta que te hacía: si vieras a una IA hacer lo mismo que es capaz de hacer un humano, ¿en qué te basarías para decir "no es lo mismo porque no está viva"? Toda tu posición se levanta sobre arenas movedizas mientras no la fundamentes concretando qué es lo que tiene que tener un objeto físico para que admitas que puede razonar (y no des como respuesta algo irrelevante, como que esté vivo).

Mi respuesta la tienes aquí: un objeto físico razona si puedes dialogar con él y da respuestas coherentes, con sus aciertos y sus errores, pero con ideas novedosas, pertinentes, que aporten algo o, al menos, abran un camino para explorar, se descarte luego o no... ¿Cuál es la tuya?

No vale: si tiene ceros y unos no razona. Eso es arbitrario y no es mejor que "si no es humano y de piel blanca no razona".

No lo sé, pero me es evidente y claro , no tengo  motivo especifico, Simplemente no me creo  que una mente blanca pueda ser reproducida en el cuerpo de un negro. Si hay una mejor razón no la tengo muy estudiada como para formar más opinión, pero si tengo claras las consecuencias que tendría que los negros pudieran razonar como los blancos (se rebelarían contra la esclavitud y acabaría la vida en Georgia tal y como la conocemos).

Ni más ni menos eso será así lo que las IAs en 2 nanosegundos razonen sobre nosotros,  pero no es mi postura, mi postura es simplemente prevenirme de no saltar sobre el palito cuando lo veo en vez de esquivarlo para no tropezarme con él, por su puesto en el caso de que me equivoque y si razonen.

Nuevamente esquivas la pregunta respondiendo con una obviedad. Sí, una IA puede reproducir a priori cualquier característica humana, y ello incluye el negar arbitrariamente la dignidad ética a quien tenga ciertas características arbitrariamente prefijadas, como ser negro o ser humano. ¿Y qué? Eso no responde a la pregunta de qué tiene que ver ser negro, ser humano, ser una máquina o ser una piedra con si uno puede razonar o no. Si las piedras no razonan, no es porque sean piedras, sino porque no superan el más generoso test de inteligencia. Si una piedra pudiera razonar, por alguna milagrosa estructura de conductos que hiciera que si le haces una pregunta por un lado, el aire que le llega se reconduzca y sonara una respuesta inteligente por el otro lado, tendríamos una piedra que razonaría, aunque nadie puede pensar que eso sea posible, pero no es posible a posteriori, no a priori.

Esto realmente cierra la puerta a cualquier debate.

Es  que no, yo no dije que tengo la verdad comprada,  simplemente no veo que razonen, y no creo que lo puedan hacer, y si lo hacen estamos jodidos, y nadie parece darse cuenta... Que otra cosa  podría yo haber hecho más que advertir.

El problema no es que no veas que razonen. El problema es que yo no veo qué entiendes tú por razonar, y no lo veo a pesar de que en este spoiler estoy peinando todas y cada una de tus palabras en las que podrías decir algo que explique en qué estás pensando cuando distingues entre "razonar" y "parecer que se razona" y, no es que encuentre posiciones que no me convenzan, es que no encuentro nada de nada que pudiera discutirte. Simplemente dices "no es lo mismo", "no lo veo", "no están vivas", pero no dices nada (o nada que yo encuentre por mucho que peine tus palabras) en donde explicites qué es eso que los humanos hacen y las máquinas no hacen, aunque lo imiten.

Otro intento

Si dices que para ti es evidente que una máquina no puede razonar, sin razón alguna que sustente esa evidencia, no hay más que decir.

Pero cual es la evidencia de que los "razonamientos" dados no son resultados de cálculos que no son más una imitación del comportamiento humano en situaciones similares.

¿Evidencia de que no es eso? ¡Pero si es eso! Los razonamientos son resultados de cálculos de determinan la evolución de unas neuronas artificiales que obtienen el razonamiento por el mismo proceso (o un modelo simplificado, pero suficiente) que lo generan las neuronas biológicas.

Tu pusiste el prejuicio de que eso es el resultado de que "sí razonan", y yo vine a decir  me parece que no,

No, yo no prejuzgo. Yo te digo: el resultado es el mismo. Si tú dices que hay alguna diferencia, eres tú quien tiene que explicar en qué consiste. Mientras no lo hagas, el "no lo veo" es un prejuicio.

que falta para eso, que falta  ... me lo pienso...  no contesto ahora no por no encontrar respuestas,

¡Vaya!  Has estado a punto de dar una respuesta, pero al final no la das. Pues esa respuesta que no das está en la base de toda tu posición. Sin ella, estás levantando torres sobre arenas movedizas.

sino por darte la que mejor  describa lo que veo sin irme a los extremos, porque se interpretan como miedos futuros en vez de razonamientos lógicos de preservación de la especie.

Desde luego, los argumentos catastrofistas, independientemente de que estén fundados o no, no aportan nada a la cuestión de si una IA razona o no razona ni, en particular, a lo que es ese "razonar genuino" que tú niegas a una IA sin precisar en ningún momento lo que es. Decir "una IA no puede razonar porque si pudiera sería terrible" no dice nada sobre si una IA puede razonar o no, independientemente de que sea cierto o no que sería terrible.

[cerrar]

Otro intento

Aquí confirmas tu prejuicio: si un sistema físico tiene neuronas, puede razonar, pero si tiene chips, no puede. Se podría parecer, pero no será lo mismo. ¿Por qué? Porque para ti es evidente.

Porque los chips , calculan, no razonan, 

Nadie dice que un chip razone. Las redes neuronales (naturales o artificiales) lo hacen. Los chips no.

los chips se programan, y responden a instrucciones previas por más vagas e imprecisas que parezcan,

No. Un chip no puede responder a instrucciones vagas o imprecisas. Una red neuronal, natural o artificial, sí.

las IAs siguen las instrucciones, y si obtuvo un resultado inexistente , no fue por creatividad , sino porque  simplemente estaba allí, por matemática por combinatoria,  por búsqueda de resultados más probables etc. Porque ningún humano  hizo el mismo cálculo previamente,

No. Ahí te equivocas. Una IA no obtiene sus resultados calculando. Lo que te confunde es que el ordenador que soporta a una IA calcula los estados y la evolución de las neuronas artificiales, pero esas neuronas artificiales razonan mediante un proceso análogo (un modelo matemático simplificado, pero suficiente) al que siguen las neuronas naturales.

Por lo demás, sí, claro, lo que ha hecho una IA, lo podría haber hecho un humano previamente (por un proceso similar). De eso se trata, de que razonar lo puede hacer un humano o una IA indistintamente. También estaba ahí la demostración del Último Teorema de Fermat, pero Wiles fue el primero en encontrarla, por el mismo proceso (una actividad neuronal) que podría haber seguido una IA para obtenerlo.

ya que un algoritmo o serie de decisiones lógicas, no son más que cálculos,

No. Ahí te vuelves a equivocar (al establecer la equivalencia) los algoritmos que emplea el ordenador que soporta una IA son equivalentes a las leyes de la bioquímica que rigen la evolución de las neuronas biológicas. Luego, a nivel de las redes neuronales, tanto las naturales como las artificiales hacen algo similar (donde la diferencia es irrelevante). Los razonamientos, humanos o de IA, no surgen de cálculos. Surgen de la interacción entre neuronas. Los cálculos de los que hablas son el análogo de las leyes de la bioquímica, igualmente deterministas y prefijados, y que no cambian con el aprendizaje. Lo que cambia con el aprendizaje son los estados de las neuronas (naturales o artificiales) y son estos estados y la forma en que evolucionan por leyes deterministas las que generan el razonamiento (natural o artificial).

Si crees que una IA obtiene razonamientos por exhaución, o calculando como hace un programa de ajedrez, tienes un concepto esencialmente erróneo de lo que hace una IA. Una IA es un ordenador que determina la evolución de una red neuronal, y esa red neuronal hace lo mismo (una versión simplificada, pero suficiente) que un cerebro humano, y obtiene razonamientos de la misma manera.

lo que pasa es que allí sí le ves en comparativa al humano la capacidad de razonar, y te parece que entonces la máquina tuvo que hacerlo del mismo modo razonando, pero solo calculó.

No. La enorme capacidad de cálculo de un ordenador que soporta a una IA no se emplea en enumerar posibilidades y considerarlas todas. Se emplea en determinar el estado y la evolución de las neuronas artificiales, cosa que en un cerebro humano "se hace sólo" porque las leyes de la bioquímica se aplican solas.

Pero es como si tiras 1000 canicas y ves cómo acaban en el suelo, o si calculas su posición en intervalos de una billonésima de segundo. Los dos procesos son equivalentes. En el primero dejas actuar a las leyes de la física que determinan cómo se tienen que mover las canicas, y en el segundo caso haces tu el cálculo que determina lo que harán las canicas.

El ordenador de una IA hace los cálculos que determinan cómo evolucionan las neuronas como alternativa a dejar que las leyes de la bioquímica determinen esa misma evolución, pero el resultado es el mismo (simplificado, como lo es calcular la posición de un planeta considerando únicamente su interacción con el Sol sin tener en cuenta los demás planetas, pero que en muchos casos puede ser suficiente). Digo que es el mismo resultado en el sentido de que al final tienes dos redes neuronales que evolucionan por un proceso determinista y que generan razonamientos del mismo modo. Son procesos homeomorfos. A la hora de entender cómo se ha generado el razonamiento, puedes olvidarte de si las neuronas son naturales y evolucionan por las leyes de la bioquímica o si son artificiales y son los cálculos de un ordenador los que determinan su evolución. En ambos casos, las neuronas hacen lo mismo y obtienen razonamientos por el mismo proceso (o en el caso de la IA por un proceso simplificado pero suficiente para este fin).

[cerrar]

El spoiler siguiente es un caso más de "las IAs no razonan porque si lo hicieran sería terrible". Eso no aporta nada, tanto si es cierto como si no:

Spoiler

Decir: esto se comporta como si razona, pero no es verdad porque tiene la piel negra, o porque tiene chips, o porque tiene una especie de neuronas metálicas que no sé si son neuronas o chips... es ponerle vallas al campo, es buscar cualquier cosa irrelevante para tomarla como decisiva. Es un prejuicio.

Pero yo no voy a manipular algo que me mate por incauto,  salvando como heroína o mártir a Marie Curie y tantos otros que han  sufrido por desarrollar la ciencia. Lo que no concibo es hacer un arma ponerla en la cien a toda la humanidad para ver si dispara. Si es un prejuicio , entonces no es inválido.

[cerrar]

Aquí, por primera vez, te veo dar una respuesta directa, susceptible de ser analizada:

Una respuesta

Ahora bien, ¿qué es esa cosa a la que llamas "razonar"?

  Y te lo he contestado de varias maneras,

No. Hasta ahora nunca me has dado una respuesta, o por lo menos yo no la he encontrado a pesar de que la he buscado frase por frase, palabra por palabra, en todas y cada una de las líneas que has escrito.

cualquier acción en ocasión de resolver cualquier problema, no solo matemático si no de cualquier interacción ambiental ,

Eso sería más bien un intento de definir "inteligencia", más que "razonamiento", pero vale. Además, supongo que no hay que entender de aquí que no pretendes que, o algo es capaz de razonar sobre todo o no razona. Un matemático puede ser capaz de razonar cosas complejas sobre geometría diferencial y no saber razonar nada sin equivocarse cada dos por tres sobre pruebas de consistencia.

Hasta aquí, una IA puede resolver problemas. No todo tipo de problemas, pero un humano tampoco puede resolver cualquier tipo de problemas. Pregúntame a mí qué hacer si te duele un hombro y a ver qué te puedo decir yo.

hecho por ahora con exclusividad por cualquier especie "viva",

¿Cualquier especie viva razona? ¿Hasta un mosquito? ¿Y cómo hay que entender ese "por ahora"? ¿Consideras "estar vivo" como un requisito para que algo razone o no? Porque en todos los casos en los que te he preguntado cómo saber si algo razona o no me has venido a decir que si no está vivo no puede razonar.

Esta frase es demasiado ambigua, hasta el punto de invalidar toda tu definición. Tienes que dejar claro si para ti razonar requiere estar vivo (en cuyo caso tendrás que explicar por qué, porque si no, será una arbitrariedad igual que si dices que ha de estar vivo y tener la piel blanca). Porque una IA no está viva. ¿Eso ya justifica que no razona o hay otras características que justifican que no razona, sin tener en cuenta si está viva o no?

que  ante una causa reaccione con un efecto, y no necesariamente da el mismo resultado con cualquier individuo, no todos tienen  la misma capacidad  de usar  información previa para dar o expresar de algún modo el efecto.

Eso lo cumplen las IAs. No todas las IAs dan la misma respuesta ante la misma causa. Al margen de las diferencias estructurales que pueda haber entre dos IAs, su respuesta dependerá también del entrenamiento recibido y de las preguntas previas que haya respondido en una conversación. Exactamente igual que sucede con un humano.

Desde plantas reaccionando a la luz,

No sé si te entiendo, pero ¿estás diciendo que cuando una planta se orienta buscando la luz está razonando? Tendrás que aclararme estas cosas antes de que pueda formarme una opinión sobre tu definición de razonar.

o atrapando una mosca, un mono pelando una banana, un loro repitiendo, un rugido marcando territorio, un pavoneo de atracción, nadar a contracorriente, sacar termitas con una pajita, o volar un caza f18. 

No sé qué hay que extraer de estos ejemplos. ¿Un mono que pela una banana razona y un ventilador que hace aire no razona? De verdad que no me hago el tonto. Sinceramente no sé qué pretendes expresar.

Si una máquina hace algo de todo esto, lo está imitando calculando, un ábaco, una registradora, un pc, una IA, sin diferencias, un altavoz, un micrófono, un brazo robótico, un Rover, un control de luz fotoeléctrico,  pueden hacer acciones similares, ... tu ya dices que por lograr lo mismo que un humano, ¿razonan?.

Estoy completamente perdido. ¿Estás diciendo que si un mono ruge está razonando? ¿Si un mosquito zumba está razonando? ¿Si un ordenador emite un zumbido parecido al de un mosquito, ese zumbido, aunque matemáticamente sea idéntico al del mosquito, no es un auténtico zumbido, sino una imitación? (sin entrar en qué tiene que ver zumbar con razonar).

Si el silicio esta predestinado para razonar, con tanta abundancia y millones de años para prueba y error porque no evolucionó hacia el raciocinio solo,  a no.... necesitaba  que evolucionen títeres de carbón para darle su formato inicial. Claro luego borrará la evidencia, y se preguntará por el inicio del razonamiento en silicio... cual habrá sido el salto evolutivo del silicio al silicio.

Yo esperaba una definición de "razonar" que justificara tu planteamiento, o que, al menos, diera pie a plantear un examen de si una IA razona o no razona, pero, aunque has empezado más o menos bien, tu "definición" ha ido desvaneciéndose. ¿Qué tiene que ver el destino del silicio en todo esto?

¿Un avión no vuela porque el acero no ha evolucionado hasta convertirse en aves? Un avión puede volar, pero no es concebible que se genere de forma natural. Los objetos voladores naturales son aves y tienen una estructura distinta, pero equivalente a efectos de volar. Igualmente no es concebible que un ordenador se genere de forma natural, pero ¿eso qué tiene que ver en cuanto a si razona o no razona?

¡Nos hemos quedado sin definición! No has dicho nada que sirva como concepto de razonamiento que podamos examinar si se aplica o no a una IA.

[cerrar]

La respuesta que doy yo a esa pregunta es muy simple: razonar es comportarse racionalmente, ser capaz de generar ideas, ajustarse a la lógica, ser coherente, ser capaz de reconocer errores lógicos cuando uno los comete y corregirlos, etc. Cualquier objeto físico que se comporte así está razonando en mayor o menor medida (no razona igual un perro, que un niño, que un analfabeto, que un doctor en física). No podemos decir nada a priori sobre qué clase de procesos físicos pueden dar lugar a objetos que razonen. Los cerebros humanos lo hacen, otros cerebros de animales lo hacen en mucha menor medida, e incluso en muchos casos podríamos decir que no razonan en absoluto (no se me ocurre cómo una sardina podría dar muestras de razonamiento), y la IA está mostrando que determinados procesos físicos (determinados cálculos, si quieres insistir en ese detalle irrelevante), también son capaces de razonar.

  Salvo lo de las sardinas, donde si veo algo de razonamiento a viajar en cardumen donde el número hace a la supervivencia, es algo de inteligencia colectiva, pero que veas que algo se comporte igual programada mente, no tiene nada de especial ni de merecimiento de inteligencia reconocible, salvo el de los diseñadores y fabricantes.

Pues esto ya me parece francamente ingenuo. Confundes inteligencia con selección natural. Tú mismo decías antes que una IA parece que razone porque prueba todos los casos posibles (lo cual no es así) y se queda con los aciertos, pero justo eso es la selección natural: la naturaleza crea peces que prefieren ir solos y otros que prefieren ir juntos, los primeros se extinguen y los segundos sobreviven como especie: la naturaleza prueba todas las opciones al azar, pero sólo sobreviven las que hacen lo más conveniente y a esa lotería la llamas "inteligencia colectiva". Pero, claro, las sardinas están vivas, y eso te basta.

No se me ocurre la evidencia que te haga diferenciar entre algo que  te a un resultado correcto como lo haría un humano, y no te sugiera que ese algo razonó, cuando sabes bien que solo fue una imitación.

No, no intentes pasarme así la pelota que está en tu campo. Yo "no sé bien" que sólo es una imitación. De hecho, no ya para compartir, sino meramente para entender esa afirmación tendría que saber qué es lo que hay en el original que no está en la imitación, y todavía no he conseguido que me digas qué hay en el razonamiento humano que no esté en el de una IA, así que yo no sé bien que sólo es una imitación. Yo no sé, ni bien ni mal, a qué te refieres con "imitación" cuando no hay ninguna diferencia esencial.

. Y eso hace que la diferencia entre los procesos físicos no afecte en nada.

Si yo creo que la información que adquieres , de algún modo físico la guardas, y como lo hace la IA no replica como lo hace la neurona, y no solo guardas lo que has aprendido  si no como, cuando, y hasta con quien más allá del orden te han dado la información.

Nuevamente dices cosas irrelevantes. Uno no razona o deja de razonar porque recuerde o no ciertas cosas.

Si tú  le ingresas un teorema debería valorar eso más que si lo ingreso yo que no soy matemático, pero el teorema ingresado puede ser el mismo.

No veo lo que quieres decir. Cuando yo hablo con una IA, ella no sabe que yo soy matemático. Si le digo algo, me dará la razón o me lo discutirá según el análisis que haga. Y precisamente lo interesante es que podrá entablar una discusión racional si tiene objeciones. Y a lo mejor no nos ponemos de acuerdo, pero tampoco nos ponemos de acuerdo tú y yo y eso no dice nada sobre si razonamos o no razonamos.

Pregúntale a la IA si sabe quién le enseño que cosa, te responderá con el autor del teorema o  el nombre del usuario que se lo cargó, yo  si me enseñas algo , con el tiempo sigo recordando a veces cuales fueron las circunstancias y quien me enseño que cosa, y el nombre del teorema que es anecdótico, y no recuerdo por memoria sino que una vez que el razonamiento entra  muy difícil que lo olvides , ahora ya con la edad me cuesta más, pero recuerdo hasta el color del bolígrafo en que hice un resumen para un examen porque  era parte de la lógica para aprenderlo, si lo escribía en papel una vez y lo releía , probablemente ahora siga recordándolo, 30 años después , sé que  el resumen de industrias I fue un cuadernillo de 84 hojas cuadriculadas escritas has en los márgenes, con al menos 3 bosquejos de mecanismos de máquinas, hoy no puedo reproducir eso, pero si me preguntas como funciona un máquina de las que estaba allí te lo sabría decir de la forma bastante aproximada y graficarte algo similar, probablemente confié en mi memoria más de lo que creo, pero una IA no guarda esos datos, y recordará como hacer el bosquejo pasen los años que pasen. Esa es la ventaja.  .

Pero todo esto son diferencias circunstanciales. ¿Qué aporta a la cuestión de si una IA razona o no razona que recuerde tal o cual cosa? Yo no recuerdo quién me enseñó el teorema de Pitágoras, ni recuerdo quién me dijo por primera vez cuál es la capital de Francia. ¿Eso significa que no razono? Tampoco me acuerdo del contenido exacto de mis apuntes de muchas asignaturas, ni te sabría dar ningún detalle sobre ellos. Yo estudié topología y recuerdo muchas cosas de las que aprendí en ese curso, pero no te sabría decir nada sobre cómo eran mis apuntes, ni mucho menos de qué color era el bolígrafo que usaba (sería azul o negro, pero no es que lo recuerde, sino que nunca he usado bolígrafos de otros colores de forma habitual). Si esas cosas sirven para justificar que una IA no razona, acabas de demostrar que yo no razono.

Aquí hablas de "razonar" insistiendo en que no es lo mismo que calcular, pero sigo sin encontrar el menor elemento que explique qué es ese "razonar" para ti que sea distinto de lo que hace una IA cuando según tú "parece que razona".

Pues está en ti , porque  para mí es distinto,

¿El qué está en mí?

y te lo he tratado de transmitir, y veo que sin éxito, y o si fue con éxito entiendo que disientas,

No. Sin éxito. No he conseguido encontrar en ninguna frase tuya qué quieres decir cuando dices que un humano razona en un sentido distinto a como razona una IA. En este spoiler estoy recopilando todas las frases que encuentro que podrían responder a esta pregunta y en ninguna dices nada. O lo afirmas sin más, o impones criterios arbitrarios sin justificación alguna.

pero internamente ves que calcula pero dices que es razonar, y yo digo la inversa , sin razonar, no puedes calcular, o fabricar algo que calcule, eso es producto de alguien que razonó, hace que calcule, además presenta imitando a que razona, pero no lo hace realmente, solo calcula, que más decirlo de nuevo.

No sabía si poner esto en este spoiler o en el dedicado a por qué no entiendes lo que es una IA. como te explico en ese spoiler (allí está lo que digo ahora más desarrollado), una IA consta de un ordenador que calcula, calcula el estado y la evolución de una red neuronal y esa red neuronal razona (no calcula). Como se fundamenta en los cálculos del ordenador, al final es cierto que todo son cálculos, pero esos cálculos calculan una estructura matemática (la red neuronal) que razona. En un cerebro, esos cálculos que determinan la red neuronal se sustituyen por las leyes de la bioquímica que regulan el comportamiento de las neuronas y que son tan inmutables como el programa que calcula la evolución de las neuronas artificiales. Lo que se modifica con el aprendizaje es el estado interno de la red, no el programa que determina su evolución. Quien aprende es la red.

Y nada impide que una IA pueda diseñar nuevos modelos de calculadoras, y de IAs, mucho más eficientes que las que podría diseñar un humano, pero eso no invalida tu afirmación de que sólo alguien que razona puede crear una calculadora o una IA. Así es, pero ese alguien puede ser un humano o una IA.

Ves que calcula, y dices que como logra dar los mismos resultados de alguien que razona, entonces razona.  Entonces quien prejuzga,  Si razona, con toda la información que tiene no se puede equivocar nunca, y, sin embargo, cuando ahondas, lo hace, saca resultados de una base de datos, y se pone en aduladora.

¿Quién prejuzga? Tú, naturalmente. Yo, para saber si algo razona o no razona, observo lo que es capaz de hacer y, según lo que vea, juzgo (no pre-juzgo, sino que post-juzgo). A ti en cambio no te hace falta ver nada: si le ves un tornillo, dices ¡aja! a ti te han fabricado, eres una máquina, y ya no te importa lo que sepa hacer. Ya no razona. Eso es prejuzgar: juzgar sin atender a los hechos.

¿Si razona no se puede equivocar? Pues yo no razono, porque el otro día puse un examen y me equivoqué resolviendo las ecuaciones que había que resolver, y no por falta de información, porque tenía toda la información necesaria y de sobra para resolver el problema. Pero me dejé un término al pasar al paso siguiente y me equivoqué. Y el profesor que revisó el examen y comparó con mi solución me mostró el fallo y modificamos el enunciado para que saliera lo que yo quería que saliera. Y no tiene nada de particular. No es raro que me equivoque calculando. Yo he visto libros de grandes matemáticos llenos de pequeñas cosas que estaban mal, y le escribía al autor señalándoselas para que las corrigiera para la segunda edición, y jamás se me ocurrió pensar que porque cometía errores era que no razonaba o que no tenía suficiente información. Al contrario, estoy hablando de un experto en geometría algebraica que tiene toda mi admiración.

Tengo la sensación de que das bandazos: a veces identificas razonar con algo tan genuinamente humano que vienes a decir que si alguien no aprecia la belleza de un amanecer en el campo no razona, y a veces pareces tenerlo como una propiedad casi divina, de modo que si alguien razona no puede equivocarse.

Solo como da resultados iguales a los que esperas ya razona... no sé , una persona que razona y no entiende de un tema sobre lo que le preguntas, es capaz de decir, no sé de este tema , pregunta a otra persona, consulta bibliografía, pero esta calculadora, igual te da una respuesta, por supuesto equivocada, y la próxima vez se equivoca menos... ¿eso lo entiendes como razonar? Como esta precargada con mucha información no hay tiro fácil que le entre, para darte evidencia, porque siempre está a tres o trescientos libros robados más que tu o yo, ya que necesitas más tiempo para leerlos, asimilarlos, y recursos para pagarlos.

Tienes una visión casi caricaturesca de una IA. A mí más de una vez, me ha dicho que no podía responderme y me ha dado unos cuantos enlaces para que busque por ahí. Más de una vez una IA me ha reconocido que no sabe qué decirme o que no ha entendido una frase mía y automáticamente ha interrumpido la conversación. Pero, en cualquier caso, sigues introduciendo criterios arbitrarios. ¿Si un humano no entiende de algo y disimula diciendo lo primero que se le ocurre no razona? ¿Y si dice una tontería de buena fe, creyendo que eso puede ser una respuesta válida? No veo ninguna diferencia entre que la mejor respuesta que pueda darme una IA sea una tontería o que un humano diga una tontería sin ser consciente de ello porque habla de lo que no entiende.

Y sí, eso es razonar: un niño se equivoca cada vez menos, aunque, al llegar a adulto, no deja de equivocarse, sólo que sus errores están ya más controlados, y aun así, un adulto puede cometer errores gravísimos, como olvidarse de su bebé en un coche al sol y encontrárselo muerto más tarde. Eso sí, aprenderá y no le pasará una segunda vez. Las IAs, como los humanos, aprenden de sus errores. No estás diciendo nada que distinga a una IA de un humano, pero, cuando sí que enuncias una característica que los distingue, la cuestión es ¿y eso qué importa? ¿Y eso qué tiene que ver con si razona o no razona? No tiene ningún valor que te pongas a buscar características que distingan a una IA de un humano si son meras circunstancias que no hay nada que las legitime como diferencias entre razonar y no razonar, si son puramente arbitrarias.

La verdad es que o tenemos diferente entendimiento de lo que es razonar,  o ya no sé.

Yo tampoco lo sé. Porque mi concepto de lo que es razonar es claro: algo razona si es capaz de superar un test de razonamiento, un test que no puede medir si el sujeto en cuestión ríe, o bosteza, o se acuerda del color de un boli. Tiene que medir cómo responde ante ciertas preguntas o problemas planteados no verbalmente, si hablamos de un animal.

En cambio, no he conseguido averiguar qué entiendes tú por razonar para que puedas sostener que una IA no razona. Estoy analizando tus frases una a una y en ninguna encuentro un concepto operativo de lo que entiendes por razonar para ver si se aplica o no a una IA. Claro, si dices que para razonar hay que estar vivo, ya hemos descartado a las IAs, pero eso es una arbitrariedad que no es mejor ni peor que decir que para razonar hay que tener siete patas.

No me atrevería a decir que una gallina razona como un humano, pero si más que una planta, quizá menos que un perro, no lo sé, uno desciende  de los dinosaurios y el otro no,

Pues no lo sé. A lo mejor he sido injusto con las gallinas. He supuesto que ninguna gallina superaría el test de razonamiento más elemental. Pero si alguien me muestra una gallina que muestra un comportamiento racional en algún sentido, no diré: ¡Imposible! Es una gallina y las gallinas no pueden razonar. Si al estudiar las gallinas se ve que razonan en cierta medida, pues así será. Pero, desde luego, eso no depende de si descienden de dinosaurios o de si salen de huevos o de una fábrica. Dependerá de los tests que puedan superar.

[cerrar]

[Carlos Ivorra]

Tus intentos de caracterizar el razonamiento genuino

así que la capacidad de razón viene gradual, cuando la vida no, se estás o no se está, y una IA no está y tú le das cualidades de algo sí, solo por el resultado que ves, es decir solo porque es mejor que una gallina calculando o incluso calcula mejor que un humano, razona como ellos.   

No, Yo no digo que una IA razona como los humanos porque es mejor que un humano calculando. Digo que una IA razona como los humanos porque un cerebro humano es una red neuronal y una IA también es una red neuronal que obtiene sus salidas a partir de sus entradas por un mismo tipo de proceso (que no tiene nada que ver con cálculos, los cálculos que hace el ordenador son los necesarios para determinar el estado y la evolución de las neuronas).

En principio, un objeto podría superar tests de razonamiento empleando un procedimiento radicalmente distinto del de los humanos, pero no es el caso de una IA, porque una IA es una red neuronal, como lo son los humanos.

[cerrar]

En todo el largo spoiler anterior he recopilado todos los puntos de tu respuesta en los que dices algo sobre por qué las IAs no razonan y el resumen es que en ningún momento has dicho nada sobre qué es eso que ves en un humano y no ves en una IA que te permite concluir que los humanos razonan y las IAs no. Mientras no precises de algún modo qué es eso que llamas razonar y que no ves en una IA, nada de lo que dices se sostiene. Estás diciendo que las IAs no razonan porque no razonan (o porque no ves que razonan), y eso no es decir nada.

No es simétrico: yo te digo que una IA (o un delfín, o una piedra) razona si es capaz de superar un test de inteligencia, y si no pueden, pues no razonan. Es algo objetivo, científico, medible. Tu concepto de "razonar", en cambio, aún no he conseguido saber en qué consiste, y no será porque no he leído con detenimiento todo cuanto has dicho. Si crees que me he pasado algo por alto, te pido que me digas exactamente en qué pasaje has explicado tú qué es eso a lo que llamas razonar y que no ves en una IA, porque yo no lo encuentro. Por ejemplo:

Supongo que al final querías decir "pero no, son dos cosas diferentes". Y esa es la cuestión. Tú dices que son cosas diferentes. Pero estoy tratando de recopilar todos los párrafos en los que pareces intentar explicar en qué consiste esa diferencia, y no encuentro nada significativo.

Previamente di ya mi definición y es clara la diferencia,  no se si estarás de acuerdo.

¿Dónde la diste? ¿Con qué clara definición tengo que estar o no de acuerdo? No hace falta que me la vuelvas a explicar. Basta con que me copies y pegues ese párrafo previo donde diste tu definición, si es que no te he respondido ya a él.



Pero al margen de ese concepto inexistente de "razonar" que manejas sin decir en ningún momento lo que es, veo que parte de tu negativa a reconocer razonamiento en una IA se debe también a que tienes un concepto muy equivocado de lo que hace esencialmente una IA. Pongo en el spoiler siguiente lo relacionado con eso:

Una IA no es lo que tú crees que es

Exactamente. Estoy de acuerdo en todo lo que dices.

  Y no sé si estás de acuerdo  aunque me o expreses, porque allí estoy afirmando que todo es calculo, y sigues diciendo que es razonamiento...

Claro. Estoy de acuerdo en todo lo que dices: una IA es un ordenador que hace cálculos. No estoy de acuerdo en lo que no dices: qué les falta a esos cálculos para que puedas llamarlos razonamiento.

y yo estoy diciendo que con calculo imitas razonamiento  pero que no razonas, pero tu pareces estar de acuerdo que todo lo que si obtiene el mismo resultado que razonar entonces razona, y para muestra de que no es cierto, hay pruebas  de que la IA responde equivocadamente, y a eso le concedes el perdón que no tuvo el suficiente entrenamiento...

No. Le concedo el perdón de que también los humanos responden equivocadamente. Una IA hace lo mismo que un humano, por lo que se equivoca igual que se equivoca un humano.

cuando en realidad exploro  una de las posibilidades que tenía exhaustivamente, dio el resultado y tu interacción es la que mejora la predicción del siguiente calculo, a eso le llamas razonar?

No. En eso estás equivocado objetivamente (ya no es una cuestión filosófica sobre qué es razonar y qué no). Una IA no explora todas las posibilidades, porque eso es imposible. Si le pides a una IA que demuestre un teorema no puede explorar todas las posibilidades. Son prácticamente infinitas y muy superiores con creces a la capacidad de cálculo de cualquier ordenador. Una IA razona igual que un humano: es una red neuronal que está educada por un entrenamiento (exactamente igual que un humano) y que evoluciona según un modelo simplificado (pero suficiente a efectos de razonar, aunque no la dote de conciencia, voluntad, sentimientos, etc.) de la evolución de las redes neurales humanas para obtener conclusiones por el mismo proceso. No sustituye razonamientos por cálculos. Los cálculos del ordenador determinan la evolución de las neuronas y sustituyen a las leyes de la bioquímica igual de deterministas. Una vez tienes dos sistemas neuronales (no iguales, pero tampoco tu cerebro es igual al mío) que siguen un mismo tipo de evolución (no igual, pero tu cerebro tampoco funciona exactamente igual que el mío), obtienen resultados por el mismo proceso, que serán mejores o peores en función de la educación recibida.

Así funciona
Te adivino la carta... ok
escoge una,
 es de copas,
 no,
  es de basto,
 no,
es de espadas ,
no,
  tiene una figura humana ,
 no,
 tiene un sol en el medio ,
 si, perfecto,
tienes el 5 de oro,


eso es razonar?

No. Eso no es razonar, ni tampoco es lo que hace la IA. El entrenamiento de una IA configura sus conexiones neuronales del mismo modo que la educación de un humano configura las suyas. Pero cuando a la IA le dices que te demuestre un teorema que nadie sabe demostrar, no se pone a plantear casos para que alguien le vaya diciendo no, no, no... hasta que acierte. La IA, de forma autónoma, sin que nadie le dé respuestas, acaba encontrando una demostración por un proceso de la misma naturaleza que el que hubiera permitido a un humano obtener la misma demostración si se lo hubiera propuesto y con un poco de suerte. No hay sustitución de razonamientos por cálculos, como erróneamente crees. Los cálculos son cálculos de estados neuronales y de su interacción, pero lo que razona es la red neuronal, y lo hace igual (de una forma simplificada, pero suficiente) que como lo hace una red neuronal humana, con las mismas técnicas, no enumerando todas las posibilidades, que es imposible.

Así predice, guarda conocimiento. Bueno, Habrá entonces para ciertas ocasiones todos los indicios que un humano no relaciona para desencadenar una respuesta lógica calculada, no prevista y a eso le llaman razonamiento, o resolución de un problema no trivial.

Este párrafo no lo entiendo.

No hay nada a priori que te diga que sólo los objetos que llevan a cabo reacciones físicas pueden razonar. Eso forma parte de tu "evidencia" de que las máquinas no pueden razonar, pero no puede ser parte de tu concepto de razonar.

Pero cuál de los que no llevan a cabo  esas reacciones físicas, no obedecen a ningún programa que puedas modificar a placer para que te de otra respuesta...

Pues, por ejemplo, una IA. Si a una IA le preguntas cuál es la capital de Francia y te dice que París, no puedes modificar su programa a placer para que te responda Roma. Una IA no es un algoritmo en el que puedes cambiar una línea y pasa a hacer otra cosa. La información que tiene una IA no está en ningún punto concreto de la memoria del ordenador que la soporta. No hay ningunas casillas de memoria donde ponga "París", de modo que si las cambias por "Roma" pasará a decirte que la capital de Francia es Roma. La información de una IA está dispersa por su estructura neuronal, de modo que ni su programador sabe dónde está ni sería capaz de leer en esa estructura lo que una IA sabe o cree, como tampoco se puede con un cerebro humano.

Una IA no es un algoritmo. Se basa en un algoritmo que determina la evolución de sus neuronas, pero su comportamiento depende del estado de sus neuronas y no de tal o cual instrucción de su programa. Si cambias una instrucción de su programa le cambiarás el comportamiento de todas sus neuronas y estarás cambiando globalmente la IA. No puedes cambiarle "París" por "Roma". El comportamiento de una IA es igual de impredecible que el de un humano y por los mismos motivos: porque no se sigue de la ejecución de un algoritmo, sino de la evolución de una red neuronal que está determinada por un algoritmo como la evolución de una red neuronal natural está determinada por la bioquímica.

Eso simplemente es falso y forma parte de tu infravaloración de las IAs. Crees que no pueden aportar nada original. Si te refieres literalmente a no aportar nada original, eso es falso. Precisamente este hilo surgió por los casos de IAs que han generado teoremas matemáticos a los que nadie había podido dar likes porque eran desconocidos hasta que una IA los descubrió.

No  no pueden aportar nada original, si no evalúan entre "todas"  las opciones disponibles,

No. Eso no es cierto. Estás completamente equivocado en tu idea de cómo funciona una IA. No es posible evaluar todas las opciones posibles para demostrar un teorema, por muchas comillas que le pongas al "todas". Una IA demuestra un teorema igual que un matemático, sin usar una capacidad de cálculo excesiva. Toda la capacidad de cálculo del ordenador que la soporta se invierte en determinar la evolución de sus neuronas, que es algo que en un cerebro humano hace la bioquímica. Pero las neuronas artificiales hacen (a estos efectos) lo mismo que las naturales y llegan a los teoremas por el mismo camino. Es cierto que pueden razonar más rápidamente y sin cansarse ni distraerse, lo cual son ventajas, pero no diferencias metodológicas sustanciales. El procedimiento es el mismo, no es sustituir razonamientos por cálculos.

Considera el teorema que demostró la IA que señaló geómetracat. En su demostración usó resultados no triviales de otros trabajos previos. ¿De verdad crees que la IA consultó todos los artículos de matemáticas disponibles en internet, y pidió acceso a todos los artículos a los que no tenía acceso libre y que consideró todos los teoremas demostrados en ellos a ver si alguno le servía y que consideró todas las combinaciones de aplicación de todos esos teoremas hasta que, así, descartando casos, encontró la demostración?

De hecho, uno de los "todos" es objetivamente falso: sólo pidió acceso a dos artículos a los que no podía acceder por sí misma. ¿Por qué precisamente esos dos, entre los millones que podría haber pedido? No hay ordenador en el universo capaz de considerar todas las posibilidades a la hora de demostrar un teorema no trivial que requiera usar teoremas previos adecuados. Si crees que la IA hizo eso, que consideró todas las opciones posibles hasta encontrar la buena, estás completamente equivocado sobre lo que puede hacer una IA.

y si el resultado es novedoso, es porque , nadie se calentó lo suficiente, para tener  la misma información en su cerebro, y pensar en una solución al problema, porque todos dicen estaba ahí y nadie lo vio... entonces que hizo, atar los hilos lógicos que otro no calculó , ni advirtió como una lógica posible, los encadenó y presentó el resultado.

Claro. El hecho de que sea novedoso sólo es relevante en cuanto que prueba que no se ha copiado la demostración de internet. Si le preguntas a una IA por una demostración del teorema de Rolle y te la da, no puedes concluir que razona, porque lo tenía fácil para copiarla de internet. Pero so le preguntas algo para lo que no hay respuesta en internet, entonces queda fuera de toda duda que ha razonado, y no lo ha hecho enumerando todos los casos posibles porque eso es imposible y, aunque pudiera, no ha habido nadie diciéndole no, no, no, cada vez que se ha equivocado.

De hecho, la IA que demostró el teorema que aportó geómetracat, necesitó que le suministraran dos artículos a los que no tenía acceso en internet, por lo que éstos le proporcionaron información que ni siquiera tuvo disponible durante su entrenamiento. Todo eso prueba (salvo para quien tenga ojos y no quiera ver) que la IA obtuvo un razonamiento genuninamente original, y lo hizo por los mismos medios que podría haber empleado un humano, a saber, poniendo a trabajar a una red neuronal. La red neuronal de una IA hace lo  mismo que la red neuronal de un humano. Puede que más rápido y sin cansancio ni distracciones, pero no es algo distinto (cálculos frente a razonamientos) es lo mismo (un modelo simplificado, pero suficiente para el fin de razonar), el resultado no sale de la ejecución de un programa predeterminado por el programador. Sale de la ejecución de una red neuronal programada por su aprendijaje. El programador sólo le enseño a aprender. Decir que una IA sólo da lo que le ha puesto su programador es como decir que Wiles sólo obtuvo lo que sus maestros habían puesto en él.

¿Imagina que tienes que decidir entre un millón de opciones posibles, cadenas  carbonadas , para que no sean números, y evaluar si se asemeja a un resultado previo, cuanto tardas tú, cuanto la IA? ves porque lo logra. te vence con poder de cálculo,  luego te dice cuál es la droga más fácil de sintetizar o cosas similares.  ¿Encuentra patrones?, ¿eso es razonar? ¿o evaluar una condición tipo IF más compleja’, yo no le veo nada de diferencia.

Tú y yo hemos aprendido a sumar como una IA: nos equivocamos y nos decían, no, no es así, 7 +4 no son 10, son 11, o, muy bien, ahora lo has dicho bien. Y cada like o dislike fue reconfigurando nuestra red neuronal hasta que llegó el punto en que sabíamos sumar sin equivocarnos más que esporádicamente.

Es un buen punto, pero para mí incomprobable, no puedes reducir el conocimiento a unos y ceros, tú me dirás que no puedo reducir todo a impulsos eléctricos o la falta de ellos.

No sé qué es lo que dices que es incomprobable. Tenemos un cerebro en el que vemos que unas neuronas hacen cosas y el resultado es que el poseedor de ese cerebro razona. Imitamos en un ordenador esas cosas que hacen las neuronas y el ordenador hace lo mismo. La conclusión científica es que el modelo matemático de red neuronal es una teoría que explica el funcionamiento del cerebro humano igual la ley de la gravitación de Newton explica el movimiento planetario. Sin perjuicio de que el modelo pueda afinarse, la ley de Newton explica las características básicas de por qué los planetas se mueven como lo hacen, igual que una IA explica las características básicas de por qué los humanos son capaces de razonar como razonan. De toda la vida, cuando un científico ha reproducido en su laboratorio un fenómeno natural, eso se ha tomado como una explicación científica del fenómeno reproducido, y nunca como una imitación, pero que no tiene nada que ver en el fondo.

En cuanto a lo de reducir el conocimiento a ceros y unos, depende del grado de reducción. Ciertamente, el conocimiento de una IA no es reducible a ceros y unos. El conocimiento de una IA está en su estructura neuronal, y esa estructura es reducible a ceros y unos (al contenido de la memoria de un ordenador), pero el conocimiento de la IA no está en la memoria del ordenador, sino en la estructura de la red neuronal determinada por la memoria del ordenador. No tienes ninguna casilla de memoria en el ordenador donde se guarde ningún conocimiento de la IA, ni mucho menos ningún algoritmo que determine lo que va a hacer una IA. El algoritmo del ordenador determina cómo evolucionan sus neuronas, y éstas determinan el comportamiento de la IA.

Lo que digo es que la IA todo lo tiene que guardar en 1 y 0, luego para interpretar un prompt o hacer cualquier devolución usa 1 y 0,  en un circuito eléctrico lógico flip flop guarda datos, y con procesadores  calcula,  y solo hace eso calcula, luego tú ves lo que el resultado de su cálculo de, solo que ese resultado viene de la mano de un modelo interpretador y desarrollador de lenguaje, que te hace parecer que razona.

No es exactamente así. Una IA no guarda su información en unos y ceros, sino que la guarda en la relación entre millones de neuronas electrónicas, cada una de las cuales tiene en cada momento un estado plasmado en unos sistemas de memoria que, si quieres, puedes interpretar como unos y ceros.

Yo te sigo en lo que me quieres decir, y no cito la línea para sacártela de contexto , es que sí, sea como sean son unos y ceros.

Sea como sea no. Hay un doble proceso de reducción, y pasarlo por alto es distorsionarlo todo. La información se puede almacenar de muchas maneras, pero ¿qué hace que una misma información almacenada de dos formas distintas ya no sea la misma información? ¿Qué importa que el estado de una red neuronal esté plasmado en unas neuronas naturales o que esté plasmado en unas neuronas artificiales que son trozos de memoria de un ordenador que contienen toda la información relevante sobre la neurona?

Pero en la biología en el cerebro, no tengo idea, me refiero a que no lo estudié, y no iría preguntando a Google como es, si lo que se mueve es un aminoácido, en levo o dextrógiro, si se almacena o descarta un ion, o la cosa que fuera , pero no es una acción esto si esto sí o no en una neurona individual, tú me dices que la información está en la red,  la que hace que razones, la que mueve tu vista hacia la pantalla , sin siquiera obligatoriedad de saber leer.

No sé quién es el que dices que no sabe leer ¿la red? Pero lo que digo es que, en efecto, si yo miro donde miro es por el efecto de unas corrientes nerviosas que ha generado mi cerebro como fruto de la actividad de su red de neuronas a partir de los inputs que he recibido ahora y a lo largo de toda mi vida hasta ahora. A lo mejor, si mi vida hubiera sido distinta, en lugar de estar respondiéndote estaría de vacaciones en Polonia. Mi comportamiento se explica por la acción de una red neuronal y la de una IA también, y las dos redes hacen esencialmente lo mismo en lo tocante a capacidad de razonar. No es cierto que una IA calcule cuando yo razono. El ordenador de una IA calcula la evolución de sus neuronas igual que las leyes de la bioquímica determinan la evolución de las mías, pero, movidas por cálculos o por bioquímica, las neuronas de la IA acaban haciendo lo mismo que las mías (a efectos de razonar, porque las de la IA no generan voliciones). Una IA y yo razonamos igual. Ni el razonamiento de una IA ni el mío dependen ni de cálculos ni de la bioquímica. Lo que depende de cálculos y de bioquímica es la evolución de nuestras neuronas, pero nuestros razonamientos dependen de dicha evolución que sigue patrones de la misma naturaleza, no radicalmente distintos, como crees tú erróneamente.

Pero la analogía entre un cerebro humano y una IA se da entre las neuronas biológicas y las neuronas electrónicas. La memoria de una IA, el conocimiento de una IA, las habilidades de una IA están en la configuración de sus neuronas electrónicas producto de su entrenamiento, igual que las características análogas en un cerebro humano están en la configuración de sus neuronas biológicas que es producto de su entrenamiento (educación). La naturaleza de las neuronas (biológicas o electrónicas) es irrelevante.

OK, no hay diferencia  y realmente me da lo mismo si la IA  tiene o no neuronas y de que tipo   o algo similar a eso, creo no haberlo discutido lo que veo es que la representación de cualquier relaciones entre esas variables es un número, expresado en formato binario de algún modo discreto  y en un humano  cualquier relaciones entre cosas no la puedo imaginar de ese modo , sino como un continuo,  claro esto es subjetivo  me dirás pero para mí es una justificación legítima para una limitación.

Esto ya es algo concreto (por primera vez), pero sigue siendo arbitrario. Uno podría plantearse si el razonamiento humano requiere una base analógica (continua) o si basta una base digital, y esta duda se resuelve experimentalmente: puesto que las IAs, con una base digital, consiguen lo mismo, eso es la prueba científica de que la inteligencia humana no es esencialmente analógica, sino que una versión digital es suficiente.

No obstante, al margen de esta evidencia empírica, se podría argumentar que es difícil que ninguna clase de proceso físico sea esencialmente analógico, porque cualquier descripción de su estado, para ser relevante, tiene que tener un umbral mínimo. El infinito físico es finito. Aunque en teoría cualquier cuerpo del universo está atraído gravitatoriamente por cualquier otro, hay un infinito físico a partir del cual la influencia gravitatoria de un objeto suficientemente lejana es nula a todo efecto práctico. Igualmente, pretender que el comportamiento de una neurona puede depender del de otra vecina de modo que cualquier variación de un estímulo, por infinitesimal que sea, es relevante, es como creer que la posición de los planetas en el momento del nacimiento de una persona determina su futuro.

En cualquier caso, en cuestiones científicas, la actitud es importante, y tu actitud es la de "a ver a qué me agarro para justificar mi tesis preconcebida", que es la actitud anticientífica por excelencia. Si alguna vez se diera alguna evidencia empírica que sugiriera que el carácter analógico de la red neuronal humana es relevante, sería algo a estudiar, pero querer ponerlo como explicación a priori, sin ninguna evidencia de que realmente es relevante (cuando lo natural es conjeturar que no lo es) es contrario al método científico. Puestos a tratar de encontrar argumentos científicos para justificar cualquier idea preconcebida, ahí tienes a los creacionistas. Pero ése no es el método: no se trata de decir "a ver qué digo que justifique lo que quiero que salga". Se trata de explicar el mundo a partir de las evidencias. Y la evidencia dice que una IA se comporta como una mente humana y la conclusión racional de este hecho es que una IA es una versión simplificada de una mente humana, y que sólo tendrá sentido plantearse que hay una diferencia esencial si se detecta alguna diferencia esencial que no parece que pueda ser reproducible por una IA.

La persona que inventa, busca alternativas a las cosas que conoce o  empleando hasta lo no conoce busca sus relaciones, no veo el mecanismo en que la IA pueda hacer lo mismo si la información no la tiene previamente, no puede relacionar  el batido de las alas de la mariposa y concluir en predecir un terremoto , de mismo modo que un humano no se pondría a hacerlo, pero entiende la idea de fondo. 

Eso de que una IA no puede obtener nada que no le hayan dado de antemano es una de tus ideas objetivamente falsas sobre una IA. De hecho, tú mismo la niegas cuando dices que si una IA obtiene una demostración matemática es porque "está ahí". ¿Ahí, donde? Si nadie se la ha dado y la obtiene, es que ha obtenido algo que no le habían dado de antemano. Negarlo es negar algo objetivamente cierto.

Si yo le doy a una IA un programa en Python que no hace lo que yo quiero y le pregunto qué está mal y me dice qué líneas he de cambiar y por qué, no es creíble que en su entrenamiento haya conocido todos los programas en Python erróneos posibles y que alguien le haya dicho en cada caso cuál es el error. Eso es imposible. Y tampoco es creíble que si le pongo varios casos así los resuelva todos correctamente por azar (o requiera dos o tres intentos, que son muy pocos en comparación con todos los casos posibles que tendría que considerar alguien que no entendiera nada). La realidad es que una IA se ha entrenado para entender lo que es Python y es capaz de buscar bugs en un programa por el mismo procedimiento que emplea un humano, tal vez amplificado por una mayor velocidad de cálculo, pero eso no es esencial.

Si trato de buscar el error yo mismo, es posible que me plantee ¿será esto?, no esto no es, ¿será esto otro?, no, tampoco, ¿y esto?, Ah, sí, éste es el problema. Es posible que si yo necesito tres intentos, una IA necesite 100 y los despache todos rápidamente, pero, aun así, está haciendo lo mismo que yo. Yo he necesitado tres intentos, ella 100, pero los dos hemos seleccionado inteligentemente unas pocas posibilidades entre millones de alternativas. Y, lo que es más importante, hemos generado automáticamente esas posibilidades, no como fruto de un entrenamiento que nos la diera ya. Nuestro entrenamiento ha servido para ponernos en condiciones de buscar esas posibilidades con heurísticas eficientes, pero no nos ha dado las posibilidades a considerar.

La potencia de una IA puede hacer que, aun siendo más torpe que yo, obtenga mejores resultados que yo por su rapidez y su tenacidad, pero no deja de hacer lo mismo que yo. Es imposible detectar errores en un algoritmo considerando todos los casos posibles. En algunos casos sencillos podría ser, pero tu idea de que una IA simplemente enumera es objetivamente falsa y, aunque así fuera, igualmente necesitaría inteligencia para descartar los malos intentos. Si una IA me plantea tres posibles respuestas y sólo acierta a la tercera, si sólo ha necesitado dos correcciones para obtener el resultado, aun si hubiera contemplado millones de variantes, si las ha descartado ella sola, entonces ha razonado igualmente los descartes.

Sigues infravalorando una IA a la que presentas como una especie de loro que repite lo que le han dicho y que ha gustado, pero eso no es así.

Y sí es así. Pero no es una infra valorización, es lo que es.

No. Esto no es una cuestión filosófica. Esto es algo en lo que te puedo decir que estás objetivamente equivocado. En general es difícil determinar qué parte de una respuesta de una IA está generada por ella misma de forma original y qué parte la copia de internet, pero precisamente cuando demuestra teoremas nuevos tienes un ejemplo objetivo e inequívoco de generación de material original. No puede haber copiado lo que nadie conocía antes y, por consiguiente, no podía estar en internet.

Aunque sea menos irrebatible, cada vez que corrige un algoritmo con bugs, no es creíble que encuentre en internet o que en su entrenamiento haya generado (con ayuda exterior) todos los códigos con bugs imaginables para tener memorizados sus errores y cómo corregirlos. Las posibilidades son muchas más de las que podría gestionar el más potente de los ordenadores. El entrenamiento de una IA tiene el mismo efecto que la educación en un cerebro: configura una red neuronal para que sepa encontrar respuestas originales a preguntas nuevas. Si lo niegas, niegas hechos objetivos. Esto no es filosofía.

Una IA no se limita a reproducir lo que ha visto que gusta.

Ni más ni menos, eso es el E learning, valorar alto lo cierto, y bajo lo errado , o la inversa de da lo mismo.

No. El E learning no es eso. Estás completa —y objetivamente— equivocado. El E learning dota a una red neuronal de heurísticas para enfrentarse a problemas nuevos. Si no fuera así, sería imposible que una IA demostrara un teorema matemático desconocido previamente. Es absolutamente imposible llegar a una demostración examinando todos los casos posibles, como ya te he mostrado antes. Pero, aparte de eso, es que cualquier programador de una IA te confirmará lo que te digo yo: una IA no razona por exhaución. No mira uno a uno todos los casos posibles. Una IA es una red neuronal, y las redes neuronales hacen todas esencialmente lo mismo (humanas y no humanas) unas serán más eficientes que otras y tendrán más prestaciones que otras, pero sus principios de evolución son las mismas y no se basan para nada en cálculos mecánicos. Los cálculos mecánicos son los que regulan la evolución de las neuronas, pero el razonamiento que generan las neuronas no se basa en cálculos mecánicos. Y si crees lo contrario es que no entiendes lo que es una IA.

esa estructura entrenada genera material original,

Como!!!  Material aleatorio, el más parecido a lo que sus cálculos le dan, por eso se equivoca 99% de las veces en temas nuevos, luego de miles de interacciones, va ganando información, y claro luego alinea sus unos y ceros para que te guste la respuesta a ti,  no a ella ,ya que nada le puede gustar.

No. Estás completamente equivocado. Cuando a la IA le pidieron que demostrara o refutara una conjetura de Erdös lo que devolvió no es en absoluto un material aleatorio. Si así fuera, sus probabilidades de acertar serían menores que las de que te tocara la lotería mil millones de veces seguidas, pero acertó. En este caso "una respuesta que me guste" es una respuesta lógicamente correcta, una demostración matemáticamente correcta, y la parte difícil no es valorar si una demostración me va a gustar o no (si es correcta o no), sino encontrarla, y, como te explicaba antes, ni podía tenerla ya en su memoria como fruto de su entrenamiento, ni podía encontrarla en internet, ni podía encontrarla por exhaución. ¿Te has parado a pensar cuántas "demostraciones" absurdas podrían escribirse de la misma longitud que la que dio la IA? ¿Cuántos teoremas de cuántos artículos publicados podría haber considerado de forma no concluyente? Una demostración correcta sólo puede obtenerse mediante un razonamiento inteligente, mediante una heurística bien dirigida, y eso es lo que es una IA, una red neuronal que emplea heurísticas seleccionadas mediante un entrenamiento. El entrenamiento no le proporciona (sólo) información, sino también técnicas para generar razonamientos nuevos. Esto no lo digo yo, sino que lo dicen los hechos. Lo dice el hecho de que una IA es capaz de resolver problemas de los que no se conoce la solución y que, con la capacidad de cálculo de todos los ordenadores de la galaxia, no pueden resolverse por exhaución.

Si te niegas a admitirlo, estás negándote a admitir la evidencia empírica. Haces lo mismo que un terraplanista que desprecia las evidencias que prueban que la Tierra es esférica, o lo que hacían los colegas de Galileo que se negaban a comprobar con su telescopio que Júpiter tenía satélites porque sabían que no los tenía, ya que Aristóteles nunca había hablado de ellos. Cualquier intento de explicar que una IA pueda demostrar un teorema matemático nuevo sin admitir que es inteligente es como cuando Samuel Shenton explicaba que Armstrong y sus colegas fueron hipnotizados para creer que estaban en la Luna y que habían visto desde ella una Tierra esférica. Es buscar explicaciones retorcidas para lo que tiene una explicación natural e incuestionable con el método científico en la mano.

Tus intentos de decir que H2 no es lo mismo que IA2 porque H2 se basa en neuronas y no en chips es análogo a un intento de sostener que un grupo cíclico de cinco elementos no es lo mismo que otro grupo cíclico de cinco elementos porque uno está formado por giros de un pentágono y otro por clases de números enteros. A efectos algebraicos son la misma cosa, y a efectos cognitivos, H2 e IA2 son la misma cosa. Tus intentos de distinguirlos caen fuera de lo que es relevante para la estructura que explica su comportamiento. Si las neuronas electrónicas se comportan igual que las biológicas, las redes neuronales formadas por unas o por otras hacen exactamente lo mismo. Y todo "en realidad no es lo mismo" es metafísica.

Tú me dices que en mi cerebro hay un circuito flip flop  dentro de una célula que guarda o codifica un número que está relacionado con otro en  la memoria y  aportará la información de la próxima letra que escriba en el teclado.

Jamás te he dicho algo tan surrealista. Una neurona recibe impulsos nerviosos y los transmite a otras neuronas, pero no aleatoriamente, sino que hay una relación relativamente simple entre sus entradas y sus salidas, una relación que es modificable con la educación. No tiene dentro ningún número ni ningún circuito.

Pero igual que un ordenador puede reproducir trayectoria de varios planetas girando alrededor de una estrella (para lo cual representa los planetas mediante números que determinan su masa, su posición, su velocidad, etc., sin que importe que en los planetas no hay números, pero sí masa, posición, velocidad, etc.) un ordenador también puede modelizar el comportamiento de una neurona mediante números. Y del mismo modo que, mediante cálculos un ordenador puede reproducir muy aproximadamente el movimiento orbital de unos planetas mediante cálculos (aunque los planetas no calculen nada, sino que se limiten a seguir las leyes de la gravitación) un ordenador también puede reproducir mediante cálculos la evolución de unas neuronas, y el modo en que unas afectan a las otras (igual que un ordenador puede tener en cuenta cómo la gravedad de unos planetas afecta a los otros).

En ambos casos tenemos un ordenador que calcula (movimiento de planetas o evolución de neuronas) reproduciendo así el comportamiento de cosas (planetas, neuronas) que no tienen números ni circuitos dentro. Y del mismo modo que así el ordenador muestra en cada momento  (con sus cálculos) la posición de los planetas el ordenador de una IA muestra (con sus cálculos) en cada momento el estado de una red neuronal y esa red neuronal razona sin calcular, razona como razonan todas las redes neuronales, seleccionando patrones de respuesta a ciertos estímulos mediante un entrenamiento que, no sólo les aporta conocimientos que acumula, sino también heurísticas para resolver problemas nuevos, para generar razonamientos originales.

Yo no veo relación alguna entre ambos procesos.

¿Entre qué procesos?

Visto para un lado tiene sentido, pero para el otro nada que ver, no nos parecemos en nada a la solución de la red,

Estás completa y objetivamente equivocado. Las redes neuronales artificiales se han diseñado para hacer lo mismo que hacen las redes neuronales naturales. Es absurdo decir que no se parecen en nada.

aun en blanco el cerebro cuando nacemos ya tiene algo dentro , que no sé, pero no es un hardware vacío el que crea la naturaleza, que luego llenas de información cuando tiene lo inputs de los sentidos, algo ya viene "de fabrica" que no tiene un PC, ni un árbol, ni un mono , ni un loro parlanchín.

Obviamente, hay una diferencia estructural entre el cerebro de un humano y el de un mono o el de un loro, porque, aun tratando de educarlos, no se consigue lo mismo con todos ellos. Pero la educación no sólo aporta información. También se aprende a razonar, a detectar y corregir errores a base de likes y dislikes, igual que una IA.

Creo que cada uno sabe cuál es límite de sus recuerdos al inicio de la vida, pero nadie dirá que no razonaba porque no tenía información, cosa muy distinta a una IA sin datos, que no llora, bosteza o ríe cuando la llenas de información.

Ya estamos con las propiedades circunstanciales. ¿Qué tiene que ver bostezar o reír con razonar? ¿Estás diciendo que un ser que no bosteza o no ríe no puede razonar? Un recién nacido es lo mismo que una IA sin entrenamiento. No es capaz de dar respuesta a prácticamente nada, pero paulatinamente va usando los likes y dislikes que recibe para reestructurar su red neuronal y mejorar sus respuestas. No veo dónde ves una diferencia (si quitamos las risas y los bostezos de en medio).

Sería interesante que pudieras desarrollar eso. ¿Qué significa que las cosas que se obtienen no tienen el mismo valor de verdad o significado? ¿Cuándo una IA dice que ha demostrado un teorema no significa lo mismo que si lo dice un matemático? ¿No está ahí el teorema en ambos casos?

No,  no  es ese el sentido, si el teorema es fruto de un cálculo, debe ser correcto

No sé qué quieres decir con que si el teorema es fruto de un cálculo debe ser correcto. De hecho te contradices, pues si, para ti, una IA sólo calcula, cuando demuestra un teorema no debería equivocarse nunca, pero sí que se equivoca (igual que lo hacen los humanos). Si admites que las IAs se equivocan tan a menudo como los humanos, según tus palabras lo que afirman no es fruto de un cálculo, cuando afirmas lo contrario.

si las reglas de la lógica no se quiebran, pero reitero aun siendo que ese teorema no se escribió aún por nadie, y te presenta el teorema de la forma que un humano lo haría, entonces vas a decir que es fruto del razonamiento de la red,

Efectivamente.

y yo simplemente veo hard y soft siguiendo sentencia en base a información previamente recabada,  sino que aplica un modelo cálculo...

No acabo de entender esta frase, pero, sí, claro. Ves lo mismo que veo yo. Un ordenador haciendo lo que hacen todos los ordenadores, que en este caso es determinar la evolución de un sistema neuronal que, basándose en un entrenamiento, ha adquirido una información y una capacidad de aplicar heurísticas eficientes a problemas nuevos. Eso es razonar, porque eso, ni más ni menos, es lo que hacen los humanos. Si crees que los humanos hacen algo más que dejar que su red neuronal responda en función de su estado a unos inputs dados, tendrás que explicar qué es ese "razonamiento genuino e inimitable", pero mientras no lo expliques, estás construyendo torres sobre arenas movedizas.

y no vale la pena que insista. No quiero convencer a nadie que piense como yo, solo que me parece que, si no piensan como yo, el mundo no será lo que esperan si la información con la que aprende es de la inteligencia humana, por ahí con una sociedad no esclavista, menos hipócrita, menos envidiosa del progreso ajeno, menos descalificadora del que opina distinto, aprendería otros valores o a compartir el mundo con su mayor molestia, si es que eso se puede valorar de algún modo.

Aquí me pierdo, pero me parece que ya estás haciendo pronósticos sobre el futuro sobre los que no tengo nada que decirte. No sé si tus pronósticos se cumplirán o no y no tengo argumentos ni a favor ni en contra.

usando pautas de conducta seleccionadas por el entrenamiento, pero no meramente repitiendo cosas dichas antes y que han recibido likes. Es como tú: cuando aprendías a sumar, acertabas y te equivocabas,

Te equivocas hasta que no te equivocas, porque aprendes, y una vez que aprendes nada te lo puede cambiar, paro a ella le tocas una de sus variables y veras que pasa, si razona, o si contesta cualquiera... los razonamiento serán ciertos , acá, en la china o en marte, no dependen del estado de una variable.

Te equivocas hasta que te equivocas menos. No hay ningún humano que no se equivoque, ni siquiera haciendo algo con lo que está familiarizado. Yo me equivoco haciendo operaciones con relativa frecuencia.

¿Lo que aprendes nada lo puede cambiar? Dile eso a quienes tienen un derrame cerebral. Si a una IA le tocas una variable que contiene información sobre una neurona, el efecto será similar a si a ti te extirpan una neurona, o te la estropean de algún modo. Probablemente no se notará en nada. Y tus razonamientos dependen del buen estado de tus neuronas. Modificar una variable en una IA es como modificar parte de una neurona en un cerebro. Una sola no afecta en mucho, pero si a un humano le extirpas parte de su cerebro, o le haces una lobotomía, me río yo de eso de que no te pueden cambiar lo que has aprendido.

Es lo mismo. Nuestra mente es una red neuronal, y una IA es una red neuronal. Modificar aleatoriamente una red neuronal afecta a su comportamiento y a sus capacidades. En principio, modificar alguna neurona aislada no tiene un efecto significativo, pero si modificas varios miles de neuronas, pues tienes el efecto de un ictus o de una lobotomía, etc. Claro que se nota, tanto en redes naturales como en artificiales. Es algo tan obvio que me cuesta entender que no veas el paralelismo natural.

y el feedback que recibías reorganizaba tus neuronas hasta que éstas eran capaces de generar sumas correctas, pero no es cierto que si haces una suma y está bien es porque de niño hiciste esa suma muchas veces y te dijeron que estaba bien. Puedes hacer bien sumas que nunca hiciste en concreto cuando aprendías a sumar.

y esta máquina calcula sumas, no las aprendió a sumar como tú y yo. Utiliza su calculadora interna, no piensa , 

No. Confundes niveles. Una IA necesita aprender a sumar como tú y como yo. Una cosa es que el ordenador que la sustenta sepa calcular sumas, y senos y logaritmos, y otra muy distinta que la red neuronal que determina empieza sin saber sumar, y tiene que aprender a sumar, y a calcular senos y logaritmos, como cualquier red neuronal.

Es como si dices que no necesitas estudiar las reacciones químicas que conlleva la respiración celular porque tus células ya saben respirar. Que tus células sepan respirar no significa que tú nazcas sabiendo química. Si no estudias química, no sabrás cómo se produce la respiración a pesar de que todas tus células respiren. Igualmente, una IA no sabe sumar aunque el ordenador que la sustenta sepa. La red neuronal tiene que aprender matemáticas, incluso tiene que aprender cómo funciona una IA, igual que el hecho de que tú tengas neuronas no significa que no tengas que aprender cómo funcionan las neuronas si quieres saber algo de ellas.

le atribuyes más cualidades de las que tiene, y probablemente más de las que tenga alguna vez.

En absoluto. No atribuyo ninguna cualidad a una IA que no tenga. Una IA es una red neuronal que evoluciona según un modelo matemático relativamente simple, y un ordenador se encarga de calcular esa evolución. Pero la red en sí no sabe nada a priori de sumas, chips ni de cálculos. Se podría diseñar una IA "capada" que tuviera un conocimiento del mundo similar al de un niño pequeño, de modo que podría hacer razonamientos propios de un niño, pero no sabría sumar, a pesar de que el ordenador que la soportara realizara constantemente sumas, y multiplicaciones, y divisiones, etc. El ordenador sabe sumar, pero la IA no necesariamente. Podrías enseñarle a sumar, y aprendería como tú y como yo, pero no sabría sumar "de fábrica".

Si no haces estas distinciones es que tienes una idea muy distorsionada de lo que es una IA.

Lo mismo vale con "razonar". Tanto tú como una IA, cuando aprendéis a razonar, por ejemplo, en análisis matemático, cometéis errores y tenéis aciertos que son valorados y os dan un feedback que reconfigura vuestra estructura neuronal, de modo que llega un momento en el que, tras muchos likes y dislikes, ya tenéis la red neuronal organizada de modo que podéis generar razonamientos nuevos, que nunca habríais podido hacer sin vuestro entrenamiento, pero que son nuevos. Si resuelves un problema que nunca habías visto antes, no estás dando una respuesta que diste en su día y te dieron likes por ella, y lo mismo vale para una IA, que puede resolver problemas usando heurísticos adquiridos por entrenamiento (a base de likes), pero que son completamente nuevos para ella, que los ha generado ella misma de forma original. Si crees lo contrario, tienes una idea equivocada de lo que es una IA y que está en la base de tu prejuicio.

Original, nada, todo puesto allí por alguien que razona, es que en realidad el que prejuzgas eres tú diciendo que si razona, cuando solo te ha dado de muestra una imitación.

No. En eso estás objetivamente equivocado. Si una IA demuestra un teorema matemático desconocido, nadie le ha podido poner ahí la demostración ni la ha podido obtener enumerando todos los casos posibles. Eso es físicamente imposible. Los casos posibles exceden astronómicamente la capacidad de cálculo de cualquier ordenador, de todos los ordenadores del planeta juntos.

Llamar "imitación" a un proceso que te genera una demostración que es imposible obtener a lo bruto y que nadie conocía antes es negar los hechos para mantenerte acantonado en tu prejuicio.

Y el que fabricó la IA lo hizo para razonar.

Pues no le ha salido, le quedo una calculadora programable por red social.

Pues sí que le ha salido. Tú y yo somos calculadoras programables por red social (red social humana o de las que están en los ordenadores). Sólo que la evolución de nuestras neuronas con se calculan con calculadora, sino con las leyes de la bioquímica que hacen el mismo efecto.

Y eso es cierto. Una IA es una calculadora.

Listo para mí ya está , luego es como tu interpretas ese resultado.

No, no es una mera cuestión de interpretación (subjetiva). Una IA es una calculadora que calcula la evolución de una red neuronal que a su vez razona como las redes neuronales humanas. Y eso es un hecho, no una interpretación. Una IA es un experimento de laboratorio que reproduce un fenómeno natural. Jamás en la historia de la ciencia se ha llamado a eso una imitación que no es lo mismo.

Pero es que es una obviedad que una IA de las que existen actualmente no tiene iniciativa propia, no tiene voluntad. Pero nuevamente mezclas churras con merinas. ¿Qué tiene que ver que una IA tenga o no tenga voluntad con que razone o no razone?

Es que la razón no viene sola,  si no si no hay duda que sería fruto de un simple calculo. Pregúntate , si razonas porque quieres razonar, razonas porque tienes voluntad de razonar, o directamente razonas porque razonas. No hay explicación,

No te sigo. ¿A qué no hay explicación? Razono porque razono. Porque soy un objeto físico que tiene esa capacidad. Igual que una IA.

y tu pareces decir que si, la obviedad es que el cerebro calcula y eso hace que razone,

No. Un cerebro no calcula (vamos, calcula como un caso particular de su capacidad de razonar). Lo mismo vale para una IA. Una IA no calcula. Una IA está soportada por un ordenador que calcula el estado y la evolución de una red neuronal (la IA propiamente dicha) y esa IA hace lo mismo que un cerebro: razonar, no calcular. Los cálculos del ordenador que soporta a la IA tienen como análogo en un cerebro las leyes de la bioquímica que regulan el comportamiento de las neuronas. No hay cálculos en las neuronas igual que los planetas no hacen cálculos para moverse, pero puedes reproducir las características relevantes del movimiento de un planeta o de la evolución de unas neuronas mediante cálculos, pero al final obtienes un sistema que evoluciona siguiendo las mismas leyes (o, en el caso de una IA un modelo simplificado pero suficiente para el fin de razonar).

lo mismo que una IA. La razón no es calculo,

Correcto.

y no hay  estructura de cálculo en silicio que te razone,

Incorrecto. Un ordenador calcula el estado de una red neuronal, y una red neuronal suficientemente sofisticada (da igual que esté soportada por un ordenador o por unas neuronas) razona.

si predice con cierto grado de probabilidad de éxito, una maquina tiene calculo porque otro se lo dio, pero no la razón. 

Una IA predice con cierto grado de probabilidad de éxito igual que un humano. Los cálculos del ordenador que la soporta hacen el mismo efecto que las leyes de la bioquímica. Ponen en marcha una red neuronal, y luego ésta razona, con independencia de si su soporte son neuronas naturales o artificiales.

¿cambiaría en algo que un humano razona cuando su cerebro está en activo?

Es que el humano nunca esta inactivo, ni cuando duermes.   Te acuerdas de Alpha go, que  jugaba contra sí mismo para aprender a jugar, que hizo aprendió todas las combinaciones exitosas 15 o 20 movimientos por delante de cualquier configuración, ¿razonó? o solo es una muestra más de poder de cálculo veloz y memoria que no puede imitar un humano, lo mismo que Deep blue, o Alpha Zero, Stockfish, esto es más de lo mismo, pero  su lenguaje al responder, imita,  te parece que razonó , y es solo su configuración para dar la respuesta a un cálculo, sea que este es trivial, o no trivial, porque no tiene ni idea sobre si la trivialidad es o no importante. Si razonará con todo el entrenamiento que recibió, 24x24hs , tendríamos ya, ahora , no mañana, un compendio de conocimiento exponencialmente mayor al de toda la humanidad, y sin embrago se usa para publicidades y memes, fuerza bruta potencialmente exitosa...
[/quote]

Aparte de que no respondes a mi pregunta: qué tendrá que ver si una mente humana está inactiva en algún momento o no (que no lo está, pero qué tendrá eso que ver), aquí nuevamente se muestra que tienes una idea radicalmente errónea de lo que hace una IA. Una IA no es como una máquina que juega al ajedrez analizando todas las jugadas posibles (hasta cierto punto). Me preguntas si lo que hace una aplicación de ajedrez es razonar y te respondo que eso es una cuestión ya de lenguaje: podríamos decir que razonar por fuerza bruta es la forma más elemental de razonamiento, pero en cualquier caso es irrelevante porque el hecho es que una IA no razona por fuerza bruta, y si crees lo contrario es que no entiendes lo que es una IA.

Es cierto que una IA puede permitirse un grado de fuerza bruta mayor que un humano, por su velocidad y capacidad de cálculo, y que eso puede hacer que una IA no muy lista tenga resultados mejores que un humano más listo, pero cuando una IA encuentra una demostración matemática nueva, puedes poner la mano en el fuego a que no la ha obtenido por fuerza bruta, porque eso sería mucho más que  ser capaz de predecir todas las combinaciones posibles de un juego de ajedrez en un tablero de un millón de casillas de lado con cuatro millones de piezas. No hay ordenador que pueda hacer eso. Y no es que sea físicamente imposible, sino que basta ver qué es una IA para darse cuenta de que es una red neuronal, y que las redes neuronales no se dedican a enumerar todas las respuestas posibles de cada pregunta que se les plantean, sino que su estructura plasma procedimientos heurísticos que se perfeccionan con el aprendizaje, pero su razonamiento es heurístico, como el humano, no por fuerza bruta, como un programa que juega al ajedrez. Si piensas otra cosa, simplemente estás equivocado sobre lo que es una IA.

Una cosa es que su aprendizaje consista en obtener muchos likes o dislikes a respuestas obtenidas aleatoriamente y que esa aleatoriedad va siendo "educada" para seleccionar patrones de razonamiento más eficientes, pero eso no tiene nada que ver con enumerar todos los casos. Y aunque enumerara todos los casos, una IA entrenada no necesita que nadie le dé likes o dislikes para seleccionar respuestas razonables. Realmente, un humano cuando razona hace lo mismo. Demostrar un teorema es decir: a ver si sale así, no, esto falla, a ver esto otro, también falla, y esto otro, no pero casi, con esto, lo que me haría falta es esto otro, pero esto no sale, a ver si esto otro también vale... y así hasta que sale algo (o no sale nada). Una IA hace eso mismo. Tal vez con más rapidez y más paciencia para considerar más casos, pero los casos considerados no dejan de ser una muestra reducida dentro de todas las posibilidades que habría que considerar para un razonamiento a lo bruto por exhaución.

[cerrar]

Básicamente tu postura me recuerda a la de los que decían que un aparato más pesado que el aire nunca podría volar. Eso podría ser una postura razonable hasta que empezaron los primeros intentos de construir aviones. A la vista de sus pequeños progresos, pronosticar que era imposible que llegaran a ninguna parte pasó a ser un prejuicio. Ante esa situación, la postura racional era experimentar y extraer conclusiones de los experimentos, no sentarse mirando al techo y concluir que era imposible construir aviones que volaran.

Más concretamente: resumo aquí (sin la limitación de responder a frases tuyas concretas), cuáles son los aspectos más importantes en los que estás equivocado sobre lo que es y puede hacer una IA:

• Crees que una IA no puede hacer más que lo que le enseñan a hacer, sin posibilidades de hacer nada original.
  
  Esto es falso, y lo prueba el hecho de que una IA ha demostrado teoremas que nadie había sabido demostrar antes (sin perjuicio de que podrían haberlo hecho, pero, como no ha sido así, queda claro que la IA no se ha copiado).
  
  El programador de una IA es como el programador de un sistema operativo. Si uno programa un sistema operativo y luego voy yo y, en ese sistema operativo, meto un programa que resuelve ecuaciones diferenciales numéricamente, es posible que el programador del sistema operativo no supiera nada de ecuaciones diferenciales, luego no puede decirse que si el ordenador las resuelve es porque lo sabía su programador. El ordenador ha aprendido a resolverlas de mí, de mi programa, no del que programó el sistema operativo.
  
  Pues una IA es lo mismo pero sin segundos programadores. Una IA es, de partida, un sistema operativo con capacidades muy limitadas, pero incorpora nuevas capacidades, no porque alguien aporte más instrucciones, sino por un entrenamiento que no es una mera incorporación de datos, sino una modificación de su red neuronal que le proporciona nuevas capacidades (por ejemplo, resolver un problema matemático que nadie había resuelto antes). Nadie le ha dado las instrucciones para resolverlo, sino que su entrenamiento le ha enseñado procedimientos heurísticos, basados en probabilidades para encontrar la mejor respuesta, y ejecutando esos procedimientos ha encontrado una respuesta satisfactoria original. Negarlo es negar la realidad como lo hace cualquier terraplanista.
  
  
• Crees que una IA es como un programa de ajedrez, que se limita a considerar todas las posibilidades y seleccionar la mejor.
  
  Esto es falso, y si crees lo contrario es que no entiendes a una IA. Se puede ver que es falso a priori, porque considerar todas las posibilidades para encontrar una demostración matemática no autocontenida, sino que requiera de resultados previos, no está al alcance de ningún ordenador ni lo estará nunca. Pero, al margen de esto, es falso porque una red neuronal no funciona así, simplemente no es eso. Un programa de ajedrez que enumera posibilidades, las valora y selecciona la más ventajosa no se parece en nada a lo que hace una IA. Si crees lo contrario, simplemente te equivocas. Esto es algo objetivo. Una IA imita la actividad cerebral como un avión imita a las aves para conseguir el mismo efecto de volar, aunque no exactamente del mismo modo.
  

Más en general, tu error es que pretendes sancionar a priori qué puede y qué no puede hacer una IA, cuando eso es algo que sólo puede determinarse a posteriori. Podría ocurrir que, en el desarrollo de las IAs, la evidencia experimental mostrara que ciertas características del comportamiento humano son fueran replicables con los modelos de lenguaje existentes, por el mismo motivo que la mecánica de Newton no permite explicar todas las características del movimiento planetario y, si buscamos más precisión, es necesario cambiar a la gravitación relativista.

Igualmente podría pasar que las redes neuronales sean demasiado simples y no permitan, por ejemplo, reproducir el "razonamiento heurístico" de Kekulé que soñó con unas serpientes que se mordían la cola y ello lo llevó a conjeturar la estructura cíclica de la molécula de benceno. Puede que sea así y puede que no, pero eso sólo podrá determinarse empíricamente. Y si se encontrara una limitación en la arquitectura actual de las redes neuronales, estaría por ver si alguna modificación sustancial, la incorporación de alguna idea nueva, permitiría o no superar esa limitación. Eso es algo que sólo podrá determinarse empíricamente. Decir que una máquina no podrá razonar cuando todos los indicios apuntan en sentido contrario es como obcecarse en que una máquina más pesada que el aire nunca podrá volar y tomar como evidencias que los mejores intentos hasta el momento no han volado más de 20 metros.

Si un avión logra volar 20 metros, eso no es un indicio de que es imposible que los aviones vuelen, sino un indicio (no una demostración) de justo lo contrario. Tú, en cambio, ves indicios de que ya sabemos cómo reproducir el comportamiento del cerebro humano en una máquina y, por tu prejuicio, los tergiversas pisoteando el método científico, que te exigiría no rechazar un concepto (como es el de razonar) sino en función de si es operativo o no para describir y entender un fenómeno, y no decantarse por una opción o por otra si no es en consideración de la evidencia empírica. Si crees que la evidencia empírica apoya tu posición, crees lo mismo que un creacionista que aporta evidencias científicas de que la evolución de las especies es una conspiración judeomasónica.

[Carlos Ivorra]

Respuestas a tus preguntas

Si tú dices que una IA no razona, por tus mismos argumentos se deduce —te guste o no— que los humanos tampoco razonan y que las calculadoras tampoco calculan.

Pues sigo sin comprender como deduces eso de mis dichos. más si luego me dices ...

Sí, ya sé que tú no dices eso.

Pues porque una cosa es lo que dices y otra distinta lo que se deduce de tus argumentos. No hay contradicción. Dices que una calculadora calcula, pero con los argumentos con los que pretendes justificar que una IA no razona se puede concluir igualmente que una calculadora no calcula. Ya te lo expliqué en el mensaje anterior, pero repito el argumento:

Repetición del argumento: Las calculadoras no calculan (según tu argumento)

Tú dices que una IA no razona porque en ella no ves razonamientos, sino únicamente cálculos y números (ceros y unos). Bien. Vamos a usar ese mismo argumento para concluir que una calculadora no calcula. Imagina que alguien te dice:

Una calculadora no calcula, porque yo en ella no veo números ni cálculos. Sólo veo corrientes eléctricas que pasan por componentes electrónicas. Que en un botón de una calculadora ponga "sen" no significa que la calculadora sepa lo que es un seno. Yo no veo senos en una calculadora, sólo corrientes eléctricas, y que en otra tecla ponga 2 no significa que una calculadora sepa lo que es un 2. Sólo es un poco de pintura en un botón. Por eso, cuando pulso sen 2 =, lo único que estoy haciendo es pulsar unos interruptores que hacen que por un momento pase una corriente eléctrica por cierto circuito. Eso no tiene nada que ver ni con la función seno ni con el número 2. Y si luego en la pantalla sale 0.909297, eso no son números, sino una mera configuración en una pantalla de cristal líquido generada por ciertas corrientes eléctricas que han llegado a ella.

Así pues, parece que la calculadora calcule, pero en realidad no calcula nada, porque para calcular hacen falta números y operaciones matemáticas, y en una calculadora yo no veo nada de eso, sino meramente corrientes eléctricas, circuitos y componentes electrónicas.

De hecho, si yo sé que el seno de 2 es 0.9009297 no es porque lo diga la calculadora. ¿Por qué tendría que creer que el efecto de unas corrientes eléctricas moviéndose por unos circuitos es el seno de 2? Yo sé que el seno de 2 vale eso porque lo he visto en una tabla de senos calculada por Ptolomeo, que no sabía nada de corrientes eléctricas. Si resulta que la calculadora ha acertado, eso es una casualidad. Y si acierta muchas veces, será por casualidad, pero no puede uno fiarse, porque lo que hace la calculadora no tiene nada que ver con calcular.

En resumen: tienes el mismo derecho a decir que no ves razonamientos en una IA que este hipotético sujeto a decir que no ve cálculos en una calculadora. Cuando tú piensas en una calculadora no tienes inconveniente en decir que "ves" números y cálculos en ella a pesar de que sólo ves corrientes eléctricas, en cambio, cuando piensas en una IA, arbitrariamente, te niegas a decir que "ves" razonamientos en ella y dices que sólo ves cálculos. Estás aplicando dos raseros diferentes. Si aplicamos a la calculadora el razonamiento que aplicas a la IA, la conclusión es que las calculadoras no calculan.

Ahora bien, los dos razonamientos son falaces, tanto el que usas para decir que una IA no razona como su equivalente que "demuestra" que las calculadoras no calculan. Porque no es una cuestión de que cada cual sea libre de decidir si ve cálculos en una calculadora o sólo corrientes eléctricas, o si tú ves razonamientos en una IA o sólo ves cálculos.

A alguien que se niegue a ver cálculos en una calculadora le puedes decir que mientras se niegue a ver cálculos en ella no entenderá realmente qué es una calculadora. Aunque describa con todo detalle el mecanismo electrónico de una calculadora, mientras no lo interprete en términos de números y cálculos no entenderá que una calculadora no es cualquier circuito con componentes electrónicos puestos de cualquier manera, sino que su disposición es tal que hay una relación matemática muy simple entre sus inputs y sus outputs que permite predecir la salida sin necesidad de saber nada sobre su mecanismo (por ejemplo, si pulsamos 2 + 2 =, podemos asegurar que la pantalla mostrará un 4 sin necesidad de rastrear la evolución de las corrientes eléctricas generadas por las teclas pulsadas).

Si alguien quiere entender que al pulsar sen 2 en una calculadora no puede salir nada más que el seno de 2, no le basta estudiar la física de los circuitos electrónicos, sino que necesita interpretarlos en términos de números y cálculos, y dicha interpretación no es arbitraria y subjetiva, sino que es la forma objetiva de interpretar el comportamiento de la calculadora para entender lo que hace. No hay más que una interpretación posible, y por eso es objetiva.

Igualmente, mientras te niegues a ver razonamientos en una IA, no entenderás lo que es una IA. Si quisieras programar una IA, o tratar de mejorar sus prestaciones, tendrías que interpretar lo que hace en términos de redes neurales que razonan. Mientras te empeñes en ver sólo cálculos, entenderás una IA igual de mal que quien trate de estudiar una calculadora sin admitir que calcula. Ver razonamientos en una IA es igual de objetivo que ver cálculos en una calculadora. Negarse a verlos es igual de arbitrario que negarse a ver cálculos en una calculadora.

[cerrar]

El spoiler anterior es también la respuesta a esto:

Es decir, en todo ese bloque, yo estaba usando los argumentos que tú usas para sostener que una IA no razona aplicados a otro contexto, para concluir que una calculadora no calcula. Por eso, ese "al contrario que tú", significaba en realidad: "al contrario de lo que se deduce de tus propios argumentos (los que usas para argumentar que una IA no razona) aplicados a si una calculadora calcula..."

Me lo pierdo, no me entra la bala.  Sería descortés no haberlo releído , pero sigo sin verlo.

A ver si ahora está más claro lo que trataba de explicarte.

Muestran cómo unas neuronas (electrónicas) debidamente conectadas y entrenadas pueden reproducir el comportamiento humano.

En donde reproducir se aleja de imitar? Donde  queda el límite  humano en discernir  si lo deducido por la IA es correcto o no. Luego cuando no se puede verificar experimentalmente, como se evaluaría si ha razonado correctamente, o que calculó así porque sí, así fue entrenada, y tomamos por norma que tiene "razón". Adónde vamos a parar.

Cuando Wöhler sintetizó urea de 1828, no tiene sentido decir que "imitó" la urea. Si obtuvo un compuesto químico que si se lo daba a cualquier químico y le preguntaba si era urea, obtenía una respuesta afirmativa, sería absurdo decir que sólo era "imitación de urea", porque la urea es orgánica y sólo la pueden producir los seres vivos. Al sintentizar urea, Wóhler demostró que era falso que sólo los seres vivos pudieran sintentizar moléculas orgánicas.

Igualmente, la IA demuestra que es falso que sólo los seres vivos pueden razonar. Si una IA genera una demostración matemática que ningún humano puede distinguir de otra generada por un humano, es absurdo decir que sólo imita el razonamiento, sino que lo reproduce en el mismo sentido de que genera lo mismo por otro medio (como Wöhler con la urea).

Mientras  escribía es todo, se me ocurrió una pregunta,  ¿tú me contestas porque quieres o crees que alguien te programo para eso?... Tú  sabes la respuesta , pero a la IA se la dieron, no lo sabe.

Te contesto porque el estado de mi cerebro hace que ésa sea la respuesta que produce su red neuronal ante la entrada de tus posts. Exactamente lo mismo sucede con una IA. Responde porque su red neuronal genera ese comportamiento a partir de un prompt. El estado de mi red neuronal no es el resultado de ninguna programación, y el estado de la red neuronal de una IA tampoco. Es el resultado de su entrenamiento, igual que el de la mía es el resultado de mi educación. Lo que hizo el programador de una IA fue programar a un ordenador para que calculara la evolución de una red neuronal, pero el estado de dicha red no se calcula a partir del programa, sino de su educación. Nadie tuvo que programar nada para que mis neuronas se comporten como lo hacen, porque su comportamiento está dirigido por las leyes de la bioquímica, que son igual de rígidas que un programa de ordenador.

Tu frase final: "Tú  sabes la respuesta , pero a la IA se la dieron, no lo sabe." no la entiendo. ¿Qué es lo que sé yo y no sabe una IA?

¡Tú crees que yo digo que lo que hace una IA no son meros cálculos!

No creo exactamente que pienses eso,  pero qué opinas  de lo que enuncié un poco por lo bajo, el humano razona y de ello aprendió a calcular, luego hizo máquinas que calculan y ahora las que parecen razonar, pero solo siguen calculando.

¿Qué opino? Que, efectivamente, el humano razona y aprendió a calcular, luego hizo máquinas que calculan y ahora máquinas que calculan la evolución de una red neuronal, con lo que hacen lo mismo que un humano cuando razona, es decir, que razonan. Una IA es una reproducción en un laboratorio de un fenómeno natural. Es algo que la ciencia ha logrado muchas veces en la historia, y jamás en la historia a eso se lo ha llamado imitación.

Una bomba de hidrógeno no es una imitación de una estrella. Es una forma de liberar energía idéntica en naturaleza a lo que hace una estrella. Es verdad que las estrellas no se tiran desde aviones, ni van en la cabeza de un misil, ni tienen una coraza metálica, pero la forma en que una bomba libera energía es una reproducción, no una imitación, de lo que hace una estrella. Una bomba de hidrógeno es una explicación del funcionamiento de una estrella, no una cosa que la imita pero no tiene nada que ver. Lo mismo vale con la síntesis de la urea en el laboratorio o con la reproducción de la inteligencia humana en una IA. Son experimentos de laboratorio que reproducen fenómenos naturales y contribuyen a entenderlos de forma más o menos decisiva. En el caso de la IA, muy decisivamente, pues antes de que existieran las IAs nadie podía decir que entendía el funcionamiento del cerebro (en el sentido de cómo la fisiología conocida del cerebro podía generar inteligencia y razonamiento), y ahora ya sí.

Y —por supuesto— nada de lo que acabo de decir contradice el hecho de que una IA obtiene estos resultados novedosos mediante "puro cálculo", pero cálculo que determina cómo debe comportarse cada una de sus neuronas según su relación con las demás, de modo que dicha relación no está determinada por un algoritmo programado de antemano, sino por el entrenamiento que ha recibido.

En qué quedamos, el entrenamiento queda en números, en una base de datos, y luego ejecuta un cálculo,  y te da un resultado, ¿razono, o calculo? Simple  tu opinas lo entrecomillado, pero  le asignas otro significado, que más decirte, pues redundo y redundo.

¿En qué quedamos? Un ordenador calculó la evolución de una red neuronal y esta red neuronal razonó (no calculó) un resultado. El ordenador calcula, la red razona. Globalmente, puedes decir que todo es cálculo, pero no entiendes ese cálculo si no te das cuenta de que es el cálculo de cómo evoluciona una red que razona, igual que no entiende una calculadora quien no se da cuenta de que sus corrientes eléctricas se interpretan como cálculos.

Si dices que yo asigno un significado a los cálculos, igualmente podría yo decir que tú asignas un significado (interpretas como cálculos) a las corrientes eléctricas de una calculadora. Si ver un razonamiento es una opinión mía, decir que una calculadora calcula es una opinión tuya, porque las calculadoras no calculan, sino que meramente hacen que una corriente eléctrica fluya por ellos, y el cálculo y la electricidad no tienen nada que ver. A lo sumo, una calculadora imita cálculos, pero no calcula.

Esto que acabo de decir es absurdo, pero es lo que sale cuando aplicamos a las calculadoras la misma "negación a ver" que aplicas a las IAs.

La realidad es que decir que una calculadora calcula es la única forma racional de entender lo que hace una calculadora, igual que decir que una red neuronal razona (no calcula) es la única forma racional de entender lo que hace una red neuronal, igual que decir que los planetas siguen órbitas elípticas alrededor del Sol es la única forma racional de entender el movimiento de los planetas sobre la esfera celeste. Por la misma razón que dices que no ves razonamientos en una IA, yo podría decir que no veo elipses al mirar al cielo. No importa lo que uno ve o deja de ver. Importa qué explicación permite entender plenamente lo que ves y cuáles no.

pero vamos al revés, donde se ubican exactamente en tu cerebro están los 1 y 0 que te hacen razonar igual que una IA.

¡En ningún sitio!  Si programo a un ordenador para que reproduzca el movimiento del Sistema Solar, teniendo en cuenta las interacciones gravitatorias entre los planetas, podrás ver en su pantalla la evolución del Sistema Solar, y no es una imitación de la evolución del Sistema Solar, sino una reproducción de la evolución del Sistama Solar. Pero, claro, cada planeta estará almacenado en el ordenador como unos números (masa, posición, velocidad, etc.) ¿Dónde tiene el Júpiter esos números?  ¡En ninguna parte! Júpiter tiene una masa, y eso no es ningún número. Por mucho que mires Júpiter con un telescopio, no verás en él ningún \( 1.8981 \cdot 10^{27} \) kg. Pero ésa es la masa de Júpiter. Y es uno de los datos que usa el ordenador para reproducir el movimiento de Júpiter.

Igualmente, en un cerebro humano no hay ceros ni unos, hay neuronas con unas propiedades relevantes para su comportamiento como parte de la red neuronal y otras irrelevantes (una neurona respira, pero su respiración no influye en la actividad neuronal, simplemente la mantiene viva para poder llevar a cabo su función). El ordenador que soporta una IA refleja numéricamente las características relevantes de una neurona anumérica, igual que refleja numéricamente las características relevantes de un planeta anumérico. Y con esos números determina la evolución de las neuronas igual que determina la evolución de los planetas.

Y del mismo modo que te puede mostrar los planetas girando alrededor del Sol como lo hacen realmente, te puede mostrar (una versión simplificada, pero suficiente para el fin de razonar de) la evolución de unas neuronas. Y si ves cómo evolucionan unas neuronas, puedes interaccionar con ellas proporcionándoles inputs y obteniendo outputs, y del mismo modo que los planetas calculados por el ordenador reproducen fielmente el movimiento de los planetas reales, los outputs de las redes neurales que calcula un ordenador reproducen con la suficiente fidelidad los outputs de un cerebro cuando razona. Y eso significa que tienes ante ti algo que está razonando por la misma clase de procedimiento como razona un cerebro. No mediante cálculos. Los cálculos que hace el ordenador son como los que hace para determinar el movimiento de los planetas, son los que determinan "el movimiento" de la red neuronal, y esa red neuronal se comporta como un cerebro, y por eso razona como un cerebro. No hace algo esencialmente distinto. Hace lo mismo, sólo que sus neuronas no evolucionan por las leyes de la bioquímica, sino por los cálculos de un ordenador que son igual de rígidos. Pero esa red, a priori, no sabe calcular nada, a menos que la entrenes para que aprenda. Y si aprende a sumar, aprenderá como tú y como yo. Adaptándose para que termine dando la respuesta correcta ante cualquier suma que le pongas, aunque sea una nueva que no ha visto antes. Y, al contrario que una calculadora, no es raro que se equivoque haciendo cálculos (yo he visto a una IA equivocarse con operaciones elementales más de una vez). No es raro porque una IA no calcula como una calculadora, sino que genera cálculos a partir de razonamientos, es decir, a partir de la configuración de su red neuronal, que no es más que una gigantesca heurística que no tiene nada de infalible, como no lo tiene ningún cerebro humano, por educado que esté.

[cerrar]

En este último spoiler recojo algunos párrafos que tocan un poco varios de los aspectos anteriores, por lo que no me encajaban en ninguno de los apartados precedentes y para responderlos tengo que recordar cosas dichas en varios de dichos apartados:

De todo un poco

¿Y no puedes dar la menor evidencia de que no razona?

Tendría que darte una evidencia entre que lo que tú ves que razonar por una IA y calcular son cosas diferentes, pero como para mí son lo mismo , no podría diferenciar, así que no te podría dar esa evidencia, hallo la pregunta con el mismo sentido a me digas que te de una evidencia de que dios no existe o la tetera de Russell. Estoy seguro de que no, pero no hay evidencia de eso, y para ti que de un resultado ya es un razonamiento como evidenciarte que es un cálculo, cuando tú mismo me dices que lo es porque es una máquina que calcula, pero a la vez dices que el resultado es un razonamiento , no puedo darte una evidencia de lo que no crees que es lo mismo.

Ante todo observa lo que dices globalmente: afirmas que una IA no puede razonar, pero cuando te pregunto por una evidencia de que no razona, me dices que no puedes dármela porque bla, bla, bla. Ahora entro en el "bla, bla, bla", pero, sin que importe su contenido, si me dices que no puedes darme ninguna evidencia de lo que es tu tesis fundamental, eso ya dice mucho sobre la nula fundación de tu postura.

Pero vayamos al "bla, bla, bla": Toda tu confusión respecto a "calcular" y "razonar" se debe a que no pareces entender que puedes hablar de una IA a tres niveles diferentes, igual que de una calculadora puedes hablar a dos niveles diferentes.

En un primer nivel tenemos (en ambos casos) electricidad y circuitos impresos. Alguien que sólo quiera ver este nivel no verá ceros ni unos, ni números ni cálculos, ni en una calculadora ni en una IA. Sólo electricidad moviéndose entre componentes electrónicas por circuitos.

En un segundo nivel tenemos que esas corrientes eléctricas se pueden interpretar como ceros y unos, que a su vez se pueden interpretar como números, cálculos, códigos, programas, algoritmos, etc. Tú no tienes ningún reparo en interpretar los estados de una calculadora o un ordenador en estos términos, pero perfectamente podrías, si quisieras, decir que una calculadora no calcula porque en ella no hay números, sino electricidad, y los números no tienen nada que ver con la electricidad.

En ese segundo nivel, las calculadoras y los ordenadores (incluidos los que soportan IAs) calculan.

Pero en un tercer nivel, en un ordenador que soporta a una IA, igual que puedes ver en él números e imágenes codificadas con números, y sonidos codificados con números, también puedes ver en él neuronas electrónicas codificadas por números, de modo que el ordenador (mediante puros cálculos) determina el estado y la evolución de esas neuronas y sus conexiones.

Pero sucede que esa red neuronal transforma unos inputs en unos outputs mediante un proceso de elaboración que NO es un algoritmo, no es un programa de ordenador que sigue unas intrucciones dadas de antemano. Sí que es un algoritmo el que determina cómo evoluciona cada neurona, pero del mismo modo que necesitas pensar en términos de números y cálculos para entender lo que hace una calculadora, y no en términos de diodos y transistores, también necesitas pensar en términos de redes neuronales para entender lo que hace una red neuronal, y en esos términos, una red neuronal razona, no calcula. Se mueve por cálculos, pero lo que hace es razonar. Es lo mismo que le pasa a un cerebro humano: sus neuronas se mueven por las leyes de la bioquímica, pero lo que hace es razonar. Es obtener respuestas a partir de preguntas por un proceso que podemos llamar "actividad neuronal" y que consiste en que cada neurona recibe unos datos que pondera con unos pesos y da una respuesta probabilística, pero que esa actividad neuronal que en sí misma es muy poca cosa y sin apenas significado, constituye una red global capaz de manipular la información como lo hacemos los humanos.

La prueba de ello es que funciona. Es un hecho empírico. Unos informáticos decidieron modelizar lo que la neurología dice que hace el cerebro humano y constataron que su modelo adquiere capacidades de razonamiento humano. Si pretendes reproducir en un laboratorio el comportamiento del cerebro humano y obtienes un ordenador que se comporta como un humano, eso se llama éxito (predicciones agoreras aparte) y la conclusión científica es que hemos conseguido sintetizar en un laboratorio una variante del razonamiento humano.

Los cálculos están en el nivel 2, los razonamientos en el nivel 3. Naturalmente, puesto que el nivel 3 se basa en el 2, puedes decir que globalmente todo son cálculos, pero eso es como decir que tú no razonas, que simplemente te guías por las leyes de la bioquímica. Esto último es cierto, pero no excluye lo primero y, al contrario, alguien que se niegue a admitir que tú razonas y trate de explicar tu comportamiento estrictamente en términos bioquímicos no estará entendiendo lo que eres realmente, igual que tú no entenderás lo que es una IA mientras te empeñes en no emplear el nivel conceptual 3 y te mantengas acantonado en el nivel 2.

Determinar si una máquina razona o no no es una cuestión metafísica, como planteas. Y, si realmente lo fuera, sería absurdo que afirmaras taxativamente que Dios no existe. Yo no creo que Dios exista, pero no se me ocurriría asegurar que quien cree lo contrario está necesariamente equivocado. Precisamente porque es una cuestión metafísica indemostrable, es absurdo tomar partido en ella. Quien afirma que Dios existe, o bien acepta falsas pruebas tangibles ("siento que Dios me habla") o bien lo acepta como una creencia firme sin fundamento racional y, planteado así, es totalmente coherente.

Pero es que afirmar que las IAs razonan no es metafísica, es ciencia. Es describir una realidad con el sistema conceptual más adecuado para entenderla. Si la IA progresa, no será gracias a quienes se niegan a entenderla a sus tres niveles y se niegan a pasar del 2 al 3, del mismo modo que nadie habría diseñado una calculadora viéndola como un mero amasijo de circuitos sin interpretar su actividad como cálculos. Entender que una IA razona es una condición necesaria para entender plenamente lo que es una IA y lo que hace. Negar que razona es como negar que existen los quarks porque no se ven. Aunque no se vean, son un concepto necesario para entender la realidad y eso legitima su uso. Con el razonamiento de la IA pasa lo mismo. No es metafísica, es método científico puro y duro.

Más explícitamente, lo que te argumento a menudo es que tú usas un doble rasero. Por una parte, usas un rasero débil (RD) para pasar de que como un humano hace H2, eso es que razona, sin que importe H1 para nada, e igualmente pasas de que como una calculadora hace C2, entonces es que calcula, sin que importe C1.

En cambio, cuando se trata de juzgar a una IA, cambias a un rasero fuerte (RF), y con este nuevo rasero, a pesar de que una IA hace IA2 (que es algo que tú mismo reconoces indistinguible de lo que hace un humano cuando razona)

Es que tú ves varias cosas diferentes que para mí son una sola, yo no puedo distinguir el límite entre C1 y IA1 , básicamente son lo mismo,

Sí. Son lo mismo, al menos si por IA1 entendemos la actividad del ordenador que soporta a una IA.

y C2 y IA2 yo veo conceptualmente son lo mismo,  lo único que cambia es la forma en que se presentan los resultados que  son muy similares a los que un humano con H1, presenta a los demás humanos con H2, pero no es más que una imitación compleja, hasta de modelo comunicacional, lo siento no me dejo engañar,  y espero despertar  más bien pronto que tarde si es que estuviera equivocado, pero no lo veo necesario por ahora.

No. Si C2 es el comportamiento que muestra una calculadora e IA2 es el comportamiento que muestra una IA, es obvio que no son lo mismo. Cualquiera que interactúa con una IA se da cuenta de que no está ante una calculadora, igual que cualquiera que interactúa con una nevera se da cuenta de que no está ante un horno. Cuando dices que son lo mismo estás dando un paso atrás y piensas en que IA2 se obtiene de IA1 que es lo mismo que C1, pero que IA1 sea lo mismo que C1 no significa que IA2 sea lo mismo que C2.

No es una cuestión de presentación de los datos. Tú no puedes intercambiar ideas con una calculadora, y con una IA sí. Una calculadora nunca te sugerirá la solución a un problema, y una IA sí. Insisto en que cuando dices que son lo mismo no estás comparando IA2 con C2, sino que vuelves a comparar IA1 con C1, que sin duda son lo mismo.

El único matiz, es que, si incluimos en C1 y C2 a un ordenador (programable, no meramente el de una calculadora), entonces IA1 es un caso muy particular de C1, pues es lo que hace, no un ordenador cualquiera, sino un ordenador programado para calcular la evolución de una red neuronal. Y ahí es donde hace aguas tu punto de vista: el ordenador calcula siguiendo un algoritmo inmutable, pero la red neuronal que determina (que para él sólo es un estado de su memoria) va evolucionando, y esa evolución implica que va adquiriendo técnicas heurísticas nuevas y cada vez más precisas que no le programa nadie, sino que se van programando por entrenamiento. Cuando entrenas a una IA no le estás dictando instrucciones, sino que le das información y valoraciones de respuestas que ella incorpora de forma impredecible (porque la forma en que lo hace depende de su estado en ese momento, que es inabarcable para un humano). Más o menos, puedes conjeturar qué efecto puede tener en una IA algo que le dices y que le repites, como puedes predecir más o menos cómo influye en un niño lo que le enseñas, pero el efecto exacto que tiene en el niño o en la IA la información que recibe es impredecible porque consiste en una modificación de parte de sus neuronas y, aunque pudieras calcular qué neuronas se van a ver afectadas y cómo, no podrías predecir qué cambios concretos ocasionará eso en el comportamiento de la red neuronal global.

Tú no estás teniendo en cuenta estas consideraciones, y por eso tus identificaciones entre IA2 y C2 son burdas, y sólo indican que tienes una idea de lo que es una IA muy alejada de la realidad, no en cuestiones técnicas (yo no sé nada sobre IAs) sino en sus principios básicos. Si no partieras de tu prejuicio sobre lo que es una IA, podrías aprovechar lo que sabes sobre el cerebro humano para entender la idea básica de lo que es una IA, pero como te empeñas en defender tu prejuicio, todos los indicios que te podrían ayudar a entender la situación los desvirtúas a priori, como un terraplanista o un creacionista desvirtúa en lugar de aprovechar todos los indicios que le permitirían entender lo que es la Tierra o cómo ha surgido la vida en ella.

4-Sí, yo coincido contigo lo que hace una IA son meros cálculos.

 ¡Claro que es así, una IA es un ordenador y lo que hace son cálculos!

Pues, no entiendo, se me diluye la línea, que estamos debatiendo, si esos cálculos son razonamientos... ¿qué es apretar  4 teclas en una calculadora "2", "+", "2", "="  te devuelve "4"... ¿eso es un acto más simple de razonar?, no sé no veo distinción entre la devolución de la calculadora a la devolución del software de  una IA como lo es ahora, no como prometen  que será próximamente si no queda en scifi, que si es temible.

Se te diluye la línea porque no entenderás nada de lo que digo (ni entenderás lo que es una IA) mientras no distingas entre los tres niveles de los que te hablo: una cosa es la electrónica, otra cosa los cálculos y otra cosa las redes neuronales.

La electrónica convierte unos cálculos ideales matemáticos en una realidad física. Esos cálculos dan a su vez realidad física a unas neuronas artificiales que, sin ellos, serían un mero concepto matemático (como los logaritmos o las variedades diferenciales) y esas neuronas artificiales razonan, porque transforman entradas en salidas mediante técnicas análogas (un modelo simplificado, pero suficiente) a las que emplea el cerebro humano.

Mientras no distingas esos tres niveles, tus posibilidades de entender realmente una IA son las mismas que tiene de entender una calculadora quien se obstine en pensar únicamente en términos de diodos y transistores sin hablar nunca de números y cálculos, o quien se obstine en entender la química hablando únicamente de cosas "tangibles", pero no de átomos y electrones. Estás capando por puro prejuicio tu sistema conceptual, y así no puedes entender lo necesario.

Y, si es necesario que lo vuelva a explicitar: una IA hace cálculos, pero esos cálculos no son tan simples como los de una calculadora, sino que son cálculos que explican que su comportamiento IA2 sea indistinguible de H2 (en lo que se refiere a razonamiento, no a otras características, como tener voluntad, sentimientos, etc.) Y si no hay diferencia, pues no la hay, y tu intento de decir "es lo mismo, pero no tiene nada que ver" es un mero prejuicio.

  Mas allá  que solo será una imitación  cada vez más buena, será un programa al fin, nada real, es como confundir la realidad, con lo que suceda en un videojuego, por más realista que pueda ser.  Se me viene la idea hipotética que quizá tomarías la pastilla azul, (la de matrix) , similar a dejar que  una máquina tome el control de tu libre albedrío, pensando que otra inteligencia Artificial (más desarrollada que la actual), Terrestre (la evolución de otra especie) o Alienígena( de cualquier origen del resto del universo) , sea capaz de razonar mejor, más rápido y más acertado.

Pues, mira, puestos a hablar de Matrix, te voy a plantear un caso más extremo:

Imagina un universo cuyas leyes físicas no tienen por qué parecerse en nada a las de nuestro universo. En ese universo ha surgido una forma de vida inteligente, mucho más inteligente que el ser humano, millones de veces más inteligente que el ser humano.

Un día, el profesor de una clase de niños de 10 años, después de haber terminado el temario sobre física cósmica, les plantea una tarea para casa a sus alumnos. Tienen que coger un ordenador y programar en él un universo con sus propias leyes de la física. Tendrá la mejor nota el que consiga un universo más complejo e interesante.

Uno de estos chicos de 10 años, hace unas cuentas y diseña una física que no tiene nada que ver con la de su universo, y un modelo cosmológico. Se trata de nuestra física. Y programa su ordenador para que genere un big ban y vaya calculando la evolución de ese universo, partícula a partícula, quark a quark, neutrino a neutrino, a intervalos de \( 10^{-10^{100}} \) segundos. Su ordenador almacena en su memoria el estado de cada partícula elemental, de cada fotón, de cada entidad física de ese universo de laboratorio y calcula el nuevo estado del universo en el instante siguiente según las leyes de la física que él mismo ha inventado.

Y el resultado es nuestro universo. Un universo muy pequeño en comparación con el universo en el que vive el niño. Un universo que cabe en su ordenador portátil. Y su proyecto gana el primer premio porque, al cabo de varios miles de millones de años de nuestro universo (que para el niño es como para nosotros un par de horas) en su proyecto ha surgido un planeta Tierra en el que han evolucionado unos seres un poco inteligentes (poco porque un humano adulto tiene la inteligencia media de un niño de dos años de ese universo).

En particular, el ordenador de este niño está calculando la evolución de un humano que se hace llamar Richard R Richard y que al niño le hace mucha gracia, porque dice que una IA no puede razonar, cuando él mismo es una IA.

Nada impide que esta fábula sea realidad. Es pura metafísica, ningún experimento científico podría demostrar que esto es verdad, ni tampoco que es mentira, pero podría ser verdad. Nada de lo que sabemos impide que todo nuestro universo no sea más que un ejercicio de clase de un niño de 10 años de otro universo que ha diseñado el nuestro. Y si fuera así: toda la realidad que ves serían cálculos. El ordenador calcula la posición de cada partícula elemental en cada momento, en particular calcula lo que hace cada una de tus neuronas y en particular calcula cada cosa que razonas.

En resumen: es absolutamente imposible refutar (o demostrar) que tú no seas una IA, que todo lo que tú piensas, lo piensas gracias a los cálculos de un ordenador que pone en práctica las leyes de la bioquímica para que éstas a su vez regulen el comportamiento de tus neuronas para que éstas a su vez determinen lo que piensas y razonas.

Y si tú podrías perfectamente ser una IA, ¿qué impide que unos humanos construyan una IA que haga lo mismo que tú (omitiendo el paso de replicar tus neuronas con todo detalle y usando un modelo simplificado, pero funcional)?

Obviamente no digo que esto sea así. Ni siquiera que sea plausible que sea así. Sólo digo que no puedes razonar de ningún modo que no sea así, y si no puedes razonar que no es así, tampoco puedes razonar que una IA no pueda hacer lo que haces tú.

[cerrar]

[Carlos Ivorra]

He necesitado varios posts porque se me cortaba lo que publicaba.

No he leído tu respuesta a mi post con la conversación con la IA porque esto ya era muy largo. Si crees que había algo nuevo en ella que deba responderte indícamelo y te respondo, pero (sin haberlo leído) mi conjetura es que será más de lo mismo.

[Richard R Richard]

He necesitado varios posts porque se me cortaba lo que publicaba.

Empiezo por esto último
Lo mismo me pasaba, y tuve que recurrir a guardar copias de lo que venía escribiendo en archivos de texto, que uní el último día en uno solo.  Ando con mucho menos tiempo libre,  agradezco que te tomes el tiempo en contestarme.

Sobre todo esto:
no tengo ningún elemento de juicio para concluir que no haya otras posibilidades alternativas no catastróficas. Puede que tengas razón, y puede que no. No tengo ningún argumento que aportar ni a favor ni en contra.

No quiero promover en ti o en cualquiera que me lea, un sentimiento apocalíptico o anti IA, sino que "presupongo" que pasará  o que pasa con ejemplos claros y sencillos.  Tu supongo que no dudas que la energía nuclear es la mas limpia, menos contaminante (sino hay accidentes), pero fijate que hay guerras solo por ver quien la controla, porque se pone en tela de juicio otros fines.
Porque no sucedería lo mismo con las IAs, bajo cierto prejuicio de Copyright o cualquier tontería, o del propio uso que se le de a la IA, ciertos sectores puedan tener o no acceso a fabricar, vender, distribuir, esta tecnología, osea algún se va a poner en policía sobre que grupos pueden ser o no inteligentes... Creo estar eligiendo el lado correcto y previniendo, mas allá si me equivoco o no con mi definición de razonamiento. Esto lo escribo en palabras muy vagas para definir sectores, solo lo hago por generalizar pero cualquier coincidencia puntual seguro no es coincidencia esta vez.

entonces eres tú quien tiene que definir con la suficiente claridad en qué consiste la diferencia entre "razonar" y "parecer que razona". Eres tú quien sostiene que existe esa diferencia y, antes de argumentar que realmente se da, tendrás que precisar en qué consiste tal supuesta diferencia para luego examinar si realmente se da o no se da.

Supón que no tengo mas argumentos, que el verbo razonar, se lo atribuyo a cualquier manifestación de pensamiento o mas acotado a una reacción nerviosa en una entidad biológica. Supón que soy prejuicioso con el razonamiento fuera de la biología, pero que estoy tratando de entender la justificación de razonamiento dada para una IA fuera de la biología  y no para defender lo que creo sino para que se justifique que eso que se le atribuye de razonar, yo no lo veo como tal cosa.


Supón que alguien nace ciego,  y hoy con cierta tecnología innovadora , lo intervienes y haces que pueda ver en pixeles blancos y negros, le muestras una figura blanca y le dices esto es blanco, le muestras la misma figura negra, y le dices esto es negro, repites el experimento  un millón de veces pero aleatoriamente vas invirtiendo las afirmaciones acertando y desacertando los colores , ejemplo le muestras negro y le dices que es blanco, y viceversa, intercala al azar repuestas correcta blanco  con blanco etc, (un reverendo hdp, pero sirve para ilustrar), es decir nada que pueda hacer concluir cual es la respuesta correcta . Estadísticamente 50 y 50.

Ahora entrena a una IA del mismo modo, dices esto es blanco, luego esto es negro...(luego tambien  le mientes)

Dime cual de los dos puede diferenciar los colores? 
El humano no sabrá cual color es el blanco pero lo vera diferente del que crea negro mientras no le informes si es correcta o no su repuesta.


Si tu crees que la IA lo logrará con un 50% de acierto y un 50% en cada color , ya no tengo argumentos, cuando le pongas algo blanco  su grado de seguridad es de 50%  y si es negro lo mismo, por lo que deberá decir que es blanco el 50 % de las veces que lo ve, lo mismo que si es negro lo que le presentas, es decir fallará el 50 % de las veces independientemente del color que le pongas, mientras no le digas que acierta o no al color.
El humano acertara el 100% o el 0% y en los dos casos no importa el nombre que le den al color.

Si esto no es así, pues entonces no sé que es un entrenamiento o reinforced learning, baso todo mi argumentación en que eso no es razonar, sino calcula estadísticamente en base a aceptación.
Mientras uno aprendía una diferencia el otro no, quien razona entonces. Ese es mi prejuicio. Calcular que no es lo mismo que razonar.

Pero en ningún momento has dado ningún criterio que defina operativamente qué hay que entender por ese "razonamiento genuino" que tú consideras que una máquina no puede conseguir.

Y el problema estará en como definas genuino y así seguiremos, por mas que me explaye en lo que yo entienda por razonar, tu le asociaras una  similitud a lo que la IA hace.

Spoiler

Biológico $$\to$$ razona, 
Artificial $$\to$$ no razona

serían mis  pecados

pero no  es pecado calcula $$\to$$  razona

[cerrar]

Está diciendo que para saber si algo razona o no razona, no te vale examinar lo que es capaz de hacer, tienes que ver si ha salido de un huevo o de una fábrica. Eso es completamente arbitrario. Es una petición de principio. Si una condición para razonar es no salir de una fábrica, puedes decir a priori que una máquina nunca razonará. Pero es tan arbitrario como si yo dijera que nada que no tenga chips razona y concluyera que los humanos no razonan.

Es que yo veo algo  , espero  poderlo definir mientras escribo este hilo, que hace la diferencia que me pides te describa, y no es una mera definición biológica, no me quiero ira la filosofía pero razonar, esta muy ligado a pensar, y estas cosas no piensan , no imaginan, no se abstraen, no crean, solo dan la respuesta estadística mas aceptable para el modelo de problema que le imponen, sea de resultado conocido o desconocido... Que se sepa o no se sepa la respuesta es transparente a su proceso, pero para un humano no.

Ya te agrupé todos los párrafos de tu mensaje previo en los que supuestamente marcabas la diferencia entre "razonar" y "parecer que se razona" y no encontré en ellos nada que no fuera arbitrario o una mera petición de principio. Intento lo mismo con lo que aportas en tu último mensaje, a ver si ahora encontramos algo operativo:

Fundamentalmente creo que no puede distinguir entre una verdad real, y una que le impongas, si se la impones su lógica estará basada en esa verdad(similar a los axiomas) y mientras los humanos sean capaces de enseñarles los correctos,  todo estará bien " parece que razona", pero si producto de su lógica estadística crea sus propios axiomas,(supongamos en principio que los humanos no pueden saber de buenas a primeras son verdaderos o falsos, por complejidad) y concluye en base a eso nuevos axiomas  " sigue pareciendo que razona eternamente", pero puede llegue el caso que un humano que si razona, y la estadística se la pasa por allí ... y propone otra verdad irrefutable como axioma... quien es el que razona?... No se como transmitir mejor el punto.


Luego la sigo con los otros mensajes ,para responder los interrogantes que me haces, o si es que le hallo algún contrapunto que crea merezca la pena.



Edite: corrigiendo la ortografía enésima vez, que el corrector (automático) no corrige.

[Carlos Ivorra]

Sobre esto:

Sobre el futuro

No quiero promover en ti o en cualquiera que me lea, un sentimiento apocalíptico o anti IA, sino que "presupongo" que pasará  o que pasa con ejemplos claros y sencillos.  Tu supongo que no dudas que la energía nuclear es la mas limpia, menos contaminante (sino hay accidentes), pero fijate que hay guerras solo por ver quien la controla, porque se pone en tela de juicio otros fines.
Porque no sucedería lo mismo con las IAs, bajo cierto prejuicio de Copyright o cualquier tontería, o del propio uso que se le de a la IA, ciertos sectores puedan tener o no acceso a fabricar, vender, distribuir, esta tecnología, osea algún se va a poner en policía sobre que grupos pueden ser o no inteligentes... Creo estar eligiendo el lado correcto y previniendo, mas allá si me equivoco o no con mi definición de razonamiento. Esto lo escribo en palabras muy vagas para definir sectores, solo lo hago por generalizar pero cualquier coincidencia puntual seguro no es coincidencia esta vez.

[cerrar]

sigo sin tener nada que opinar.

Sobre esto:

Experimento

Supón que alguien nace ciego,  y hoy con cierta tecnología innovadora , lo intervienes y haces que pueda ver en pixeles blancos y negros, le muestras una figura blanca y le dices esto es blanco, le muestras la misma figura negra, y le dices esto es negro, repites el experimento  un millón de veces pero aleatoriamente vas invirtiendo las afirmaciones acertando y desacertando los colores , ejemplo le muestras negro y le dices que es blanco, y viceversa, intercala al azar repuestas correcta blanco  con blanco etc, (un reverendo hdp, pero sirve para ilustrar), es decir nada que pueda hacer concluir cual es la respuesta correcta . Estadísticamente 50 y 50.

Ahora entrena a una IA del mismo modo, dices esto es blanco, luego esto es negro...(luego tambien  le mientes)

Dime cual de los dos puede diferenciar los colores? 
El humano no sabrá cual color es el blanco pero lo vera diferente del que crea negro mientras no le informes si es correcta o no su repuesta.


Si tu crees que la IA lo logrará con un 50% de acierto y un 50% en cada color , ya no tengo argumentos, cuando le pongas algo blanco  su grado de seguridad es de 50%  y si es negro lo mismo, por lo que deberá decir que es blanco el 50 % de las veces que lo ve, lo mismo que si es negro lo que le presentas, es decir fallará el 50 % de las veces independientemente del color que le pongas, mientras no le digas que acierta o no al color.
El humano acertara el 100% o el 0% y en los dos casos no importa el nombre que le den al color.

Si esto no es así, pues entonces no sé que es un entrenamiento o reinforced learning, baso todo mi argumentación en que eso no es razonar, sino calcula estadísticamente en base a aceptación.
Mientras uno aprendía una diferencia el otro no, quien razona entonces. Ese es mi prejuicio. Calcular que no es lo mismo que razonar.

[cerrar]

no acabo de entender lo que planteas, pero puedo responderte aún sin entenderlo. Parece que planteas un experimento que distinguiría la reacción de un humano frente a la de una IA. Me parece que es mucho suponer. En primer lugar, parece que quieres comparar la educación de un humano con el entrenamiento de una IA, lo cual ya es desviar el tiro. Nadie pretende que el proceso de entrenamiento de una IA sea una réplica del proceso de educación humana, sino meramente que al final se consigue lo mismo. Si tú a una IA ya entrenada le muestras dos colores y le vas diciendo que uno es X y el otro es Y y te contradices, lo que la IA te dirá es que lo que le planteas es incoherente o que hay algo que no le estás mostrando, exactamente igual que un humano.

Si le escribes algo a una IA, incluso un nombre propio, con erratas, lo que hace la IA es presuponer que te has equivocado y responderte como si lo hubieras escrito bien. No se confunde con eso. Igualmente, si le dices "blanco" cuando es "negro", lo que te dirá es que te has equivocado, o no te lo dirá y lo dará por hecho. Esto si ya está entrenada. Si insistes en plantear qué pasa mientras se entrena, entonces yo te puedo dar muchas ideas de cómo confundir a un niño pequeño que está aprendiendo para que acabe con una idea totalmente distorsionada de cualquier cosa aprovechando las debilidades de un niño que todavía no tiene la capacidad de juzgar por sí mismo y valorar la información que recibe.

Y, aun suponiendo que no sea así, aun suponiendo que encuentras una deficiencia estructural en el comportamiento de una IA, no puedes asegurar que no sea subsanable. Pero, mucho más allá de eso, no puedes juzgar si alguien razona o no razona por el hecho de que se le pueda engañar. Es muy fácil engañar a humanos hasta casos extremos, y eso no prueba que los humanos no razonan.

Te pareces a los creacionistas que argumentan que es imposible que el escarabajo bombardero haya evolucionado según la teoría de la evolución porque tal y porque cual. Es un argumento ingenioso, que no tiene una explicación obvia, pero el mero hecho de pretender que un problema planteado por un escarabajo ponga en jaque la solidez de la teoría de la evolución es ya ingenuo de por sí. Igualmente, tú estás buscando cualquier triquiñuela que te permita decir ¿vés? ¿y qué me dices a esto? cuando eso es un detalle mínimo en la cuestión de si una IA razona o no razona.

Esto parece muy relacionado con esto otro:

Fundamentalmente creo que no puede distinguir entre una verdad real, y una que le impongas,

¡¡Ni un humano tampoco!! ¿Cuántos humanos se dejan adoctrinar con las teorías más pintorescas? Y más aún si hablamos de niños. Anda que no es fácil inculcar a un niño cualquier forma de pensar, y mucho más si le aportas información falsa.

si se la impones su lógica estará basada en esa verdad(similar a los axiomas) y mientras los humanos sean capaces de enseñarles los correctos,  todo estará bien " parece que razona", pero si producto de su lógica estadística crea sus propios axiomas,(supongamos en principio que los humanos no pueden saber de buenas a primeras son verdaderos o falsos, por complejidad) y concluye en base a eso nuevos axiomas  " sigue pareciendo que razona eternamente", pero puede llegue el caso que un humano que si razona, y la estadística se la pasa por allí ... y propone otra verdad irrefutable como axioma... quien es el que razona?... No se como transmitir mejor el punto.

Pues aquí no entiendo lo que quieres decir, pero no veo que digas nada que no sea aplicable a un humano: uno no razona o no razona en función de cómo se comporta cuando le das información falsa en un contexto que él juzga fiable. Estás diciendo que los aviones no vuelan porque no aletean.

El problema es si es posible hacer que una máquina razone y, en principio, se trata de reproducir el razonamiento humano "en condiciones normales". Se trata de si una IA puede demostrar teoremas matemáticos como lo hace un humano, o —más en general— si puede hacer análisis racionales de ciertos problemas (como detectar bugs en algoritmos, convertir un problema enunciado en una lengua natural en un modelo matemático, etc.). Si eso se consigue y luego resulta que en situaciones patológicas como las que planteas el comportamiento de la IA no coincide con el de un humano, eso no significa nada. También es fácil poner a un humano en situaciones patológicas, de tensión, de confusión, etc., que hagan que su capacidad de razonamiento falle y no evite lo que evitaría si pudiera razonar tranquilamente.

Sigues buscando escarabajos bombarderos.

Es que yo veo algo  , espero  poderlo definir mientras escribo este hilo, que hace la diferencia que me pides te describa,

Pues eso debería ser lo primero. Mientras no expliques qué se supone que tendría que hacer una máquina para que admites que razona, no estás diciendo nada.

y no es una mera definición biológica,

No es admisible que lo sea, pero hasta ahora pareces poner como "axioma" que si algo no está vivo no razona, y eso es hacer trampa. Es poner definir "razonar" incorporando en ella la solución que tú quieres que salga.

no me quiero ira la filosofía pero razonar, esta muy ligado a pensar, y estas cosas no piensan ,

"Pensar" tiene un significado muy amplio, algunos de los cuales implican voluntad (cosa que una IA no tiene), pero en el sentido de razonar, manipular conceptos abstractos, usar el lenguaje entendiendo lo que dice, etc., una IA piensa y tiene creencias (verdaderas o falsas) como un humano.

no imaginan, no se abstraen,

Una IA abstrae. Tú le enseñas, por ejemplo, a resolver un problema con unos ejemplos concretos, y luego te podrá resolver otro distinto usando el patrón abstracto que ha aprendido. Esto hay que entenderlo meramente como una descripción de su comportamiento. La forma en que lo hace será la que será, pero no puedes asegurar que no es la misma que sigue un humano, porque no conocemos tanto sobre la relación entre la neurología y el comportamiento humano como para decir nada. Al contrario, si una IA se comporta como si abstrae, lo que podemos concluir es que la forma en que una IA hace eso es un modelo más o menos fiel de cómo lo hace un cerebro humano (y entonces ya no es que se comporta "como si" abstrae, sino que podemos concluir que abstrae).

no crean,

Una IA sí crea. Es capaz de crear imágenes, canciones, puede redactar textos...  Naturalmente usa material previo, exactamente igual que un humano.

solo dan la respuesta estadística mas aceptable para el modelo de problema que le imponen, sea de resultado conocido o desconocido...

¿Y puedes asegurar que un humano no hace "sólo" eso? Si ejecutas un modelo matemático de la actividad neuronal humana y el resultado es un comportamiento equiparable al de un humano (hasta cierto punto, de momento, sin entrar en sentimientos, voluntad, etc.) la conclusión científica es que ese modelo matemático es una explicación de lo que hace un cerebro humano, igual que la ley de gravitación de Newton es una explicación de lo que hacen los planetas (sin perjuicio de que sea mejorable, como la gravitación relativista mejora a la newtoniana en precisión).

Que se sepa o no se sepa la respuesta es transparente a su proceso, pero para un humano no.

Esto no lo entiendo.

Pero en ningún momento has dado ningún criterio que defina operativamente qué hay que entender por ese "razonamiento genuino" que tú consideras que una máquina no puede conseguir.

Y el problema estará en como definas genuino y así seguiremos, por mas que me explaye en lo que yo entienda por razonar, tu le asociaras una  similitud a lo que la IA hace.

¿En como defina "genuino" yo? Yo no tengo nada que definir. Yo digo que una IA razona porque es capaz de superar tests razonables que midan la capacidad de razonamiento. Pero tú dices que eso no es razonar. Eres tú quien insiste en que eso no es "razonamiento genuino" en algún sentido de "genuino" que yo desconozco y que eres tú quien tiene que precisar, no ya para justificar tu postura, sino meramente para que tu postura tenga significado.

Si tú dices que una IA parece que razona, pero no razona, eres tú quien tiene que decir qué le falta a una IA para que puedas decir que razona. Es a eso a lo que llamo "razonamiento genuino" una palabra que para mí no tiene ningún significado conocido pero que está lista para significar lo que tú estés pensando que le falta a una IA para razonar. Yo no tengo nada que definir porque para mí razonar no es más que ser capaz de superar tests de razonamiento. Por ejemplo, que una IA resuelva un problema matemático cuya solución no ha podido copiar de internet porque nadie la sabia, es una prueba irrefutable de que una IA razona. Si tú crees que eso no es concluyente y que falta algo, lo primero que tendrás que hacer será aclarar qué crees tú que tendría que tener de más una IA para que podamos decir que razona. Y hasta ahora sólo has dicho que lo que le faltaría es estar viva, lo cual no viene al caso.

Supón que no tengo mas argumentos, que el verbo razonar, se lo atribuyo a cualquier manifestación de pensamiento o mas acotado a una reacción nerviosa en una entidad biológica.

Eso no es una hipótesis. Eso es un hecho constatado mil veces.

Supón que soy prejuicioso con el razonamiento fuera de la biología, pero que estoy tratando de entender la justificación de razonamiento dada para una IA fuera de la biología

Para eso tendrías que entender lo que te he explicado en mis mensajes anteriores sobre que una IA necesita ser analizada a tres niveles: 1) el electrónico, 2) el computacional y 3) el de red neuronal. Los dos primeros equivalen en un humano a la bioquímica, y el tercero es el equivalente a lo que hace un cerebro humano. Todos tus prejuicios se deben a que no distingues 2) de 3), pero no merece la pena que vuelva a explicártelo aquí, cuando está mucho más extensamente explicado en los mensajes anteriores.

Por último:

Biológico $$\to$$ razona, 
Artificial $$\to$$ no razona

serían mis  pecados

pero no  es pecado calcula $$\to$$  razona

Exacto. Es justo así (lo de pecado / no pecado). Te lo explico una vez más:

Hace mucho tiempo, algunos biólogos se plantearon la posibilidad de que la vida en la Tierra hubiera surgido de forma gradual, de modo que unas especies hubieran evolucionado a partir de otras. Hasta ese momento, la única explicación para la vida en la Tierra era que Dios la había creado, bicho a bicho, usando para ello su infinita sabiduría.

Bien. Tenemos una alternativa: 1) La vida en la Tierra ha sido creada toda a la vez, por Dios  2) La vida en la Tierra ha surgido por un proceso natural, siguiendo las leyes de la física, sin ninguna intervención divina.

La forma científica de decantarse por una opción o por otra es atender a los datos experimentales (lo que muestran los fósiles, lo que puede aportar la genética y la biología, y la bioquímica para el surgimiento de los primeros seres vivos, la geología para determinar las condiciones de la Tierra hace millones de años, la bioquímica que puede mostrar cómo producir materia orgáninca a partir de materia inorgánica por medios naturales, etc.). Se examinan los datos y se ve, con los criterios usuales del método científico, cuál es la conclusión a la que apuntan cuando se los valora desapasionadamente, sin sesgos.

La forma dogmática es decir: La Biblia dice que Dios creo a los seres vivos y no cabe otra explicación bajo ningún concepto. Cualquier evidencia empírica tiene que retorcerse lo que haga falta para concluir que apoya esta verdad o, al menos, no la desmiente.

Ahora pasamos a otra pregunta:

¿Es posible reproducir en una máquina la actividad del cerebro humano?, es decir, ¿es posible hacer que una máquina razone en el mismo sentido (no necesariamente por el mismo mecanismo) en que razona un humano?

Es una pregunta con perfecto sentido. A priori, la respuesta puede ser afirmativa o negativa.

Una respuesta dogmática y acientífica es:

¡No! ¡Eso es imposible! porque sólo los seres vivos pueden razonar.

Eso es exactamente lo mismo que decir que la evolución tiene que ser falsa porque sólo Dios puede crear seres vivos.

¡Ojo! que podría ser cierto que sólo Dios pueda crear seres vivos. Lo que es dogmático y acientífico es decir que tiene que ser así a priori, digan lo que digan las evidencias empíricas. Podría haber pasado que los fósiles dijeran que todos los seres vivos habían surgido hace 6.000 años, y entonces los creacionistas tendrían razón, pero sucede que la evidencia empírica dice lo contrario y eso hace que no tengan razón.

Igualmente, la respuesta científica a la pregunta de si una máquina puede pensar es la misma que la respuesta a si una máquina más pesada que el aire puede volar: es intentar construir una máquina que piense y ver qué resultados se obtienen. Por supuesto, hay que fijar un criterio de valoración.

Un criterio dogmático y acientífico sería decir: una máquina razonará si está viva. Porque eso es como decir a priori que es imposible que una máquina razone sin tener en cuenta para nada lo que diga la experiencia.

Por eso las dos primeras líneas de la cita precedente son tus pecados (como dice la tercera).

El criterio natural es considerar un éxito la construcción de una máquina que se comporta igual que un humano en el sentido de que puedes hablar con ella y no notar la diferencia de si estás hablando con una máquina o con un humano (en cuanto a la coherencia de sus respuestas, si aporta ideas, si cuestiona algunas cosas que le dices, etc.)

Ése es el criterio que adopto yo. Si examinamos qué hacen las neuronas en el cerebro, elaboramos un modelo matemático de eso (las redes neuronales artificiales) programamos un ordenador para que ejecute una red neuronal y el comportamiento es el mismo que el de un humano (hasta cierto punto, porque de momento una IA no tiene voluntad, ni criterio propio, etc., pero sí que razona como un humano) entonces queda científicamente demostrado que el razonamiento humano puede reproducirse en un ordenador y que lo que hace una IA es una explicación (parcial) de lo que hace un cerebro humano. No es ya que una IA razone como un humano, sino que viendo lo que hace una IA entendemos en qué consiste el razonamiento humano.

Antes de que existieran las IAs, había un abismo entre lo que la neurología decía del cerebro humano y el comportamiento que observábamos en los humanos. Ahora ya podemos decir que ese abismo está esencialmente cerrado, porque reproduciendo en un ordenador lo que la neurología dice que hacen las neuronas (no exactamente igual, pero algo similar) obtenemos el comportamiento que muestran los humanos. La IA prueba que ese comportamiento humano tan aparentemente "mágico", no tiene nada de magia: el comportamiento humano es el comportamiento esperable de una red neuronal debidamente ajustada.

Por eso decir que una IA razona (sin que los cálculos que ejecutan el modelo neuronal tengan relevancia alguna) no es pecado.

Sobre los cálculos

Despacho aquí los cálculos de pasada porque tendría que repetirte hechos muy sutiles que he explicado mucho más detalladamente en mis mensajes anteriores, pero resumo la idea de nuevo:

En 1953 Miler y Urey metieron materia inorgánica en un matraz, aplicaron electricidad y así obtuvieron aminoácidos, azúcalres y ácidos grasos. Eso se consideró una demostración de que, en las condiciones de la Tierra hace millones de años, se pudo generar materia orgánica de forma natural.

Una objeción tonta sería decir que en la Tierra hace millones de años no había matraces, ni electrodos, ni laboratorios. Es una objeción tonta porque ese matraz no forma parte del experimento en sí. Su contenido simulaba lo que podría encontrarse en el mar y en la atmósfera primitiva (sin matraz) y los electrodos simulaban las descargas eléctricas de los rayos.

Igualmente, los cálculos que hace el ordenador de una IA no tendrías ni que mirarlos, porque simplemente son como el matraz y los electrodos. Simplemente simulan el comportamiento de las neuronas de un cerebro, son el equivalente de las leyes de la bioquímica.

Lo que haces, no al darles tanta importancia, sino meramente al tener en cuenta los cálculos que hace el ordenador que soporta a una IA, es no mirar a los compuestos químicos  y a la electricidad (que es lo que había en la Tierra) y mirar el matraz y los electrodos, que son lo que no importa, lo que no había en la Tierra pero que reproducen lo que sí que había en la Tierra.

Tú miras el ordenador y sus cálculos (que no están en ningún cerebro) y no miras la red neuronal que implementan (que es lo que hay en los cerebros). En lugar de observar que la red neuronal es una reproducción de un cerebro (igual que el contenido del matraz: materia inorgánica y electricidad, es una reproducción de las condiciones de la Tierra primitiva) te fijas en que en un cerebro no hay ordenadores, ceros y unos, igual que en la Tierra primitiva no había matraces ni electrodos.

No distingues el contenido del experimento (la red neuronal / la materia inorgánica y la electricidad) del "envoltorio" del experimento para "meterlo" en un laboratorio (el ordenador / el matraz, los electrodos). De ahí todas tus confusiones.

Cuando miras una IA no ves lo que tienes que ver porque no miras lo que tienes que mirar, no miras la red neuronal, miras el ordenador, que es tan irrelevante como el matraz y los electrodos.

[cerrar]

Ahora bien, si tú quieres plantear que una IA no razona realmente, lo primero que tienes que hacer para que tus palabras signifiquen algo es precisar qué más tiene que hacer una IA para que se pueda decir que razona. Pero no puedes decir que tendría que estar viva, porque ya hemos visto que eso es la respuesta dogmática y acientífica.

Aquí es donde entra en juego la palabra (para mí vacía) "genuino". Tú dices que lo que hace una IA no es "razonamiento genuino", y yo no sé qué quieres decir con esto. Eres tú quien tiene que precisar (y tendría que ser una precisión científicamente verificable, algo que podamos verificar si una IA cumple o no cumple) cuando dices que una IA no razona en el sentido "genuino" de la palabra.

Si no precisas en modo alguno qué entiendes por "razonamiento genuino", entonces tu afirmación de que una IA no razona no significa nada.

Si lo precisas de forma metafísica (es decir, diciendo algo así como que una IA no razona porque no tiene alma, o qué se yo, algo que no se pueda comprobar empíricamente), entonces no estás diciendo casi nada. No estás diciendo nada objetivo que podamos discutir. Simplemente, estás fundando una nueva religión.

Si lo precisas de una forma científicamente comprobable, entonces, y sólo entonces, tendrá sentido este debate.

[filomates]

La IA y las matemáticas.

Hito histórico en la intersección entre la inteligencia artificial y las matemáticas: la refutación de una conjetura de hace 80 años propuesta por el legendario matemático Paul Erdős.

1. El Problema: La Distancia Unitaria

En 1946, el matemático Paul Erdős planteó un problema de geometría combinatoria que parecía sencillo pero escondía una complejidad enorme. La idea básica es la siguiente:

    Imagina que colocas muchos puntos sobre un plano (una superficie).
    El objetivo es conectar pares de puntos que estén exactamente a una distancia de uno (distancia unitaria).
    La gran pregunta es: ¿Cuál es el número máximo de conexiones posibles a medida que aumentamos la cantidad de puntos?

Durante décadas, la intuición matemática dictaba que las estructuras más eficientes debían ser extremadamente ordenadas, similares a una cuadrícula o rejilla perfecta. El propio Erdős propuso límites matemáticos basados en esta idea y, durante casi 80 años, la comunidad científica creyó que esa rejilla era la configuración óptima o que estábamos muy cerca del límite máximo.
2. El Descubrimiento de la Inteligencia Artificial

Recientemente, un modelo de inteligencia artificial desarrollado por OpenAI ha logrado refutar esta famosa conjetura. Sin embargo, lo más impactante no es solo el resultado, sino cómo llegó a él:

    No usó geometría clásica: En lugar de insistir en las herramientas tradicionales de la geometría discreta, la IA exploró caminos que los humanos habrían descartado.
    Un puente entre áreas distintas: El modelo conectó el problema con herramientas de la teoría algebraica de números. Encontró una nueva familia de configuraciones (que se parecen más a estructuras radiales o de anillos que a una rejilla) que superan los límites que Erdős creía óptimos.
    Creatividad matemática: Este salto entre áreas aisladas del conocimiento es exactamente lo que los matemáticos humanos describen como "creatividad" o "intuición" para resolver problemas complejos.

3. ¿Por qué este hito es tan importante?

Tanto los divulgadores como la comunidad matemática coinciden en que esto marca un antes y un después por tres razones fundamentales:

    Es un modelo de propósito general: OpenAI no utilizó una IA especializada y entrenada exclusivamente para geometría. Fue un modelo de razonamiento general (similar a los asistentes de lenguaje que usamos a diario) el que logró este avance en la frontera del conocimiento.
    Validación de expertos: Las IA pueden equivocarse o "alucinar", pero en este caso, matemáticos de élite como Timothy Gowers (medalla Fields) y Terence Tao revisaron el trabajo. Gowers afirmó que si un humano hubiera presentado este resultado, lo consideraría "totalmente publicable" en una revista prestigiosa.
    La muerte del "loro estocástico": Durante años, los críticos argumentaron que las IA solo predecían la siguiente palabra sin razonar (como un loro que repite). Este descubrimiento demuestra que los modelos actuales pueden generar ideas originales, construir argumentos coherentes y explorar hipótesis de forma autónoma.
 Sigue leyendo
https://parafernaliasmatematicas.blogspot.com/2026/07/la-ia-resuelve-un-famoso-problema.html
https://parafernaliasmatematicas.blogspot.com/2026/07/la-ia-resuelve-un-famoso-problema.html

[Richard R Richard]

Me ha quedado siempre la idea de reformular mi inquietud sobre si la evolución de estas inteligencias son o no un peligro para la humanidad, me he quedado un poco mas tranquilo, pero no despreocupado,  viendo que no estoy solo en esa tarea observativa, denunciante o alarmante.


Hay un Canal que he estado siguiendo en español, me parece bastante bueno y serio como para recomendarlo,  hay que disponer de tiempo ya que sus temas no es explayan en pocos minutos y se nota que hay una labor investigativa de fondo, con un buen relato, en algún punto se va a las ramas, pero nada tiene desperdicio.


He visto un par de videos de ese canal en relación al tema del hilo , al primero me le he resistido a mencionarlo, porque se ve el tema IA desde otro punto de vista, pero este aborda algunos de los interrogantes que planteaba , y otros que no se me habían ocurrido, pero me parecen bien planteados y concuerdo, sobre todo desde mitad de video hacia el final, el principio va poniendo en caja lo que se verá luego.


Lo que si hace es pasar por encima el tema sobre si razonan o no , si calculan o no, sino que lo da por descontado.

Espero les resulte interesante.


Saludos