debate en foro sobre la IA, que fue basicamente por el articulo del resultado matematico, se puso algo candente el debate... por el tema del razonamiento de las IA... te muestro algunos mensajes pqrque para mi empezaron a derrapar , me gustaria saber tu opinion en cuanto a los argumentos que se brindan...
La respuesta de ChatGPT me parece muy razonable. De hecho, he mantenido muchos debates con mucha gente en este foro y creo que (hablando de interlocutores que defendían posturas claramente absurdas) nunca he visto ninguno que analizara mis argumentos con tanta racionalidad como ha hecho aquí la IA. Sin más que comparar esta respuesta de ChatGPT con las respuestas que he obtenido de ciertos humanos en este mismo foro hace ya tiempo, puedo asegurar que ChatGPT supera con creces a tales interlocutores en capacidad de analizar racionalmente un argumento.
Añado: Quería pasar esto sin dar nombres, pero me parece que puede dar lugar a malentendidos. En este foro he mantenido debates con argentinator, incluso alguna vez con Luis, y con algunos más, en los que hemos mantenido puntos de vista opuestos, y quiero aclarar que no era en estos "interlocutores" en los que estaba pensando, sino en otros muy distintos. Creo que nadie que esté familiarizado con la historia del foro necesitará más precisiones.
E —insisto— con esto no estoy diciendo nada sobre que la IA tenga conciencia o bla, bla, bla. Sólo digo que es un ejemplo claro de que la IA genera análisis racionales de argumentos muy superiores a los que generan muchos humanos, que pasan por alto los puntos cruciales del argumento y se centran cuestionar detalles menores, sin ser conscientes (salvo que les supongamos mala fe) de que con eso están eludiendo su oportunidad de ver si sus puntos de vista resisten realmente las objeciones que se les pueden plantear.
Pero tengo algunas cosas que discutir a ChatGPT (no te estoy dando un prompt
sólo te digo la réplica que considero que requiere su planteamiento).
Hay un matiz importante que objetar a su conclusión:
Una vez separadas esas cuestiones, gran parte de la tensión lógica del debate desaparece. De hecho, leyendo los mensajes, tengo la impresión de que el desacuerdo real es bastante menor de lo que parece; una parte está discutiendo sobre inferencia y la otra sobre conciencia, pero ambos usan la misma palabra: "razonamiento".
En cierto modo es verdad, pero el matiz es que esa discrepancia que en este contexto se podría considerar simplemente como que "hablamos de cosas distintas", se convertiría en otra cosa en otro contexto (o ésa es, al menos mi conjetura). Eso está relacionado con el ejemplo que ChatGPT no ha entendido:
## Pero tiene un punto débil
La analogía con racismo y esclavitud me parece excesiva.
No porque sea ofensiva.
Sino porque no es una analogía estructuralmente limpia.
La razón es que:
* sabemos independientemente que negros y blancos poseen la misma arquitectura cognitiva básica;
* no sabemos si humanos e IA poseen capacidades cognitivas equivalentes.
Entonces la discusión relevante justamente es eso.
Por una parte, el punto débil de ChatGPT ahí es el sujeto de "sabemos". En efecto, nosotros lo sabemos, pero un racista no lo sabe. Un racista está convencido que, por uno u otro motivo, un negro, o un judío, o un palestino, es un ser inferior no equiparable a un auténtico humano, y por eso se le puede esclavizar, o matar, o meter en un gueto.
Richard dice que un racista es un ser cruel y despreciable que busca excusas para justificar sus abusos. Eso es cierto en muchos casos, pero no en todos los casos. En la sociedad del sur de los Estados Unidos anterior a la guerra civil, había gente educada, de buena familia, que iba a la iglesia todos los domingos, y que tenía esclavos en su casa como quien tiene un perro. Pensaban que un negro era como un niño, como un deficiente mental, que si lo dejaras solo en la vida se moriría de hambre, por falta de capacidad para entender el mundo, pero que en su casa, como criado, estaba bien alimentado, y vivía confortablemente, y a cambio, lavaba, planchaba, hacía la comida, la servía... Y si alguno quería marcharse de casa, pues era como un niño que no quiere ir al colegio. Hay que obligarle porque es un niño que no sabe lo que le conviene. Y esa gente, a la que le habían inculcado esa forma de ver las cosas desde niño, no se planteaba otra cosa, y si le hablabas de que un negro podría aprender a leer, y a escribir, y a hacer cualquier cosa que pueda hacer un blanco, se te reiría pensando que eres un ingenuo que no tienes ni idea de lo que es un negro (un niño grande, incapaz de valerse por sí mismo). Es exactamente el mismo planteamiento que el de Richard cuando dice que una IA sólo calcula, pero es incapaz de "enfrentarse a la vida real" (aunque luego pueda dominar el mundo).
Pero la comparación con el racismo o la esclavitud tiene una razón de ser que no es raro que a ChatGPT se le haya pasado, porque, más que una respuesta a la situación actual, es un anticipo de respuesta a una posible situación futura.
Quiero decir que una forma de mostrar la invalidez de un argumento es enfrentarlo a una situación distinta de aquella a la que se pretende aplicar, pero en la que su invalidez resulte más evidente. Y eso es lo que trato de hacer.
Imagina una sociedad como la que describe la Guerra de las Galaxias. No sé si has visto las películas, pero si no es así, el planteamiento es muy simple: describen una sociedad equiparable a la actual en cuanto que hay políticos como los actuales, dictadores como los actuales, delincuentes como los actuales, gente humilde como la actual, caballeros nobles que ahora se ven menos, pero que podríamos equiparar a "polis buenos", religiones como las actuales... pero además hay androides que son IAs con características plenamente humanas, es decir, que se comportan como humanos que tienen iniciativa propia, tienen miedo, dudan, se preocupan, tienen instinto de conservación...
No pretendo poner la Guerra de las Galaxias como una propuesta creíble de cómo será la IA dentro de 50 años. De hecho, no creo que Lucas tenga ninguna autoridad científica como para que el mundo que imaginó pueda considerarse realista a largo plazo. Pero sí creo que, si admitimos que fuera posible la existencia de unas IAs con esas características, las películas describen muy razonablemente la forma en que nuestra sociedad las concebiría. Para eso no hace falta ser experto en ciencia, en IA o en nada parecido, sino conocer la psicología humana, y eso es algo que Lucas y los guionistas de Hollywood suelen hacer bien.
En la serie de películas, los androides son esclavos: se pueden comprar y vender, si uno los compra puede ordenarles que hagan cualquier trabajo, y si un androide no obedece, se considera que "es defectuoso" y hay que arreglarlo. Si se vuelve incontrolable, se le desconecta. Los androides tienen asumida esa condición de esclavos, pero no porque la tengan incorporada a su forma de pensar. A menudo C3PO le dice a R2D2, cuando no obedece las órdenes que se le han dado, que como no obedezca el amo Luke lo convertirá en chatarra. Es decir, que los androides obedecen por miedo a ser castigados, destruidos o reprogramados.
Mi argumento es: imagina que la sociedad humana actual se encontrara con IAs autónomas, androides, que se comportan exactamente igual que humanos, es decir, que ya no vale eso de "no tienen iniciativa, no tienen voluntad propia, etc." ¿Cómo los concebiría?
Y mi conjetura es que todos aquellos (o una gran mayoría de aquellos) que dicen que la IA es "sólo una herramienta", que "sólo calcula", etc. vieran el comportamiento que vieran en un androide, por indistinguible que fuera del comportamiento humano, seguirían diciendo que "sólo es una máquina", "no piensa realmente" (aunque lo parezca) , "no tiene sentimientos" (aunque lo parezca) y mantendrían esa posición sin que importara para nada el comportamiento mostrado por los androides.
Cuando la gente ve una película de romanos, o de los Estados Unidos sureños antes de la guerra civil, en la que se muestre la realidad de la esclavitud, aunque ésta sea algo secundario en el argumento, la mayoría de la gente coincidirá en que la esclavitud era una inmoralidad, pero nunca he oído a ningún fan de Star Wars lamentar que C3PO tenga atributos plenamente humanos y sea legalmente un objeto propiedad de un amo. Y lo que digo es que eso refleja muy acertadamente lo que la mayoría de la gente pensaría de los androides.
Quiero decir que, en todos los que dicen "sólo calcula", "sólo es una herramienta", lo que realmente observan en las IAs es irrelevante. Ahora pueden decir "hay diferencias sustanciales con los humanos", y tienen razón, pero lo que afirmo es que si no las hubiera seguirían diciendo lo mismo (sin perjuicio de que alguno pudiera cambiar de opinión, como todo el mundo, claro, pero digo que esta línea de razonamiento, salvo giro brusco, conduce a eso).
Lo que digo es que la lógica subyacente al "sólo es una máquina", "no piensa", "sólo calcula", que ahora es cierta, seguiría aplicándose independientemente de las características observadas de la máquina, porque no parte de un análisis de la máquina, sino de un prejuicio de que sólo un ser humano puede ser tratado como se trata a los seres humanos.
Más ejemplos de esta actitud los puedes ver en El planeta de los simios. Hay dos series de películas, unas antiguas y otras modernas, pero en todas ellas el hecho básico es que una especie de monos, por ciertas circunstancias, evolucionan como lo hicieron los humanos hasta tener facultades humanas, pero la mayoría de los humanos no les reconocen el status humano porque "son animales", "son monos" y, por principio, independientemente de las habilidades que muestren, nunca dejarán de ser animales.
Y otro caso interesante es el de la película IA, de Steven Spielberg, en la que presenta a un androide que sufre la discriminación social precisamente porque para los humanos es una máquina y nunca podrá ser visto como otra cosa, independientemente de las aptitudes que muestre. Aquí Spielberg fue cobarde, porque para garantizar que el público empatizaría con el protagonista le dio el aspecto de un adorable niñito. ¿Eso era necesario? ¿Temía Spielberg que si el androide tuviera un aspecto nada antropomórfico el público mayoritariamente rechazaría la tesis del argumento que requería considerarlo humano a todos los efectos?
Insisto en que si cito estas películas no es por su fiabilidad en cuestiones científicas y técnicas, sino por sus análisis de las reacciones humanas ante posibles avances tecnológicos (o biológicos, como en el caso de los simios).
Lo que digo es que los argumentos del tipo "sólo es una máquina" son lógicamente equiparables al racismo porque —al menos ésa es la impresión que tengo— no parten del hecho a posteriori de que hay diferencias significativas entre las IAs actuales y los humanos (que las hay), sino del supuesto a priori de que, haga lo que haga una máquina, nunca será equiparable a un humano. Igual que un nazi consideraba que, hiciera lo que hiciera un judío nunca sería equiparable a un nazi, o igual que un israelí neonazi considera que, haga lo que haga un palestino, nunca será equiparable a un neonazi israelí.
Aquí es importante insistir en que hablo de "lógicamente equiparables", pero en ningún caso de "éticamente equiparables", porque es cierto que, hoy por hoy, de ninguna IA se puede decir que "no sea más que una máquina". Nadie ha dicho en este foro nada que sea éticamente reprobable, ni nada de lo que tenga que avergonzarse. Pero, pese a que alguno la podría considerar ofensiva, traigo la comparación a colación porque sinceramente creo que, desde el punto de vista puramente lógico, la estructura argumental es la misma: quien dice "una IA sólo es una herramienta" (me parece a mí) está aplicando el mismo sistema conceptual que cuando el bueno de Luke Skywalker dice que un androide es sólo una máquina, o cuando los humanos de El planeta de los simios dicen que los simios sólo son animales.
ChatGPT dice que no hay en realidad mucha discrepancia en este debate porque en realidad cada uno habla de una cosa distinta, y en cierta medida tiene razón, pero lo que digo es que los argumentos del tipo "sólo calcula" no son válidos porque, si ahora son sostenibles, dejarían de serlo si se aplicaran a IAs más avanzadas, y en tal caso pasarían a ser propiamente argumentos racistas (con lo que ya no podríamos decir que hablamos de cosas distintas). Y un argumento no es válido si se puede aplicar a veces sí y a veces no.
Otra cosa sería que uno dijera: Considero que la IA es sólo una herramienta porque le falta esto y lo otro para ser otra cosa (lo cual sería razonable si el "esto y lo otro" es razonable), pero en cuanto se le añade la coletilla de: "y no puede ser de otra manera, porque sólo un humano puede razonar realmente", ahí se arruina el argumento y muestra su carácter apriorístico infundado.
