Imaginemos que Pedro se acaba de doctorar en matemáticas, pero el único trabajo que ha conseguido de momento es de personal de limpieza en una gran empresa. Su trabajo es limpiar ciertos despachos cuando termina la jornada laboral de los oficinistas. Uno de sus compañeros de trabajo, Juan, es analfabeto, pero hace su trabajo tan bien, o incluso mejor que Pedro, al que no le ayuda en nada ser doctor en matemáticas.
Sería absurdo que Pedro dijera: bueno, no es lo mismo, lo que hace Juan no es exactamente limpiar, porque Juan no es doctor en matemáticas. Para mí, limpiar es "limpiar siendo doctor en matemáticas", alguien que limpie sin ser doctor en matemáticas no está limpiando realmente, está haciendo algo que puede parecer lo mismo, pero que en realidad dista mucho de serlo.
Nadie aceptaría ese "argumento".
Pero pongamos que Pedro consigue que lo asciendan a auxiliar de oficina. Y su jefe le dice:
— Acabo de hacer cien copias de este documento de dos páginas, y necesito que me grapes las hojas de dos en dos.
Pedro coge una grapadora y grapa los cien pares de hojas. Al cabo de un rato vuelve al despacho de su jefe y le dice:
—Aquí están las copias grapadas. ¿Necesita que grape algo más?
—No, iba a mandarte que graparas otro documento parecido, pero me han dicho que, pulsando una opción, la fotocopiadora puede grapar las hojas al mismo tiempo que las fotocopia, así que aquí tengo el otro bloque de cien copias grapadas directamente por la fotocopiadora.
Nuevamente, sería absurdo que Pedro dijera: No es lo mismo. No se puede decir que la fotocopiadora grape, porque no es consciente de que grapa. Par mí grapar es "grapar siendo consciente de que uno está grapando". Sólo los seres humanos podemos grapar. Una máquina puede hacer algo que se le parece, pero que no es grapar en sentido estricto.
Nadie aceptaría ese "argumento".
Pero Pedro consigue ascender finalmente a un puesto de responsabilidad. Esta vez su jefe le dice:
—Mira, tengo sospechas de que la sección de reparto no es nada eficiente. Aquí están las entregas que hacen cada mes los vehículos de la compañía, y me parece que las rutas que se siguen se podrían mejorar sustancialmente. A ver si me encuentras una propuesta mejor.
Entonces, Pedro modeliza el problema como un problema de optimización matemática, que no resulta ser excesivamente complicado y, con la ayuda de un ordenador que le hace las cuentas, encuentra una solución y Pedro demuestra que es la más eficiente y que es la única posible. Al día siguiente presenta a su jefe un informe con sus conclusiones debidamente razonadas y justificadas. Pero su jefe, tras ojearlo, le dice:
—Sí, vale, pero es que tenía prisa y le puse el mismo problema a una IA, y en unos segundos me presentó la misma solución que tú y también me ha razonado rigurosamente que es la mejor solución y que es única. Su razonamiento no es exactamente el tuyo, pero es igualmente válido. La IA ha razonado igual que tú y mucho más rápidamente.
Pero Pedro dice: no es lo mismo. La IA no ha razonado nada, porque no es consciente de que razona. Para mí "razonar" implica tener conciencia, algo inherente a un ser humano. Lo que hace la IA cuando genera razonamientos, a pesar de que los razonamientos de la IA sean igual de buenos o mejores que los míos (igual que un analfabeto limpia igual de bien o mejor que yo y una fotocopiadora grapa igual de bien o mejor que yo), no es razonar realmente.
¿Ahora sí que cuela este "para mí razonar es..." y antes no?
Pero la historia no acaba aquí. Hay otro matemático, llamado Peter, que tiene el mismo trabajo que Pedro. Un día el jefe les puso el mismo problema a los dos, y ambos le entregaron una misma solución, con pequeñas diferencias en la forma de razonarlo. De nuevo el jefe dijo que los dos habían razonado igual, pero Pedro objetó: No es lo mismo. Lo que ha hecho Peter puede parecer un razonamiento análogo al mío, pero en realidad Peter no razona, porque Peter es negro, y para mí, razonar es una actividad inherente a los blancos. Un negro nunca podrá razonar en sentido estricto, porque los negros no son seres humanos. Tienen un código genético similar al de los humanos (blancos), pero no idéntico del todo, como sucede con los chimpancés. Aunque el código genético de los negros sea más próximo al "humano" (blanco) que el de los chimpancés, no es exactamente el mismo, y por eso, ni son humanos, ni pueden razonar, por más que lo parezca.
¡Esto tampoco cuela!
La moraleja es: cada cosa (limpiar, grapar, razonar) es lo que es, y depende únicamente de si el resultado cumple ciertos requisitos. Imponer requisitos forzados (como ser doctor en matemáticas, ser consciente de lo que se está haciendo, tener la piel blanca) es una mera arbitrariedad sin fundamento alguno.
Con esto no estoy insinuando que una IA sea lo mismo que un humano, igual que nadie diría que un analfabeto sea lo mismo que un doctor en matemáticas (no digo que uno sea mejor o peor que otro, sino que hay distinciones objetivas entre ambos) o que una fotocopiadora que grapa es lo mismo que un hombre que grapa. Sólo digo que las diferencias son irrelevantes.
A la hora de juzgar si alguien razona ¿qué importa el color de su piel, o la parte de su código genético responsable de eso? Si tuviera que buscar un actor para representar a Julio César, sí que podría decir que un negro no me sirve, porque el color de la piel sería relevante, pero a la hora de resolver un problema matemático ¿qué importa el color de la piel? Si uno resuelve el problema, pues bien resuelto está. Y si ese "uno" es una IA, ¿qué más me da que, como objeto físico, sea un sistema de componentes electrónicos o un sistema de neuronas? Si resuelve el problema, bien resuelto está.
Disculpen por la tardanza, ocupaciones, no he leído todos los comentarios, simplemente para esclarecer un poco mi aporte anterior
La IA es solo una herramienta, que puede hacerse muy poderosa, cuando el que la usa SABE matemáticas .
Lo dije para recalcar que la \( IA \neq humano \), así de sencillo
Sí, pero es que nadie discute que \( IA \neq humano \). El uso de la palabra "herramienta" tiene la pega de que el lenguaje da por hecho que "herramienta" no se aplica a humanos. Incluso se podría cuestionar si es legítimo emplear la palabra para animales. Pero no podemos dejar que las peculiaridades del lenguaje condicionen nuestra concepción del mundo. Durante mucho tiempo, un concepto erróneo basado en el uso de las palabras "arriba" y "abajo" pudo contribuir a que mucha gente se negara a aceptar (o incluso a concebir que fuera posible) que la Tierra pudiera ser redonda. Hay que adaptar las palabras a la realidad y no al revés.
Consideremos el caso del jefe que plantea a Pedro y a una IA el mismo problema, y ambos le aportan la misma solución. Si la solución se la hubiera presentado sólo Pedro, no dirías que el jefe ha resuelto el problema y que Pedro sólo ha sido una herramienta. En cambio, si la solución de la da la IA ¿entonces consideras que es distinto, y que el problema lo ha resuelto el jefe usando la IA como herramienta?
¿No dirías más bien que son dos casos completamente análogos? Imaginemos que el jefe le ha planteado el problema a Pedro escribiéndole un e-mail, y que es el mismo texto del e-mail lo que le ha dado a la IA. Entonces ¡el jefe ha hecho exactamente lo mismo en los dos casos! Ha escrito un texto en su ordenador y lo ha puesto en dos sitios distintos: en un e-mail para enviárselo a Pedro y en la entrada de una IA. Y ha recibido la misma respuesta de la misma manera: Pedro le ha enviado un e-mail con la respuesta y la IA le ha proporcionado una respuesta que el jefe ha leído igualmente en su ordenador.
Dirás: pero Pedro es humano y la IA no, y si el problema también ha llegado a Peter, resulta que Pedro es blanco y Peter es negro. ¿Y qué? Si el jefe plantea el problema a Pedro, a Peter y a la IA exactamente en los mismos términos y los tres le mandan la respuesta por escrito a su ordenador en los mismos términos, ¿qué importa que Peter sea negro o que la IA no sea humana (y no sepa lo que hace, ni tiene voluntad, etc.)?
El jefe ha hecho lo mismo en todos los casos, ¿pero dirías que en un caso ha resuelto él el problema con una herramienta y en los otros casos no lo ha resuelto él, sino que se lo han resuelto otros?
Insisto en que la filosofía es lo de menos en todo esto. Se puede filosofar mucho, sin duda, pero lo que digo es que introducir disquisiciones filosóficas en el análisis de que la IA es capaz de razonar (en el sentido de generar razonamientos correctos y no por análisis de fuerza bruta, sino generando argumentos, demostrando teoremas, etc.) no hace sino desviar el foco.
Si dos matemáticos colaboran trabajando en un problema matemático intercambiando e-mails y al final publican un artículo conjunto con la solución, dirás que ha sido una colaboración entre dos matemáticos. Pero si uno de ellos es una IA, aunque el otro haya hecho exactamente lo mismo: haya ido aportando argumentos en un diálogo en el que las dos partes han ido aportando ideas basándose en lo dicho anteriormente por los dos, entonces dirás que un matemático ha usado una IA como herramienta, aunque lo que ha hecho ha sido exactamente lo mismo en los dos casos: participar en un diálogo aportando exactamente lo mismo.
¿No te parece que es artificial conceptualizar de forma distinta dos situaciones completamente análogas sólo por el prejuicio de qué estás dispuesto a considerar como "colaborador" y qué consideras porque sí como mera "herramienta"? ¿Qué le dirías a alguien que considera colaboradores a los matemáticos blancos y herramientas a los matemáticos negros cuando es capaz de dialogar con ambos exactamente en las mismas condiciones?
No sé si se trata de la solucion al mismo problema .
Que lo llamen razonador, no significa que razone.
Sin llevarlo a la filosofía , el raciocinio para mi implica conciencia, algo inherente al humano, que las IA no poseen,
Que las IAs no tienen conciencia no lo discute nadie (que yo sepa). El problema es ese "para mí". Si admitimos que "para ti" el raciocinio implica conciencia, no veo por qué no habría que admitir que otro dijera "para mí el raciocinio implica tener la piel blanca" o "para mí grapar implica conciencia". Todo son casos de requisitos "ad hoc" para distinguir por definición dos fenómenos equivalentes en la práctica.
Insisto que no estoy diciendo que una IA sea equivalente a un humano. Sólo digo que una IA puede razonar (= generar razonamientos) como un humano igual que una fotocopiadora puede grapar como un humano. Que la IA no sea consciente de que razona es tan irrelevante como que una fotocopiadora no sea consciente de que grapa. Si se trata de grapar o de razonar, la conciencia es tan superflua como el doctorado en matemáticas de Pedro a la hora de valorar su trabajo como limpiador.
espero convencido no poseerán nunca.
Eso es significativo. Parece sugerir que no crees que una IA pueda llegar a razonar, no porque tengas motivos para ello, sino más bien porque no te gustaría que pasara.
Es como si yo dijera que no tengo contratado un seguro contra incendios para mi casa porque mi casa no se va a incendiar nunca, y que sé que mi casa no se va a incendiar nunca porque sería terrible que eso pasara.
IAs creando IAs mas potentes... IAs creando sus propios prompts... Un futuro de tontos mirando sus pantallas, científicos corroborando sin experimentar..., no es que veo todo negro , pero cuando nos creamos que son algo mas que una calculadora, es porque estaremos involucionando.
En el siglo XIX, algunos esclavistas estadounidenses sostenían que los negros eran animales. Y una de las razones por las que les negaban la condición humana era que, si fueran humanos, tendrían derechos, y entonces habría que pagarles por su trabajo, y no se les podría obligar a trabajar, y entonces ¿quién haría los trabajos desagradables?
Por otro lado, puestos a filosofar, la cuestión no es si la IA es algo más que una calculadora, sino si un humano es algo más que una calculadora. Traté de explicártelo poniéndote a ti como ejemplo y te ofendiste (aún no sé por qué), pero, para no repetir, voy a poner a danizafa como ejemplo, porque por lo que ha dicho me parece que entiende perfectamente el argumento y no se ofenderá. Además te pilla de cerca porque en otro hilo estás razonando con él.
¿Pero, de verdad crees que danizafa es capaz de razonar? ¿En qué te basas para afirmar esto?
Imagina que le planteamos un problema, como calcular una integral típica de un ejercicio universitario, y vemos cómo plantea un cambio de variable, la transforma en una integral racional, la descompone en fracciones simples, calcula los coeficientes, aplica la reglas de integración, etc. y todo esto lo hace explicando el por qué y el para qué de cualquier paso.
¿Y sólo por eso concluyes que razona? Lo dudo, porque una IA puede hacer eso exactamente igual y no admitirás que razona.
Pero nada de lo que te he visto decir al respecto justifica que danizafa razona. Corrígeme si me equivoco, pero lo único que has hecho ha sido argumentar que una IA no razona porque no es más que una calculadora. ¿Pero danizafa qué es? De eso no has dicho nada.
Imagina que tuviéramos delante a danizafa y le planteamos la integral dándosela en un papel. Ese papel es iluminado, la luz entra en los ojos de danizafa, forma una imagen en su retina que a su vez suscita unos impulsos nerviosos que llegan a su cerebro, allí se produce una actividad neuronal que sigue las leyes estrictas de la física y de la química, y que van produciendo una serie de salidas de corrientes nerviosas desde el cerebro de danizafa a los músculos de su garganta, de su mandíbula, de su lengua, de su mano que van provocando sonidos y movimientos que a su vez hacen que un bolígrafo marque unos trazos en un papel es lo que llamamos respuesta razonada al problema planteado.
Si comparas esto con lo que hace una IA, ¿qué diferencia ves? Tenemos dos objetos físicos (el ordenador o sistema de ordenadores que dan soporte a la IA) y el cuerpo de danizafa, que reciben unos estímulos, los procesan siguiendo estrictamente las leyes de la física y de la química, y proporcionan una respuesta de tal manera que cuando el estímulo era el planteamiento de un problema matemático, la respuesta es la solución de dicho problema matemático.
¿Qué te lleva a decir que uno es una simple calculadora y el otro no? ¿En qué te basas para decir que danizafa, o yo, o tú (con perdón) no somos una simple calculadora?
Observa que no digo que seamos lo mismo. Somos muy distintos en muchas cosas, y tenemos capacidades muy distintas. ¿Pero qué característica relevante te permite distinguir un sistema como una IA y un sistema como danizafa, o como yo, (o como tú, con perdón) para concluir que, aunque produzcamos todos la misma respuesta ante el mismo estímulo (todos resolvamos un mismo problema matemático), en unos casos el sistema es "una mera calculadora" y en otros casos algo sustancialmente distinto?
Si a una calculadora le incorporas un videojuego, no por eso calculará mejor o peor el logaritmo de 15. Y si a un objeto capaz de calcular una integral le incorporas autoconciencia y todas las características que quieras, no por eso sus razonamientos válidos serán de mayor calidad. Un razonamiento lógicamente correcto tiene la máxima calidad posible. Podríamos ver quién resuelve problemas más difíciles, o más rápidamente, o lo que quieras, pero eso es lo mismo que cuando se ve qué humano corre más rápido o salta más alto. No podemos decir que los atletas olímpicos sean "más humanos" que el resto de los mortales porque sean más rápidos o más fuertes.
Si una máquina llegará a tener consciencia hasta el punto de ser éticamente equivalente a un ser humano es algo que no estamos en condiciones de asegurar aquí. Tengo mi opinión al respecto, pero es irrelevante. Lo que sí que podemos decir es que tal cosa sucederá alguna vez o no sucederá nunca independientemente de que tú o yo o quien sea considere que eso sería un logro impresionante o una desgracia. Y tanto si sucede o si no sucede, eso no tiene nada que ver con que hoy en día una IA razona en algunos casos igual de bien y en el mismo sentido en que lo hace un humano, entendiendo que en "razonar" no incluimos ningún requisito irrelevante como tener la piel blanca o tener conciencia, como tampoco lo añadimos al valorar quién limpia y quién no limpia o quién grapa o quién no grapa.
