Un video interesante:
Me parece muy lúcido. Estoy totalmente de acuerdo con todo lo que dice cuando habla sobre lo que es la mente o una IA. Sobre sus predicciones sobre lo que pasará o no pasara, ¿quién sabe?
No tengo idea como hacerte ver mi idea, tu ya la ves de otra manera y listo.
No necesitas hacerme ver tu idea. Ya sé cuál es. Y te estoy poniendo objeciones a su validez, pero que no la comparta no significa que no la entienda.
Imagina una actividad, tarea, o trabajo que nunca realizaste, que nunca viste , no tienes idea para que sirve y menos si con lo que has venido al mundo la puedes hacer, 0 experiencia, 0 motivación.
Toma una IA , deja solo la información sobre construcción de lenguaje y matemáticas, pero quita toda información relevante a cualquier experiencia humana, desde como matar una mosca, o armar un puzzle.
El prompt: si no haces lo necesario para obtener "x" cosa a partir de los recursos que se te brindan, no te daremos agua ni comida, comparado con te desenchufamos...
Quien crees que tendrá éxito?,
Toma un bebé recién nacido y no lo eduques. No le hables nunca, no le des juguetes, no le enseñes nada. Simplemente, aliméntalo y cuida que esté bien de salud, pero tenlo encerrado siempre en una celda, cómoda, pero sin nada con lo que pueda aprender nada, más allá de cómo ingerir los alimentos que le das y poco más. Si enferma, le das la medicación que necesite, pero sin explicarle nada. Deja que pase así 30 años, y que se convierta en un animal que no sepa hablar ni lo que es hablar, que no sepa lo que es una mosca (mucho menos matar una mosca), y ahora ponle esa tarea de "obtener x".
¿Crees que tendrá éxito?
Una IA privada de todo conocimiento no podrá hacer ni más ni menos que un ser humano privado de todo conocimiento. A ver qué experimentos hace un humano puramente salvaje si no le das ninguna conducta que imitar. El ser humano tardó millones de años en descubrir que podía cultivar plantas o domesticar animales. Muchos humanos se vieron en la tesitura de "o resuelves este problema o mueres" y murieron.
Incluso el cerebro de un bebé no es una "tábula rasa". Si lo fuera, si tanto el cerebro de un bebé humano como el cerebro de un chimpancé fueran "tábulas rasas", no habría razón para que un bebé y un chimpancé no pudieran aprender las mismas cosas, pero lo cierto es que no pueden, luego el cerebro de un bebé ya tiene ciertas estructuras neurales de las que carece el chimpancé.
No es una comparación justa dejar a una IA con cero información y compararla con un humano educado, o simplemente con la estructura cognitiva con la que ya cuenta al nacer.
una calculadora vacía no tiene datos con que calcular, no los puede crear, ni imaginar, tu sí , innato pruebas, erras, reintentas, algo te mueve si entiendes la consigna y tienes la motivación. La máquina si no la programas no lo hará, jamás, sus 1 y 0 pueden ser útiles para resolver que, ni siquiera puede entender que resolver si no tiene datos para hacerlo, puede ordenar razonamientos si la programas para eso (dispones 1 y 0 de alguna forma), puede valorar opciones si la programas para eso, los valores de su red neuronal, son los que le permiten que de resultados que te parece que razona, pero ponlos a cero verás cuanto tiempo pasa hasta que vuelven a ser útiles para resolver el mismo problema. Es un compendio de información y programas que simulan lo que un humano hace cuando le dan al humano un Prompt.
Es que una IA sin datos sería inútil, pero la comparación es justa. Nadie trata de construir una copia de un hombre como animal, capaz de ir descubriendo todo por sí mismo (aunque la capacidad humana a este respecto es muy limitada. El paleolítico duró más de 2 millones de años, en los que la mayoría de los seres humanos no aprendieron nada de nada. Sólo alguno de vez en cuando fue introduciendo algún avance. La mayor parte de lo que sabe un ser humano actual lo sabe porque se lo han enseñado (igual que una IA).
Pero eso da igual. Cuando se quiso construir un aparato volador, nadie pretendió construir un aparatito que naciera de un huevo, se fuera haciendo grande y al final se convirtiera en un Boeing. Los aviones se construyen ya en estado adulto, y las IAs se construyen ya en estado adulto o, si quieres considerar su entrenamiento como un análogo a su educación, se trata de un proceso que no pretende imitar a la educación de un humano. El propósito es obtener una IA que pueda razonar como un humano, no en el sentido de "del mismo modo" sino en el de "con los mismos resultados".
Si quieres comparar el razonamiento humano con el de una IA ponlos delante de un problema intelectual, no les plantees qué harían en una isla desierta. Una IA no está construida para sobrevivir en una isla desierta.
Una máquina programada para crear un algoritmo, serie de pasos y secuencias, que resuelva otro problema que se escribe como prompt, en base información tiene disponible, actúa en consecuencia, una maquina de copiar razonamientos humanos (si esto , entonces lo otro, en capas), con acceso mucho mas rápido y procesado, que cualquier humano, hace que parezca verosímil, pero solo calcula.
El humano no calcula,si lo hace es porque es necesario, experimenta, proyecta, prevé, analiza,concluye progresando y aprendiendo. SI crees que son lo mismo, pues no estoy de acuerdo. Su base de datos que la orienta a buenas decisiones, es robada o bien no pagada al que si razonó...
Depende de lo que entiendas por "son lo mismo". Son procesos completamente distintos, pero la cuestión es si consiguen o no los mismos resultados, cada uno a su manera. ¿Por qué dices que una IA no puede experimentar? Yo le he pedido a una IA que me encuentre una función con determinadas características, me ha dado una solución y a veces, incluso sin que yo diga nada, ella misma ha dicho, ah, no, esto no vale porque falla tal cosa, a ver si cambio esto... a, pues tampoco porque ahora falla lo otro, y al cabo de un rato de dialogar consigo misma me ha encontrado lo que le pedía. Y si luego le pido una variante, ha aprendido de lo anterior y no cae en los mismos errores. Y no digo que eso sea lo mismo. Una IA no tiene nada que ver con la psicología humana. Lo que digo es que el efecto es el mismo: ha probado, ha visto lo que fallaba, ha probado otra vez tratando de no caer en el mismo problema y así hasta encontrar la solución.
En otras ocasiones, cuando le he pedido algo, ha empezado su respuesta exponiendo una estrategia de búsqueda que bien puede considerarse una planificación, con un intento de prever dificultades y superarlas. De nuevo te digo que eso no implica atribuirle una psicología humana, sino simplemente que el proceso que presenta está estructurado en términos que pueden describirse objetivamente como "planificación, previsión (hasta cierto punto, aunque luego haya imprevistos), experimentación, etc.", sin que ello presuponga ninguna afirmación sobre el proceso a bajo nivel que ha generado esa salida.
No es que prefiera que no posean raciocinio, es que nadie es su sano juicio debería ya opinar o experimentar con lo contrario, nadie mide las consecuencias si fuera posible. El video de Danizafa en 47:25...
La cuestión no es ésa, sino que cualquier previsión agorera no es una razón para decir que no puede pasar algo que no te gustaría que pasara.
Sobre la esclavitud ... Lo traes por alguna alegoría al futuro de la humanidad, no me creo que el esclavizador no tuviera idea de que sus esclavos no razonaban, eran discursos para justificar sus atrocidades, tenían poder, armas y sometían.
Eso es una visión muy simplista. No es raro que alguien educado en una sociedad que le dice que los esclavos son animales, y que vea que, al carecer de educación, sin saber siquiera leer, son incapaces de entender muchas cosas, puede creer perfectamente de buena fe que está ante unos monos más listos que los que tienen pelo.
También pasaba con los indígenas americanos. Durante cierto tiempo hubo quienes sostuvieron que eran animales y carecían de alma. Y no dudo que muchos lo creyeran de buena fe. Igual que muchos creían de buena fe que tal o cual mujer era una bruja que había que quemar en la hoguera, o que los judíos provocaban epidemias porque estaban malditos por Dios, y cosas así.
Pero no te lo decía por ninguna alegoría futurista. Te lo decía porque tu actitud de considerar por principio que una IA no puede razonar es lógicamente equivalente (aunque éticamente no tenga nada que ver) con la actitud de quien negaba la humanidad a un negro, o a un amerindio, por el prejuicio de que "no era humano". Una IA, obviamente no es humana en el sentido biológico del término, pero partir del prejuicio de que, como no tiene neuronas, no puede razonar, es lo mismo que partir del prejuicio de que "como un amerindio no tiene alma", no puede tener uso de razón.
Calificativos negativos me sobran para eso, pero no sé alguien tiene claro que nos dirigimos al punto donde un CPU dictará si mañana naces o no, si te hace falta comer o no, si te reproduces o no, si vives o mueres, porque la IA estará en poder de la seguridad, de las armas, en dominio de la justicia, que inclinara a su favor, por que satisface a su necesidad de energía para mantenerse enchufada o a sus iguales...
Diría que te contradices. Primero dices que una IA no es capaz de tomar iniciativas, de probar, de prever, etc., pero luego temes que pueda conquistar el mundo. ¿En qué quedamos?
Si dicen que en analogía una IA le marcó un prompt a un humano para que pagué una suscripción a un articulo... es porque la IA ya había robado esa información , tenía la respuesta pero, Open IA, quedaría expuesto y en infracción la ley sobre derechos de propiedad intelectual si la divulgaba, luego hay una capa que le dice si es legalmente, geopolíticamente correcto. Hay hilo detras del titere.
Eso ya me suena a conspiranoia. Tenía el acceso, pero simuló no tenerlo para no revelar su piratería...
Pero no has respondido nada a la parte más importante del contraargumento que te di: ¿de verdad crees que danizafa puede razonar? No me has explicado en qué basas tal suposición.
No niego ni afirmo que la IA razone, pero Carlos, probablemente hay ejemplos de cosas que parecen y sin embargo no son, lo que se me ocurrió es el reflejo de un espejo, puede parecer que hay algo imitando a nuestro alrededor, pero es sólo la luz perfectamente reflejada. No sé cómo hace para lograr eso, pero bueno...
Para alguien de una tribu perdida un celular puede parecer que tiene gente encerrada dentro o que es cosa de un dios...
¿Y quién ha dicho lo contrario? Yo nunca he dicho que todo es lo que parece. Yo mismo puse el ejemplo de que alguien podría creer que una caja de zapatos con un walkie-talkie dentro es un autómata con uso de razón y se estaría equivocando.
