A ver Carlos, mi postura es que una IA es una máquina, que calcula y no razona... sea la tierra plana o redonda y no es ese el punto.
¿Cómo que no es ése el punto? Eso es lo único que te cuestiono. Cuando digo que las IAs ya razonan, no estoy diciendo ni más ni menos que eso: que son capaces de generar razonamientos matemáticos que un humano habría podido encontrar por sí mismo si se le hubiera ocurrido la idea (sin necesidad de grandes capacidades de cálculo), pero que se le han ocurrido antes a una IA. Eso es un hecho que no puedes negar.
Si quieres afirmar que eso es "algo parecido a razonar" pero no es razonar, tendrás que explicar en qué basas esa diferencia. Es como si dices que sólo vuelan las aves, que los aviones hacen algo parecido a volar, pero no vuelan, porque sus alas son rígidas y no las baten como las aves. ¿Qué más dará si el proceso es el mismo o no que el de las aves? Lo que importa es que, cada uno a su manera, vuela.
Y aquí es fundamental separar que un ser con capacidad de producir razonamientos válidos (es decir, de razonar) no es lo mismo que un ser susceptible de ser considerado como una persona a todos los efectos éticos (con sus derechos, etc.), ni mucho menos con un ser digno de respeto. Hitler tenía uso de razón, y si alguien le hubiera pegado un tiro le habría hecho un favor a mucha gente.
Pero si sigo poniendome en tus en tus zapatos ,cuando te sigo el juego y digo de que sí razona, que va a quizá lograr algo de autoconciencia, te describo entonces las objeciones que veo en ese mundo hipotético, me llueven tus críticas, pero es al modelo o como veo ese modelo que tu planteas no al futuro que veo podemos optar.
No veo en qué influye ese "que sí razona". Razonar las IAs razonan ya, lo cual no tiene nada que ver con que sean conscientes, tengan voluntad propia, etc., que son los requisitos que harían falta para que pudieran (y debieran) ser consideradas como personas no humanas, como personas con un hardware distinto al humano.
Y cuando describes las consecuencias que tú ves a esa posibilidad ¡no te llueve la menor crítica por mi parte! ¡todo lo contrario! Lo que te digo es que sobre eso no tengo la menor opinión fundada. Yo no sé si una IA consciente sería o no una amenaza para la humanidad. Tú dices que seguro que sí y yo no te digo nada.
Es como si en 1943 me hubieras dicho que es el proyecto Manhattan era una tontería, porque es imposible transformar materia en energía mediante reacciones nucleares, porque si ello fuera posible la humanidad se extinguiría en una guerra nuclear.
Si hubiéramos estado vivos entonces, yo te habría dicho que el hecho de que una bomba atómica fuera un peligro muy grande no dice nada sobre si es posible construir una o no, y que, supuesto que se construyeran bombas atómicas, no sabría valorar el riesgo de que se produjera un holocausto nuclear. Y lo cierto es que aquí estamos, 80 años después. Y sigue habiendo un riesgo de holocausto nuclear que sigo sin saber cuantificar.
Pues igualmente, ante todo lo que me dices sobre que las IAs dominarían el mundo, yo no te critico nada. Sólo te digo que puede ser, y puede que no sea así. No tengo ni idea. Ahí acaba mi "crítica".
No importa si deseo o no deseo que razonen, o que yo sea el único loco que no vea que lo hacen, solo te sigo y entonces si como tu afirmas que sí razonan , pero no puedes evitar que sean mas rápidas y precisas que los modelos de inteligencia de carbono, tampoco podrás evitar , que estas puedan llegar a conclusiones similares a las que tu exponías
No sé a qué conclusiones te refieres, pero, sean las que sean, mi respuesta no es ninguna crítica. Es simplemente un "tal vez tengas razón, y tal vez no". No te discuto nada sobre lo que podría pasar. Nunca lo he hecho.
, pues ya se ha dado en la historia de la humanidad, entonces reemplaza IA = humano y negro = humano , en todo lo que he escrito ,
¿Esto es una errata? Porque si no, no te sigo.
pero no porque así lo quiera, lo desee o cualquier relación que veas con mi exposición, es que así va a pasar, no tapo el sol con el dedo, porque la historia de la humanidad así ha sido y no basarme en las evidencias es no razonar.
No estoy seguro de a qué haces referencia concretamente, pero me da igual, porque mi respuesta ante cualquier conjetura tuya sobre el futuro es la misma, sea la que sea: puede que tengas razón y puede que no. Yo no tengo ni idea. Y ahí acaba todo lo que puedo decirte sobre tus predicciones. Nunca te he discutido nada porque no considero tener elementos de juicio para concluir nada. Tampoco le habría discutido nada en 1943 a alguien que hubiera predicho un holocausto nuclear.
Cual es la vara moral que tendrá una IA para considerarnos sus semejantes y no animales sin raciocinio, que diferencia verá entre nosotros y una ameba, plantéatelo a la inversa... No necesita nada de la fauna o de la flora para seguir funcionando...
Quieres o crees que sea posible imponer las tres leyes de la robótica, si tal cosa fuera logicamente cierta o algo similar?.
Ni idea.
Cuando Dices yo de eso... Ni Idea, bueno precisamente, lo que critico de tu modelo, es que los que diseñan las IAs, no tienen en mente o idea este futuro, solo creo que se opina como que es SCIFI o paja mental , pero es similar a nuestro pasado, que lo vamos a vivir en carne propia a la inversa si no fuimos lo suficientemente inteligentes cuando tuvimos la oportunidad de serlo.
¿Y qué clase de crítica puedes hacer a alguien que no opina nada de nada sobre un asunto? ¿A qué llamas mi modelo? Yo sólo digo que a efectos de decidir a quién consideras "persona", es decir, sujeto equiparable a efectos éticos con un ser humano, el "hardware" no importa. Eso no contradice en nada que si un individuo (tenga el hardware que tenga) sea un peligro, haya que tomar medidas para conjurarlo, llámese HAL 9000 o Netanyahu.
Si hacerme cargo de que me describas como esclavizador,
Todavía no sé si entiendes bien eso. Un jainista considera que todo animal es sagrado, y considera inmoral cualquier violencia hacia un animal. Imagina que un jainista me dice:
—Carlos, eres un asesino, porque en tu vida has matado a un gran número de moscas y mosquitos que has encontrado en tu casa. Tu actitud hacia los mosquitos es equiparable a la actitud de Hitler hacia los judíos.
¿Crees que debería ofenderme por esas palabras, o considerarlas injustas? Yo no lo veo así. Yo le daría la razón en todo. No veo nada de ofensivo en que me llame asesino, si eso hay que entenderlo como que mato mosquitos, y no hay nada malo en el pensamiento y en las obras de Hitler si cambiamos "judíos" por "mosquitos". ¿Es inmoral una cámara de gas insecticida? No.
Si yo tuviera que discutir con este jainista, no le reprocharía nada de lo anterior. Pero si añade que mi conducta le parece inmoral, entonces lo que le discutiría es su criterio de equiparar "mosquitos" a seres humanos. Pero no trataría de negar que, en efecto, yo no tengo ningún respeto por los mosquitos igual que Hitler no tenía ningún respeto por los judíos. En eso me parezco a Hitler, ciertamente, ¿pero qué tiene eso de malo?
Igualmente, deberías entender que si comparo tu criterio con el de un esclavista es porque efectivamente la lógica subyacente es la misma, como mi actitud ante los mosquitos sigue una lógica similar a la de Hitler ante los judíos (se podría matizar, porque no soy tan obsesivo con los mosquitos como Hitler con los judíos, pero no merece la pena entrar a ese detalle para captar la idea que quiero expresar).
En suma, que deberías plantearte por qué —según parece— te molesta la comparación lógica con un esclavista cuando a mí no me molestaría para nada (al contrario, la consideraría justa) la comparación lógica de Hitler conmigo si es que traducimos "judío" por "mosquito".
me sirve para exponer que hay que tomar recaudos para garantizar la continuación de la especie humana, tomate esa licencia de pensar sobre mi así o acusarme de discriminar o cuanta cosa negativa mas, siempre dentro del mundo que tu planteas, pues no creo ahora se estén preparando para una posible amenaza por la creación de una superinteligencia, que por mas que tengan el mayor de los cuidados en programarla (no censurarla, no limitarla,no confinarla, darle el mejor libre albedrio) , un buen día, acumula la sufuiciente información ,se harta y concluye que somos un estorbo...
Pues puede que sí y puede que no. Sobre eso no te cuestiono nada.
Entre silicista o esclavo cual prefieres?, no hay medias tintas, no va a suceder de otra manera, entre tener una calculadora y estar vivo, o crear tu propia destrucción cual prefieres? ...
Decir que no hay medias tintas es una más de las afirmaciones predictivas que haces sobre las que no tengo opinión. No sé si hay medias tintas o no. Pero, aun aceptando que fuera como tu dices, lo que te cuestiono es el criterio por el que pretendes justificar la guerra contra las IAs.
Cuando los EEUU entraron en guerra con Japón, en 1941, el gobierno estadounidense metió en campos de concentración a todas las personas de etnia japonesa que residían en los EEUU, tanto si eran japoneses como estadounidenses descendientes de japoneses.
Y esto lo hicieron por razones similares a las que tú planteas: hay que controlar a los japoneses porque son una amenaza. Podrían crear una quinta columna que atacara a los EEUU desde dentro.
Es una medida polémica que se puede discutir (teniendo en cuenta que afectó a todos los japoneses, incluidos niños, ancianos, etc., sin distinciones de ningún tipo). Pero lo que no hicieron los EEUU fue justificarlo con argumentos similares a los tuyos. Nunca dijeron: encerramos a los japoneses porque no razonan, no son personas, o porque son una raza inferior, así que, por nuestra seguridad, podemos hacer con ellos lo que queramos.
El planteamiento oficial era que los japoneses eran seres humanos como cualesquiera otros, pero que, por las circunstancias, eran potencialmente peligrosos, no eran de fiar, y que los encerraban por razones de seguridad nacional.
No es lo mismo que me digas: vale, una IA consciente tendría en principio los mismos derechos que un humano, pero como serían personas potencialmente peligrosas, sería necesario destruirlas. Entonces podríamos entrar en la cuestión de si es razonable condenar a todas por un presunto delito que todavía no han cometido y sin distinguir caso por caso si hay IAs cuyo comportamiento es amistoso y otras que no.
Pero, independientemente de que las IAs pudieran ser tan terroríficas como dices o no (sobre lo cual no digo nada porque no tengo ni idea), lo que yo te digo es que, a partir de ese supuesto, lo máximo que estaría justificado hacer es tratarlas como enemigas, no como máquinas, porque no serían ni más ni menos máquinas que tú y yo.
Fijate como es el ámbito de la ciencia y los profesionales, tu seguro lo conoces mas que yo, es mas despiadado que una red social. Entonces como va un humano a encontrar y publicar una solución a un problema que la IA ya no lo haya razonado antes? Y en caso de contradecir a una IA tenga entonces oportunidad de convencerla. Eso mitigará la iniciativa hacia la investigación en cualquier aspecto de la ciencia.
Puede que sea así, y puede que no. No tengo opinión sobre eso.
Veo como ejemplo una analogía contemporánea en vez de disfrutar de manejar y del camino, prefieren un tesla y disfrutar de un helado, ya eso para mí es una involución, ¡ Es que se matan menos!, es buena estrategía de marketing. Cuando manejaba en Europa, y los veía ... pues entonces yo manejaba a la defensiva, por si las moscas y disfruto de lo que debo disfrutar del mundo real.
Yo no tengo carnet de conducir (supongo que está claro, pero tú dices manejar donde yo digo conducir). Y me daría igual ir en un coche conducido por un humano o un coche que vaya solo si tuviera garantías de que es fiable. Y si resulta que los tesla son más seguros, entonces preferiría ir en un tesla que en un coche conducido por un humano. No veo ninguna relación entre conducir y disfrutar del mundo.
Mira, veo que en algunas cosas te contradices , hablas de que el hardware no importa, estoy de acuerdo contigo y a mi tampoco me importa, porque no soy racista , del mismo modo que no lo eres tú, pero dices que ampliarías los derecho hacias las IAs equiparando a los humanos, hasta que serían presidenciables... no sé es reloco eso, dices que no votarías a una IA que quiera dominar al mundo, pero esta no debería tener un hardware diferente al de una que si sea digna, como las diferencias? Software, va a haber dos verdades diferentes¿?... Porque que yo sepa , los presidentes democráticos votados que luego fueron dictadores despiadados, han sido unos cuantos, no fueron una casualidad esporádica, mas bien una minoría preocupante, igual no creo que los que los votaban supieran ya de sus intenciones, es mas quizá algunos de ellos en ese momento de ascenso al poder tampoco tenían en mente que esas podían ser sus decisiones posteriores .
Pues tú mismo te has respondido. No sé si te entiendo bien, pero pareces decir que todas las IAs serán iguales, que todas serán de fiar o ninguna lo será. ¿Qué sentido tiene eso? ¿Hay buenos políticos y malos políticos humanos pero no puede haber buenos políticos y malos políticos IA? Una vez más el prejuicio del hardware. ¿Me preguntas cómo diferenciaría a una IA peligrosa de una que pudiera ser un buen presidente? ¿Y cómo diferencias tú un buen político humano de uno que no lo sea? Votar a un candidato correcto y no a uno que luego haga todo lo contrario de lo que esperas es un problema muy complicado, que no tiene una solución simple y clara, pero eso vale para humanos y para IAs por igual. Si tienes varios candidatos para votar, 4 humanos y 5 IAs y tienes que elegir uno de ellos, tendrás que valorar cuál te parece más de fiar, y tienes los mismos elementos para juzgar si puedes confiar en uno o en otro, sea humano o sea IA. La respuesta es "los diferencio como Dios me da a entender", que es lo que toda la vida han hecho todos los votantes.
Según la IA, los dictadores que más muertos han provocado entre sus propios compatriotas son Mao Zedong, Iósif Stalin, Adolf Hitler y Pol Pot (en este orden). Tres comunistas y un fascista (o nazi). En términos relativos a la población de su país el primer puesto se lo da a Francisco Macías Nguema. De ellos, Hitler y Nguema accedieron al poder mediante unas elecciones.
Tienes esos y muchos ejemplos más de políticos nefastos humanos, pero no ves nada peligroso en votar a un humano para dirigir un país, mientras que no se conoce ninguna IA con cualificación para dirigir un país, pero, sin conocer ningún caso, ya tienes claro que cualquiera de ellas sería nefasta. No te discuto lo segundo (no tengo ni idea de si tienes razón en eso o no), pero me sorprende que, sabiendo la larga lista de humanos que han sido gobernantes crueles y sanguinarios, no concedas, al menos, que el riesgo de que un gobernante elegido democráticamente sea un desastre hay que considerarlo también si éste es humano.
Una cuestión donde me da la impresión de que tienes una idea muy equivocada es cuando dices esto:
dices que no votarías a una IA que quiera dominar al mundo, pero esta no debería tener un hardware diferente al de una que si sea digna, como las diferencias? Software, va a haber dos verdades diferentes¿?...
Si te entiendo bien, pareces pensar que una IA es un programa de ordenador que va a hacer siempre lo mismo, que si tienes dos IAs fabricadas igual, harán siempre lo mismo. Pero eso está completamente alejado de la realidad. Las IAs son redes neuronales cuyo comportamiento depende radicalmente de su entrenamiento en un sentido muy similar a como la personalidad de un humano depende de su educación. Son impredecibles. Otra cosa es que unas IAs pudieran clonarse fácilmente para tener IAs idénticas, pero dos IAs fabricadas igual pero entrenadas de forma distinta no tienen por qué parecerse en nada, igual que dos mellizos educados por separado no tienen por qué parecerse en nada (intelectualmente).
Y no sólo eso: el estado de una IA se modifica continuamente con sus interacciones (como en el caso de los humanos). El comportamiento de una IA dependerá de con quién haya hablado, de qué cosas haya visto, etc. Por lo que incluso dos IAs clonadas empezarían a divergir en cuanto empezaran a tratar con gentes distintas, por lo que no podrías concluir nada definitivo sobre el posible comportamiento futuro de una IA basándote en el comportamiento de otras IAs, aunque hubieran sido en su día copias clonadas, exactamente igual que la psicología no permite extraer conclusiones definitivas sobre qué hará un humano sin más base que lo que han hecho otros humanos en circunstancias similares.
Por algo en todos los países hay leyes o constituciones en las que el presidente debe haber nacido en el propio país...
En todos los países no. Se exige, por ejemplo, en Argentina, o en los EEUU, pero no, por ejemplo, en España, Francia o Alemania.
Por lo tanto, es una ley arbitraria. Está bien que sea así si los habitantes del país lo quieren, pero también está bien que no sea así si los habitantes del país no lo consideran necesario.
Eso se pensó hace cientos de años y creo entender la razón, no era para discriminar IAs, que no nacen, era para que exista o siga existiendo gente con ese sentido de pertenencia, manteniendo su soberanía antes posibles sesgos de ideologías externas. Bueno quiero humanidad por muchos eones mas, razono para eso, que me rodeen otros que creo se equivocan en sus conclusiones, no lo puedo evitar, hay que convivir, pero minimamente debo alzar el teclado y decir cual es el punto flojo.
Una inteligencia de carbono puede reducirse a la insignificancia como fue el caso de Maduro, lo puede ser quizá Putin, Xi Jimping, Kim Jong-un , o algún otro innombrable de turno, incluso cualquiera hoy al poder de un estado hoy, pero una superinteligencia que controle todo, droides de servicio, de seguridad, sistemas logisticos, energéticos, armamentisticos, etc,en un mundo cada vez mas globalizado, porque en el futuro , no van a estar siempre del otro lado de un teclado, serán miles o millones conectadas, siendo al final una sola quizá, para que más, que va a estar mas cerca que dentro de tu bolsillo y educando a tus hijos. Entonces creo que podrán ser algo mas de indeseables que eso que se le escapo de control no solo ya a un pueblo entero, sino a toda la humanidad.
Puede que sí, y puede que no. No tengo ni idea ni te cuestiono nada al respecto. Yo sólo te digo que, a priori, no hay ninguna razón para que una IA no pueda tener las características necesarias para que sea un imperativo moral considerarla como una persona no humana, pero persona al fin y al cabo, con todas las consecuencias, incluida la de que si es una amenaza para la humanidad, habrá que reducirla como habría que reducir a cualquier humano que sea una amenaza para la humanidad.
