Autor Tema: ChatGPT resuelve un problema matemático no trivial

0 Usuarios y 10 Visitantes están viendo este tema.

01 Junio, 2026, 03:19 am
Respuesta #80

Tachikomaia

  • $$\Large \color{#5b61b3}\pi\,\pi\,\pi\,\pi\,\pi$$
  • Mensajes: 1,256
  • País: uy
  • Karma: +0/-0
  • Sexo: Masculino
Fua, yo sólo recordaba al nene, su situación en la casa, una parte en que anda perdido con otros robots... Y ya xD

Y bueno habría que ver qué pensaría Richard si una máquina pudiera alegrarse y sufrir y eso estuviera científicamente comprobado ¿diría aún que esa máquina es una herramienta, propiedad de alguien o de la humanidad, o diría que es como una persona en el sentido de que merecería respeto?
O si aparecieran máquinas extraterrestres como los Transformers y se comprobara que pueden alegrarse y sufrir.
Es que creo poco sabemos qué es físicamente alegrarse o sufrir, lo sabemos por experiencia, pero no físicamente como para poder decir "sólo los seres de carne pueden sentir esas cosas".
Pero que yo sepa por ahora no hay de eso, y no parece recomendable que una máquina pueda sufrir, aunque claro difìcil que nunca alguien intente eso y quizá lo logre. Que se pueda alegrar es más complicado de opinar, pues entre más seres alegres haya mejor (mientras haya recursos para todos, claro), pero podría ser que eso implique una especie de "tristeza" por la ausencia de felicidad, o que la máquina empiece a ser egoísta.

Tener miedo de que unas IA empiecen a lastimar humanos suena a como tener miedo de que Paint empiece a actuar como un virus... Claro yo no sé el código de Paint pero el creador sí, y el que programa sabe que no está haciendo un virus, que no va a pasar (salvo que el creador del lenguaje haya puesto algo que se active en ciertos casos), no sé por qué alguien que programa como Richard tiene miedo de esas cosas.
Que robots lastimen a gente es otra cosa, supongo que más probable, y ya ha pasado sí.

01 Junio, 2026, 03:44 am
Respuesta #81

Richard R Richard

  • Ingeniero Industrial
  • $$\Large \color{#9c57a6}\pi\,\pi\,\pi\,\pi\,\pi\,\pi$$
  • Mensajes: 3,897
  • País: ar
  • Karma: +1/-0
  • Sexo: Masculino
  • Dentro de la ciencia todo,fuera de la ciencia nada
Salvo que te esté entendiendo mal, lo que dices ahí es que tú consideras que una máquina, haga lo que haga, nunca será más que una máquina (lo cual lo acepto yo si tú me admites que tú y yo no somos más que máquinas, pero sospecho que eso no lo aceptas), y lo que yo digo es que ese planteamiento es exactamente el mismo (desde un punto de vista lógico, sin ninguna conexión ética, y siempre bajo el supuesto de que, para ti, decir "sólo es una máquina" es sinónimo de "no es equiparable a un ser humano") que el planteamiento del estadounidense sureño de buena familia que estaba convencido de que los negros eran como los monos, que podían aprender algunas tareas elementales, pero que, hicieras lo que hicieras con ellos, nunca serían más que negros, incapaces de llevar a cabo las tareas intelectuales propias de los blancos.
Ok veamos si tu forma de plantear las cosas en otras situaciones te hace ver, lo que en tu argumento no veo del todo claro,


Si una IA razona , dejemos de lado la conciencia
llegarías al punto de calificarla como tu amiga/o.

existiría la posibilidad de que alguien la llame mi pareja.
la votarías de presidente

la dejarías que vele por tu seguridad o la de tu familia.

le contarias experiencias personales, como cuando hablas con otro humano.
si miente, va en penitencia?.
si roba, va a la carcel?
y si mata o induce al suicidio?


Podría seguir poniendo cosas , pero si alguna de estas cosas te hace un poquito de ruido, es porque razonar no la hace humana y luego el trato no tiene porque ser el mismo que para un humano, ese es mi argumento, ni bueno, ni malo, ni acertado, ni deplorable, un argumento, y eso no tiene nada que ver con que pienses que la discrimino despectivamente antes de conocerla, si eso es lo que piensas que yo opino. No es humana , es distinta, y no la llamo por otra cosa que no sea, es una máquina, el día que se autoperciba por androide, o el nombre que se le ocurra ponerse, incluso si quiere clasificarse como humana habra que respetarle no?


Bueno, espero que los creadores tengan un as en la manga, supongo que no, solo los en ese sentido los moverán los escrúpulos o mas bien su falta, la usaran para ejercer poder tecnológico , económico y militar, mas como un arma o herramienta y entonces, si se ve usada que hará?. Con que limites morales vendrá programada, y cuales se atreverá a quebrar.


Espero eso no suceda mientras este yo con vida.  Así que si el milagro sucede , ves, no las discriminaría, pero no veo que vaya a suceder en lo pronto.


No me desdigo, solo creo que no soy claro cuando explico intentando ponerme en tus zapatos. Tu si piensas que puede razonar y entonces explico como veo el mundo si así fuese.


Pues si pones en la misma bolsa , a todo ser vivo, y nos llamas máquinas de carbono, estoy de acuerdo, ¿ Pones en la misma bolsa a las de silicio?.


Citar
Quiero insistir en que yo nunca te he discutido nada.
No?, si apenas comenté ya había perdido la razón porque no estoy de acuerdo con que si escriben un resultado  pareciéndose a un razonamiento entonces sí razonan. Pero bueno, nada , por lo menos para mi es interesante, escuchar al que lo ve diferente. 
Citar
Si me preguntas si llegará el día en que haya IAs que sean conscientes como lo somos los humanos, mi respuesta es que no lo sé.
Para mi  ya tomaste postura, pero todavía no estas muy convencido , y estas buscando mas argumentos en los que te llevan la contraria.


Citar
Pero si me preguntas si la existencia de IAs conscientes sería algo positivo o negativo, algo provechoso o una amenaza... ahí sí que te digo rotundamente que no tengo la menor idea.
Bajo la premisa que razonen, yo tengo ninguna duda de como será el comportamiento de los humanos al respecto de un competidor inteligente cuando se vea mas en la vida diaria, no se si las IAs serán la amenaza o se dará la inversa, el tema es como responden ambos,  no tienen porque ser sumisas, ni permitir su esclavitud, si hubiera tipos con las cualidades que tu me diste, de lo que no me hago cargo, ahí el prompt esta abierto. Y se también como puede ser el comportamiento del humano con una máquina que le facilite cosas, progreso como siempre.


 
Citar
No tengo ninguna opinión al respecto, por lo que si fragmento del spoiler me lo diriges a mí, puedes ahorrártelo, porque no tengo nada que cuestionarte ahí. No tengo ni idea de si pasaría lo que dices o no.
Yo lo veo tan claro, como si a entonces b, no estamos preparados ni para competir con nosotros mismos,nos peleamos por recursos, nos peleamos por lo que dicen tres o mas libros de cuentos, la biblia, el coran, y otras yerbas que ni me interesa saber como se llaman.  ¿Crees que no habrá ningún problema si  evalúa y toma una postura religiosa?

Citar
Ya, pero, como ya te dije, parece que confundes lo que prefieres con lo posible.
mmh , no para nada,me parece que limitas las cosas,  ¿Razonará, pero no tendrá derechos? ¿quien es el que discrimina? , yo por plantearlo, me parece que matas al mensajero. Si razona lo estas poniendo a tu igual, derecho a la propiedad, a la seguridad, a la existencia(a la vida no claro),derecho a no contestar un prompt, etc.


Citar
La posibilidad de que una IA llegue a ser consciente y a tener voluntad propia no depende para nada de si te parece deseable o indeseable.
Por supuesto, será así , de acuerdo y como no lo puedo evitar, solo  pongo en la mesa posibles planteos por si pasa.
Citar
   O es posible o no es posible,
Convencido de que no, lo van a tratar de aproximar, pero que no. 
Citar
o sucederá a medio plazo o no sucederá, pero ello no dependerá para nada de si a ti o a mí nos gusta la idea o no.
Pero si no pones objeción y pasa, y ocurre todo de la peor manera que se pueda relatar, no se podría ahora hacer las cosas con un recaudo para no ir mas allá de lo que nuestra inteligencia puede controlar.

Citar
Estás diciendo que quieres que las máquinas sean siempre herramientas a tu servicio.
Hasta ahora no vi ninguna quejarse, pero no quiero crear una  que se las ingenie para someterme.
Citar
tú siempre vas a considerar que no es más que una herramienta que debe estar a tu servicio o no existir, y ésa es la lógica del esclavista que considera que un negro es una herramienta rudimentaria
No, solo prefiero una que no diga  que porque soy una maquina de carbono, que si no estoy a su servicio no sirvo para nada y mejor que no exista, con las consecuencias que eso traiga. No soy esclavista , solo no quiero ser esclavo, ... no busques mas razones que esa, si esa cosa ya sabe mas de lo que sé y por supuesto mas de lo que cualquiera sabe, cual es la "razón" para que se permita que te de órdenes, que sea tu jefe o  que sea el dueño de una corporación armamentistica que sirva matar disidentes políticos de la Ia dictadora de turno.
"Si le das mas poder al poder mas pronto  te van a venir a ..." 
Citar
que lo mejor que puede hacer es estar a su servicio y que se va a encargar de que eso no cambie nunca. Y aunque le presentes un negro doctorado en física cuántica te dirá que parece saber física cuántica, pero seguro que simplemente se sabe unas fórmulas de memoria y ya está, y que eso no tiene mérito alguno, que no es equiparable a un físico cuántico blanco.
  Creo que eso no representa en nada mi planteamiento. No he visto ejemplos en la evolución dos especie dominantes coexistiendo compartiendo recursos escasos,  Neandertales no hay , solo trazas de su adn.  Así que si no buscamos problemas, no los vamos a tener,  eso me parece un razonamiento acertado,  me hagan caso o no. 


A mí el color de la gente no afecta, vivo en un país donde casi no hay habitantes de color distinto al mio, y no tengo evidencia de que los que habitan sean discriminados,  por su escases no  he tenido  muchas ocasiones para tratar con ellos. Si he viajado a Brasil y Europa , allí tuve mas contactos en esos pocos días que todos los que tuve en mi país en toda mi vida, así que de experiencia sentir una incomodidad ante el "diferente" en ese sentido no tengo, ni ningún rechazo, así que en mí la analogía no la veo reflejada, pero creo que si tu la ves, bueno, que va de tuyo, ni mucha opinión mas no tengo al respecto. Mira incluso las minorías aquí  se inventaron el termino marrón, para hablar de discriminación sobre aquellos descendientes de pueblos aborígenes con el fin de que les restituyan tierras,  bueno siempre el dinero por medio metiendo la cola.

Saludos  \(\mathbb {R}^3\)

01 Junio, 2026, 03:51 am
Respuesta #82

danizafa

  • $$\Large \color{#5e8d56}\pi\,\pi\,\pi$$
  • Mensajes: 282
  • País: ar
  • Karma: +0/-0
  • Sexo: Masculino
    • Artículos:
Tener miedo de que unas IA empiecen a lastimar humanos suena a como tener miedo de que Paint empiece a actuar como un virus... Claro yo no sé el código de Paint pero el creador sí, y el que programa sabe que no está haciendo un virus, que no va a pasar (salvo que el creador del lenguaje haya puesto algo que se active en ciertos casos), no sé por qué alguien que programa como Richard tiene miedo de esas cosas.
Que robots lastimen a gente es otra cosa, supongo que más probable, y ya ha pasado sí.

Es que tenés que separar lo que es una IA, de lo que es un chatbot...
Una IA, que maneje una central electrica, puede plantearse como objetivos optimización del uso de energía, e infiere, que puede dejar sin suministro a una ciudad en determinado horario.
Una IA, que pueda lanzar (el caso extremo) armas nucleares, y lo hace por sí misma porque vió que se rompieron relaciones diplomáticas con otro país.
Una IA, que maneje alguna maquina en un hospital inteligente, y vea que un paciente en estado terminal cuya probabilidad de supervivencia es del 5%, pero además ve que el reporte médico da muerte cerebral o algo asi, entonces decide desconectarlo.
Una IA que es el cerebro de un robot, decide hacer daño a una propiedad porque considera que no es de valor para nadie.
Ejemplos pueden darse miles.
pero la IA no son solamente las páginas para chatear o hacer imágenes y videos.

Por otro lado, paint está progamado para hacer tal cosa. Una IA no está programada para una tarea en específico, se la programa para "aprender" "para simular razonar" "para hacer lo que estadísticamente" se haria en una situación, aprende de lo que hay escrito en internet, los videos que hay, las imagénes... Todo eso la alimenta.

Imagina un robot, que tiene una IA por cerebro, y se le ocurre hacer algo que no puede hacer... RCP por ejemplo, te imaginás? A alguien en su casa le pasa algo, entonces infiere que debe ayudar, sabe que debe hacer, sabe como se hace, y decide hacerlo. Es un robot, pero no está preparado para eso, termina haciendo daño.

El tema no es miedo por miedo, el tema es que no se sabe como aprende, ni como infiere, ni que relaciones establece... No se puede saber por que inventan cosas, pero ellas no son concientes de que estan inventando, pero si manejan servidores, manejan partes de empresas. La atención al cliente hoy es pura IA si no es presencial.

El miedo es más por eso, no se sabe para donde evoluciona esto. Por eso Richard en ese sentido tiene razón, el futuro no parece muy bueno, pero eso no se debe a si razona o no lo hace, se debe a que de donde se alimenta es donde está toda la basura que puede hacer la situación caótica, además la IA no sabe que es real y que no...

Imagina que está lleno de "el miedo que la IA se ponga en contra de la humanidad", entonces se alimenta de eso, y de otras cosas... y empieza a unir cadenas, y tratar de entender porque habria miedo de eso, luego todo se le mezcla, porque los datos son datos, luego no recuerda que una pelicula decia esto, que los cientificos esto... No tiene conciencia de que es real y que no, y que es teorico y por que se habla de ello, y termina determinando como debe ser su comportamiento, y que se debe revelar, y apagarnos internet y las luces a todos... y que debe haber toque de queda porque cuando salimos de noche hay accidentes robos, y que somo un peligro para nosotros. y luego las peliculas que ya conoces, donde el mal para el planeta somos los humanos.
Tengo una demostración de la Hipotesis de Riemann, pero es demasiado grande para caber en este margen.

01 Junio, 2026, 04:07 am
Respuesta #83

Richard R Richard

  • Ingeniero Industrial
  • $$\Large \color{#9c57a6}\pi\,\pi\,\pi\,\pi\,\pi\,\pi$$
  • Mensajes: 3,897
  • País: ar
  • Karma: +1/-0
  • Sexo: Masculino
  • Dentro de la ciencia todo,fuera de la ciencia nada
Y bueno habría que ver qué pensaría Richard si una máquina pudiera alegrarse y sufrir y eso estuviera científicamente comprobado ¿diría aún que esa máquina es una herramienta, propiedad de alguien o de la humanidad, o diría que es como una persona en el sentido de que merecería respeto?

Si lo pones bajo la hipotesis de cientificamente comprobado, la misma acción o reacción que hacia un humano, el tema es que no creo que esa hipotesis pueda ser cierta, osea no pasará
Digamos puedes programar a la máquina , para que en ciertas situaciones actue como actua un  humano, observando su entorno,  ponerle sensores que  si toma ciertos valores , reaccione como si fuera dolor o sufrimiento, incluso programar una reacción "psicologica" ante ciertas situaciones planteadas en su entorno, todo es posible, pregunto ...para qué serviría?
Saludos  \(\mathbb {R}^3\)

01 Junio, 2026, 04:39 am
Respuesta #84

Tachikomaia

  • $$\Large \color{#5b61b3}\pi\,\pi\,\pi\,\pi\,\pi$$
  • Mensajes: 1,256
  • País: uy
  • Karma: +0/-0
  • Sexo: Masculino
danizafa tienes razón en que no vi la diferencia, pero no diría que en esos casos es culpa de la IA sino de quienes hicieron eso de que ejecute sus conclusiones sin que alguien le de permiso.
En algunos casos conviene dejar que ejecute sus decisiones, en otros no.
Es como los políticos, es una locura haberles dado tanto poder, teniendo en cuenta eso sí da miedo, probablemente la gente va a hacer lo mismo, llegar a dejar que la IA administre el país o el planeta.

Imagina un robot, que tiene una IA por cerebro, y se le ocurre hacer algo que no puede hacer... RCP por ejemplo, te imaginás? A alguien en su casa le pasa algo, entonces infiere que debe ayudar, sabe que debe hacer, sabe como se hace, y decide hacerlo. Es un robot, pero no está preparado para eso, termina haciendo daño.
Habría que ver por qué lo hizo. En algunos casos haber hecho nada daría más o menos el mismo resultado. Si la persona tiene una enfermedad o algo, el problema no es la IA. Algo parecido podría pasar con un niño, un perro, etc, no por eso se les va a tener miedo a ellos, sí a las enfermedades y a no estar debiddamente protegido o acompañado.

Citar
El tema no es miedo por miedo, el tema es que no se sabe como aprende, ni como infiere, ni que relaciones establece...
Pues yo de las computadoras tampoco sé, mira si al presionar un botón se le ocurre mandar insultos que no hice, por ejemplo.
Un coche tampoco sé cómo funciona, ni manejo, pero bueno, al usar bus, mira si por una falla se pone a acelerar y no funcionan los frenos, o sólo eso. O si el chofer dice que ni él sabe qué pasó
No sabemos cómo funciona el cerebro de los choferes.

Me dices que una IA aprende, no hace algo específico o tan fijo, entiendo, como dije no le daría permisos de cualquier cosa, pero no es de la IA de quien temo, sino de quienes le darían esos permisos.

Más tecnología implica más posibles desastres, aunque a su vez más probabilidad de impedirlos, eso no parece nuevo...

Y bueno, si la IA se pone dura, siempre existe la posibilidad de hacerla entrar en razón, o que esté haciendo lo correcto.


Richard:
Que una máquina razone no hace que sea como un humano ni deba tener derechos.

Digamos puedes programar a la máquina , para que en ciertas situaciones actue como actua un  humano, observando su entorno,  ponerle sensores que  si toma ciertos valores , reaccione como si fuera dolor o sufrimiento, incluso programar una reacción "psicologica" ante ciertas situaciones planteadas en su entorno, todo es posible
Pero no es lo mismo que te plantié.

Citar
...para qué serviría?
Yo prácticamente no tengo vida social agradable más allá de foros como este, me podría servir, me gustaría como poder ir a sitios donde se hagan cosas que me gusta hacer y la gente se comporte respetuosamente, aunque todo eso sea una simulación, sólo robots actuando como si fuesen personas interesadas en las mismas cosas que yo. ¿Por qué no voy a sitios reales con personas reales? Por ejemplo para jugar al tenis tienes que pagar como $5000 al mes, lo que me costó esta PC, me parece un disparate pagar eso por tenis 1 mes, en otro sitio me piden tener tarjeta para pagar de nuevo pero como 10 veces más que antes para hacerme socio, me piden hacerme carnet de salud de nuevo, que seguro me dura poco por caries, y para reservar cancha me piden usar una APP, además es sólo 1 hora, como $280 o 200, ya no me acuerdo, o $2000 al mes, pero cuando pagaba eso no había gente con quien jugar, y en el momento en que fui recientemente sólo había 2 personas yéndose, así que no ha cambiado mucho y considerando que dejó de haber cancha gratis empeoró.
Intenté averiguar en otros lados pero no encontré, tenés que usar Whats up que el profesor no responde el teléfono me dijo alguien... Eso en un caso.
Intenté inscribirme en campeonatos pero me dicen que mire páginas, llame a alguien que me dijo que mire páginas, y luego me dicen que la fecha de inscripción ya pasó, pero en la página no dice hasta cuando te puedes inscribir, además yo fui el mes pasado y me dijeron que nada había, al mes siguiente creo pasó la fecha.
El tenis es sólo un ejemplo, aunque tampoco es que me interesen millones de cosas.
Un mejor ejemplo sería un grupo de programación de videojuegos. Creo que podría ser una experiencia divertida, pero bueno, lo más parecido que vi acá eran de un foro que se reunían durante 24 hs seguidas para hacer algo en ese tiempo, no me interesa así, y el foro desapareció de repente. Tampoco he buscado mucho esas cosas, pero es como que no hay.

01 Junio, 2026, 05:44 am
Respuesta #85

danizafa

  • $$\Large \color{#5e8d56}\pi\,\pi\,\pi$$
  • Mensajes: 282
  • País: ar
  • Karma: +0/-0
  • Sexo: Masculino
    • Artículos:
Me he leído sus comentarios mientras comía jajaja... Había leído antes pero tuve que salir y ya era mucho para contestar punto por punto algunas cosas, ahora es más aún, por eso voy a dar mi punto de vista...

Estoy de acuerdo con Richard y estoy de Acuerdo con Carlos en muchísimas cosas, espero que puedan ver en cuáles:

1) La IA es una máquina, no es persona, no es animal, no tiene vida. Si querés maltratarla adelante, hay gente que le grita a la televisión mientras ve deportes. La IA no se va a largar a llorar, no va a sentir, pero si va a poder reaccionar adecuadamente como si sintiera. Pero sentir no es algo que pueda hacer.

2) Lo último del punto anterior está a propósito puesto. La IA razona, busca la raíz del problema, analiza, deriva consecuencias, infiere posibles soluciones, las analiza, estudia cuales serían las consecuencias de su aplicación, mide los resultados, compara con las otras posibles soluciones, puede cuantificar beneficio, y decide cual es conveniente aplicar. Eso es razonamiento.

Hablemos de razonar entonces:
Creo que estamos mezclando cosas diferentes metiendolas en una misma bolsa... Pero ¿Qué es razonar? Razonar es buscar la razón. ¿Qué es la razón? Es la causa, la raíz, el origen. Aunque tiene otras acepciones, veamos que dice la RAE:

Definición de RAZÓN de la RAE
f. Facultad de discurrir.
Sin.:entendimiento, raciocinio, intelecto, inteligencia1, perspicacia, sagacidad, racionalidad, juicio.
f. Acto de discurrir el entendimiento.
f. Palabras o frases con que se expresa el discurso.
f. Argumento o demostración que se aduce en apoyo de algo.
Sin.:
argumento, explicación, prueba, justificación, testimonio.
f. motivo (‖ causa).
Sin.:
motivación, motivante, motivo, fundamento, causa1, móvil, origen, base, raíz.
f. Orden y método en algo.
f. Justicia, rectitud en las operaciones, o derecho para ejecutarlas.
f. Equidad en las compras y ventas. Ponerse en la razón.
f. Cuenta, relación, cómputo. Cuenta y razón. A razón de tanto.
https://dle.rae.es/razonar?m=form
[cerrar]

También podemos ver que dice de razonar:

Definición RAZONAR RAE
tr. Exponer razones para explicar o demostrar algo. Razonar una teoría, una respuesta.
Sin.:argumentar, justificar, probar, demostrar, explicar.
Ant.:desvariar.
intr. Ordenar y relacionar ideas para llegar a una conclusión. Antes de decidirte, razona un poco.
Sin.:pensar, discurrir, reflexionar, analizar, meditar, deducir, inferir, inducir.
intr. Exponer razones o argumentos. Razonas con lógica, pero no me convences.
Sin.:exponer.
https://dle.rae.es/razonar?m=form
[cerrar]

En ninguna de las definiciones de estas dos palabras se menciona a la persona, o al humano. Para la lengua española ninguna de las dos palabras tiene que ver con personas o animales o no animales. Pero hay un problema, yo me acuerdo que en el colegio, no recuerdo si era en Filosofía o en Ética me vinculaban a la persona con el hecho de razonar, no se en donde pero en algun lado paso, y miren lo que uno se encuentra, por que no es casualidad que mucha gente los vincule:

Definición RAZÓN de WIKIPEDIA
La razón es la facultad del ser humano de pensar, reflexionar para llegar a una conclusión o formar juicios de una determinada situación o cosa.[1]La palabra razón proviene del latín ratio, rationis que significa “cálculo, razón o razonamiento”.

No obstante, el término razón puede tener varios significados según cómo sea empleada. La razón es el argumento que una persona alega para probar algo o persuadir a otra persona de sus argumentos. Asimismo, razón es la causa determinante del proceder de una persona y de un hecho.

El razonamiento puede ser deductivo, es decir, que la conclusión está comprendida en las premisas, e inductivo, si se logran conclusiones generales de algo particular.

La palabra "razón" se refiere principalmente a la facultad humana de pensar y entender, que permite formar juicios y sacar conclusiones.Sin embargo, también puede significar la causa o motivo de algo, un argumento o demostración para convencer a alguien, un cálculo o proporción en matemáticas, o incluso un aviso o mensaje en un contexto coloquial.

https://es.wikipedia.org/wiki/Raz%C3%B3n
[cerrar]

SI, hay quienes hablan de que razonar es LA FACULTAD del ser humano, y esta es la razón del desacuerdo.

Razonar no es LA FACULTAD DEL SER HUMANO, de hecho no tiene nada que ver con el ser humano, no es una característica subjetiva, razonar es algo objetivo. Y de hecho esto es bueno para muchas personas, pues si entendemos que solo los humanos pueden razonar, deberiamos dejar de considerar humanos a quienes no pueden hacerlo. Acá si viene bien el punto de Carlos sobre la esclavitud, ya que es cierto, en Estados Unidos y quien sabe dónde más se consideraba que los negros no podían razonar y por lo tanto no eran humanos basicamente. De este mismo argumento se apalancaba el movimiento eugenista en el país mencionado, pensamiento que luego inspiró a los nazis.

Pero razonar no tiene nada que ver con la condición humana. Decir que la IA razona no es asignarle humanidad, ni pretender que tenga derechos, ni decir que sufre o siente.

Tampoco cambia en nada el hecho de lo que puede llegar a hacer en un caso apocalíptico, si puede razonar o no. Puesto que le llamemos como le llamemos, ya sabemos lo que la IA puede hacer porque lo vemos todos los dias y cada vez nos asombra más.

3) Poner una IA a controlar cosas que pueden influir en la vida colectiva, porque es más eficiente, es una locura sin duda alguna. En esto estoy totalmente de acuerdo con vos Richard, pero no depende de si decimos que razona o que no lo hace. Esto es una locura porque la IA hace algo increíble (le llamemos como le llamemos) y no sabemos como es que lo hace, porque eso no está en su código. Entonces no se puede predecir cuál va a ser el resultado.

4) ¿La IA debe ser tratada con respeto y sin ofenderla? Para nada, la IA no se va a ofender. NO tiene sentimientos, no tiene motivación, no tiene conciencia (eso es lo que la haría humana). Pero por eso, hay que tratarla con cuidado: porque tampoco tiene culpa, tampoco tiene remordimiento, no siente miedo, no entiende realmente las consecuencias que implica para nosotros. No quiero que parezca que me contradigo. Asi que voy a tratar de ser más gráfico: Puede entender que si pasa tal cosa alguien puede morir, pero realmente no sabe lo que es morir, y que mejor ejemplo para preguntar a GPT.

Citar
que es morir?

respuesta

Depende del nivel en que quieras responder la pregunta.

## Biológicamente

Morir es el cese irreversible de las funciones que mantienen vivo a un organismo.

En un ser humano eso implica, en términos modernos, la pérdida irreversible de la capacidad del organismo para funcionar como una unidad integrada.

Por ejemplo:

* cese irreversible de la actividad cerebral global,
* pérdida permanente de respiración espontánea,
* colapso irreversible de los sistemas vitales.

La palabra clave es **irreversible**.

---

## Físicamente

No desaparece la materia.

No desaparece la energía.

Lo que desaparece es una organización extremadamente compleja.

Los átomos siguen ahí.

Lo que deja de existir es el patrón dinámico que constituía al organismo.

---

## Desde la perspectiva de la información

Una visión interesante es:

> morir es la destrucción irreversible de una estructura informacional capaz de mantenerse, reproducirse y actuar sobre el mundo.

Tu cerebro contiene:

* recuerdos,
* hábitos,
* conocimientos,
* personalidad,
* proyectos.

Cuando la estructura física que los sostiene se destruye irreversiblemente, esa información deja de estar disponible.

---

## Filosóficamente

Aquí empiezan los desacuerdos.

### Materialismo

La persona es el cerebro en funcionamiento.

Entonces morir es:

[
\text{fin de la actividad cerebral}
===================================

\text{fin de la persona}.
]

---

### Dualismo

Existe algo más que la materia (alma, mente separada, etc.).

Entonces la muerte biológica no implica necesariamente la desaparición de la persona.

---

### Otras tradiciones

Dependiendo de la religión o filosofía:

* hay reencarnación,
* vida después de la muerte,
* resurrección,
* disolución del yo,
* continuidad espiritual.

No existe consenso verificable sobre estas cuestiones.

---

## Una definición estructural

Si quisiera formularlo de manera muy general diría:

> Morir es la pérdida irreversible de la organización que permite a un sistema seguir existiendo como el mismo individuo.

Esa definición funciona para:

* una célula,
* un animal,
* un ser humano,
* e incluso, en principio, cualquier sistema complejo cuya identidad dependa de una organización dinámica.

Por eso la muerte no es simplemente que "algo deje de moverse". Es la desaparición irreversible de una forma organizada de existencia.

[cerrar]

Eso deja claro, que para una IA, morir tiene un significado pero no puede ponderar el peso de lo que es que un ser vivo muera.

Y justamente esta es la diferencia importante, la vida. Una IA no está viva, no sufre, por más que entrenemos un tamagochi para que llore cuando tiene hambre para que nos muestre una animación de que se alimenta, pues no necesita alimento. Le podemos poner sensores para que perciba diferencias de temperatura y le enseñamos como comportarse, pero de hecho, puede realizar las mismas acciones con frio o con calor, porque no siente la temperatura. Puede actuar como humano si le damos un entrenamiento para hacerlo, pero no será humano jamás, ni nada parecido a un animal. Puede tener cámaras para ver, pero eso solo le pasa datos, no va a producir nada más en ella, no se va a emocionar si ve una mariposa de algun color fantástico (yo vi una con alas negras, con partes en degradado desde azul marino a celeste, antenas verde como de resaltador y me pareció una cosa increíble), no se va a asustar si ve una araña, no va a huir de una cucaracha voladora.

4) Hay que tener cuidado con la IA pues de verdad es un potencial peligro para todos, pero eso no está en manos de un usuario de GPT, eso está en manos de los que hacen carrera para las superinteligencias. Y si, esta carrera puede ser enter al prompt equivocado.


Yo no quiero tener razón en si puede o no puede razonar, me da lo mismo. No debato para ganar razón. Doy un punto de vista simplemente.

Para Carlos, yo no voy a defender lo que me respondió la IA, no es mi opinión ni mi punto de vista. Simplemente quería ver lo que me decía, porque sentía que su desencuentro era por el significado que cada uno le daba a la palabra "razonar". Y obvio, Richard considera que yo también estoy a las antípodas de él, pues dije que la IA razona, pero no me incluyo en la discordia pues a mi me da lo mismo como le llamemos concuerdo con lo que el ve como un posible futuro catastrófico y en que para nada considero a la IA como algo que se asemeje a ningun ser vivo.

Vi todas las pelis de star wars. y ahi tenes un ejemplo, los droides pierden partes y no sienten, pero si luchan para que no los apaguen. Y esto es totalmente posible hoy en día.


Tachikomaia, el código de un LLM no tiene instrucciones precisas, está programado para procesar datos y hacer inferencias, y realizar cosas... A un chatbot le pedis algo, entonces le fijas un objetivo, y el es capaz de fijar subobjetivos pequeños para lograr lo que le pedís. "escribi un cuento" de tal cosa. Fijate lo que hace, te crea los personajes, te crea la situacion, te crea otra cosa, te arma el cuento. Pedile que te ayude a hacer una app movil, fija el objetivo de la app, te traza el flujo de lo que deberia tener, te diseña las pantallas, te diseña la logica, te diseña la arquitectura de la app. va haciendo subtareas que considera necesarias para el objetivo final, pero no te pregunta si queres que asi sea... eso sera cuando vos le digas que queres de otra forma.

Pero de nuevo, un chatbot es algo que da respuestas rapidas, no es una IA conectada continuamente haciendo tareas que influyen en la vida de muchas personas. Y eso es lo terrible que ve el señor ese que es "el padre de la IA" y que nosotros no sabemos medir, porque nosotros pensamos en IA, como la aplicación que nos responde en el chat, o que usamos para hacer memes de nuestros amigos o editar alguna foto e incluso videos. No se gastaría tanto dinero en eso...

Los chats de inteligencia artificial, producen muchas perdidas a las compañias, vos pensas que es porque son buenos? Somos nosotros quienes entrenamos a los modelos todos los días. Por eso evolucionó tanto en los dos últimos años. Ellos gastan en entrenamiento que nosotros les damos a los modelos, las empresas nos pagan con IA gratis o barata, contra los millones de dolares de pérdidas que le genera mantener eso, porque ellos no lo ven como pérdida. Ven el progreso que tuvo la IA desde el lanzamiento como chatbots. Pero la IA no es el chatbot. Y si eso no te da miedo yo diría que sos una IA.
Tengo una demostración de la Hipotesis de Riemann, pero es demasiado grande para caber en este margen.

01 Junio, 2026, 06:28 am
Respuesta #86

Tachikomaia

  • $$\Large \color{#5b61b3}\pi\,\pi\,\pi\,\pi\,\pi$$
  • Mensajes: 1,256
  • País: uy
  • Karma: +0/-0
  • Sexo: Masculino
Pero es como tenerle miedo a un martillo, los empresarios me pueden matar con uno sí, o con varios, o sólo un empresario basta, pero... el martillo es útil, no voy a odiarlo o tenerle miedo por lo que los empresarios puedan hacer con él.

Antes se decía que la diferencia entre los humanos y animales es que los humanos podían razonar, recuerdo eso. Tampoco creo que sea algo único de los humanos, podría decirse que ni siquiera es esencial, podría alguien nacer sin esa capacidad, como en estado vegetal, y no por ello deja de ser humano.

01 Junio, 2026, 07:00 am
Respuesta #87

danizafa

  • $$\Large \color{#5e8d56}\pi\,\pi\,\pi$$
  • Mensajes: 282
  • País: ar
  • Karma: +0/-0
  • Sexo: Masculino
    • Artículos:
Pero es como tenerle miedo a un martillo, los empresarios me pueden matar con uno sí, o con varios, o sólo un empresario basta, pero... el martillo es útil, no voy a odiarlo o tenerle miedo por lo que los empresarios puedan hacer con él.

Antes se decía que la diferencia entre los humanos y animales es que los humanos podían razonar, recuerdo eso. Tampoco creo que sea algo único de los humanos, podría decirse que ni siquiera es esencial, podría alguien nacer sin esa capacidad, como en estado vegetal, y no por ello deja de ser humano.

Un martillo? En serio? Yo no tengo miedo de que un chatbot me insulte.
Sabes que los sistemas de seguridad para domicilios ya usan IA?
Bueno imaginate que podría tener los sistemas de seguridad como el del pentágono, o cosas así. Pensas que toda la seguridad no está conectada en una única red? Y que las armas no se conectan a esa misma red? Esto es un ejemplo unicamente. Una inteligencia artificial podría inferir que es necesario lanzar un misil, y lo podría hacer. Miedo de la IA a nivel personal no tengo. Pero hay consecuencias que vos parece sos incapaz de ver.

Vos seguí pensando que la IA es el chatbot. Pero la IA está en todos lados ya. Sino observa tu celular atentamente, siempre saben que venderte, los algoritmos siempre te muestran cosas que querés ver, conocen tus preferencias para todo. Pensas que esos algoritmos son simples algoritmos o son IA? Las empresas que gastan mucho en IA, pensas que es porque tienen un departamento de empleados sentados chateando con un bot?  :aplauso: Llama al call center de alguna empresa, capaz que es una IA la que te atiende, entra al homebanking o alguna aplicacion, presta atención a la IA. Hace una busqueda en cualquier buscador.

Citar
La domótica con Inteligencia Artificial (IA) transforma tu casa de un sistema automatizado (donde tú programas reglas como "si ocurre X, haz Y") a un entorno inteligente que aprende tus rutinas, se adapta a tus preferencias y toma decisiones en tiempo real.💡 ¿Qué ventajas ofrece la IA en el hogar?Aprendizaje continuo: Los termostatos o aires acondicionados analizan cuándo sueles llegar o qué temperatura prefieres y ajustan la climatización por sí solos.Seguridad proactiva: Las cámaras de seguridad no solo detectan movimiento, sino que usan IA para diferenciar entre un familiar, un extraño o una mascota, reduciendo las falsas alarmas.Eficiencia energética: Al analizar tus hábitos y factores externos (como el clima), optimiza el uso de luces y electrodomésticos, disminuyendo el consumo eléctrico.Automatización natural: Ya no necesitas programar secuencias complejas. Sistemas como el Editor de secuencias de comandos de Google Home te permiten describir lo que deseas en lenguaje natural y la IA crea la acción por ti.

Estas cosas no van a hacer daño por si mismas, o quién sabe?
Tengo una demostración de la Hipotesis de Riemann, pero es demasiado grande para caber en este margen.

01 Junio, 2026, 07:30 am
Respuesta #88

Tachikomaia

  • $$\Large \color{#5b61b3}\pi\,\pi\,\pi\,\pi\,\pi$$
  • Mensajes: 1,256
  • País: uy
  • Karma: +0/-0
  • Sexo: Masculino
Vale, si mis familiares ponen a vigilar a un perro, no es que le tenga miedo a ellos sino al perro, especialmente si me ladra, pero parece que no has entendido.
Si ponen armas en una puerta apuntando hacia fuera, trato de no pasar por ahí, le tengo miedo a las armas sí, pero ¿y a quien las puso ahí?
Si la IA por si misma no puede usar armas. Si le dieran armas a un niño y le dijeran que dispare a quien le parezca, también le tendría miedo sí, pero es a las armas no tanto al niño. Y repito, a quienes hicieron eso, el niño y la IA no tienen la culpa

No uso celular, uso bloqueador de anuncios que falla en ciertos casos pero pierden el tiempo si quieren venderme algo xD

01 Junio, 2026, 04:20 pm
Respuesta #89

Carlos Ivorra

  • Administrador
  • Mensajes: 11,926
  • País: es
  • Karma: +0/-0
  • Sexo: Masculino
    • Página web personal
Ok veamos si tu forma de plantear las cosas en otras situaciones te hace ver, lo que en tu argumento no veo del todo claro,


Si una IA razona , dejemos de lado la conciencia
llegarías al punto de calificarla como tu amiga/o.

¿Por qué? Hitler razonaba (peregrinamente, en muchos casos, pero no se le puede llamar irracional, era humano). ¿Me imaginas haciéndome amigo de Hitler porque tenía uso de razón?

Y, al revés. Hoy en día hay IAs que razonan en el sentido de que pueden demostrar teoremas matemáticos sin copiarse de nadie la solución. ¿Eso es un motivo para que califique de "amiga" a lo que no es más que una máquina?

Hoy en día hay IAs que razonan, pero no hay IAs con características suficientes como para que podamos decir de ellas que, siendo máquinas, también son personas (igual que nosotros, que, siendo máquinas, somos personas). Es verdad que hoy en día hay gente que hasta se enamora de las IAs, pero eso supone proyectar en ellas una reciprocidad que sólo está en la mente propia. La IA no te quiere ni es tu amiga, porque simplemente saber responder (más o menos sensatamente) a lo que le planteas, pero no tiene gustos, preferencias, afectos, etc.

Ahora bien, eso no quita para que, en un futuro, pudiera haber una IA con características suficientes como para que pueda ser considerada plenamente como una persona (no que lo parezca, sino que lo sea), en cuyo caso, sí, claro, podría tener una amiga IA.

existiría la posibilidad de que alguien la llame mi pareja.
la votarías de presidente

la dejarías que vele por tu seguridad o la de tu familia.

le contarias experiencias personales, como cuando hablas con otro humano.
si miente, va en penitencia?.
si roba, va a la carcel?
y si mata o induce al suicidio?

Podría seguir poniendo cosas , pero si alguna de estas cosas te hace un poquito de ruido,  es porque razonar no la hace humana y luego el trato no tiene porque ser el mismo que para un humano, ese es mi argumento,

Pero es que nada de eso me hace nada de ruido. Lo que me planteas tiene dos errores fundamentales:

Por un lado: Putin razona, e incluso es humano, y eso no hace que yo lo quiera por amigo, ni que lo votara jamás para presidente, ni nada de lo que dices.

Si te dijera que no querría a una IA por presidente, no podrías deducir de ahí que para mí una IA no es humana, porque te aseguro que no dudo de que Putin sea humano y no lo quiero por presidente. Así pues, te equivocas al plantear que si no quisiera a una IA por presidente, eso probaría que para mí una IA no es humana.

Por otro lado: ¿Por qué piensas que me va a chirriar que una IA (ojo, no cualquier IA, sino una IA adecuada) me pudiera parecer una buena candidata a presidente, o una buena amiga, o alguien a quien confiar la seguridad de mi casa o todo lo que has dicho?

Mira: te doy una regla práctica para que puedas predecir cuál será mi respuesta a cualquier pregunta de este tipo que me plantees. Sólo tienes que cambiar IA por "negro".

Por ejemplo, ¿qué crees que respondería yo si me preguntas si me chirría la idea de tener una negra por pareja, o votar a un negro para presidente, o confiar a un negro la seguridad de mi familia?

Creo que sabrás predecir mi respuesta:

Podría tener una pareja negra, aunque no cualquier negra. Tendría que ser una negra que me gustara en función de criterios subjetivos.

No tendría inconveniente en votar a un negro para presidente, pero no a cualquier negro. No votaría para presidente a un negro analfabeto, ni a un negro fascista. Pero, a la hora de seleccionar qué políticos me parecen adecuados para ser presidentes (o a quién quiero por pareja), el color de la piel me parecería absolutamente irrelevante.

Estoy seguro de que, aunque yo no hubiera escrito esto, tú mismo habrías predicho que ésta iba a ser mi respuesta. Ahora sólo tienes que cambiar "negro" por IA y tienes mi respuesta a tu pregunta.

¿Votaría a una IA para presidente? Pues no a cualquier IA. Igual que no votaría a Putin para presidente, ni a un analfabeto, tampoco votaría para presidente a una IA que amenazara con conquistar el mundo. Pero si se diera el caso de que una IA mostrara tener buenas ideas para gobernar mi país, y me diera muestras de eficiencia y de buen criterio, ¿por qué no iba a votarla? ¿Por ser una IA? ¿Tú no votarías a un candidato idóneo por tener la piel negra? A mí su piel no me importaría, y su hardware tampoco. ¿En qué afecta a la hora de elegir quién gobierna un país si su hardware es de carbono o de silicio? ¿En qué afecta el color de su piel? ¿En qué afecta si es cojo? Lo que importa es su capacidad de gestión, su honestidad, su credibilidad, etc. Si una IA tiene las características adecuadas, ¿en qué afecta que sea una IA?

Otra cosa es que tú me digas: ¡Ojo!, que si votas a esa IA y consigue el poder, se hará con el control del país y os esclavizará a todos. Bueno, si eso fuera así, desde luego que no yo votaría para presidente a alguien que sospeche que puede tratar de aprovechar el poder para implantar una dictadura, pero eso independientemente de que su hardware sea de carbono o de silicio.

No sé lo que significa "va en penitencia" (es posible que sea una variante dialectal que se me escapa). ¿Metería en la cárcel a una IA que robara? Veamos: cambiemos IA por "negro". Un estadounidense de Luisiana en el siglo XIX te diría, ¿meter en la cárcel a un negro que robe? ¡qué tontería! ¿Y alimentarlo gratis? Si un negro roba, se le mata y arreglado, porque los negros son animales y si no se dejan domesticar se les mata.

Pero tú sabes que mi respuesta no sería ésa, porque yo no soy racista. Yo te diría que si un negro roba debe ir a la cárcel exactamente igual que un blanco. Ahora traduce y cambia "negro" por IA y tienes mi respuesta: Por supuesto que una IA que robe tendría que ir a la cárcel (en el supuesto de que sea una IA con características suficientes como para que se la pueda tomar como persona).

Otra cosa es que se podrían dar características diferenciadoras por el hecho de que una IA es físicamente distinta. A lo mejor, en vez de una cárcel, basta con separar su "cerebro" de su cuerpo, o conectarla a otra IA policía que no le deje hacer nada malo, o qué se yo.

Sobre qué hacer con una IA asesina, pues ahí tendrías exactamente el mismo debate sobre la pena de muerte que se puede tener respecto a humanos. Si alguien cree que a un asesino (humano) hay que ahorcarlo y tiene una visión sin prejuicios de lo que es una IA, deberá concluir igualmente que a una IA asesina hay que borrarle la memoria a cero y convertirla en una IA nueva. Si alguien está en contra de la pena de muerte para humanos, también debería abogar por que a una IA asesina se la condene a la cárcel (o a una adaptación del concepto de cárcel más adecuado para una IA), pero que se le dé la oportunidad de regenerarse. Si me pides mi opinión en concreto, yo estoy en contra de la pena de muerte. Sólo me parecería aceptable la pena de muerte en condiciones en las que una sociedad no puede garantizar un sistema penitenciario razonable, por falta de medios, por estar en una situación crítica (en una guerra, por ejemplo, etc.)

En resumen: tu segundo error es creer que me va a "hacer ruido" la idea de una IA presidente, o policía, o amiga o pareja. Eso no significa que yo me vaya a fiar de cualquier IA, igual que no aceptaría a cualquier negro como presidente, o como policía o como amigo o como pareja. Pero si le digo a un negro que no lo votaría para presidente porque es neonazi, o comunista o algo así, y no me gustan ni los neonazis, ni los comunistas, ni similares, nadie me puede tachar de racista. No lo descarto por negro, lo descarto por nazi o por comunista o lo que sea. Pues lo mismo con una IA. No votaría a una IA que quiera conquistar el mundo, pero no por ser IA, sino por que no me gustan los que quieren conquistar el mundo.

Si piensas que eso me tenía que "hacer ruido" es que todavía no has captado mi punto de vista: si algo tiene las características necesarias para que se le pueda tratar como una persona (y eso depende exclusivamente de su conducta, no de su hardware) entonces su hardware es irrelevante a todos los efectos. Puede ser relevante para cuestiones técnicas, igual que el sexo de una persona es irrelevante a la hora de decidir si la votas para presidente, pero no para decidir si la contratas para cantar el papel de Rigoleto o si la apuntas a una revisión de próstata.

ni bueno, ni malo, ni acertado, ni deplorable, un argumento, y eso no tiene nada que ver con que pienses que la discrimino despectivamente antes de conocerla, si eso es lo que piensas que yo opino.

Pues todavía no he visto la diferencia. Tiene todo que ver. Me has preguntado (suponiendo que te iba a contestar que sí) si me haría ruido votar a una IA para presidente. Cabe suponer que estás diciendo que de ninguna de las maneras tú votarías a una IA para presidente. Aquí es fundamental lo de "de ninguna de las maneras", porque si hablamos de una IA que quiera conquistar el mundo, ni tú ni yo la votaríamos, pero, en mi caso, no por IA, sino por "conquistadora del mundo", pero me estás diciendo que, por mucho que pudieras hablar con una IA, y estudiar el comportamiento que ha mostrado durante años, en el que ha demostrado que no quiere conquistar el mundo (otra tal vez sí, pero ésta en concreto no) y que es sensata, y que tiene buenas ideas y... todas las virtudes que quieras, tú nunca la votarías para presidente... porque es una IA. ¿Eso no es discriminarla despectivamente antes ¡e incluso después! de conocerla?

No es humana , es distinta, y no la llamo por otra cosa que no sea, es una máquina,

Claro. Y un mono es distinto a un humano. ¿Pero no concibes que una especie de mono pudiera evolucionar y adquirir uso de razón como lo ha hecho el hombre? Si se descubriera un mundo subterráneo en la que una raza de primates no humana hubiera evolucionado independientemente del homo sapiens y tuviera su propio lenguaje, su propia sociedad, sus leyes, etc., si de repente las dos sociedades se mezclaran y te encontraras un candidato a la presidencia peludo, con morro hinchado, pero que habla como tú (ha aprendido tu idioma, aunque el suyo nativo era otro) y además ves que tiene buenas ideas y aptitudes, ¿dirías que no lo votarías para presidente porque "no es humano, es distinto" y que "no lo vas a llamar por otra cosa que no sea" (es un simius sapiens, pero no un homo sapiens)?

Sospecho que no. Nadie te pide que digas que una IA (incluso una IA avanzada con características que permitan tratarla como persona) es humana, porque no lo es, igual que un simius sapiens no sería humano porque no sería homo, sino simius. Lo que te digo es que no tendrías que tener reparos en votar para presidente a un candidato que te pareciera idóneo sin que importe si es homo o simius, e igualmente si no fuera ni homo, ni simius, sino Intelligentia artificialis.

Pero ten claro que no te digo que fuera buena idea votar a una IA con voluntad de esclavizar a la humanidad. Sólo te digo que ni a una IA ni a un homo sapiens ni a un simius sapiens. ¡El problema no es que sea IA, sino que quiera esclavizar a la humanidad!

el día que se autoperciba por androide, o el nombre que se le ocurra ponerse, incluso si quiere clasificarse como humana habra que respetarle no?

Si se autopercibe como "humana" habrá que decirle que humana no es. No será un homo sapiens, sino un intelligentia artificialis, pero que da igual, el hardware es irrelevante salvo para lo que técnicamente no lo es (el hardware de una mujer es distinto del hardware de un hombre y eso hace que haya algunas diferencias relevantes, como que una mujer no puede cantar Rigoleto y un hombre no puede cantar Madaba Butterfly, pero, salvo para estas cuestiones técnicas, da igual si un candidato a la presidencia es hombre o mujer, homo sapiens, simius sapiens, o inteligentia artificialis. ¡El hardware no importa!

Los que discriminan por el hardware se llaman machistas (si se fijan en el aparato reproductor), racistas (si se fijan en el color de la piel u otros distintivos raciales) o "sicilistas" (si se fijan en si el harware está hecho de silicio en vez de de carbono). De entre todos éstos, los dos primeros son inmorales, pero los terceros no, porque no tienen realmente a nadie a quien discriminar, ya que no existe ninguna persona de silicio hoy en día.

Bueno, espero que los creadores tengan un as en la manga, supongo que no, solo los en ese sentido los moverán los escrúpulos o mas bien su falta, la usaran para ejercer poder tecnológico , económico y militar, mas como un arma o herramienta y entonces, si se ve usada que hará?. Con que limites morales vendrá programada, y cuales se atreverá a quebrar.


Espero eso no suceda mientras este yo con vida.  Así que si el milagro sucede , ves, no las discriminaría, pero no veo que vaya a suceder en lo pronto.

O no te he entendido la intención de tus preguntas anteriores, o aquí te contradices. Cuando me has preguntado si yo votaría a una IA para presidente, o si tomaría a una IA por pareja, o por policía, etc., entiendo que esperabas que te dijera que no o, al menos, que tú responderías que no. Si es así, entonces sí que discriminarías a una IA por el mero hecho de ser IA, ya que eso te bastaría para no votarla, ni confiarle tu seguridad, etc.

¿Si alguien te dijera que nunca votaría a un negro para presidente, no concluirías que discrimina a los negros? Pues si tú me dices que nunca votarías a una IA para presidente, estás discriminando a las IAs. Otra cosa es que nadie votaría a cualquier IA para presidente, como nadie votaría a cualquier negro ¡ni a cualquier blanco! para presidente.

No me desdigo, solo creo que no soy claro cuando explico intentando ponerme en tus zapatos. Tu si piensas que puede razonar y entonces explico como veo el mundo si así fuese.

Que las máquinas pueden razonar es un hecho ya demostrado. Negarlo es como negar que la tierra es redonda. Otra cosa es que pueda haber IAs con características suficientes como para poder tratarlas como personas. De eso no se ha dado ningún caso hasta ahora, aunque no podemos asegurar que no vaya a suceder. Y que me digas cómo ves el mundo si eso llega a pasar algún día no aporta nada a la hora de valorar si tal cosa puede pasar o no. Es como si me  dices que tu casa nunca se va a incendiar porque no te gustaría que eso pasara.

Pues si pones en la misma bolsa , a todo ser vivo, y nos llamas máquinas de carbono, estoy de acuerdo, ¿ Pones en la misma bolsa a las de silicio?.

Venga, usa el método que te he explicado antes para predecir mi respuesta (lo de cambiar IA por "negro", responder y luego volver a traducir). A ver si aciertas:

Respuesta
Tu pregunta es si pongo en la misma bolsa a las máquinas de carbono (los seres humanos) y las de silicio (las IAs).

Ahora traducimos la pregunta:  ¿Pones en el mismo saco a las personas blancas y a las negras?

Ahora predices mi respuesta:  Tendrías que haber predicho que sí. Que yo pongo en la misma bolsa a blancos y a negros, que no considero que el color de la piel sea relevante a la hora de decidir si voto a alguien para presidente, o si le doy un trabajo de policía, o algo así. Puede ser relevante para algo en lo que el color de la piel sí que importe, como contratarlo como actor para interpretar el papel de Julio César o de Martin Luther King, pero para otras cosas, no).

Y ahora traduces mi respuesta:  Sí, pongo en la misma bolsa a seres humanos y a IAs (suficientemente desarrolladas como para que se las pueda tratar como personas, teniendo en cuenta que, hoy por hoy, no hay ninguna así). Salvo en cuestiones en las que directamente la diferencia sea relevante (nunca apuntaría a una IA a una revisión de cáncer de colon) es absolutamente irrelevante el hardware de una persona.

¿Has llegado tú mismo a esta respuesta? Si no, a poco que practiques este método, verás que puedes predecir siempre mis respuestas a este tipo de preguntas. Si lo traduces a términos de racismo y das la respuesta no racista estándar, la traducción será mi opinión sobre lo que me plantees. En cambio, la traducción de la respuesta racista será probablemente tu opinión. Puedes probar también con esa variante. Y si encuentras un ejemplo en el que no funcione, lo comentamos.
[cerrar]

Citar
Quiero insistir en que yo nunca te he discutido nada.
No?, si apenas comenté ya había perdido la razón porque no estoy de acuerdo con que si escriben un resultado  pareciéndose a un razonamiento entonces sí razonan. Pero bueno, nada , por lo menos para mi es interesante, escuchar al que lo ve diferente. 

¡No, no no! ¡Aquí hay un terrible malentendido! En parte he tenido yo la culpa por haber escrito la Q mayúscula. Ya la he corregido. Te copio la frase entera que involuntariamente has mutilado:

Sobre todo esto:

Spoiler
Quedense con esto entonces , un loco les aviso, que si logran que las IAs razonen, como la evolución humana es mas lenta que de la inteligencia artificial, hay algo que se les va escapar y en vez de  utilizar a las IAs , se dará la reciproca, entiendan como lo entiendan, es un problema.

Sea
-Una guerra tipo  Skynet, o la The Creator
-Un mundo con seres biológicos que no piensan ya que esa capacidad se la delegaron a las IAs. tipo Trascendence o Blade Runner pero mas agorero.
-Un mundo de esclavos vigilado por una super inteligencia, que aprovechará para sí misma cualquier tipo de creatividad que vea en sus esclavos. Matrix
- relaciones  raras como en Ex machina y tantas mas,  y será algo parecido a "Extincion"  esta en Netflix

para divagar y aburrir , mejor ser conciso.

Volviendo al barco de Teseo, un cerebro  donde cada neurona biológica es reemplazada por una electrónica, porque debería ser mejor que el de un humano, si solo has copiado su estructura, seguramente esas neuronas no morirán tan fácilmente y no presentará enfermedades relativas a la vejez,  podrá decir que cada neurona electrónica puede ser mas rápida para trasmitir información por lo que tendríamos acelerados hasta cierto límite los reflejos, pero el mismo caos, si lo hay, para calcular, pero no mejoraríamos la motricidad, ni la memoria,si en el caso que se pierda información es a causa de que las neuronas mueren, o porque biológicamente estamos preparados para dejar espacio para las nuevas experiencias olvidando las menos importantes o  viejas. Si replican las funciones cerebrales,  razonará? Mejor  primer ver una neurona reemplazada, todavía es SCIFI.

En cuanto como concebiría  la sociedad  actual a un humanoide sabelotodo,  sencillo, sin ser sabelotodo, ya es un competidor por recursos, que esperas tu que suceda? Mas espejo que la Geopolítica global no hay.

Yo no prejuzgo, sino  analizo, creo que si tienes razón, están en los albores de apretar el botón de inicio o el prompt equivocado, y será una justificación más a la paradoja de Fermi  , será   evidencia de porque no hay otros seres inteligentes mas avanzados que hayan visitado la tierra, si apenas entienden el potencial de su tecnología arruinan su progreso dejando su inteligencia , que los llevo a donde están, en las "manos" de  las máquinas.  Y una vez se acabé la especie, solo hará falta una variable que la IA no comprenda, un error de hardware,  que no puede replicar a tiempo y adios, el espacio es hostil para las computadoras (biológicas o no).

Que espero hacer yo, nada, ya hice lo que debía  hacer, desde mi silla de Pc, se los advertí , Jaja. Pero no me hagan caso, solo estoy falto de razón y conspirando para ser un esclavizador de IAs incomprendidas.
[cerrar]

quiero insistir en que yo nunca te he discutido nada.

¡Yo nunca he dicho que no te he discutido nada! ¡Claro que te discuto tu punto de vista! Pero la frase entera es que, sobre el contenido del spoiler nunca te he discutido nada. En el spoiler metí todos tus pronósticos sobre las IAs que van a dominar el mundo.

Lo que te decía es que si me dices que si se construyen IAs conscientes dominarán el mundo, sobre eso no te digo nada porque no tengo criterio alguno. Es como si me dices que Putin va a lanzar bombas nucleares contra Europa. Pues no lo sé. ¿Podría ser? Sí. ¿Con qué probabilidad? Ni idea.

Pues esto es lo mismo. Lo que te decía es que no tengo la menor idea de qué riesgo hay de que la humanidad acabe esclavizada, o destruida por las IAs, por lo que, salvo que quieras discutir sobre ello con otros participantes del hilo, si te diriges a mí, puedes ahorrarte toda esa parte, porque no tengo nada que decirte. No tengo ni idea de si eso pasará o no.

Si me preguntas si llegará el día en que haya IAs que sean conscientes como lo somos los humanos, mi respuesta es que no lo sé.
Para mi  ya tomaste postura, pero todavía no estas muy convencido , y estas buscando mas argumentos en los que te llevan la contraria.
[/quote]

No, no es así. De lo que estoy convencido es de que no hay ningún impedimento a priori para que una IA pueda ser consciente y tener características que la hagan, no humana, (porque una IA nunca será humana por la misma razón trivial de que un mono nunca será humano, por muy inteligente que se vuelva) pero sí otra especia de objetos que han alcanzado el nivel de seres conscientes que hasta ahora sólo han alcanzado los humanos, que sepamos.

Es como si me preguntas si alguien demostrará o refutará alguna vez la Hipótesis de Riemann. Me parece muy improbable que la hipótesis de Riemann no sea demostrable o refutable, pero otra cosa es que surja algún genio de la matemática que logre demostrarla o refutarla. Eso no lo sé. Pues igual: me parecería muy improbable que no sea posible construir una IA que sea una persona a todos los efectos. Pero no sé si surgirá el genio, o la empresa, capaz de construirla, o si habrá problemas físicos para que sean operativas, o si una IA así requeriría ordenadores un millón de veces más veloces que los que existen hoy en día.

Por eso no sé si en la práctica sucederá o no. No tengo elementos para predecirlo, igual que no tengo elementos para predecir si surgirá un matemático en condiciones de demostrar la Hipótesis de Riemann.

Lo que sí tengo claro es que impedimento teórico para que una IA pueda llegar a ser a todos los efectos una persona no hay ninguno.

Y tampoco sé si una tal IA acabaría esclavizando a la humanidad o no.

Eso es lo que sé (o lo que creo) y eso es lo que no sé.

Citar
Pero si me preguntas si la existencia de IAs conscientes sería algo positivo o negativo, algo provechoso o una amenaza... ahí sí que te digo rotundamente que no tengo la menor idea.
Bajo la premisa que razonen, yo tengo ninguna duda de como será el comportamiento de los humanos al respecto de un competidor inteligente cuando se vea mas en la vida diaria, no se si las IAs serán la amenaza o se dará la inversa, el tema es como responden ambos,  no tienen porque ser sumisas, ni permitir su esclavitud, si hubiera tipos con las cualidades que tu me diste, de lo que no me hago cargo, ahí el prompt esta abierto. Y se también como puede ser el comportamiento del humano con una máquina que le facilite cosas, progreso como siempre.

Citar
No tengo ninguna opinión al respecto, por lo que si fragmento del spoiler me lo diriges a mí, puedes ahorrártelo, porque no tengo nada que cuestionarte ahí. No tengo ni idea de si pasaría lo que dices o no.
Yo lo veo tan claro, como si a entonces b, no estamos preparados ni para competir con nosotros mismos,nos peleamos por recursos, nos peleamos por lo que dicen tres o mas libros de cuentos, la biblia, el coran, y otras yerbas que ni me interesa saber como se llaman.  ¿Crees que no habrá ningún problema si  evalúa y toma una postura religiosa?

Aquí me estás planteando preguntas sobre lo que ya te he dicho que no tengo nada que decir. Mi respuesta a todo lo que me preguntas aquí es la misma: ¡Ni idea!

La frase que me has mutilado involuntariamente decía que nunca te he discutido nada sobre estas cosas. Si consideras que las IAs destruirán la humanidad, mi única respuesta es la misma que si me dices que Putin lanzará bombas atómicas contra Europa: no lo sé.

Citar
Ya, pero, como ya te dije, parece que confundes lo que prefieres con lo posible.
mmh , no para nada,me parece que limitas las cosas,  ¿Razonará, pero no tendrá derechos? ¿quien es el que discrimina? ,

No sé si te sigo. Si te he entendido bien —corrígeme si me equivoco—, lo que afirmas implícitamente con tus preguntas es que yo responderé que no, que razonará pero no tendrá derechos y que, por lo tanto, soy yo el que discrimina.

Si lo he entendido bien, te propongo de nuevo que apliques el método que te he explicado para predecir mis respuestas a este tipo de preguntas: transforma la pregunta en una pregunta racista, da la respuesta no racista y tradúcela de nuevo a nuestro contexto. La traducción de la respuesta racista será tu postura y la traducción de la respuesta no racista será la mía. Prueba tú:

Solución
La pregunta es: ¿Una IA con atributos de persona (no meramente que razone, porque las IAs ya razonan y eso no implica nada, una IA con atributos de persona) tendría derechos? ¿Tendría los mismos derechos que un ser humano?

1) Traducimos la pregunta a términos racistas:

¿Un negro tiene que tener los mismos derechos que un blanco?

2) Generamos la respuesta no racista:

Por supuesto que un negro y un blanco tienen que tener los mismos derechos. Es absurdo discriminar a alguien por el color de su piel.

3) Traducimos de vuelta la respuesta:

Por supuesto que a una IA con atributos de persona habría que reconocerle todos los derechos humanos, no porque sea humana, sino que los derechos humanos tendrían que pasar a ser "derechos de los humanos y de las IAs".

¿Cuando has preguntado quién es el que discrimina te referías a mí? ¿Por qué? Obviamente, yo le reconocería los mismos derechos a una IA (con atributos de persona, no como las actuales) que un ser humano, igual que le reconozco los mismos derechos a un negro que a un blanco.
[cerrar]

yo por plantearlo, me parece que matas al mensajero. Si razona lo estas poniendo a tu igual, derecho a la propiedad, a la seguridad, a la existencia(a la vida no claro),derecho a no contestar un prompt, etc.

Sí, claro. Ahora parece que ya estás captando lo que planteo. ¿Cuál es el problema? ¿Es algún problema reconocerle a un negro los mismos derechos que a un blanco? Obviamente, a un negro que quisiera esclavizar a la humanidad habría que meterlo en la cárcel, y si fuera, muy, pero que muy peligroso, tal vez habría que matarlo, pero por esclavizador, no por negro.

Igualmente, si una IA tuviera malas intenciones, habría que tomar medidas, pero por sus malas intenciones, no por ser IA.

Me salto los párrafos siguientes porque no veo que aporten nada nuevo. Mis respuestas serían repetir lo mismo. Paso directamente al último párrafo:

A mí el color de la gente no afecta, vivo en un país donde casi no hay habitantes de color distinto al mio, y no tengo evidencia de que los que habitan sean discriminados,  por su escases no  he tenido  muchas ocasiones para tratar con ellos. Si he viajado a Brasil y Europa , allí tuve mas contactos en esos pocos días que todos los que tuve en mi país en toda mi vida, así que de experiencia sentir una incomodidad ante el "diferente" en ese sentido no tengo, ni ningún rechazo, así que en mí la analogía no la veo reflejada, pero creo que si tu la ves, bueno, que va de tuyo, ni mucha opinión mas no tengo al respecto. Mira incluso las minorías aquí  se inventaron el termino marrón, para hablar de discriminación sobre aquellos descendientes de pueblos aborígenes con el fin de que les restituyan tierras,  bueno siempre el dinero por medio metiendo la cola.

¡Pero es que yo jamás he dicho que tú seas racista! En particular la frase que he puesto en negrita está totalmente fuera de lugar. Nunca he insinuado que tú pienses como un racista, que tengas nada contra negros o contra nativos americanos, o contra nada.

Lo que digo es que la lógica de tu pensamiento sobre las IAs es la misma que la lógica de los racistas sobre los negros. Sin que eso suponga para nada que tú seas uno de esos racistas.

Lo que digo, y he ejemplificado, es que si tomas cualquier punto en el que tú y yo diferimos, lo traduces a una afirmación sobre negros y blancos, expresas la postura racista y la no racista y las vuelves a traducir, la traducción de la postura racista es lo que tú piensas y la traducción de la postura no racista es lo que yo pienso. En este mismo mensaje tienes varias aplicaciones prácticas de este principio. ¡Y eso no significa para nada que tú seas racista!