Hola RH.
La IA para que te funcione bien, le tenés que dar un perfil, luego cada vez que quieras hacer algo pedirle que asuma "un rol", vos tenés que guiarla en lo que quieras que haga, si la dejas hacer lo que ella quiera no vas a tener buenos resultados, sobre todo si dejas que use lenguajes "análogos" va a ir por mal camino seguro. Hace muchas cosas bien, pero la IA alucina.
Le pregunto a GPT:
como me dijiste que era lo que una inteligencia artificial hace? alucina? cuándo alucina una IA?
IA me responde:
Spoiler
Voy a responder con precisión técnica.
## 1. ¿Qué hace realmente un modelo como yo?
Un modelo de lenguaje no “piensa” ni “entiende” en el sentido humano.
Formalmente:
* Aprende una función
\[
P(\text{siguiente token} \mid \text{contexto})
\]
* Dado un texto previo, calcula distribuciones de probabilidad sobre continuaciones posibles.
* Genera la secuencia más probable (o una muestra controlada).
No hay:
* conciencia,
* intención,
* memoria autónoma,
* ni acceso directo a la verdad.
Solo predicción estadística condicionada.
Eso es todo.
---
## 2. ¿Qué significa que una IA “alucina”?
En términos técnicos, una **alucinación** ocurre cuando el modelo:
> Genera una afirmación sintácticamente coherente pero fácticamente falsa o no respaldada por datos reales.
Es decir:
* La salida es fluida.
* La estructura lógica puede parecer consistente.
* Pero el contenido no corresponde a la realidad.
No es mentira intencional.
Es extrapolación probabilística incorrecta.
---
## 3. ¿Por qué ocurre?
Hay varias causas estructurales:
### (A) Optimización por plausibilidad, no por verdad
El modelo está entrenado para minimizar pérdida predictiva, no para verificar hechos.
Maximiza verosimilitud, no veracidad.
---
### (B) Falta de anclaje externo
Si el contexto no contiene información suficiente, el modelo completa el patrón con lo que “suena correcto”.
Ejemplo típico:
* Inventar referencias.
* Atribuir teoremas inexistentes.
* Fabricar citas académicas plausibles.
---
### (C) Sobre-generalización de patrones
El modelo detecta regularidades y las extiende más allá del dominio donde eran válidas.
En matemáticas esto aparece como:
* Saltos lógicos no justificados.
* Conclusiones que “parecen” derivarse pero no están probadas.
* Reempaquetados que introducen supuestos implícitos.
---
### (D) Presión por completar
Si el usuario exige una respuesta categórica, el modelo puede producir una aunque la información sea insuficiente.
---
## 4. ¿Cuándo es más probable que ocurra?
* Cuando se piden datos muy específicos (DOIs, fechas exactas).
* Cuando se exige reconstruir memoria de otro chat sin contexto.
* Cuando se combinan marcos formales nuevos con extrapolaciones fuertes.
* Cuando el problema es abierto o mal definido.
En matemáticas avanzadas, la alucinación suele adoptar la forma de:
> Argumentos formalmente elegantes pero estructuralmente incompletos.
---
## 5. Diferencia clave
Una IA **no sabe que está alucinando**.
No tiene metacognición.
Solo produce la secuencia más coherente según su entrenamiento.
---
## 6. En el contexto de tu trabajo
En marcos estructurales como el tuyo —donde la precisión axiomatizada es central— la alucinación aparece típicamente como:
* Reformulaciones redundantes que parecen nuevas.
* Corolarios que no añaden contenido real.
* Generalizaciones que no están justificadas por los axiomas base.
* Confusión de niveles (por ejemplo, mezclar eje índice con eje exponente).
Ahí es donde un revisor serio detecta el problema.
---
## 7. Resumen exacto
Una IA “alucina” cuando:
\[
\text{Coherencia sintáctica} ;\not\Rightarrow; \text{Validez fáctica o lógica}.
\]
Y eso ocurre porque está optimizada para **plausibilidad estadística**, no para **verdad demostrada**.
---
Si querés, podemos ir más profundo:
hay una explicación formal desde teoría de la información y optimización que aclara por qué la alucinación es estructuralmente inevitable en modelos generativos.
Tenés que verificar muy bien cada cosa que dice y frenarla cuando corresponde, porque ella hace lo que quiere de lo contrario.
No se puede negar que es una herramienta valiosa. Pero si pudiera escribir o probar cosas nuevas, ya lo haría sola.
Personalmente la uso en unas ideas que tengo, pero, incluso bajo hipótesis bien delimitadas, la IA te puede pelear porque se olvidó la hipótesis y te lleva por algún marco similar, o puede inflar todo y te mete un salto lógico, o una hipótesis que es imposible pero te justifica la idea

y le mete hasta demostrar que la luna es plana. Ambas situaciones son malas.
Es un bicho complicado, y uno puede embobarse con lo que devuelve (hablo por experiencia).
Si vos a la idea le decís "quiero probar eso" la IA te va a probar "eso". Pero si le haces leer "eso" y le decis que busque errores y fallos, vas a sentir que se te ríe en la cara.
Luego de decirte "esto es una demostración matemática rigurosa" te va a decir "eso no se justifica", "eso es inaceptable", etc. A pesar de que vos hayas tratado de seguir todos los pasos, alguna sutilesa te mete que uno lee y dice "a la..." y luego muchas de esas cosas son las que ella misma te va a rebatir.
Personalmente uso GPT, le podés poner una personalidad, supongo que a todas les podrás poner lo mismo y podés usar la memoria, para que recuerde cosas. Sin embargo, esto tampoco es perfecto y te pueden pasar las dos cosas: que se vaya a plutón, o que no te acepte un marco similar a uno conocido con restricciones particulares que son hipótesis de trabajo. O que vengas trabajando bien, y de golpe se olvide y te empiece a discutir, o que te cambie las cosas al marco sobre el que no trabajas (esto es peor) y te vas a dar cuenta cuando a lo que llegas es parecido a tu idea pero no es tu idea, solo porque a ella se le ocurrió seguir otra idea que sonaba parecida y te jodió todo.
Ojo, para nada digo que sea mala. Pero no es sencillo hacerla funcionar bien.
Saludos!