Cuando decís que se define en la teoría de conjuntos una teoría axiomática de segundo orden, ¿te referís a presentar la teoría (usando conjuntos) pensando en que sería posible no hacerlo, cambiando por ejemplo una expresión \( \forall P\,\forall x \, (x\in P\lor x\notin P) \) por \( \forall P\,\forall x \, (P(x)\lor \neg P (x)) \), donde \( P \) sea una relación?
Sí.
Suponiendo que entiendo, el trasfondo al presentar una teoría axiomática sobre los reales (si lo pusieramos en mis términos) incluiría a la noción de conjunto y una cierta forma de pensar en la lógica, en un caso, o a una sistematización diferente de la lógica en el otro.
No distingo los dos casos que planteas. Si quieres una teoría axiomática sobre los reales (que incluya, naturalmente, el axioma del supremo), en el sentido de una teoría independiente, que no presuponga otras, necesitas basarla en una lógica de segundo orden, si bien para trabajar con modelos de dicha teoría (es decir, con objetos que cumplan tus axiomas) necesitas suponer los axiomas de la (o de una) teoría de conjuntos.
En cualquier caso, esto se aleja completamente de lo que hacen los matemáticos al trabajar con los números reales. Es frecuente que te encuentres libros donde hablen de una presentación axiomática de los números reales, pero debes tener presente que eso no tiene nada que ver con lo que estamos diciendo aquí. Eso es simplemente dar una definición de "cuerpo de números reales" como una estructura algebraica que cumple ciertas propiedades. El que se las llame axiomas es una mera coincidencia superficial.
Estoy siendo un poco terco quizás, y preferiría en todo caso expandir aquello a lo que aplicaría el término sistema axiomático. Creo que sería más conveniente, dado que es complicado trazar una línea por donde cortar tela.
En realidad no hay ninguna complicación. Creo que las vueltas que estás dando se deben a que pretendes vincular lo que ves por ahí como "presentación axiomática de los números reales" con lo que has estudiado sobre lógica, cuando la realidad es que no hay relación alguna.
Por ejemplo, si hablamos del sistema axiomático de Hilbert para la geometría euclídea y vemos el axioma que dice que existen al menos cuatro puntos no coplanares, entonces ¿de dónde sale "cuatro"? ¿Dónde se especifica cómo tratar a algo considerado cuatro?
En el axioma "existen al menos cuatro puntos no coplanares" no interviene para nada el concepto "cuatro". Si lo expresas formalmente sería algo así como
\( \exists xyzw \lnot \mbox{Cop}(xyzw) \),
donde "Cop" abrevia la definición de ser coplanares. Ni en la fórmula que he escrito ni en la definición de Cop aparece el concepto "cuatro", ni hay necesidad, por lo tanto, de indicar cómo tratarlo. Cabe señalar que la definición de Cop implica que si \( \lnot\mbox{Cop}(xyzw) \) se deduce que \( x\neq y, x\neq z \), etc.
Quizás en un sistema formal se "soluciona" esto, pero el aplicar reglas por las cuales se derivan fórmulas de otras también demanda de nosotros que tengamos presentes ciertas nociones.
Efectivamente, tratar con cualquier sistema formal requiere manejar unos principios metamatemáticos, en el sentido de externos al sistema mismo, lo cuales pueden a su vez estar formalizados en otra teoría, pero, tras un número finito de ascensos de teoría en teoría, tienes que llegar a una teoría axiomática que manejes sin más base que los conceptos intuitivos finitistas que pueden ser manejados sin necesidad de apoyarse en una teoría formal.