Mi solución es que el español (u el idioma materno que use cada uno al estudiar matemáticas) se puede usar metalingüisticamente usando comillas, o que sea una expresión que para darle sentido haya que recurrir a las comillas. Por ejemplo, en la paradoja del mentiroso "Esta frase es mentira", habría que sustituir "Esta frase" por la frase original, así que nos quedaría (aquí estoy usando el español como metalenguaje del metalenguaje del español, con el uso de comillas indexadas unas dentro de otras", "Esta frase es mentira" quedaría como ""Esta frase es mentira" es mentira", luego aquí puedo usar el metalenguaje (añadiendo los símbolos de comillas) como lenguaje objeto, en el caso de mi explicación, estoy usando un nivel de metalenguaje de español 2 niveles por encima del lenguaje objeto, que vuelve a ser el español (en esta explicación no hay matemáticas), así que no necesito el lenguaje formal de una teoría de conjuntos como lenguaje objeto, si no, pues los 3 niveles de metalenguaje del español serían metalenguajes uno respecto del otro y el lenguaje objeto sería el lenguaje formal de las matemáticas, ZFC, o el lenguaje de la aritmética de Peano, o el de la teoría matemática en la que trabajemos
No creo que haga falta eso, puede valer como idea, pero no hace falta. En la vida real, y en las matemáticas, nunca se va a presentar ese problema. Para empezar, ¿qué es una frase? El diccionario la define así “Conjunto de palabras que basta para formar sentido, especialmente cuando no llega a constituir oración”.
Según parece, para considerar que algo es una frase, tiene que tener sentido, y el conjunto de palabras “esta frase es falsa” no tiene sentido para mí; para empezar porque nadie sabe quién es el sujeto, ¿qué frase es falsa, cuál, con qué derecho lógico se supone que la frase es ella misma si no se ha dicho nada al respecto, si no se ha definido? Puesto que no se dice nada y puesto que parece que esa afirmación no es una frase o al menos es dudosa como tal, la elección es arbitraria (ya sea una frase o no; si se considera que no es, obligatoriamente quedaría eliminada, la afirmación no puede hacerse sobre ella, porque es una afirmación pero no una frase, si se considera que es, entonces es una candidata entre todas las frases posibles que puedan existir). Puedo elegir la frase que quiera y, según lo haga, será falsa o cierta, y, en general, podemos incluso asumir que esa afirmación es falsa, puesto que hay frases ciertas y falsas y puedo elegir cualquiera (en general, digo en general, no se cumple la afirmación para las “n” frases que podemos considerar, si de procedimiento matemático es de lo que se trata).
El pronombre demostrativo necesita de un sujeto o unos sujetos concreto, por sí mismo no tiene sentido, sólo tiene sentido si se señala con el dedo o bien nuestro interlocutor, por el contexto de una conversación, sabe quién es el sujeto.
Pero vamos a arreglarlo para no escaparnos tan fácilmente del problema, más a dejar claro, con una frase subordinada, que nos referimos a la propia frase:
“Esta frase, ésta que estoy diciendo o escribiendo, es falsa”
Ahora ya no te valen las comillas que usabas para escapar del problema. Qué hacemos. Muy sencillo, asumir que hay cosas que no son falsas ni verdaderas, que simplemente son: “El mar es falso”. Quizá dentro de una novela de marineros que lo pasan mal en un naufragio, tenga sentido, si se entiende ese falso como sinónimo de traicionero podemos entender a qué se refiere, pero, si no, el calificativo de falso o verdadero no tiene sentido, ni es falso ni es verdadero, el mar es mar, y ya está. Distinto sería si usamos la palabra “falso” como sinónimo de “no existe”, en ese caso sí podremos decir si la afirmación es cierta o no. “La nostalgia es verde”. Qué es, ¿verdadera o falsa? Es una metáfora y además abstracta, por si fuera poco, porque la nostalgia es inmaterial. Y hay miles de frases así, puedes buscar las greguerías de Gómez de la Serna y llevárselas a cualquier filósofo lógico para que se vuelva loco pensando si las afirmaciones son ciertas o falsas.