Hola, bienvenido.
Pues yo diría que en esencia son lo que parecen, la lógica es la lógica, el lenguaje formal es un lenguaje reglado, lo cual, como su nombre indica, le da una forma más o menos concreta a diferencia de lo que ocurre con un lenguaje más libre, donde el que se expresa puede inventar más, poner de su cosecha (como estoy haciendo yo ahora el definir todo esto). Y los conjuntos son cualquier cosa que tenga cosas dentro o no, como en el caso del vacío.
En cuanto a qué función tienen y qué aplicaciones, pues eso ya sí que no sabría resumirlo.
Saludos.