En efecto, en una axiomatización de la geometría euclídea como teoría de primer orden independiente de la teoría de conjuntos y de la aritmética no "caben" ni el axioma de Arquímedes ni el axioma de continuidad. Podrías definir una teoría híbrida entre la geometría de Hilbert y la aritmética de Peano en la que pudieras enunciar el axioma de Arquímedes, pero el axioma de continuidad seguiría sin poder expresarse. Para ello tienes que añadir a la teoría suficiente axiomas conjuntistas como para que no sólo puedas expresarlo sino que además puedas hacer algo con él.
Lo más sencillo es considerar la axiomática de Hilbert como una definición en el contexto de la teoría de conjuntos, de modo que una geometría de Hilbert pasa a ser un concepto algebraico análogo al concepto de espacio vectorial o espacio afín o espacio topológico, y los axiomas de Hilbert son análogos a los axiomas que definen estos otros conceptos.
Por otro lado, ten presente que prácticamente toda la geometría elemental puede desarrollarse sin necesidad del axioma de continuidad, que sólo interviene cuando uno quiere emplear técnicas analíticas (no en el sentido de la geometría analítica, sino en el de usar análisis matemático).
Sin esos dos axiomas, a partir de los restantes axiomas de Hilbert, se puede dotar a cada recta de una estructura de cuerpo, y entonces esos dos axiomas equivalen a que dicho cuerpo es isomorfo al cuerpo de los números reales. Lo más parecido que puedes conseguir sin salirte de la lógica de primer orden es un axioma que garantice que las rectas como cuerpos son real-completos, lo cual equivale a que los planos con las operaciones que definen usualmente la suma y el producto de los números complejos son cuerpos algebraicamente cerrados (aunque no necesariamente son isomorfos al cuerpo de los números complejos). Eso es más que suficiente para desarrollar toda la geometría sintética con la garantía de que las rectas, circunferencias y otras curvas que puedas definir elementalmente se cortarán siempre que tienen que cortarse.
Más concretamente, renunciando al axioma de Arquímedes y al de continuidad, pero añadiendo el axioma de real-completitud que te digo, consigues una teoría completa, es decir, una teoría en la que puedes expresar casi todos los resultados de la geometría clásica de Euclides (salvo algunos resultados generales sobre polígonos de un número arbitrario de lados y cosas así que requerirían poder hablar de números naturales arbitrarios) y que tiene la propiedad de que cualquier enunciado expresable en la teoría es demostrable o refutable. Al desterrar los números naturales (arbitrarios, sin perjuicio de poder hablar de triángulos, cuadriláteros, pentágonos, etc.) destierras la incompletitud que prescriben los teoremas de Gödel.