Yo no he estudiado mucho sobre eso, pero sí reflexionado; te cuento cómo lo pienso yo si te sirve.
Lo que llamamos geometría euclídea es una teoría que viene a describir cómo percibimos el espacio. Tal empresa se hace en base a proposiciones, y tales por lógica dan lugar a otras que aceptamos como válidas, cuyos contenidos son correctos respecto de nuestra percepción. Si esto no ocurriese no tendría mucho mérito.
Resulta que jugando con las proposiciones, abstrayendonos de lo que percibimos como rectas, segmentos, planos, etc., los que inicialmente dieron origen a los conceptos, se describe -algo- que puede interpretarse en base a otros elementos. Como por ejemplo con un disco de Poincaré lo que denominamos geometría hiperbólica.
Resulta, por experimentación, que la matemática de un espacio de Riemann funciona bien describiendo ciertos fenómenos en ciertos contextos y de alguna manera se la considera más adecuada en tales contextos (sobre esto no sé mucho realmente).
Pero en resumen, no habría más que lo que se ve, pienso yo. Precisamente por eso podría ser que sea la matemática tan fascinante, que funcione tan bien, y casi no podamos -ver- cómo, sólo a través de nuestra reflexión.