Sí, siempre se puede hacer. Para esto normalmente se usan coordenadas normales en un punto \( p \), que se obtienen de tomar una base en el espacio tangente a \( p \) e identificar puntos cercanos de la variedad con el vector del que provienen vía aplicación exponencial. Si tomas este tipo de coordenadas, en \( p \) la métrica tiene la forma estándar (diagonal con 1s, o 1s y -1s si es pseudoriemanniana) y los símbolos de Christoffel en \( p \) son todos cero, lo que implica que también lo son las primeras derivadas de la métrica. Esto quiere decir que si tomas el desarrollo de Taylor de la métrica en \( p \) usando este tipo de coordenadas, coincide a primer orden con la métrica plana. A segundo orden ya no y en general los términos de segundo orden no se pueden eliminar con cambios de coordenadas pues la información que aportan es intrínsecamente geométrica ya que tienen que ver con la curvatura.
Por cierto el espacio en RG es cualquier variedad pseudoriemanniana de dimensión 4, que es más general que la geometría riemanniana que se suele ver en mates. Así que la geometría que puedas ver en un curso de RG deberían ser totalmente generales.
Si te interesa RG vale muchísimo la pena que estudies geometría (pseudo)riemanniana desde el punto de vista matemático (coordinate-free), ya que es la manera en que se entienden los conceptos geométricos más claramente.
