Si un lado tiene a y otro tiene ar , para poder formar un triángulo el tercer lado debe ser mayor a ar-a y menor a ar+a, eso pone cota a r, pero además necesitas mantener la seguir la serie geométrica para arriba para obtener un triángulo y para abajo para obtener el otro.
Así
$$\dfrac ar \geq ar-a$$ y $$ar+a\leq ar^2$$
Independizando de a y suponiendo $$r>1$$ para sentido crecientes
$$\dfrac 1r \geq r-1$$ y $$r+1\leq r^2$$
Osea
$$1 \geq r^2-r$$ y $$r+1\leq r^2$$
$$1+r \geq r^2$$ y $$r+1\leq r^2$$
Entonces
$$1+r=r^2 $$
$$r=\dfrac{1\pm\sqrt5}{2}$$ y solo $$r=\dfrac{1+\sqrt5}{2}$$ es mayor a 1
Hay solo una relación de lados que satisface el problema.
Sería la máxima relación posible entre los lados, la mínima es claramente 1 cuando es un equilátero, pero ese límite no aplica al problema ya que necesitamos que un lado tenga diferente longitud por definición del problema.
Saludos.