No sé si entendí la idea Richard. ¿Te refieres a considerar el segmento \( BD \) como parte de la función? ¿No estaría entonces multivaluada en \( x = 3 \)?
Mmmh,ya veo, pero ¿Es un delito en la sociedad de las funciones? Solo buscamos la linea mas corta entre dos puntos del plano, atendiendo ciertas restricciones.
Aunque igual no te entendí bien.. Yo lo que había pensado es en considerar otros triángulos rectángulos con una diferencia de ángulos agudos menor a la de este problema. A partir de cierta diferencia (que ahora no sé) sí debería ser posible encontrar un arco de circunferencia que diera la mitad del área del triángulo rectángulo. Pero eso ya sería cambiar un poco el problema.. 
No se si cambia , el problema original era dar una función que pase por A yB permita dividir en 2 el área .
Lo segundo que pregunte, si habia forma de calcular cual de esas funciones tenía la longitud mas corta entre A y B.
No nos hemos puesto restricciones, sobre la cantidad de tramos, ni si puede ser multivaluada, observa que dividir con una recta entre $$A=(0,0)$$ y $$(3,2)$$ tiene longitud $$\sqrt{3^2+2^2}+\sqrt{(3-3)^2+(4-2)^2}=\sqrt13+2$$, estamos suponiendo tambien el tramo hasta B multivaluado, pero tiene una longitud mayor que construir con mas tramos de segmentos de recta, cuando tendemos la cantidad de segmentos a infinito tendríamos la circunferencia, pero está visto ya que, proporcionar un radio constante, no es solución, porque nos vamos del triángulo.
En ese punto a mi se me ocurren 2 opciones
1) la que propuse, un sector curvo, mas el tramo recto multivaluado desde D a B.
2) elipse, (no parábola) que pase por $$(A,B)$$
La dificultad que tengo es que para nada hábil soy en geometría, casi siempre encaro los problemas algebraicamente, y determinar los parámetros de la circunferencia o de la elipse para que minimicen la longitud no es tán fácil como parece.
Para el caso de la circunferencia llegue a que el centro se ubica en $$(a,b)=(a,\dfrac{d^2+9-6a}{2d})$$ y que el radio $$r$$ se tiene que determinar como el área debajo de la circunferencia igualada a 3
Pero al hacer $$3=\displaystyle\int\limits_{0}^{3} (\dfrac{d^2+9-6a}{2d})-\sqrt{r^2-(x-a)^2} dx$$ no te queda nada lindo para despejar $$r$$ fácilmente, para dar la expresión de $$y=f(x)$$ para luego meter todo eso en la ecuación de la longitud del tramo, para que minimizando obtengas un valor de $$a$$ que determine todo lo demás.
Hacerlo con ordenador es relativamente sencillo, pero la gracia es dar una $$f(x)$$ exacta y no una aproximación numérica de sus parámetros reales, eso sí desvirtuaría el espíritu del problema. El hallar la función con longitud mas corta, lleva un nivel de sofisticación muy grande, pero de a ratos releo para ver si se me ocurre una alternativa sencilla.
Del mismo modo con la elipse, solo que me propongo una función cuyas tangentes en A Y B sean paralelas a los lados del triángulo. Esto todavía no le hallo la forma de relacionar la función con el área, sin hacer la integral bajo la curva.
