Hola
En ningún momento, ni explícita ni implícitamente, dice que la curva redondeada dentro del triángulo sea un círculo. Podría ser perfectamente una elipse.
Hombre, es bastante evidente que se refiere a al círculo inscrito. En otro caso la construcción no estaría bien definida porque uno podría elegir cualquiera de las posibles infinitas elipses inscritas en el triángulo; y dependiendo de la elegida cambiaría el resultado.
Es más, si es un círculo tal vez no tenga solución. Tendría que pensarlo.
No sé que quieres decir con que "tal vez no tenga solución". ¿¡Cómo no va a tenerla!? Dado un triángulo de lados \( a,b,c \) uno puede trazar el círculo inscrito y hacer la construcción que da ese "triangulito", cuyo área depende exclusivamente de \( a,b,c \).
Saludos.