Para abordar la integral por ese orden de integración, debes dividir el dominio en 3 trozos. Esto es porque [texx] \cos x [/texx] y [texx] \sin x [/texx] no son inyectivas.
Los trozos son [texx] y\in (\sqrt{2}/2,1) [/texx], [texx] y\in (-\sqrt{2}/2,\sqrt{2},2) [/texx], [texx] y\in (-1,-\sqrt{2}/2) [/texx]. Hazte un dibujo, porque con palabras es complicado de explicar.
Para el primer trozo, nota que si [texx] y\in (\sqrt{2}/2,1) [/texx], entonces [texx] x\in (x_1,x_2) [/texx], donde [texx] y=\sin x_1=\sin x_2 [/texx], [texx]x_1\leq x_2 [/texx] y [texx] x_1,x_2\in (\pi/4,3\pi/4) [/texx]. (Estas son las únicas soluciones como puedes ver en el dibujo)
Para el tercer trozo es similar: si [texx] y\in (-1,-\sqrt{2}/2) [/texx], entonces [texx] x\in (x_1,x_2) [/texx], donde [texx] y=\cos x_1=\cos x_2 [/texx], [texx]x_1\leq x_2 [/texx] y [texx] x_1,x_2\in (3\pi/4,5\pi/4) [/texx].
Para el segundo trozo [texx] y \in (-\sqrt{2}/2,+\sqrt{2}/2) [/texx] nota que las funciones:
$$ \cos:(\pi/4,3\pi/4)\longrightarrow (-\sqrt{2}/2,\sqrt{2},2) $$
$$ \sin:(3\pi/4,5\pi/4)\longrightarrow (-\sqrt{2}/2,\sqrt{2},2) $$
Son biyectivas y decrecientes. Coge las inversas [texx] \cos^{-1} [/texx] y [texx] \sin^{-1} [/texx] (estas funciones no son el arcocoseno ni el arcoseno usual, que se determinan por otra rama de inyectividad distinta, sin embargo serán iguales salvo un factor sumando constante). Entonces en este trozo:
$$ \cos x \leq y \leq \sin x \;\; \Longleftrightarrow \;\; \cos^{-1}y \leq x \leq \sin^{-1}y $$
Si no me he equivocado, esta sería la solución.