Hola.
(a) Traza las diagonales del cuadrado \( UXYZ \) y demuestra que los triángulos \( AOX \), \( BOY \), \( COZ \) y \( DOU \) son congruentes, luego \( OB=OB=OC=OD \) y como \( \overline{AC}\perp\overline{BD} \), se deduce que \( AB=BC=CD=AD \), luego \( ABCD \) es un cuadrado.
(b) Observa que \( m\angle AOB+m\angle AXB=90^{\circ}+90^{\circ}=180^{\circ} \)
(c) Comprueba que \( OA=k\sqrt{2} \). Si trazamos la altura \( \overline{OH} \) del triángulo \( DOZ \), tenemos que \( DH=k\sen75^{\circ} \), luego \( UZ=2OH=2k\sen75^{\circ} \), por otro lado como el cuadrilátero \( OAUD \) es inscriptible se tiene que \( m\angle UAD=m\angle UOD=30^{\circ} \), luego \( AU=\dfrac{AD}{2}\sqrt{3} \) y como \( AD=AB=k\sqrt{2} \), se tiene que \( AU=\dfrac{k\sqrt{6}}{2} \), luego \( AZ=\sqrt{AU^{2}+UZ^{2}}=\dots \). Finalmente observa que \( XB=AU=\dfrac{k\sqrt{6}}{2} \).
(d) La longitud del lado del cuadrado \( ABCD \) es \( k\sqrt{2} \) y la longitud del lado del cuadrado \( UXYZ \) es igual a \( UZ=2k\sen75^{\circ} \), a partir de aqui encontrar las áreas de los cuadrados no es difícil.
Intenta completar los detalles faltantes y si tienes alguna duda, pregunta.
Saludos.
P.D: Como siempre es importante que te tomes un tiempo en hacer un dibujo del problema.