Hola
Integra dos veces por partes.
Primero haz \( du=cos(wt) \) y \( v=e^{-ikwt} \); luego vuelve a integrar por partes la integral que te sale.
Te quedará algo así:
\( I=\dfrac{1}{w}sin(\omega t)e^{-jk\omega t}-\dfraac{1}{w}jkcos(\omega t)e^{-jk\omega t}+k^2I \)
donde \( I \) es la integral que buscas. Luego la despejas.
Saludos.