Hola.
Observa que \( E(t) = (x')^2 \textcolor{red}{+} x^2 \textcolor{red}{+} \dfrac{x^4}{2} \) es constante pues \( \dfrac{d}{dt} E = 0 \). Luego \( x' = \pm \sqrt{E \textcolor{red}{-}x^2\ \textcolor{red}{-}\dfrac{x^4}{4}} \). Por otro lado, reescribe la ecuación como \( \begin{cases} x' = y \\ y' =-x-x^3 \end{cases} \) luego \( P=(0,0) \) es un punto estacionario. Entonces definiendo el funcional \( H(x,y) = y^2 \textcolor{red}{+}x^2 \textcolor{red}{+} \dfrac{x^4}{2} \) intenta ver que \( \dfrac{dH(x,y)}{dt}=0 \) (y también observa que \( H \) está definida positiva, o sea que \( H(x,y) > 0 \, \, \forall \, \, (x,y) \in \mathbb R^2 \, \backslash (0,0) \)) luego cualquier solución que no pase por el origen se encuentra en el conjunto de nivel de \( H \).
Saludos.
Corregido.